2024年度クラウドネイティブセキュリティおよび利用状況レポート
人工知能（AI）の進歩が急速に進む中で、大規模言語モデル（LLM）が多くの業界で革新と利便性をもたらしていますが、セキュリティリスクも存在します。
SysdigはAIアプリケーションの脆弱性に警鐘を鳴らし、AIワークロードセキュリティの重要性を強調しています。
セキュリティリスクには、プロンプトインジェクションや敵対的攻撃などが含まれ、LLMが機密情報を漏洩させたり、有害な命令を実行する可能性があります。
また、トレーニングデータ内に埋め込まれた悪意のあるトリガーにより、LLMが意図しない行動をとることも指摘されています。
AI技術の急速な導入に伴い、セキュリティ対策が緩和されがちであり、機密データの意図せずの露出や悪用されるリスクが高まっています。
