Time Table

AIエージェントは、利用者が入力したプロンプトだけでなく、AIエージェント自体が外部文書やツールの出力も読み、その内容に従って自律的に行動します。特に自然言語を扱うLLM/AIエージェントでは、指示とデータの境界が曖昧になり、攻撃も自然言語で書かれるため、既知のパターンや構文を探す従来の攻撃検知だけでは捉えられません。そのため、LLMに対するセキュリティ対策だけでなく、AIエージェント特有の脅威に対しても対策が必要です。

本講演ではプロンプトインジェクションによる認証情報や個人情報の持ち出し、意図しないコマンドの実行といったエージェント特有の脅威を、実在する脆弱性の事例とともに整理し、多層防御の1つとなりえる境界防御に焦点をあてて紹介します。LLM/AIエージェントにおける境界防御では、シグネチャマッチングだけでは攻撃を捉えることはできず、文脈や状況を理解した判定が必要となります。また、プロンプトの内容だけでなく、シャドーAIと呼ばれる認証外のAI利用に対する検知/統制も重要です。過検知/誤検知を抑えつつ、AIエージェントの活用進めるためには、組織としてどうやって統制を行うかなど、弊社の取り組み事例を含めて紹介します。

Speakers:
高江洲 勲 AI＆高度先端技術推進部 フェロー
幸田 奨平 AI＆高度先端技術推進部 AI セキュリティエンジニア