Time Table

近年、脅威アクターによってAIが悪用され、自律的な攻撃が行われる事例が観測されている。AIによる攻撃は、その速度とスケールから、防御側においてもAI活用を不可欠にしている。一方で防御側は、AIによる検知・対応の自動化は進展しているものの、攻撃シグナルに反応するものであり、相手がAIであることを積極的に防御策に活用するアプローチは、十分に検証されていない。すなわち、攻撃主体がAIであることを逆手にとって、その意思決定過程に働きかける対抗策が考えられる。

本研究は、自律的に攻撃を行うAIを相手に、動的に対抗するエージェント「Antigent」の実現を目的とした。発表者はこれまで、ペネトレーションテスト用のAIやAI駆動型のマルウェアなど、攻撃者目線でのAIの開発・検証経験があり、攻撃側AIの特性を把握した上で、防御側AIの設計に活用している。

本講演では、攻撃側AIに対抗する防御側AIのアプローチを、動作デモを通じて実演する。攻撃側AIには、誰でも構築できるエージェント環境(オープンウェイトLLM・公開されているペネトレーションテスト用スキル)を用い、守る対象には独自に構築した検証環境を用意する。Antigentは、観測したコマンドや挙動のパターンから攻撃側AIの次のアクションを推定し、その意思決定に使用される入力を動的に汚染して行動計画を狂わせ、自組織内での封じ込め・無力化を図る。あわせて、Antigent自身もまた攻撃側から新たな標的となりうることを示し、実運用に投入する前に不可欠となるレッドチーミングの観点を提示する。

この講演を通じて参加者は、攻撃側AIの意思決定に働きかけて動的に対応するというアプローチの有効性と限界を理解し、自組織内で完結する形でこれを実装するための設計指針、そして実運用に投入する前にAntigent自身の安全性をどう検証すべきかという要点を理解することができる。