Time Table

AI エージェントの技術革新により、特にソフトウェア開発やデータ分析などの分野において、非定型で複雑なタスクを AI が人間の介在なしに自律的に処理できるようになりました。このような、ファイルの読み書きやコード実行などを自律的に行う AI エージェントを活用するにあたり、AI の意図しない振る舞いによるセキュリティリスクをコントロールするには、AI エージェントをサンドボックスに閉じ込めることが有効です。

しかしマルチテナントのクラウド型 AI エージェントを開発・提供するにあたっては、エージェントを呼び出すユーザーの要求に応じてサンドボックスを払い出すことは技術的に簡単ではありません。

私たち GMO Flatt Security の AI エージェント製品「Takumi byGMO」(以下「Takumi」) の開発過程でも、同様の課題に直面しました。Takumi はソフトウェアのセキュリティ診断を自律的に行う AI エージェントであり、脆弱性を探す際にはコードベース内の様々なファイルを読んだり、擬似攻撃コードを書いて実行したりします。このような操作を隔離された環境で実行するためのサンドボックス基盤が必要だったのです。

そこで私たちは、要求に応じて軽量な VM をすぐにプロビジョンできる独自のサンドボックス基盤を開発しました。Takumi によるファイルの読み書きやコード実行は、この基盤上のサンドボックスで実行されます。VMM としては Firecracker を採用しており、コンテナよりも高い分離レベルでありながら、数百ミリ秒程度で高速に VM を起動できます。

実際にプロダクトとして社会実装されている AI エージェントのセキュリティを支える実行環境やエージェント設計に興味がある方にとって、実践的な知見を提供します。

Speakers:
pizzacat83（ぴざきゃっと） GMO Flatt Security株式会社 プロダクトセキュリティ事業部 イネーブルメントプラットフォーム部 ソフトウェアエンジニア