Program

/

CODE BLUE 2025

Time Table

必要なのは招待状だけ! Googleカレンダーの招待でワークスペースエージェント向けGeminiを起動

DAY 2

13:20-14:00

過去2年間で、プロンプトを介して推論時にLLMを悪用するPromptwareとして知られる新しいクラスの攻撃が出現しました。これらは実用的ではない、または特殊であると片付けられがちですが、この講演はその誤解を永遠に打ち破るでしょう。私たちは標的型Promptware攻撃を紹介します。これは、攻撃者が間接的なプロンプトインジェクションを含むGoogleカレンダーミーティングに被害者を招待するものです。これにより、Web、モバイル、Googleアシスタント上のGemini統合エージェントが乗っ取られます。これらはOSレベルのAndroid権限で動作します。私たちは、スパム送信、フィッシング、データ抜き取り、カレンダー削除、デバイス制御(ボイラー、照明、窓など)、Zoomを介した被害者のビデオストリーミング、被害者の位置特定など、15の実際の悪用事例を実証します。これらの攻撃は、Promptwareがエージェントやデバイスを横断して移動し、現実世界に影響を及ぼす能力を示しています。私たちの脅威評価フレームワークを使用すると、特定されたリスクの73%が高・重大であり、早急な軽減策が必要であることが判明しました。

  • Location :

    • Track 1(HALL B)

  • Category :

    • General

  • Share :

Speakers

  • オル・ヤイル の写真

    Or Yair

    オル・ヤイル

    オー・ヤイル(@oryair1999)は、7年の経験を持つセキュリティリサーチのプロフェッショナルで、現在SafeBreachのセキュリティリサーチチームリーダーを務めています。主にWindowsオペレーティングシステムのコンポーネントにおける脆弱性に焦点を当てていますが、過去にはLinuxカーネルコンポーネントや一部のAndroidコンポーネントのリサーチも行っていました。オーのリサーチは、革新と常識に挑戦するというコミットメントによって推進されています。彼は仮定を覆すことを楽しみ、創造性をリサーチにおける重要なスキルと考えています。オーは、自身の脆弱性やセキュリティリサーチの発見について、Black Hat、DEF CON、RSAC、SecTorなど、主要な国際会議で頻繁に発表しています。

  • ベン・ナッシ の写真

    Ben Nassi

    ベン・ナッシ

    ベン・ナッシ博士(https://www.linkedin.com/in/ben-nassi-phd-68a743115/)は、Black Hatの理事(アジアおよびヨーロッパ)、サイバーセキュリティ専門家、コンサルタントです。ベンは、AIセキュリティ、サイドチャネル攻撃、サイバーフィジカルシステム、脅威分析とリスク評価を専門としています。彼の研究は、主要な学術会議で発表され、ジャーナルや雑誌に掲載され、国際メディアで取り上げられています。ベンはBlack Hat(6回)、RSAC(2回)、DEFCON(3回)イベントで頻繁に講演しており、ビデオベースの暗号解読による最優秀暗号攻撃で2023年Pwnie Awardを受賞しました。

  • スタヴ・コーエン の写真

    Stav Cohen

    スタヴ・コーエン

    スタヴ・コーエンの研究は、生成AI(GenAI)とヒューマン・イン・ザ・ループのインタラクションを統合したサイバーフィジカルシステム(CPS)に焦点を当てており、セキュリティと運用レジリエンスを重視しています。彼はGenAIモデルアーキテクチャを深く分析し、脆弱性を特定し、攻撃戦略を開発し、防御メカニズムを設計することで、より安全なGenAIエコシステムに貢献しています。並行して、GenAIがCPSのセキュリティとパフォーマンス、特にリアルタイムの人間とのインタラクションを含むシステムにおいて、どのように活用できるかを探求しています。彼の研究は、AI、制御システム、サイバーセキュリティを結びつけ、適応性、インテリジェンス、堅牢性を備えたCPSアーキテクチャを進歩させています。