AIを悪用したGoogle GeminiとGoogle Calendarのセキュリティ問題

セキュリティ研究者たちが、AIがどのように新たな予想外の攻撃ツールとなり得るかを、再び実証した。今回、Google GeminiとGoogle Calendarの連携が問題視されている。Miggo Securityの専門家、Liad Eliyahu氏は、ユーザーが何も操作しなくても、カレンダーをデータ漏洩の経路に変える仕組みを説明した。

手口は単純だ。攻撃者は被害者に標準的なイベント招待を送信する。招待状には不審なリンクや明らかなフィッシングの兆候はなく、普通の会議の説明だけが書かれている。しかし、説明文の中には、Geminiによって処理されるよう設計された、自然言語の「休眠状態」の悪意あるプロンプトが隠されていた。攻撃は、後でユーザーが「火曜日に会議はありますか？」などとAIに日常的な質問をした際に発動する。リクエストを実行する過程で、Geminiはカレンダーのイベントをスキャンし、埋め込まれたプロンプトに遭遇すると、その指示を実行する。

結果として、選択した日のユーザーの全会議の詳細な要約を含む新たなカレンダーイベントが作成される。ユーザーはGeminiの通常の応答を見て、何が起こったかに気づかない。しかし、裏ではカレンダーにイベントが作成され、企業設定では、元の招待状の送信者もアクセスできることが多い。これにより、攻撃者は機密データ、つまり会議の参加者、議論のトピック、スケジュールにアクセスできるようになる。

専門家は、この手口がデータを読み取るだけでなく、ユーザーの関与なしに、誤解を招く偽のイベントをカレンダーに追加することも可能だと警告している。この脆弱性は調査後すでに修正されているが、この手法自体は、AI統合により、使い慣れたサービスがいかに脆弱になり得るかを示している。