Google Gemini i Kalendarz: nowy atak wycieku danych przez AI

Badacze cyberbezpieczeństwa ponownie pokazali, jak sztuczna inteligencja może stać się narzędziem do nowych, zaskakujących ataków. Tym razem pod lupę wzięto Google Gemini i jego integrację z Kalendarzem Google. Ekspert Miggo Security Liad Eliyahu opisał mechanizm, który przekształca kalendarz w kanał wycieku danych – wszystko bez żadnego działania ze strony użytkownika.

Schemat był prosty: atakujący wysyłał ofierze standardowe zaproszenie na spotkanie. Zaproszenie nie zawierało podejrzanych linków ani oczywistych oznak phishingu – tylko zwykły opis spotkania. Jednak ukryty w tekście opisu był „uśpiony” złośliwy prompt w języku naturalnym, zaprojektowany do przetworzenia przez Gemini. Atak uruchamiał się później, gdy użytkownik zadał AI rutynowe pytanie, takie jak „Czy mam jakieś spotkania we wtorek?”. Wypełniając prośbę, Gemini skanowało wydarzenia w kalendarzu i napotykało osadzony prompt, a następnie wykonywało jego instrukcje.

Rezultatem było nowe wydarzenie w kalendarzu zawierające szczegółowe podsumowanie wszystkich spotkań użytkownika w wybranym dniu. Użytkownik widział normalną odpowiedź Gemini i pozostawał nieświadomy tego, co się stało. Ale w tle w kalendarzu tworzyło się wydarzenie, które w ustawieniach korporacyjnych było często dostępne dla nadawcy oryginalnego zaproszenia. To dawało atakującemu dostęp do poufnych danych: uczestników spotkań, tematów dyskusji i harmonogramów.

Eksperci ostrzegają, że ten schemat mógł nie tylko odczytywać dane, ale także dodawać do kalendarza mylące, fałszywe wydarzenia, ponownie bez udziału użytkownika. Luka została już załatana po dochodzeniu, ale sama metoda pokazuje, jak podatne mogą stać się znane usługi w połączeniu z AI.