Funkce Google „AI Overviews“, která má poskytovat rychlé souhrnné odpovědi na vyhledávací dotazy, se stala terčem podvodníků. Podle zpráv západních médií začali škodliví aktéři využívat umělou inteligenci k šíření falešných kontaktních údajů, včetně podvodných telefonních čísel známých firem.
Schéma je jednoduché: podvodníci umisťují falešná čísla na obskurní weby a spojují je s oblíbenými značkami. Když pak automatický systém Googlu shromažďuje a syntetizuje informace do „autoritativní“ odpovědi, mohou se tyto údaje objevit v přehledu od AI. Uživatel hledající oficiální zákaznickou linku takové číslo uvidí přímo v souhrnu a bez ověření zavolá. Na druhém konci linky je někdo, kdo se vydává za zástupce firmy a snaží se získat platbu nebo osobní údaje.
Nebezpečí umocňuje způsob prezentace informací. Na rozdíl od klasických výsledků vyhledávání, které nabízejí několik odkazů k porovnání, poskytuje přehled od AI „hotovou“ odpověď, což vytváří dojem důvěryhodnosti. To snižuje kritické myšlení a zvyšuje riziko, že člověk uvěří nepřesným informacím.
Google uvádí, že posiluje filtry proti spamu a vylepšuje mechanismy odhalování podvodů. Kybernetičtí experti však zdůrazňují, že souhrny od umělé inteligence nelze považovat za konečnou pravdu, zvláště pokud jde o telefonní čísla, platební údaje nebo přístupy k účtům. Nejbezpečnější způsob, jak kontaktovat firmu, je přejít přímo na její oficiální web a ověřit si kontaktní údaje ručně.