Googles funktion "AI Overviews", som är utformad för att ge snabba sammanfattande svar på sökfrågor, har blivit ett mål för bedragare. Enligt rapporter från västvärldens medier har skadliga aktörer börjat använda AI-algoritmer för att sprida falsk kontaktinformation, inklusive bedrägliga telefonnummer för välkända företag.
Metoden är enkel: bedragare lägger upp falska nummer på obskyra webbplatser och kopplar dem till populära varumärken. När Googles system automatiskt samlar och sammanfattar information för att skapa ett "auktoritativt" svar kan dessa data hamna i en AI-översikt. En användare som söker efter ett officiellt kundtjänstnummer ser det direkt i sammanfattningen och ringer utan att dubbelkolla. I andra änden sitter någon som utger sig för att vara företagsrepresentant och försöker få betalnings- eller personuppgifter.
Faran förstärks av hur informationen presenteras. Till skillnad från traditionella sökresultat, som erbjuder flera länkar för jämförelse, ger AI-översikten ett "färdigt" svar som skapar en känsla av tillförlitlighet. Detta minskar kritiskt tänkande och ökar risken att lita på felaktig information.
Google uppger att de förstärker spamfiltrering och förbättrar bedrägeridetekteringsmekanismer. Cybersäkerhetsexperter betonar dock att AI-sammanfattningar inte bör tas som definitiv sanning, särskilt när det gäller telefonnummer, betalningsinformation eller kontotillgång. Det säkraste sättet att kontakta ett företag är att gå direkt till dess officiella webbplats och verifiera kontaktuppgifter manuellt.