Funkcja Google „AI Overviews”, która ma dostarczać szybkie podsumowania odpowiedzi na zapytania wyszukiwania, stała się celem oszustów. Jak donoszą zachodnie media, nieuczciwi aktorzy zaczęli wykorzystywać algorytmy sztucznej inteligencji do rozpowszechniania fałszywych danych kontaktowych, w tym oszukańczych numerów telefonów znanych firm.
Schemat jest prosty: oszuści publikują fałszywe numery na mało znanych stronach internetowych, powiązując je z popularnymi markami. Gdy system Google automatycznie zbiera i podsumowuje informacje, aby stworzyć „autorytatywną” odpowiedź, te dane mogą trafić do podsumowania AI. Użytkownik szukający oficjalnego numeru obsługi klienta widzi go od razu w podsumowaniu i, bez weryfikacji, dzwoni. Po drugiej stronie słuchawki jest osoba podszywająca się pod przedstawiciela firmy, próbująca uzyskać płatność lub dane osobowe.
Niebezpieczeństwo potęguje sposób prezentacji informacji. W przeciwieństwie do tradycyjnych wyników wyszukiwania, które oferują kilka linków do porównania, podsumowanie AI dostarcza „gotowej” odpowiedzi, tworząc poczucie wiarygodności. To zmniejsza krytyczne myślenie i zwiększa ryzyko zaufania do nieprecyzyjnych informacji.
Google twierdzi, że wzmacnia filtrowanie spamu i ulepsza mechanizmy wykrywania oszustw. Jednak eksperci ds. cyberbezpieczeństwa podkreślają, że podsumowania AI nie powinny być traktowane jako ostateczna prawda, zwłaszcza jeśli chodzi o numery telefonów, informacje o płatnościach lub dostęp do kont. Najbezpieczniejszym sposobem kontaktu z firmą jest bezpośrednie przejście na jej oficjalną stronę internetową i ręczne sprawdzenie danych kontaktowych.