Google heeft de eerste bekende zerodaykwetsbaarheid gemeld die met behulp van kunstmatige intelligentie is gecreëerd. De ontdekking werd gedaan door de cyberdreigingsanalyse-eenheid GTIG van het bedrijf. Volgens het AI Threat Tracker-rapport gebruikten aanvallers een AI-model om een fout in een populaire opensource-webbeheertool te vinden en te misbruiken. De kwetsbaarheid stelde hen in staat om tweefactorauthenticatie te omzeilen. Experts zeggen dat ze de voorbereidingen voor een grote campagne hebben kunnen stoppen voordat er grootschalige aanvallen konden plaatsvinden. Google en de ontwikkelaars van de software hebben het probleem snel verholpen.
GTIG meldt dat de exploit in Python was geschreven en hoogstwaarschijnlijk door AI is gegenereerd. Opvallende kenmerken waren overmatig veel inline-commentaar, een ongebruikelijke codestructuur, gedetailleerde helpmenu's en zelfs een verzonnen CVSS-score. Echte malware-auteurs voegen zulke dingen meestal niet toe.
De fout bleek een logische fout te zijn. De ontwikkelaar van het authenticatiesysteem had een tegenstrijdigheid in de toegangslogica ingebouwd, waardoor het tweefactormechanisme te omzeilen was. Traditionele scanners zagen het over het hoofd, maar AI ontdekte het door zowel de code als de beoogde werking van de applicatie te analyseren. Het rapport benadrukt dat de aanvallers geen gebruik hebben gemaakt van Google's Gemini-modellen of Anthropic's tools.
Experts zien dit incident als het begin van een nieuw tijdperk in cyberdreigingen. Waar geautomatiseerde hulpmiddelen zich vroeger richtten op geheugenfouten of toegangsproblemen, kunnen moderne taalmodellen nu de architectuur van applicaties doorlichten en verborgen logische tegenstrijdigheden opsporen die conventionele beveiliging nauwelijks opmerkt.
GTIG-hoofdanalist John Hultquist stelde dat de race om AI-kwetsbaarheden niet alleen onvermijdelijk is, maar al gaande is. Hij voegde eraan toe dat er voor elke zeroday die aan AI is toe te schrijven, er waarschijnlijk nog veel meer bestaan.
Het rapport belicht ook andere AI-gestuurde cyberaanvallen. De Noord-Koreaanse groep APT45 gebruikte AI voor geautomatiseerde kwetsbaarheidsanalyse en het ontwikkelen van exploits, terwijl aanvallers met een Chinese link speciale prompts maakten om fouten in de externe code-uitvoering van TP-Link-routers op te sporen.
GTIG documenteerde ook dat AI werd ingezet voor het genereren van kwaadaardige code, het maken van nep-audio en het ontwikkelen van Android-backdoors die communiceren met de Gemini API.
Bijzondere aandacht ging uit naar een aanval op de LiteLLM-bibliotheek, die AI-diensten integreert. Aanvallers stopten kwaadaardige code in geïnfecteerde PyPI-pakketten en stalen AWS-sleutels en GitHub-tokens. Analisten merken op dat deze aanvallen steeds vaker niet de AI-modellen zelf betreffen, maar de omliggende infrastructuur: API's, connectors en integratietools.
Cybercriminelen maken ook misbruik van de populariteit van AI-diensten als lokaas. Eerder ontdekten onderzoekers neppe Claude AI-websites die via Google-zoekadvertenties malware verspreidden.