Danny Weber
Google, yapay zeka ile keşfedilen ilk sıfır gün açığını duyurdu. Açık kaynak web yönetim aracındaki mantık hatası, iki faktörlü kimlik doğrulamayı atlattı. Yapay zeka tarafından oluşturulan istismar kodu tespit edildi.
Yapay zeka yardımıyla oluşturulan ilk sıfır gün açığını Google duyurdu. Keşif, şirketin GTIG siber tehdit analiz birimi tarafından yapıldı. AI Threat Tracker raporuna göre saldırganlar, popüler bir açık kaynak web yönetim aracındaki bir kusuru tespit etmek ve istismar etmek için bir yapay zeka modeli kullandı. Açık, iki faktörlü kimlik doğrulamayı atlatmayı mümkün kıldı. Uzmanlar, büyük çaplı bir kampanyanın hazırlıklarının saldırılar yaygınlaşmadan durdurulduğunu söylüyor. Google ve yazılımın geliştiricileri sorunu hızla çözdü.
GTIG, istismar kodunun Python ile yazıldığını ve büyük olasılıkla yapay zeka tarafından oluşturulduğunu bildiriyor. Belirtiler arasında aşırı satır içi yorumlar, alışılmadık kod yapısı, ayrıntılı yardım menüleri ve hatta uydurma bir CVSS puanı yer alıyordu. Gerçek kötü amaçlı yazılım yazarları genellikle bunları eklemez.
Uzmanlara göre kusur bir mantık hatasıydı. Kimlik doğrulama sisteminin geliştiricisi, erişim denetim mantığında bir çelişki yaratarak iki faktörlü mekanizmanın atlanmasına olanak sağladı. Geleneksel güvenlik tarayıcıları bunu kaçırdı, ancak yapay zeka hem kodu hem de amaçlanan uygulama mantığını analiz ederek tespit etti. Raporda özellikle saldırganların Google'ın Gemini modellerini veya Anthropic'in çözümlerini kullanmadığı belirtiliyor.
Uzmanlar bu olayı siber tehditlerde yeni bir dönemin başlangıcı olarak görüyor. Otomatik araçlar bir zamanlar bellek hataları veya erişim başarısızlıklarına odaklanırken, modern dil modelleri artık uygulama mimarisini analiz edebiliyor ve geleneksel savunmaların zar zor fark ettiği gizli mantıksal çelişkileri ortaya çıkarabiliyor.
GTIG baş analisti John Hultquist, yapay zeka açık yarışının sadece kaçınılmaz olmadığını, aksine çoktan başladığını belirtti. Ayrıca, yapay zekaya atfedilebilen her sıfır gün açığına karşılık muhtemelen çok daha fazlası olduğunu ekledi.
Rapor ayrıca diğer yapay zeka kaynaklı siber saldırıları da vurguluyor. Kuzey Kore'nin APT45 grubu, otomatik güvenlik açığı analizi ve istismar geliştirme için yapay zekadan yararlanırken, Çin bağlantılı saldırganlar TP-Link yönlendiricilerindeki uzaktan kod yürütme kusurlarını araştırmak için özel istemler hazırladı.
GTIG ayrıca yapay zekanın kötü amaçlı kod oluşturmak, sahte sesler üretmek ve Gemini API'si ile etkileşime giren Android arka kapıları geliştirmek için kullanıldığını belgeledi.
Yapay zeka hizmetlerini entegre eden LiteLLM kütüphanesine yönelik bir saldırıya özellikle dikkat çekildi. Saldırganlar, enfekte PyPI paketlerine kötü amaçlı kod sızarak AWS anahtarlarını ve GitHub token'larını çaldı. Analistler, bu saldırıların giderek yapay zeka modellerinin kendisinden ziyade çevreleyen altyapıya (API'ler, bağlayıcılar ve entegrasyon araçları) yöneldiğini belirtiyor.
Siber suçlular ayrıca yapay zeka hizmetlerinin popülaritesini bir tuzak olarak kullanıyor. Daha önce araştırmacılar, Google arama reklamları aracılığıyla kötü amaçlı yazılım dağıtan sahte Claude AI web siteleri bulmuştu.
© B. Naumkin