Yapay zeka tarafından oluşturulan bir betikteki tek karakter hatası, sabit diskteki tüm verilerin silinmesine yol açtı. Vibrocoding riskleri ve güvenlik önlemleri.
© E. Vartanyan
Bir geliştirici için rutin bir temizlik işi, felakete dönüştü. Yapay zeka tarafından oluşturulan bir betikteki tek bir yanlış karakter, bir sabit diskteki tüm verilerin silinmesine yol açtı.
Geliştirici, yapay zekadan Python'un pycache klasörlerini silmek için basit bir PowerShell betiği oluşturmasını istediğini belirtti. Ancak komut, ek bir sürücünün tamamını, iş projeleri ve Docker konteyner verileri dahil olmak üzere temizledi. Bu olay, Reddit'te paylaşıldıktan sonra dikkat çekti.
Hatanın nedeni şaşırtıcı derecede basitti: oluşturulan kodda bir yol kaçış hatası vardı. PowerShell'de farklı bir karakter gerektiren bir durumda ters eğik çizgi kullanılmıştı. PowerShell komutu cmd/c üzerinden ilettiğinde, yol yanlış yorumlandı ve etkin bir şekilde sürücünün kök dizinine çözümlendi. Özyinelemeli ve sessiz silme parametreleriyle birleşince, komut herhangi bir uyarı veya onay istemi olmadan çalıştı. Sistem, kök dizinindeki her şeyi silmeye başladı ve kullanıcıya durdurma şansı bırakmadı.
Bu durum, sorunun karmaşık bir güvenlik açığı veya nadir bir hata olmadığını, Windows kabuklarının kaçış işlemini nasıl ele aldığındaki ince bir fark olduğunu gösteriyor. Deneyimli kullanıcılar bile, özellikle oluşturulan koda körü körüne güvendiklerinde bu tür nüansları kolayca gözden kaçırabilir.
Olay, geliştiricilerin sonuçları iyice kontrol etmeden hızlı çözümler için yapay zeka kullandığı sözde "vibrocoding"in risklerini ortaya koyuyor. Bu yaklaşım zararsız işlemlerde zaman kazandırabilir, ancak dosya sistemiyle çalışırken hataların maliyeti kritik olabilir.
Geliştiriciye göre, bazı veriler yedeklerden kurtarıldı, ancak önemli bir kısmı kalıcı olarak kayboldu. Bu, net bir hatırlatma görevi görüyor: özellikle zorunlu silme parametreleri içeren betikler, güvenli bir ortamda zorunlu inceleme ve test gerektirir.
Yapay zeka iş akışlarını hızlandırabilir, ancak temel ihtiyatı ortadan kaldırmaz. Komutlar doğrudan sürücüyle etkileşime girdiğinde, tek bir yanlış yerleştirilmiş karakter geri döndürülemez sonuçlara yol açabilir.