OpenClaw (Lobster olarak da bilinen) projesinde çalışan iki mühendis uyarıda bulundu: Yapay zeka araçları geliştirmeyi hızlandırabilir, ancak aynı zamanda düşük kaliteli ve potansiyel olarak tehlikeli kodları doğrudan canlı ortama gönderebiliyor. Endişeleri yapay zekanın kendisiyle değil, şirketlerin bu araçlara yeterli denetim olmadan çok hızlı yönelmesiyle ilgili.
OpenClaw'un dahili ajan çerçevesi Pi'nin yaratıcısı Mario Zekner, altyapının zaten ciddi bir baskı altında olduğunu ve yazılımların her geçen gün daha savunmasız hale geldiğini söylüyor. Sektör bir süre daha görmezden gelebilir, ancak er ya da geç birikmiş hataların bedelini ödeyecek. Diğer mühendis Armin Ronacher ise yapay zekanın deneyimli geliştiricilere hız kazandırması gerektiğini savunuyor. Ancak pek çok firma bunu hemen maliyet düşürmenin kısa yolu olarak görüyor ve uzun vadeli kaliteden ödün veriyor.
Asıl sorun şu: kod yazmakla mühendislik yapmak aynı şey değil. Yapay zeka hızlıca taslaklar, standart fonksiyonlar ve prototipler çıkarabiliyor. Ancak inceleme, test ve mimari denetim olmadan, bu kod çoğu zaman çözdüğünden daha fazla sorun yaratıyor. En kötü durumlar, üretilen parçaların güvenlik kontrollerini, yük testlerini, uyumluluk analizini ve gelecek bakım planlamasını atlayarak doğrudan canlı ürünlere girdiğinde ortaya çıkıyor.
Mühendisler, kısa vadeli verimlilik peşinde koşmanın genç yetenek sıkıntısına, teknik borcun şişmesine, yeni güvenlik açıklarına ve daha sık hizmet kesintilerine yol açabileceği uyarısında bulunuyor. Şirketler, geliştirici eğitimi ve gelişimini otomatik kod üretimiyle değiştirdiğinde, bugün anlık hız kazanıyor ancak yarın ekip istikrarını ve ürün kalitesini kaybediyor.
Wall Street Journal bu olguya 'vibe slop' adını veriyor. Bu, geliştirmenin hızlı komutlara ve kabataslak sonuçlara dayandığı 'vibe coding' ile yapay zeka tarafından üretilen çöp miktarının bir karışımı. İşletmeler için mesaj net: Bu araçlar güçlü yardımcılar olabilir ancak sağlam mühendislik uygulamalarına duyulan ihtiyacı ortadan kaldırmaz. Kritik sistemler hala deneyimli geliştiriciler, kod incelemeleri, yeniden düzenleme, test ve güvenlik denetimleri gerektiriyor.
Sonuçta, başlangıçta kazanılan zaman daha sonra daha büyük bir maliyete dönüşüyor. Yapay zeka düşük kaliteli kod üretiyorsa, geliştirmenin gerçek maliyeti sadece geleceğe itiliyor: hata düzeltmeleri, kesinti araştırmaları, güvenlik açığı yamaları ve kullanıcı güvenini yeniden inşa etme.