Egy hibás karakter egy MI által generált PowerShell szkriptben teljesen kitörölt minden adatot egy merevlemezről. Olvass elmesélést a vibrókódolás kockázatairól és az óvatosság fontosságáról.
© E. Vartanyan
Egy fejlesztő számára egy rutin takarítási feladat katasztrófába fulladt, amikor egyetlen hibás karakter egy mesterséges intelligencia által generált szkriptben teljesen kitörölt minden adatot egy merevlemezről.
A fejlesztő elmesélte, hogy egy MI-t kért meg egy egyszerű PowerShell szkript létrehozására, amely törölje a Python pycache mappáit. Ehelyett a parancs az összes tartalmat kitörölt egy további meghajtóról, beleértve munkaprojektjeit és Docker tároló adatokat. A történet akkor kapott figyelmet, miután megosztották Redditen.
A hiba oka meglepően egyszerű volt: a generált kód egy elérési út-kezelési hibát tartalmazott, ahol egy fordított perjelet használt, holott a PowerShell más karaktert igényelt. Amikor a PowerShell a parancsot a cmd/c-n keresztül adta át, az elérési utat félreértelmezték, és gyakorlatilag a meghajtó gyökerére oldották meg. A rekurzív és csendes törlési paraméterekkel kombinálva a parancs figyelmeztetések vagy megerősítési kérések nélkül futott le. A rendszer egyszerűen elkezdett mindent törölni a gyökérkönyvtárból, nem adva a felhasználónak esélyt a megállításra.
Ez rámutat arra, hogy a probléma nem egy komplex sebezhetőség vagy ritka hiba volt, hanem egy apró különbség abban, hogy a Windows rendszerhéjak hogyan kezelik az elkerülést. Még tapasztalt felhasználók is könnyen elnézhetik az ilyen árnyalatokat, különösen, ha vakon bíznak a generált kódban.
Az eset szemlélteti az úgynevezett "vibrókódolás" kockázatait – amikor a fejlesztők gyors megoldásokért mesterséges intelligenciát használnak anélkül, hogy alaposan ellenőriznék az eredményeket. Bár ez a megközelítés időt takarít meg ártalmatlan műveleteknél, a hiba ára kritikus lehet, amikor a fájlrendszerrel dolgoznak.
A fejlesztő szerint néhány adatot sikerült visszaállítani biztonsági mentésekből, de egy jelentős rész véglegesen elveszett. Ez egyértelmű emlékeztetőként szolgál: minden szkript, különösen azok, amelyek kényszerített törlési paraméterekkel rendelkeznek, kötelező áttekintést és tesztelést igényelnek egy biztonságos környezetben.
A mesterséges intelligencia felgyorsíthatja a munkafolyamatokat, de nem szünteti meg az alapvető óvatosságot. Amikor a parancsok közvetlenül a meghajtóval lépnek kapcsolatba, még egy elhelyezett karakter is visszafordíthatatlan következményekkel járhat.