Jak AI skript způsobil smazání dat z pevného disku

Rutinní úklid se proměnil v katastrofu, když jeden vývojář použil skript vygenerovaný umělou inteligencí. Kvůli jedinému nesprávnému znaku došlo k úplnému smazání dat z pevného disku.

Vývojář popsal, že požádal AI o vytvoření jednoduchého PowerShell skriptu pro odstranění pycache složek v Pythonu. Místo toho příkaz vymazal veškerý obsah dalšího disku, včetně pracovních projektů a dat Docker kontejnerů. Příběh se rozšířil poté, co byl sdílen na Redditu.

Příčina selhání byla překvapivě jednoduchá: vygenerovaný kód obsahoval chybu v escapování cest, kde byl použit zpětné lomítko tam, kde PowerShell vyžadoval jiný znak. Když PowerShell předal příkaz přes cmd/c, cesta byla nesprávně interpretována a efektivně se vyhodnotila jako kořenový adresář disku. V kombinaci s rekurzivními a tichými parametry mazání se příkaz provedl bez varování nebo potvrzovacích výzev. Systém prostě začal mazat vše v kořenovém adresáři, aniž by uživatel měl šanci proces zastavit.

Tento případ ukazuje, že problém nebyla složitá zranitelnost nebo vzácná chyba, ale jemný rozdíl v tom, jak Windows shelly zpracovávají escapování. Dokonce i zkušení uživatelé takové nuance snadno přehlédnou, zvláště když slepě důvěřují vygenerovanému kódu.

Incident ilustruje rizika takzvaného „vibrocodingu“ – kdy vývojáři používají AI pro rychlá řešení bez důkladné kontroly výsledků. Zatímco tento přístup šetří čas u neškodných operací, cena chyby může být kritická při práci se souborovým systémem.

Podle vývojáře se část dat podařilo obnovit ze záloh, ale významná část byla trvale ztracena. Toto slouží jako jasné připomenutí: jakékoli skripty, zvláště ty s vynucenými parametry mazání, vyžadují povinnou kontrolu a testování v bezpečném prostředí.

Umělá inteligence může urychlit pracovní postupy, ale neodstraňuje základní opatrnost. Když příkazy přímo interagují s diskem, i jeden špatně umístěný znak může mít nevratné následky.