Programista stracił dane po błędzie w skrypcie PowerShell wygenerowanym przez AI. Dowiedz się, jak uniknąć podobnych problemów i bezpiecznie używać sztucznej inteligencji w programowaniu.
© E. Vartanyan
Rutynowe zadanie porządkowe przerodziło się w katastrofę dla jednego programisty, gdy pojedynczy błędny znak w skrypcie wygenerowanym przez sztuczną inteligencję doprowadził do całkowitego usunięcia danych z dysku twardego.
Jak wyjaśnił programista, poprosił AI o stworzenie prostego skryptu PowerShell do usuwania folderów pycache Pythona. Zamiast tego polecenie wyczyściło całą zawartość dodatkowego dysku, obejmującą projekty robocze i dane kontenerów Dockera. Historia zyskała rozgłos po udostępnieniu na Reddicie.
Przyczyna błędu okazała się zaskakująco prosta: wygenerowany kod zawierał błąd w ucieczce ścieżki, używając odwrotnego ukośnika tam, gdzie PowerShell wymagał innego znaku. Gdy PowerShell przekazał polecenie przez cmd/c, ścieżka została błędnie zinterpretowana i skutecznie rozwiązała się do katalogu głównego dysku. W połączeniu z parametrami rekursywnego i cichego usuwania, polecenie wykonano bez ostrzeżeń ani potwierdzeń. System po prostu zaczął kasować wszystko w katalogu głównym, nie dając użytkownikowi szansy na zatrzymanie tego.
To pokazuje, że problemem nie była złożona luka czy rzadki błąd, lecz subtelna różnica w sposobie obsługi ucieczki przez powłoki Windowsa. Nawet doświadczeni użytkownicy mogą łatwo przeoczyć takie niuanse, zwłaszcza gdy bezkrytycznie ufają wygenerowanemu kodowi.
Incydent ilustruje ryzyko tzw. „vibrocodingu”, gdzie programiści używają AI do szybkich rozwiązań bez dokładnego sprawdzania wyników. Choć takie podejście oszczędza czas przy nieszkodliwych operacjach, koszt błędu może być krytyczny podczas pracy z systemem plików.
Według programisty część danych odzyskano z kopii zapasowych, ale znaczna część przepadła bezpowrotnie. To wyraźne przypomnienie: wszelkie skrypty, szczególnie te z wymuszonymi parametrami usuwania, wymagają obowiązkowego przeglądu i testów w bezpiecznym środowisku.
Sztuczna inteligencja może przyspieszać przepływy pracy, ale nie eliminuje podstawowej ostrożności. Gdy polecenia bezpośrednio oddziałują z dyskiem, nawet jeden źle umieszczony znak może mieć nieodwracalne skutki.