AI-skript slettet alt på harddisk: en enkelt feil karakter

En utvikler opplevde en katastrofe da en rutinemessig oppryddingsoppgave gikk galt. En enkelt feil karakter i et AI-generert skript førte til at alle dataene på en harddisk ble slettet.

Utvikleren fortalte at han ba en AI om å lage et enkelt PowerShell-skript for å slette Python sine pycache-mapper. I stedet fjernet kommandoen alt innholdet på en ekstra disk, inkludert arbeidsprosjekter og Docker-container-data. Historien fikk oppmerksomhet etter å ha blitt delt på Reddit.

Årsaken til feilen var overraskende enkel: den genererte koden inneholdt en feil i sti-escape, der en omvendt skråstrek ble brukt der PowerShell krevde et annet tegn. Da PowerShell sendte kommandoen gjennom cmd/c, ble stien misforstått og løst til rotmappen på disken. Sammen med rekursive og stille slettingparametre, utførte kommandoen uten advarsler eller bekreftelsesspørsmål. Systemet begynte bare å slette alt i rotmappen, uten at brukeren fikk sjansen til å stoppe det.

Dette viser at problemet ikke var en kompleks sårbarhet eller sjelden feil, men en subtil forskjell i hvordan Windows-skall håndterer escaping. Selv erfarne brukere kan lett overse slike nyanser, spesielt når de blindt stoler på generert kode.

Hendelsen illustrerer risikoen ved såkalt "vibrokoding"—der utviklere bruker AI for raske løsninger uten å grundig sjekke resultatene. Selv om denne tilnærmingen sparer tid for ufarlige operasjoner, kan feilkostnaden bli kritisk når man arbeider med filsystemet.

Ifølge utvikleren ble noe data gjenopprettet fra sikkerhetskopier, men en betydelig del gikk tapt for godt. Dette er et tydelig minne: alle skript, spesielt de med tvungen slettingparametre, krever obligatorisk gjennomgang og testing i et trygt miljø.

Kunstig intelligens kan akselerere arbeidsflyten, men den fjerner ikke grunnleggende forsiktighet. Når kommandoer direkte interagerer med disken, kan selv én feilplassert karakter få irreversible konsekvenser.