Een ontwikkelaar verloor gegevens toen een AI gegenereerd PowerShell-script een verkeerd teken bevatte, wat leidde tot het wissen van een harde schijf. Lees over de risico's van 'vibrocoding' en hoe je dit kunt voorkomen.
© E. Vartanyan
Een routinematige schoonmaaktaak liep uit op een ramp voor een ontwikkelaar toen één verkeerd teken in een door AI gegenereerd script leidde tot het volledig wissen van gegevens van een harde schijf.
De ontwikkelaar legde uit dat hij een AI vroeg een eenvoudig PowerShell-script te genereren om Python's pycache-mappen te verwijderen. In plaats daarvan veegde het commando de volledige inhoud van een extra schijf schoon, inclusief werkprojecten en Docker-containerdata. Het verhaal trok aandacht nadat het op Reddit werd gedeeld.
De oorzaak van het falen was verrassend eenvoudig: de gegenereerde code bevatte een fout in pad-escape, waarbij een backslash werd gebruikt waar PowerShell een ander teken vereiste. Toen PowerShell het commando via cmd/c doorvoerde, werd het pad verkeerd geïnterpreteerd en effectief opgelost naar de hoofdmap van de schijf. Gecombineerd met recursieve en stille verwijderingsparameters voerde het commando uit zonder waarschuwingen of bevestigingsprompts. Het systeem begon simpelweg alles in de hoofdmap te verwijderen, waardoor de gebruiker geen kans kreeg om het te stoppen.
Dit benadrukt dat het probleem geen complexe kwetsbaarheid of zeldzame bug was, maar een subtiel verschil in hoe Windows-shells escaping afhandelen. Zelfs ervaren gebruikers kunnen dergelijke nuances gemakkelijk missen, vooral wanneer ze blindelings op gegenereerde code vertrouwen.
Het incident illustreert de risico's van zogenaamde "vibrocoding"—waarbij ontwikkelaars AI gebruiken voor snelle oplossingen zonder de resultaten grondig te controleren. Hoewel deze aanpak tijd bespaart voor onschadelijke operaties, kan de kost van een fout kritiek zijn bij het werken met het bestandssysteem.
Volgens de ontwikkelaar werd een deel van de gegevens hersteld uit back-ups, maar een aanzienlijk deel ging permanent verloren. Dit dient als een duidelijke herinnering: elk script, vooral die met geforceerde verwijderingsparameters, vereist verplichte controle en testen in een veilige omgeving.
Kunstmatige intelligentie kan workflows versnellen, maar het elimineert niet de basisvoorzichtigheid. Wanneer commando's direct met de schijf interacteren, kan zelfs één verkeerd geplaatst teken onomkeerbare gevolgen hebben.