Uno sviluppatore perde dati dopo un errore in uno script PowerShell generato dall'intelligenza artificiale. Scopri come evitare questo disastro.
© E. Vartanyan
Un compito di pulizia di routine si è trasformato in un disastro per uno sviluppatore quando un singolo carattere errato in uno script generato dall'intelligenza artificiale ha portato alla cancellazione completa dei dati da un disco rigido.
Lo sviluppatore ha raccontato di aver chiesto a un'IA di generare un semplice script PowerShell per eliminare le cartelle pycache di Python. Invece, il comando ha cancellato tutti i contenuti di un disco aggiuntivo, inclusi progetti di lavoro e dati di container Docker. La vicenda ha attirato l'attenzione dopo essere stata condivisa su Reddit.
La causa del problema è stata sorprendentemente semplice: il codice generato conteneva un errore di escape nei percorsi, utilizzando una barra rovesciata dove PowerShell richiedeva un carattere diverso. Quando PowerShell ha passato il comando attraverso cmd/c, il percorso è stato interpretato male e di fatto risolto nella radice del disco. Combinato con i parametri di cancellazione ricorsiva e silenziosa, il comando si è eseguito senza avvisi o richieste di conferma. Il sistema ha semplicemente iniziato a cancellare tutto nella directory principale, senza dare all'utente alcuna possibilità di fermarlo.
Questo evidenzia che il problema non era una vulnerabilità complessa o un bug raro, ma una differenza sottile nel modo in cui le shell di Windows gestiscono l'escape. Anche utenti esperti possono facilmente trascurare tali sfumature, specialmente quando si fidano ciecamente del codice generato.
L'incidente illustra i rischi del cosiddetto "vibrocoding" - dove gli sviluppatori usano l'IA per soluzioni rapide senza controllare accuratamente i risultati. Mentre questo approccio fa risparmiare tempo per operazioni innocue, il costo dell'errore può essere critico quando si lavora con il file system.
Secondo lo sviluppatore, alcuni dati sono stati recuperati dai backup, ma una parte significativa è andata persa permanentemente. Questo serve come un chiaro promemoria: qualsiasi script, specialmente quelli con parametri di cancellazione forzata, richiede una revisione obbligatoria e test in un ambiente sicuro.
L'intelligenza artificiale può accelerare i flussi di lavoro, ma non elimina la cautela di base. Quando i comandi interagiscono direttamente con il disco, anche un solo carattere fuori posto può avere conseguenze irreversibili.