Kehittäjän tekoälyn luoma PowerShell-skripti poisti vahingossa koko levyn sisällön yhden virheellisen merkin vuoksi. Lue, miten tämä tapahtui ja miten välttää vastaavia ongelmia.
© E. Vartanyan
Rutiininomainen siivoustyö muuttui katastrofiksi yhdelle kehittäjälle, kun yksittäinen virheellinen merkki tekoälyn luomassa skriptissä johti täydelliseen datan poistoon kiintolevyltä.
Kehittäjä kertoi, että hän pyysi tekoälyä luomaan yksinkertaisen PowerShell-skriptin Pythonin pycache-kansioiden poistamiseksi. Sen sijaan komento tyhjensi kokonaisen lisälevyn sisällön, mukaan lukien työprojektit ja Docker-säiliöiden tiedot. Tarina sai huomiota, kun se jaettiin Redditissä.
Virheen syy oli yllättävän yksinkertainen: luotu koodi sisälsi polunmuodostusvirheen, jossa käytettiin kenoviivaa siinä, missä PowerShell vaati eri merkkiä. Kun PowerShell välitti komennon cmd/c:n kautta, polku tulkittiin väärin ja se käytännössä viittasi levyn juureen. Yhdistettynä rekursiivisiin ja hiljaisiin poistoparametreihin komento suoritettiin ilman varoituksia tai vahvistuskehotuksia. Järjestelmä alkoi yksinkertaisesti poistaa kaikkea juurihakemistosta, eikä käyttäjällä ollut mahdollisuutta pysäyttää sitä.
Tämä korostaa, että ongelma ei ollut monimutkainen haavoittuvuus tai harvinainen bugi, vaan pieni ero siinä, miten Windows-komentotulkki käsittelee merkkejä. Jopa kokeneet käyttäjät voivat helposti jättää tällaiset vivahteet huomaamatta, erityisesti luottaessaan sokeasti luotuun koodiin.
Tapahtuma havainnollistaa niin sanotun ”vibrokoodauksen” riskejä – tilannetta, jossa kehittäjät käyttävät tekoälyä nopeisiin ratkaisuihin ilman tulosten perusteellista tarkistamista. Vaikka tämä lähestymistapa säästää aikaa harmittomissa toiminnoissa, virheen hinta voi olla kriittinen, kun työskennellään tiedostojärjestelmän kanssa.
Kehittäjän mukaan osa datasta palautettiin varmuuskopioista, mutta merkittävä osa menetettiin pysyvästi. Tämä toimii selkeänä muistutuksena: kaikki skriptit, erityisesti ne, joissa on pakottavia poistoparametreja, vaativat pakollisen tarkistuksen ja testauksen turvallisessa ympäristössä.
Tekoäly voi nopeuttaa työnkulkuja, mutta se ei poista perusvarovaisuutta. Kun komennot toimivat suoraan levyn kanssa, jopa yksi väärässä paikassa oleva merkki voi johtaa peruuttamattomiin seurauksiin.