Inteligența artificială accelerează dezvoltarea software, dar aduce și riscuri noi. Experții atrag atenția asupra unei noi categorii de amenințări legate de agenții AI, capabili să acționeze în numele utilizatorului și să interacționeze cu cod, fișiere și sisteme externe.
Miezul problemei: AI nu mai gestionează doar text sau cod, ci acum operează cu infrastructuri întregi. Riscul crește astfel de întreruperi accidentale, modificări de configurare sau scurgeri de date sensibile în afara organizației. Canalele de comunicare dintre AI și dezvoltator sunt și ele vulnerabile, putând fi interceptate sau exploatate de atacatori.
Cercetările arată că o parte semnificativă a scurgerilor de date provine deja de la angajați care alimentează servicii AI publice cu date corporative – fragmente de cod, documente, informații comerciale și politici interne. Cu agenții AI, miza este și mai mare: ei nu doar răspund la întrebări, ci iau măsuri concrete – accesează API-uri, citesc fișiere și interacționează direct cu sistemele.
Dacă drepturile de acces sunt configurate greșit sau lipsește supravegherea, AI poate expune accidental chei, token-uri sau date confidențiale, avertizează experții. Alte amenințări includ otrăvirea contextului, instrucțiuni rău intenționate și erori în interacțiunile dintre agenți.
Pe de altă parte, AI devine un nou strat de vulnerabilitate la intersecția dintre dezvoltare și securitate cibernetică. Sunt probleme care nu se încadrează în modelele tradiționale de securitate – otrăvirea contextului, interogări nesigure, abuzul de instrumente și conturi de servicii prea permisive.
Cu toate acestea, AI rămâne un instrument valoros pentru analiza codului și detectarea vulnerabilităților. Poate identifica mai rapid defecte comune, precum SQL injection și XSS, oferind un strat suplimentar de verificare.
Să te bazezi exclusiv pe AI pentru decizii de securitate este însă o greșeală. Modelele pot greși, pot ignora logica de afaceri și pot crea un fals sentiment de siguranță. Experții recomandă utilizarea AI ca instrument de suport, verificările finale rămânând în sarcina profesioniștilor în securitate cibernetică.