Bruk av kunstig intelligens i programvareutvikling øker hastigheten, men introduserer også nye risikoer. Eksperter advarer om en ny klasse trusler knyttet til AI-agenter som kan handle på vegne av brukeren og samhandle med kode, filer og eksterne systemer.
Kjernen i problemet er at AI ikke lenger bare håndterer tekst eller kode – den jobber nå med hele infrastrukturer. Dette øker risikoen for utilsiktede systemforstyrrelser, konfigurasjonsendringer eller at sensitiv data lekker ut av organisasjonen. Kommunikasjonskanalene mellom AI og utvikler utgjør også en risiko, da de kan avlyttes eller utnyttes av angripere.
Forskning viser at en stor andel datalekkasjer allerede stammer fra ansatte som mater bedriftsdata inn i offentlige AI-tjenester. Dette kan inkludere kodesnutter, dokumenter, kommersielle data og interne retningslinjer. Med AI-agenter er innsatsen høyere fordi de ikke bare svarer på spørsmål – de utfører handlinger som å få tilgang til API-er, lese filer og samhandle direkte med systemer.
Eksperter advarer om at hvis tilgangsrettigheter er feilkonfigurert eller tilsyn mangler, kan AI utilsiktet eksponere nøkler, tokens eller konfidensielle data. Det er også trusler som kontekstforgiftning, ondsinnede instruksjoner og feil i interaksjoner mellom agenter.
Separat fremstår AI som et nytt sårbarhetslag i skjæringspunktet mellom utvikling og cybersikkerhet. Dette er problemer som ikke passer inn i tradisjonelle sikkerhetsmodeller, som kontekstforgiftning, usikre spørringer, misbruk av verktøy og altfor permissive tjenestekontoer.
Likevel ser eksperter AI som et verdifullt verktøy for kodeanalyse og sårbarhetsdeteksjon. Det kan oppdage vanlige feil som SQL-injeksjoner og XSS raskere, og gi et ekstra lag med gjennomgang.
Men å stole utelukkende på AI for sikkerhetsbeslutninger er en feil. Modeller kan ta feil, overse forretningslogikk og skape en falsk trygghetsfølelse. Eksperter anbefaler å bruke AI som et støtteverktøy, med endelige kontroller overlatt til cybersikkerhetsprofesjonelle.