AI zrychluje vývoj softwaru, ale přináší i nová rizika

Umělá inteligence zrychluje vývoj softwaru, ale přináší i nová rizika. Odborníci varují před zcela novou kategorií hrozeb, které souvisejí s AI agenty – tedy nástroji, jež jednají jménem uživatele a přímo pracují s kódem, soubory i externími systémy.

Klíčový problém spočívá v tom, že AI už nezpracovává jen text nebo kód – nyní zasahuje do celé infrastruktury. To zvyšuje pravděpodobnost nechtěných výpadků, změn konfigurace nebo úniku citlivých dat mimo firmu. Rizikem jsou také komunikační kanály mezi AI a vývojářem, které mohou útočníci odposlouchávat nebo zneužít.

Výzkumy ukazují, že značná část úniků dat už dnes vzniká tím, že zaměstnanci vkládají firemní informace do veřejných AI služeb – například úryvky kódu, dokumenty, obchodní údaje nebo interní směrnice. U AI agentů je riziko ještě vyšší: nereagují jen na dotazy, ale samy provádějí akce, jako je přístup k API, čtení souborů nebo přímá interakce se systémy.

Pokud nejsou přístupová práva správně nastavena nebo chybí dostatečný dohled, může AI neúmyslně odhalit klíče, tokeny či důvěrná data. Hrozí také otrava kontextu, vkládání škodlivých instrukcí nebo chyby při komunikaci mezi jednotlivými agenty.

AI zároveň vytváří zcela novou vrstvu zranitelnosti na pomezí vývoje a kybernetické bezpečnosti. Jde o problémy, které do tradičních bezpečnostních modelů nezapadají – například otrava kontextu, nebezpečné dotazy, zneužívání nástrojů nebo příliš volná oprávnění servisních účtů.

Přesto odborníci vidí AI jako užitečný pomocník pro analýzu kódu a detekci zranitelností. Dokáže rychleji najít běžné chyby typu SQL injection nebo XSS a přidává tak další úroveň kontroly.

Spoléhat se ale na AI při bezpečnostních rozhodnutích výhradně by bylo chybou. Modely se mohou mýlit, přehlížet obchodní logiku a vytvářet falešný pocit bezpečí. Odborníci proto radí využívat AI jako podpůrný nástroj, zatímco konečné prověrky by měli dělat profesionálové v kybernetické bezpečnosti.