Danny Weber
Dowiedz się, jakie nowe zagrożenia niosą agenci AI w tworzeniu oprogramowania – od wycieków danych po ryzyka ataków. Eksperci ostrzegają przed nieprawidłowym użyciem.
Wykorzystanie sztucznej inteligencji w tworzeniu oprogramowania przyspiesza pracę, ale niesie też nowe ryzyko. Eksperci ostrzegają przed nowym typem zagrożeń, jakie niosą ze sobą agenci AI – programy działające w imieniu użytkownika, które mają dostęp do kodu, plików i systemów zewnętrznych.
Kluczowa zmiana polega na tym, że sztuczna inteligencja nie operuje już wyłącznie na tekście czy kodzie – ma teraz dostęp do całej infrastruktury IT. To zwiększa prawdopodobieństwo przypadkowych awarii, niechcianych zmian konfiguracji lub wycieku poufnych danych poza firmę. Ryzykowne są też kanały komunikacji między AI a programistą – mogą zostać przechwycone lub wykorzystane przez cyberprzestępców.
Z badań wynika, że znaczna część wycieków danych ma już miejsce, gdy pracownicy wrzucają firmowe informacje do publicznych narzędzi AI. Chodzi o fragmenty kodu, dokumenty, dane handlowe czy wewnętrzne regulaminy. W przypadku agentów AI ryzyko jest większe – one nie tylko odpowiadają na pytania, ale wykonują konkretne czynności, np. sięgają do API, odczytują pliki i bezpośrednio współpracują z systemami.
Eksperci przestrzegają, że przy nieprawidłowo skonfigurowanych uprawnieniach lub braku nadzoru AI może przypadkiem ujawnić klucze, tokeny czy poufne dane. Dochodzą do tego zagrożenia takie jak zatruwanie kontekstu, złośliwe polecenia czy błędy w komunikacji między agentami.
Osobno sztuczna inteligencja staje się nową warstwą podatności na styku programowania i cyberbezpieczeństwa. Mamy tu do czynienia z problemami, które nie pasują do tradycyjnych modeli zabezpieczeń – zatruwaniem kontekstu, niebezpiecznymi zapytaniami, nadużywaniem narzędzi czy zbyt rozbudowanymi uprawnieniami kont serwisowych.
Eksperci widzą jednak w AI wartościowe narzędzie do analizy kodu i wykrywania luk. Potrafi ono szybciej znaleźć typowe błędy, jak iniekcje SQL czy XSS, stanowiąc dodatkową warstwę kontroli.
Poleganie wyłącznie na AI przy decyzjach dotyczących bezpieczeństwa to jednak błąd. Modele mogą się mylić, pomijać logikę biznesową i dawać fałszywe poczucie bezpieczeństwa. Eksperci zalecają traktowanie AI jako wsparcia, a końcowe kontrole pozostawić profesjonalistom z dziedziny cyberbezpieczeństwa.
© RusPhotoBank