AI-sverm skaper syntetisk konsensus og manipulerer digitale miljøer

En internasjonal forskergruppe har slått alarm om en ny trussel: såkalte "AI-sverm" som kan skape illusjonen av utbredt offentlig mening. I en artikkel i tidsskriftet Science beskriver forskerne hvordan kombinasjonen av store språkmodeller og multi-agent-systemer muliggjør koordinerte nettverk av AI-personligheter. Disse personlighetene oppfører seg som ekte brukere og kan påvirke digitale miljøer på subtile måter.

I motsetning til tidligere primitive botter kan moderne AI-agenter opprettholde konsekvente "personligheter", huske tidligere interaksjoner og tilpasse kommunikasjonsstilen sin basert på publikumsreaksjoner. Slike digitale profiler kan operere synkront, fremme den samme agendaen samtidig som de imiterer uavhengige synspunkter. Dette skaper en "syntetisk konsensus"-effekt, hvor kunstig generert aktivitet oppfattes som bred offentlig støtte til en bestemt posisjon.

Forskerne argumenterer for at disse mekanismene utgjør en alvorlig trussel mot demokratiske prosesser og offentlig dialog. En enkelt ondsinnet aktør som bruker AI kan etterligne tusenvis av stemmer, påvirke trender, utøve press på offentlige personer og spre desinformasjon. I tillegg kan masseproduksjon av kunstig innhold forvrenge treningsdata for andre AI-systemer, noe som forsterker manipulasjonseffektene.

Eksperter understreker at tradisjonell moderering av enkeltoppslag er ineffektiv mot slike nettverk. I stedet argumenterer de for å oppdage statistisk unormal koordinering, spore innholdets opprinnelse og bruke atferdsvitenskapelige metoder for å analysere kollektive AI-agent-handlinger. Foreslåtte tiltak inkluderer implementering av personvernvennlige verifiseringsmekanismer, etablering av et distributert system for overvåking av AI-påvirkning og reduksjon av økonomiske insentiver for uekte nettaktivitet.