AI rajok: új fenyegetés a digitális térben

Nemzetközi tudóscsoport riasztott egy új fenyegetés miatt: úgynevezett "AI rajok" képesek a széles körű közvélemény illúzióját kelteni. A Science című folyóiratban megjelent tanulmányukban a kutatók rámutatnak, hogy a nagy nyelvi modellek és a több-ügynökös rendszerek kombinációja lehetővé teszi koordinált AI személyiség-hálózatok létrehozását. Ezek a digitális személyiségek úgy viselkednek, mint valódi felhasználók, és finoman befolyásolhatják a digitális környezeteket.

A múlt primitív botjaitól eltérően a modern AI ügynökök képesek következetes "személyiségeket" fenntartani, emlékezni korábbi interakcióikra, és kommunikációs stílusukat a közönség reakciói alapján alakítani. Ilyen digitális profilok szinkronban működve ugyanazt az agendát népszerűsíthetik, miközben független nézőpontokat utánoznak. Ez "szintetikus konszenzus" hatást eredményez, ahol a mesterségesen generált tevékenységet széles körű nyilvános támogatásként érzékelik egy adott álláspont mellett.

A kutatók szerint ezek a mechanizmusok súlyos fenyegetést jelentenek a demokratikus folyamatokra és a nyilvános párbeszédre. Egyetlen rosszindulatú szereplő ezer hangot utánozhat AI segítségével, befolyásolva trendeket, nyomást gyakorolva közszereplőkre és dezinformációt terjesztve. Továbbá a mesterséges tartalmak tömeges előállítása torzíthatja más AI rendszerek képzési adatait, felerősítve a manipulációs hatásokat.

A szakértők hangsúlyozzák, hogy a hagyományos egyedi bejegyzések moderálása hatástalan ilyen hálózatok ellen. Ehelyett statisztikailag anomál koordináció észlelését, tartalom eredetének nyomon követését és viselkedéstudományi módszerek alkalmazását javasolják a kollektív AI ügynök-tevékenységek elemzéséhez. Javasolt intézkedések közé tartozik az adatvédelmet biztosító ellenőrzési mechanizmusok bevezetése, az AI befolyás monitorozására szolgáló elosztott rendszer létrehozása, valamint a hiteltelen online tevékenység pénzügyi ösztönzőinek csökkentése.