AI roje vytvářejí iluzi veřejného mínění a ohrožují demokracii

Mezinárodní tým vědců varuje před novou hrozbou: takzvanými "AI roji", které dokážou vytvářet iluzi širokého veřejného mínění. Vědci v publikaci v časopise Science upozorňují, že kombinace velkých jazykových modelů s víceagentními systémy umožňuje vytvářet koordinované sítě umělých identit. Tyto digitální postavy se chovají jako skuteční uživatelé a dokážou nenápadně ovlivňovat online prostředí.

Na rozdíl od primitivních botů z minulosti mohou moderní AI agenti udržovat konzistentní "osobnosti", pamatovat si předchozí interakce a přizpůsobovat svůj komunikační styl reakcím publika. Takové digitální profily dokážou působit synchronizovaně, prosazovat stejnou agendu a zároveň napodobovat nezávislé názory. Výsledkem je efekt "syntetického konsenzu", kdy uměle generovaná aktivita působí jako široká veřejná podpora konkrétního stanoviska.

Vědci tvrdí, že tyto mechanismy představují vážnou hrozbu pro demokratické procesy a veřejný dialog. Jediný škodlivý aktér využívající umělou inteligenci může zosobňovat tisíce hlasů, ovlivňovat trendy, vyvíjet tlak na veřejné osobnosti a šířit dezinformace. Navíc hromadná produkce umělého obsahu může zkreslovat tréninková data pro další AI systémy, čímž zesiluje manipulační efekty.

Odborníci zdůrazňují, že tradiční moderování jednotlivých příspěvků je proti takovým sítím neúčinné. Místo toho volají po detekci statisticky anomální koordinace, sledování původu obsahu a aplikování metod behaviorální vědy k analýze kolektivního chování AI agentů. Navrhovaná opatření zahrnují implementaci mechanismů ověřování chránících soukromí, vytvoření distribuovaného systému pro monitorování vlivu umělé inteligence a snížení finančních pobídek pro neautentickou online aktivitu.