Sciali di IA: come gli agenti artificiali manipolano l'opinione pubblica

Un team internazionale di scienziati ha lanciato l'allarme su una nuova minaccia: i cosiddetti "sciami di IA" in grado di creare l'illusione di un'opinione pubblica diffusa. In una pubblicazione sulla rivista Science, i ricercatori sottolineano come la combinazione di modelli linguistici avanzati con sistemi multi-agente permetta di creare reti coordinate di personaggi artificiali. Queste entità si comportano come utenti reali e possono influenzare in modo sottile gli ambienti digitali.

A differenza dei bot primitivi del passato, gli agenti di IA moderni possono mantenere "personalità" coerenti, ricordare interazioni precedenti e adattare il loro stile comunicativo in base alle reazioni del pubblico. Tali profili digitali possono operare in sincronia, promuovendo la stessa agenda mentre simulano punti di vista indipendenti. Questo crea un effetto di "consenso sintetico", dove attività generate artificialmente vengono percepite come un ampio sostegno pubblico per una particolare posizione.

I ricenzatori sostengono che questi meccanismi rappresentino una seria minaccia per i processi democratici e il dialogo pubblico. Un singolo attore malevolo che utilizza l'IA può impersonare migliaia di voci, influenzando tendenze, mettendo pressione a figure pubbliche e diffondendo disinformazione. Inoltre, la produzione di massa di contenuti artificiali può distorcere i dati di addestramento per altri sistemi di IA, amplificando gli effetti di manipolazione.

Gli esperti sottolineano come la moderazione tradizionale dei singoli post sia inefficace contro tali reti. Propongono invece di rilevare coordinazioni statisticamente anomale, tracciare le origini dei contenuti e applicare metodi di scienza comportamentale per analizzare le azioni collettive degli agenti di IA. Le misure suggerite includono l'implementazione di meccanismi di verifica che preservino la privacy, la creazione di un sistema distribuito per monitorare l'influenza dell'IA e la riduzione degli incentivi finanziari per attività online non autentiche.