Tekoälyparvet luovat harhakuvaa yleisömielipiteestä

Tieteellinen tutkijaryhmä on nostanut esiin uuden uhkan: niin sanotut tekoälyparvet, jotka voivat luoda harhakuvaa laajasta yleisömielipiteestä. Science-lehdessä julkaistussa tutkimuksessa kerrotaan, että suurten kielimallien ja moniagenttijärjestelmien yhdistäminen mahdollistaa koordinoitujen tekoälypersoonien verkostot. Nämä persoonat käyttäytyvät kuin todelliset käyttäjät ja voivat hienovaraisesti vaikuttaa digitaalisiin ympäristöihin.

Toisin kuin menneiden aikojen yksinkertaiset botit, nykyiset tekoälyagentit pystyvät ylläpitämään johdonmukaisia persoonallisuuksia, muistamaan aiemmat vuorovaikutukset ja sopeuttamaan viestintätapansa yleisön reaktioiden perusteella. Tällaiset digitaaliset profiilit voivat toimia synkronoidusti, edistää samaa agendaa ja samalla jäljitellä itsenäisiä näkemyksiä. Tämä synnyttää synteettisen konsensuksen vaikutelman, jossa keinotekoisesti luotua toimintaa pidetään laajana yleisen tuen ilmentymänä tietylle kannalle.

Tutkijat esittävät, että nämä mekanismit aiheuttavat vakavan uhan demokraattisille prosesseille ja julkiselle vuoropuhelulle. Yksi pahantahtoinen toimija voi käyttää tekoälyä esiintyäkseen tuhansina ääninä, vaikuttaen trendeihin, painostaen julkisia hahmoja ja levittäen väärää tietoa. Lisäksi keinotekoisen sisällön massatuotanto voi vääristää muiden tekoälyjärjestelmien koulutusdataa, vahvistaen näin manipulaatiovaikutuksia.

Asiantuntijat korostavat, että perinteinen yksittäisten julkaisujen moderointi on tehotonta tällaisten verkostojen suhteen. Sen sijaan he vaativat tilastollisen poikkeavan koordinaation havaitsemista, sisällön alkuperän seurantaa ja käyttäytymistieteellisten menetelmien soveltamista tekoälyagenttien kollektiivisten toimien analysointiin. Ehdotetuihin toimiin kuuluvat yksityisyyttä kunnioittavien varmennusmekanismien toteuttaminen, hajautetun järjestelmän luominen tekoälyvaikutuksen valvontaan sekä epäaitojen verkkoaktiviteettien taloudellisten kannustimien vähentäminen.