AIスウォームが引き起こす世論の錯覚とその対策について

国際的な科学者チームが、新たな脅威について警告を発している。「AIスウォーム」と呼ばれる技術が、広範な世論の錯覚を生み出す可能性があるという。『サイエンス』誌に掲載された論文で研究者らは、大規模言語モデルとマルチエージェントシステムを組み合わせることで、AIペルソナによる調整されたネットワークが可能になると指摘している。これらのペルソナは実際のユーザーのように振る舞い、デジタル環境に微妙な影響を与えることができる。

過去の原始的なボットとは異なり、現代のAIエージェントは一貫した「人格」を維持し、以前のやり取りを記憶し、視聴者の反応に基づいてコミュニケーションスタイルを適応させることができる。このようなデジタルプロファイルは同期して動作し、独立した見解を模倣しながら同じアジェンダを推進する。これにより「合成コンセンサス」効果が生まれ、人工的に生成された活動が特定の立場に対する広範な公的支援として認識されてしまう。

研究者らは、こうした仕組みが民主的プロセスと公共対話に深刻な脅威をもたらすと主張する。AIを利用した単一の悪意ある行為者が数千の声を装うことで、トレンドに影響を与え、公人に圧力をかけ、偽情報を拡散することが可能だ。さらに、人工コンテンツの大量生産は、他のAIシステムのトレーニングデータを歪め、操作効果を増幅させる恐れがある。

専門家は、個々の投稿に対する従来型のモデレーションは、このようなネットワークに対して効果的でないと強調する。代わりに、統計的に異常な調整を検出し、コンテンツの起源を追跡し、行動科学の手法を適用して集団的なAIエージェントの行動を分析することを求めている。提案されている対策には、プライバシー保護型検証メカニズムの導入、AIの影響を監視する分散システムの構築、非本質的なオンライン活動に対する経済的インセンティブの削減などが含まれる。