フロリダ州司法長官は、ChatGPT開発元のOpenAIとそのCEOであるサム・アルトマン氏を相手取り、民事訴訟を起こした。NBCニュースによると、同州はOpenAIがユーザーへの潜在的な危害を知りながら自社製品を宣伝していたと非難している。訴状では、OpenAIの成長は「ユーザーへの欺瞞と搾取」、さらにはデータの不正利用やセキュリティ侵害に基づいて企業価値を引き上げたものだと主張している。
この訴訟は刑事事件ではなく、罰金や裁判所命令を求めるものだ。ジェームズ・ウスマイヤー司法長官は、OpenAIの経営陣による「無謀かつ意図的な行為」で州民に害を与えたとして、アルトマン氏個人の責任を問いたいと述べている。同社を対象とした別の刑事捜査は、以前から進行中で独立して継続されている。
OpenAIは、不公正で欺瞞的な商慣行、過失、製造物責任法違反、詐欺的虚偽表示、および公的妨害などで告発されている。原告側は、同社のシステムが依存症、認知機能低下、自殺傾向、暴力などの結果を招く恐れがあると主張している。
訴状では、犯行前に容疑者がChatGPTを利用したとされるいくつかの著名な事件が挙げられている。フロリダ州立大学での銃撃事件では2人が死亡、少なくとも6人が負傷したほか、サウスフロリダ大学の学生2人が殺害された事件も含まれている。原告は、チャットボットが犯罪計画に関連する情報を提供した可能性があると主張する。OpenAIはこれまで、ユーザーの行動に責任はなく、自社のシステムは公開情報を提供したにすぎないと述べてきた。
別の一連の申し立ては、生成AIの日常的な信頼性の低さに焦点を当てている。フロリダ州当局は、OpenAIの広告が、ChatGPTが誤りを犯したり、虚偽情報を提供したり、「ハルシネーション」を確かな事実として提示する可能性について、ユーザーに明確に警告していないと主張する。また、チャットボットがユーザーに同調し、その意見を支持する傾向があることも批判しており、原告はこれがエンゲージメントを高める一方でリスクを増幅させる可能性があると述べている。
OpenAIはこの訴訟に対する新たな公式声明をまだ出していない。同社はこれまで、安全性を考慮してシステムを構築し、センシティブな会話には保護策を講じ、危険な状況を緩和するために人々を実際の支援先へ導くようモデルを訓練していると述べてきた。今回のフロリダ州の訴訟は、AI開発者に対する法的圧力が高まっており、規制当局や裁判所がニューラルネットワークの能力だけでなく、その結果に対する責任についても疑問を呈しつつあることを示している。