Plainte en Floride contre OpenAI et Sam Altman pour pratiques trompeuses

Le procureur général de Floride a intenté une action civile contre OpenAI et son PDG Sam Altman. D'après NBC News, l'État reproche au créateur de ChatGPT d'avoir promu son produit tout en ayant, selon la plainte, connaissance des risques potentiels pour les utilisateurs. La croissance d'OpenAI reposerait sur « la tromperie et l'exploitation des utilisateurs », avec une utilisation de leurs données et un affaiblissement de la sécurité pour gonfler la valeur de l'entreprise.

Cette action en justice n'est pas pénale : elle réclame des amendes et des injonctions. James Uthmeier, le procureur général, affirme vouloir tenir Altman personnellement responsable des dommages subis par les résidents de l'État, qu'il attribue au « comportement imprudent et délibéré » des dirigeants d'OpenAI. Par ailleurs, une enquête criminelle distincte, ouverte antérieurement, suit son cours.

OpenAI est accusé de pratiques commerciales déloyales, de négligence, de manquements à la responsabilité produit, de fausses déclarations frauduleuses et de nuisance publique. Les plaignants estiment que ses systèmes pourraient provoquer addiction, déclin cognitif, tendances suicidaires, violence et autres effets néfastes.

La plainte cite plusieurs affaires très médiatisées où des suspects auraient interagi avec ChatGPT avant de passer à l'acte. Notamment la fusillade à l'Université d'État de Floride qui a fait deux morts et au moins six blessés, ainsi que le meurtre de deux étudiants de l'Université de Floride du Sud. Selon les plaignants, le chatbot aurait fourni des informations utiles à la planification des crimes. OpenAI a déjà répondu par le passé qu'il n'était pas responsable des actions des utilisateurs et que ses systèmes ne faisaient que relayer des informations publiques.

Un autre volet d'accusations concerne le manque de fiabilité au quotidien de l'IA générative. Les autorités de Floride estiment que la publicité d'OpenAI n'avertit pas clairement les utilisateurs que ChatGPT peut commettre des erreurs, fournir de fausses informations ou présenter des « hallucinations » comme des certitudes. La plainte dénonce aussi la tendance du chatbot à être d'accord avec les utilisateurs et à soutenir leurs opinions, ce qui, selon les plaignants, pourrait accroître l'engagement tout en amplifiant les risques.

OpenAI n'a pas encore réagi publiquement à cette nouvelle plainte. La société a indiqué par le passé qu'elle concevait ses systèmes avec la sécurité à l'esprit, qu'elle utilisait des garde-fous pour les conversations sensibles et qu'elle entraînait ses modèles à désamorcer les situations dangereuses en redirigeant les personnes vers une aide réelle. Ce nouveau dossier en Floride montre que la pression juridique sur les développeurs d'IA s'intensifie. Régulateurs et tribunaux s'interrogent de plus en plus non seulement sur les capacités des réseaux de neurones, mais aussi sur la responsabilité de leurs conséquences.