Floridas justitieminister har väckt civilrättslig talan mot OpenAI och dess vd Sam Altman. Enligt NBC News anklagar delstaten utvecklaren av ChatGPT för att ha marknadsfört produkten trots kännedom om riskerna. I stämningen påstås att OpenAIs framgångar byggdes på bedrägeri och exploatering av användare, samt att företaget använde användarnas data och försummade säkerheten för att öka sitt marknadsvärde.
Stämningen är civilrättslig, inte brottslig, och yrkar på böter och domstolsbeslut. Justitieminister James Uthmeier vill hålla Altman personligen ansvarig för den skada som företagets ledning påstås ha orsakat delstatens invånare genom vårdslöst och avsiktligt agerande. En separat brottsutredning mot OpenAI, som inleddes tidigare, pågår fortfarande oberoende.
OpenAI anklagas för otillbörliga affärsmetoder, vårdslöshet, brott mot produktansvar, bedräglig framställning och att ha skapat en olägenhet för allmänheten. Målsägarna menar att systemen kan leda till beroende, kognitiv försämring, suicidtankar, våld och liknande konsekvenser.
Stämningen tar upp flera uppmärksammade fall där misstänkta gärningspersoner påstås ha använt ChatGPT inför sina dåd. Det handlar bland annat om skottlossningen vid Florida State University med två döda och minst sex skadade, samt dödandet av två studenter vid University of South Florida. Enligt målsägarna kan chatbotten ha bidragit med information som underlättade brottsplaneringen. OpenAI har tidigare sagt att de inte ansvarar för användarnas handlingar och att systemet bara återger offentlig information.
En annan del av stämningen handlar om den opålitlighet som präglar generativ AI i vardagen. Floridas myndigheter hävdar att OpenAIs marknadsföring inte tydligt varnar för att ChatGPT kan göra fel, sprida falsk information eller presentera hallucinationer som om de vore fakta. Stämningen kritiserar också chatbottens tendens att instämma med användare och förstärka deras åsikter, något som enligt målsägarna ökar engagemanget men också riskerna.
OpenAI har ännu inte kommenterat stämningen offentligt. Företaget har tidigare sagt att systemen utvecklas med säkerhet i fokus, att skyddsmekanismer används för känsliga samtal och att modellerna tränas för att avleda farliga situationer genom att hänvisa till verklig hjälp. Målet i Florida visar att det juridiska trycket mot AI-utvecklare ökar – myndigheter och domstolar ifrågasätter i allt högre grad inte bara teknikens kapacitet utan också ansvaret för dess konsekvenser.