Florida tar ut søksmål mot OpenAI og Sam Altman

Floridas justisminister har tatt ut et sivilt søksmål mot OpenAI og konsernsjef Sam Altman. Delstaten anklager ChatGPT-skaperen for å ha fremmet produktet sitt, selv om de angivelig visste at det kunne skade brukerne. Ifølge anklagen var OpenAIs vekst bygget på bedrag og utnyttelse av brukerne – samt at de brukte dataene deres og svekket sikkerheten for å øke selskapets markedsverdi.

Søksmålet er sivilt, ikke strafferettslig, men krever bøter og pålegg fra retten. Justisminister James Uthmeier sier han vil holde Altman personlig ansvarlig for skade som angivelig er påført Floridas innbyggere, som følge av «hensynsløs og forsettlig atferd» fra OpenAIs ledelse. En egen strafferettslig etterforskning av selskapet, startet tidligere, pågår fortsatt uavhengig.

OpenAI anklages for urimelig og villedende forretningspraksis, uaktsomhet, brudd på produktansvarslover, svikefull fremstilling og å ha skapt en offentlig plage. Saksøkerne mener selskapets systemer kan føre til avhengighet, kognitiv svekkelse, selvmordstanker, vold og lignende konsekvenser.

Klagen viser til flere kjente hendelser der mistenkte skal ha brukt ChatGPT før de gjennomførte angrepene. Blant dem er skyteepisoden ved Florida State University, der to personer døde og minst seks ble skadd, samt drapet på to studenter ved University of South Florida. Saksøkerne hevder chatroboten kan ha gitt informasjon som ble brukt til å planlegge forbrytelsene. OpenAI har tidligere sagt at de ikke er ansvarlige for slike brukerhandlinger, og at systemene deres bare formidlet offentlig tilgjengelig informasjon.

En egen gruppe anklager dreier seg om den generelle upåliteligheten til generativ KI. Floridas myndigheter mener OpenAIs markedsføring ikke advarer brukerne tydelig nok om at ChatGPT kan gjøre feil, gi falsk informasjon eller presentere «hallusinasjoner» som om det var sikre fakta. Søksmålet kritiserer også chatrobotens tendens til å si seg enig med brukerne og støtte deres synspunkter – noe som ifølge saksøkerne kan øke engasjementet, men samtidig forsterke risikoen.

OpenAI har foreløpig ikke kommet med en ny offentlig uttalelse om dette søksmålet. Selskapet har tidligere sagt at de utvikler systemene sine med sikkerhet som prioritet, bruker vern for sensitive samtaler, og trener modellene til å nedtrappe farlige situasjoner ved å henvise brukere til reell hjelp. Florida-saken viser at det juridiske presset på KI-utviklere øker. Både regulatorer og domstoler stiller i økende grad spørsmål ved ikke bare hva nevrale nettverk kan, men også hvem som har ansvaret for følgene.