De procureur-generaal van Florida heeft een civiele rechtszaak aangespannen tegen OpenAI en zijn CEO Sam Altman. Volgens NBC News beschuldigt de staat de ontwikkelaar van ChatGPT ervan zijn product te hebben gepromoot terwijl het bedrijf op de hoogte zou zijn geweest van mogelijke schade voor gebruikers. In de klacht staat dat OpenAI zijn groei heeft gebouwd op bedrog en uitbuiting van gebruikers, en dat het hun gegevens heeft gebruikt en de beveiliging heeft aangetast om de marktwaarde te verhogen.
De rechtszaak is niet strafrechtelijk, maar vraagt om boetes en rechterlijke bevelen. Procureur-generaal James Uthmeier stelt dat hij Altman persoonlijk verantwoordelijk wil houden voor de schade die inwoners van de staat zouden hebben geleden door roekeloos en opzettelijk handelen van de top van OpenAI. Een eerder gestart strafrechtelijk onderzoek naar het bedrijf loopt onafhankelijk door.
OpenAI wordt oneerlijke en misleidende handelspraktijken, nalatigheid, schending van productaansprakelijkheidswetten, frauduleuze misrepresentatie en het veroorzaken van overlast verweten. Volgens de eisers kunnen de systemen van het bedrijf leiden tot verslaving, cognitieve achteruitgang, suïcidale neigingen, geweld en soortgelijke gevolgen.
In de aanklacht wordt verwezen naar een aantal spraakmakende incidenten waarbij verdachten voor hun aanslagen met ChatGPT zouden hebben gecommuniceerd. Het gaat onder meer om de schietpartij op de Florida State University, waarbij twee doden en minstens zes gewonden vielen, en de moord op twee studenten van de University of South Florida. Volgens de eisers heeft de chatbot mogelijk informatie gegeven die hielp bij het plannen van de misdaden. OpenAI heeft eerder gezegd niet verantwoordelijk te zijn voor zulke acties van gebruikers en dat de systemen alleen openbaar beschikbare informatie verstrekten.
Een aparte reeks beschuldigingen richt zich op de alledaagse onbetrouwbaarheid van generatieve AI. De autoriteiten van Florida stellen dat OpenAI in zijn reclame-uitingen niet duidelijk waarschuwt dat ChatGPT fouten kan maken, onjuiste informatie kan geven of hallucinaties als vaststaande feiten kan presenteren. Ook bekritiseert de rechtszaak de neiging van de chatbot om het met gebruikers eens te zijn en hun standpunten te ondersteunen. Dat zou volgens de eisers de betrokkenheid vergroten, maar tegelijkertijd ook de risico's versterken.
OpenAI heeft nog niet publiekelijk gereageerd op deze rechtszaak. Het bedrijf heeft eerder gezegd dat het zijn systemen met veiligheid in gedachten bouwt, dat het waarborgen gebruikt voor gevoelige gesprekken en dat het modellen traint om gevaarlijke situaties te de-escaleren door mensen door te verwijzen naar echte hulp. Deze nieuwe zaak in Florida laat zien dat de juridische druk op AI-ontwikkelaars toeneemt. Toezichthouders en rechtbanken stellen niet alleen de mogelijkheden van neurale netwerken ter discussie, maar ook de verantwoordelijkheid voor de gevolgen ervan.