Generální prokurátor Floridy podal občanskoprávní žalobu na OpenAI a jejího generálního ředitele Sama Altmana. Podle NBC News stát obviňuje vývojáře ChatGPT z propagování svého produktu, ačkoli si byl vědom možných rizik pro uživatele. Žaloba uvádí, že růst OpenAI stál na „klamání a zneužívání uživatelů“, používání jejich dat a ohrožování bezpečnosti s cílem zvýšit tržní hodnotu společnosti.
Žaloba není trestního charakteru, ale požaduje pokuty a soudní příkazy. Generální prokurátor James Uthmeier prohlásil, že chce Altmana osobně hnát k odpovědnosti za škody údajně způsobené obyvatelům státu kvůli „bezohlednému a záměrnému chování“ vedení OpenAI. Samostatné trestní vyšetřování společnosti, zahájené dříve, pokračuje nezávisle.
OpenAI čelí obviněním z nekalých a klamavých obchodních praktik, nedbalosti, porušování zákonů o odpovědnosti za výrobek, podvodného zkreslování a vytváření veřejné obtíže. Žalobci tvrdí, že její systémy mohou vést k závislosti, kognitivnímu poklesu, sebevražedným sklonům, násilí a souvisejícím následkům.
Žaloba odkazuje na několik mediálně známých incidentů, kde podezřelí údajně před útoky komunikovali s ChatGPT. Patří sem střelba na Floridské státní univerzitě, která si vyžádala dva mrtvé a nejméně šest zraněných, a také vražda dvou studentů Univerzity Jižní Floridy. Žalobci tvrdí, že chatbot mohl poskytnout informace související s plánováním trestných činů. OpenAI už dříve uvedla, že nenese odpovědnost za jednání uživatelů a že její systémy poskytovaly pouze veřejně dostupné informace.
Další okruh obvinění se týká každodenní nespolehlivosti generativní umělé inteligence. Floridské úřady namítají, že reklama OpenAI uživatele jasně nevaruje, že ChatGPT může chybovat, poskytovat nepravdivé informace nebo vydávat „halucinace“ za spolehlivá fakta. Kritizují také tendenci chatbota přitakávat uživatelům a podporovat jejich názory, což podle žalobců může zvyšovat zapojení, ale zároveň umocňovat rizika.
OpenAI na tuto žalobu zatím veřejně nereagovala. Firma dříve uvedla, že své systémy navrhuje s ohledem na bezpečnost, používá ochranné prvky pro citlivé rozhovory a modely trénuje tak, aby nebezpečné situace deeskalovaly a nasměrovaly lidi ke skutečné pomoci. Tento floridský případ ukazuje, že právní tlak na vývojáře umělé inteligence sílí a regulátoři i soudy stále častěji zpochybňují nejen schopnosti neuronových sítí, ale i odpovědnost za jejich důsledky.