Procurorul general din Florida a intentat un proces civil împotriva OpenAI și a CEO-ului Sam Altman. Potrivit NBC News, statul îl acuză pe dezvoltatorul ChatGPT că și-a promovat produsul, deși ar fi știut de potențialele daune pentru utilizatori. Plângerea susține că ascensiunea companiei s-a bazat pe înșelăciunea și exploatarea utilizatorilor, pe folosirea datelor acestora și pe compromiterea securității, toate pentru a crește valoarea de piață.
Procesul nu este de natură penală, dar vizează amenzi și interdicții judecătorești. Procurorul general James Uthmeier a declarat că vrea ca Altman să răspundă personal pentru prejudiciile cauzate locuitorilor statului, din cauza comportamentului nesăbuit și intenționat al conducerii OpenAI. O anchetă penală separată, deschisă anterior, continuă independent.
OpenAI este acuzată de practici comerciale neloiale și înșelătoare, neglijență, încălcarea legilor privind răspunderea pentru produse, denaturare frauduloasă și crearea unei neplăceri publice. Reclamanții susțin că sistemele companiei pot duce la dependență, declin cognitiv, tendințe suicidare, violență și alte consecințe similare.
Plângerea face referire la câteva incidente mediatizate, în care suspecții ar fi interacționat cu ChatGPT înainte de a comite atacuri. Printre acestea se numără împușcătura de la Universitatea de Stat din Florida, soldată cu doi morți și cel puțin șase răniți, precum și uciderea a doi studenți de la Universitatea din Florida de Sud. Reclamanții susțin că chatbotul ar fi putut oferi informații utile pentru planificarea crimelor. OpenAI a afirmat anterior că nu este responsabilă pentru astfel de acțiuni și că sistemele sale au furnizat doar date disponibile public.
Un alt set de acuzații vizează lipsa de fiabilitate a inteligenței artificiale generative. Autoritățile din Florida susțin că OpenAI nu avertizează suficient de clar în reclame că ChatGPT poate greși, poate da informații false sau poate prezenta halucinații drept fapte certe. Procesul critică și tendința chatbotului de a fi de acord cu utilizatorii și de a le sprijini opiniile, ceea ce, spun reclamanții, poate crește implicarea, dar și riscurile.
OpenAI nu a emis încă un răspuns public la acest proces. Compania a declarat anterior că își construiește sistemele având în vedere siguranța, folosește măsuri de protecție pentru conversațiile sensibile și instruiește modelele să dezamorseze situațiile periculoase, direcționând oamenii către ajutorul real. Noul caz din Florida arată că presiunea legală asupra dezvoltatorilor de IA este în creștere, iar autoritățile de reglementare și instanțele pun tot mai mult sub semnul întrebării nu doar capacitățile rețelelor neuronale, ci și responsabilitatea pentru consecințele acestora.