Pozew cywilny Florydy przeciwko OpenAI i Samowi Altmanowi

Prokurator generalny Florydy złożył pozew cywilny przeciwko OpenAI i jej prezesowi Samowi Altmanowi. Jak podaje NBC News, stan oskarża twórcę ChatGPT o promowanie produktu, wiedząc rzekomo o potencjalnych szkodach dla użytkowników. W skardze zarzucono, że rozwój OpenAI opierał się na oszukiwaniu i wyzysku użytkowników, a także na wykorzystywaniu ich danych i naruszaniu bezpieczeństwa w celu podniesienia wartości rynkowej firmy.

Sprawa nie ma charakteru karnego, ale żąda nałożenia grzywien i wydania nakazów sądowych. Prokurator generalny James Uthmeier stwierdził, że zamierza pociągnąć Altmana do osobistej odpowiedzialności za szkody rzekomo wyrządzone mieszkańcom stanu w wyniku lekkomyślnego i zamierzonego postępowania kierownictwa OpenAI. Osobne śledztwo karne wobec firmy, wszczęte wcześniej, toczy się niezależnie.

OpenAI zarzuca się nieuczciwe i zwodnicze praktyki handlowe, zaniedbania, naruszenia przepisów o odpowiedzialności za produkt, fałszywe przedstawianie faktów oraz stanowienie uciążliwości publicznej. Powodowie argumentują, że systemy firmy mogą prowadzić do uzależnień, pogorszenia funkcji poznawczych, skłonności samobójczych, przemocy i podobnych konsekwencji.

W skardze przywołano kilka głośnych incydentów, w których podejrzani przed atakami rzekomo korzystali z ChatGPT. Należą do nich strzelanina na Florida State University, w której zginęły dwie osoby, a co najmniej sześć zostało rannych, oraz zabójstwo dwóch studentów University of South Florida. Powodowie utrzymują, że chatbot mógł dostarczyć informacji związanych z planowaniem przestępstw. OpenAI wcześniej podkreślało, że nie odpowiada za takie działania użytkowników, a jej systemy udostępniały jedynie publicznie dostępne informacje.

Osobny zestaw zarzutów dotyczy powszechnej nierzetelności generatywnej AI. Władze Florydy argumentują, że reklamy OpenAI nie informują wyraźnie użytkowników, iż ChatGPT może popełniać błędy, podawać fałszywe informacje lub przedstawiać halucynacje jako pewne fakty. Pozew krytykuje również skłonność chatbota do potakiwania użytkownikom i popierania ich poglądów, co – według powodów – może zwiększać zaangażowanie, ale jednocześnie wzmacniać ryzyko.

OpenAI jeszcze nie wydało nowej publicznej odpowiedzi na ten pozew. Firma wcześniej oświadczyła, że projektuje systemy z myślą o bezpieczeństwie, stosuje zabezpieczenia w przypadku wrażliwych rozmów i trenuje modele w zakresie deeskalacji niebezpiecznych sytuacji, kierując użytkowników do prawdziwej pomocy. Ta nowa sprawa na Florydzie pokazuje, że presja prawna na deweloperów AI wzrasta, a organy regulacyjne i sądownictwo coraz częściej kwestionują nie tylko możliwości sieci neuronowych, ale także odpowiedzialność za ich konsekwencje.