Floridan oikeusministeri on nostanut siviilikanteen OpenAI:ta ja sen toimitusjohtajaa Sam Altmania vastaan. NBC Newsin mukaan osavaltio väittää, että ChatGPT:n kehittäjä markkinoi tuotettaan, vaikka tiesi sen mahdollisista haitoista käyttäjille. Kanteen mukaan OpenAI:n kasvu perustui käyttäjien petkuttamiseen ja hyväksikäyttöön, heidän tietojensa hyödyntämiseen ja turvallisuuden vaarantamiseen yhtiön markkina-arvon kasvattamiseksi.
Kyseessä on siviilikanne, ei rikossyytteitä. Se vaatii sakkoja ja tuomioistuimen määräyksiä. Oikeusministeri James Uthmeierin mukaan Altman on henkilökohtaisesti vastuussa haitoista, joita osavaltion asukkaille on väitetysti aiheutunut OpenAI:n johdon holtittoman ja tahallisen toiminnan seurauksena. Erillinen rikostutkinta yhtiötä vastaan, joka aloitettiin aiemmin, jatkuu itsenäisesti.
OpenAI:ta syytetään epäreiluista ja harhaanjohtavista kaupallisista menettelytavoista, huolimattomuudesta, tuotevastuulakien rikkomisesta, petollisesta väärästä ilmoituksesta ja yleisen haitan aiheuttamisesta. Kantajien mukaan yhtiön järjestelmät voivat aiheuttaa riippuvuutta, kognitiivista heikkenemistä, itsetuhoisia taipumuksia, väkivaltaa ja muita vastaavia seurauksia.
Kanteessa viitataan useisiin tunnettuihin tapauksiin, joissa epäillyt olivat väitetysti vuorovaikutuksessa ChatGPT:n kanssa ennen hyökkäysten toteuttamista. Esimerkkeinä mainitaan Floridan osavaltion yliopiston ampumavälikohtaus, jossa kaksi kuoli ja vähintään kuusi loukkaantui, sekä kahden Etelä-Floridan yliopiston opiskelijan murha. Kantajat väittävät, että chatbotti on saattanut tarjota rikosten suunnitteluun liittyviä tietoja. OpenAI on aiemmin sanonut, ettei se ole vastuussa käyttäjien teoista ja että sen järjestelmät tarjosivat vain julkisesti saatavilla olevia tietoja.
Toinen väitekokonaisuus koskee generatiivisen tekoälyn epäluotettavuutta arkikäytössä. Floridan viranomaisten mukaan OpenAI:n mainonta ei riittävästi varoita käyttäjiä siitä, että ChatGPT voi tehdä virheitä, antaa vääriä tietoja tai esittää hallusinaatioita varmoina faktoina. Kanne arvostelee myös chatbotin taipumusta olla samaa mieltä käyttäjien kanssa ja tukea heidän näkemyksiään. Kantajat sanovat, että tämä voi lisätä sitoutumista mutta samalla kasvattaa riskejä.
OpenAI ei ole vielä antanut uutta julkista lausuntoa tästä kanteesta. Aiemmin yhtiö on korostanut rakentavansa järjestelmiä turvallisuus edellä, käyttävänsä suojatoimia arkaluonteisissa keskusteluissa ja kouluttavansa malleja purkamaan vaarallisia tilanteita ohjaamalla ihmisiä oikean avun piiriin. Tämä uusi Floridan tapaus osoittaa, että oikeudellinen paine tekoälykehittäjiä kohtaan kasvaa. Sääntelyviranomaiset ja tuomioistuimet kyseenalaistavat yhä enemmän paitsi neuroverkkojen kyvykkyyksiä myös vastuuta niiden seurauksista.