Generalstaatsanwalt von Florida reicht Zivilklage gegen OpenAI und Sam Altman ein

Der Generalstaatsanwalt von Florida hat eine Zivilklage gegen OpenAI und dessen CEO Sam Altman eingereicht. Laut NBC News wirft der Bundesstaat dem ChatGPT-Entwickler vor, sein Produkt beworben zu haben, obwohl ihm mögliche Schäden für Nutzer bekannt gewesen seien. Die Klage behauptet, dass das Wachstum von OpenAI auf „Täuschung und Ausbeutung der Nutzer“ sowie auf der Nutzung ihrer Daten und der Gefährdung der Sicherheit beruhe, um den Marktwert des Unternehmens zu steigern.

Die Klage beinhaltet keine strafrechtlichen Vorwürfe, zielt aber auf Geldstrafen und gerichtliche Anordnungen ab. Generalstaatsanwalt James Uthmeier erklärte, er wolle Altman persönlich für Schäden zur Rechenschaft ziehen, die Einwohnern des Staates durch „rücksichtsloses und vorsätzliches Verhalten“ der OpenAI-Führung entstanden sein sollen. Eine separate strafrechtliche Untersuchung des Unternehmens, die bereits früher eingeleitet wurde, läuft unabhängig weiter.

OpenAI wird vorgeworfen, unlautere und irreführende Handelspraktiken anzuwenden, fahrlässig zu handeln, Produkthaftungsgesetze zu verletzen, betrügerische Falschdarstellungen zu machen und eine öffentliche Belästigung darzustellen. Die Kläger argumentieren, dass die Systeme des Unternehmens zu Sucht, kognitivem Abbau, Selbstmordtendenzen, Gewalt und damit verbundenen Folgen führen könnten.

Die Klageschrift verweist auf mehrere aufsehenerregende Vorfälle, bei denen Verdächtige angeblich vor der Durchführung von Angriffen mit ChatGPT interagiert haben. Dazu gehören die Schießerei an der Florida State University mit zwei Toten und mindestens sechs Verletzten sowie der Mord an zwei Studenten der University of South Florida. Die Kläger behaupten, der Chatbot könne Informationen zur Planung der Verbrechen geliefert haben. OpenAI hat zuvor erklärt, dass es nicht für solche Handlungen der Nutzer verantwortlich sei und dass seine Systeme nur öffentlich zugängliche Informationen bereitgestellt hätten.

Ein separater Vorwurfskomplex betrifft die alltägliche Unzuverlässigkeit generativer KI. Die Behörden Floridas argumentieren, dass die Werbung von OpenAI die Nutzer nicht eindeutig darauf hinweist, dass ChatGPT Fehler machen, falsche Informationen liefern oder „Halluzinationen“ als sichere Fakten präsentieren kann. Die Klage kritisiert zudem die Neigung des Chatbots, den Nutzern zuzustimmen und ihre Ansichten zu unterstützen, was laut Klägern die Bindung erhöhen, aber auch Risiken verstärken könnte.

OpenAI hat bislang keine neue öffentliche Stellungnahme zu dieser Klage abgegeben. Das Unternehmen hat zuvor erklärt, dass es seine Systeme sicherheitsorientiert gestalte, Schutzmaßnahmen für sensible Gespräche einsetze und Modelle darauf trainiere, gefährliche Situationen zu entschärfen, indem es Menschen an echte Hilfsangebote verweise. Dieser neue Fall aus Florida zeigt, dass der rechtliche Druck auf KI-Entwickler zunimmt – immer mehr Aufsichtsbehörden und Gerichte hinterfragen nicht nur die Fähigkeiten neuronaler Netze, sondern auch die Verantwortung für ihre Folgen.