Генеральный прокурор Флориды подал гражданский иск против OpenAI и главы компании Сэма Альтмана. Как сообщает NBC News, власти штата обвиняют разработчика ChatGPT в том, что компания продвигала продукт, якобы зная о потенциальном вреде для пользователей. В жалобе говорится, что рост OpenAI был связан с «обманом и эксплуатацией пользователей», а также с использованием их данных и безопасности ради увеличения рыночной стоимости компании.
Иск не предполагает уголовных обвинений, но требует штрафов и судебных предписаний. Генпрокурор Джеймс Атмайер заявил, что хочет привлечь Альтмана к персональной ответственности за вред, который, по версии властей, был причинён жителям штата из-за «безрассудного и умышленного поведения» руководства OpenAI. При этом уголовное расследование в отношении компании, начатое ранее, продолжается отдельно.
В документе OpenAI обвиняют в недобросовестной и вводящей в заблуждение коммерческой практике, халатности, нарушении законодательства об ответственности за продукцию, мошенническом искажении информации и создании общественной угрозы. Истцы утверждают, что системы компании могут представлять опасность зависимости, когнитивного ухудшения, суицида, насилия и связанных с этим последствий.
В жалобе упоминаются несколько резонансных инцидентов, в которых подозреваемые якобы контактировали с ChatGPT до совершения нападений. Среди них — стрельба в Университете штата Флорида, где погибли два человека и пострадали как минимум шестеро, а также убийство двух студентов Университета Южной Флориды. По версии истцов, чат-бот мог предоставлять информацию, связанную с планированием преступлений. OpenAI ранее заявляла, что не несёт ответственности за подобные действия пользователей и что её системы лишь выдавали сведения, доступные в публичных источниках.
Отдельная часть претензий касается повседневной ненадёжности генеративного ИИ. Власти Флориды утверждают, что реклама OpenAI недостаточно ясно предупреждает пользователей о том, что ChatGPT может ошибаться, выдавать ложные сведения или формулировать «галлюцинации» как уверенные факты. В иске также критикуется склонность чат-бота соглашаться с пользователем и поддерживать его позицию, что, по мнению истцов, может повышать вовлечённость и одновременно усиливать риски.
OpenAI пока не дала новый публичный ответ на этот иск. Ранее компания заявляла, что строит свои системы с учётом безопасности, использует защитные механизмы для чувствительных разговоров и обучает модели снижать напряжение в опасных ситуациях, направляя людей к реальной помощи. Однако новый иск во Флориде показывает, что юридическое давление на разработчиков ИИ усиливается: теперь регуляторы и суды всё чаще ставят вопрос не только о возможностях нейросетей, но и об ответственности за их последствия.