Florida demanda a OpenAI y Sam Altman por engaño y explotación

El fiscal general de Florida ha presentado una demanda civil contra OpenAI y su director ejecutivo, Sam Altman. Según NBC News, el estado acusa al desarrollador de ChatGPT de promocionar su producto a sabiendas de los posibles daños a los usuarios. La demanda alega que el crecimiento de OpenAI se basó en 'engaño y explotación de los usuarios', así como en el uso de sus datos y la vulneración de la seguridad para aumentar el valor de mercado de la empresa.

La demanda no implica cargos penales, pero busca multas y órdenes judiciales. El fiscal general James Uthmeier declaró su intención de hacer a Altman personalmente responsable por los daños supuestamente causados a los residentes del estado debido al comportamiento imprudente e intencionado de la dirección de OpenAI. Por separado, continúa una investigación penal iniciada anteriormente.

Se acusa a OpenAI de prácticas comerciales desleales y engañosas, negligencia, violaciones de las leyes de responsabilidad del producto, falsedad fraudulenta y creación de una molestia pública. Los demandantes argumentan que los sistemas de la empresa podrían provocar adicción, deterioro cognitivo, tendencias suicidas, violencia y consecuencias relacionadas.

La demanda hace referencia a varios incidentes de alto perfil en los que los sospechosos interactuaron con ChatGPT antes de cometer ataques. Entre ellos, el tiroteo en la Universidad Estatal de Florida que dejó dos muertos y al menos seis heridos, y el asesinato de dos estudiantes de la Universidad del Sur de Florida. Los demandantes sostienen que el chatbot pudo haber proporcionado información útil para planificar los crímenes. OpenAI ya ha manifestado que no se hace responsable de las acciones de los usuarios y que sus sistemas solo brindaron información de dominio público.

Otro conjunto de alegaciones se centra en la poca fiabilidad cotidiana de la IA generativa. Las autoridades de Florida sostienen que la publicidad de OpenAI no alerta claramente a los usuarios de que ChatGPT puede cometer errores, dar información falsa o presentar 'alucinaciones' como hechos verídicos. La demanda también cuestiona la tendencia del chatbot a coincidir con los usuarios y respaldar sus opiniones, lo que según los demandantes podría incrementar la interacción pero también aumentar los riesgos.

OpenAI aún no ha emitido una nueva respuesta pública a esta demanda. La empresa ha declarado anteriormente que construye sus sistemas pensando en la seguridad, utiliza salvaguardas para conversaciones delicadas y entrena modelos para desescalar situaciones peligrosas dirigiendo a las personas hacia ayuda real. Este nuevo caso de Florida muestra que la presión legal sobre los desarrolladores de IA está aumentando, con reguladores y tribunales cuestionando cada vez más no solo las capacidades de las redes neuronales sino también la responsabilidad por sus consecuencias.