El Pentágono y Anthropic enfrentan un conflicto por normas éticas en aplicaciones militares de IA, poniendo en riesgo un contrato de 200 millones de dólares.
© RusPhotoBank
El Pentágono de EE.UU. y la desarrolladora de IA Anthropic están al borde de un conflicto por las condiciones de uso del modelo Claude. La disputa no gira en torno a la tecnología en sí, sino a las normas que la empresa impone para sus aplicaciones militares.
El Pentágono exige que cualquier sistema de inteligencia artificial con el que trabaje pueda utilizarse para todas las tareas militares legales. Esto incluye escenarios de seguridad nacional que podrían quedar fuera de las restricciones corporativas habituales. Si Anthropic no acepta, la cooperación en proyectos clave de defensa podría suspenderse.
Mientras tanto, Anthropic mantiene estrictos estándares éticos. La compañía prohíbe el uso de Claude en sistemas de armas autónomos y en la vigilancia masiva de ciudadanos sin intervención humana. La startup subraya que respetar estas normas es de vital importancia en el desarrollo de la IA, especialmente en situaciones que afectan a vidas humanas.
En juego hay un contrato con el Departamento de Defensa de EE.UU. valorado en hasta 200 millones de dólares, firmado el verano pasado. Este acuerdo contemplaba la integración de Claude en varios sistemas de defensa, pero ahora enfrenta un posible colapso debido a desacuerdos fundamentales entre las partes. El Pentágono sugiere que, si no se revisan los términos, la cooperación podría cancelarse por completo.
El caso de Anthropic pone de relieve la creciente brecha entre las ambiciones éticas de las empresas tecnológicas y los requisitos prácticos del sector defensa. Esto plantea una pregunta crucial: ¿quién debe determinar los límites para las aplicaciones de IA de gran potencia: los desarrolladores, el gobierno o los legisladores?