Dezbaterea dintre Pentagon și Anthropic despre condițiile de utilizare a IA Claude în aplicații militare, cu implicații pentru contracte de apărare și etica tehnologică.
© RusPhotoBank
Pentagonul american și dezvoltatorul de inteligență artificială Anthropic se află la un pas de un conflict privind condițiile de utilizare a modelului Claude. Dezbaterea nu se referă la tehnologia în sine, ci la regulile pe care compania le impune pentru aplicațiile militare.
Pentagonul cere ca orice sisteme de inteligență artificială cu care colaborează să poată fi folosite pentru toate sarcinile militare legale. Aceasta include scenarii de securitate națională care ar putea depăși restricțiile corporatiste standard. Dacă Anthropic nu este de acord, cooperarea pe proiecte-cheie de apărare ar putea fi suspendată.
Pe de altă parte, Anthropic menține standarde etrice stricte. Compania interzice utilizarea lui Claude în sistemele de armament autonom și în supravegherea în masă a cetățenilor fără implicarea umană. Startup-ul subliniază că respectarea acestor reguli este esențială în dezvoltarea IA, mai ales în situații care afectează viețile umane.
În joc se află un contract cu Departamentul american al Apărării, valând până la 200 de milioane de dolari, semnat vara trecută. Acesta prevedea integrarea lui Claude în mai multe sisteme de apărare, dar acum se confruntă cu posibilitatea unui eșec din cauza dezacordurilor fundamentale dintre părți. Pentagonul sugerează că, dacă condițiile nu sunt revizuite, cooperarea ar putea fi întreruptă complet.
Cazul Anthropic evidențiază decalajul tot mai mare dintre ambițiile etrice ale companiilor tehnologice și cerințele practice ale sectorului de apărare, ridicând întrebarea cine ar trebui să stabilească limitele pentru aplicațiile puternice de IA—dezvoltatorii, guvernul sau legislatorii.