Responsabile sicurezza AI lascia Anthropic per conflitto di valori

Un'uscita di alto profilo ha scosso Anthropic: il responsabile della sicurezza AI Mriyank Sharma ha lasciato l'azienda, citando un conflitto di valori interno. In una lettera di addio pubblicata su X, che ha ottenuto milioni di visualizzazioni, ha ringraziato i colleghi per la collaborazione ma ha sottolineato che la crescente pressione economica ha portato a decisioni che non può più sostenere.

Sharma guidava il team Safeguards Research ed era considerato un esperto chiave nello sviluppo di AI sicure. Nel suo intervento ha affermato che il mondo è in pericolo, descrivendo la situazione attuale come una policrisi, ovvero una convergenza di problemi globali interconnessi. Secondo lui, ciò coinvolge non solo i rischi dell'AI o della biotecnologia, ma anche la crescente instabilità geopolitica e le sfide sistemiche che si rafforzano a vicenda.

La lettera evidenzia in particolare la difficoltà di mantenere i principi in un ambiente aziendale. Anche le società che si presentano come orientate alla sicurezza e ai valori affrontano pressioni di mercato e la necessità di compromessi. Considerando che Anthropic ha costruito la sua immagine come alternativa più responsabile rispetto ad altri giganti dell'AI, la dichiarazione di Sharma ha avuto una risonanza particolarmente forte.

Dopo il suo addio, intende cambiare completamente direzione e dedicarsi agli studi di filosofia. La comunità ha risposto alla sua decisione con rispetto, anche se alcuni utenti ritengono che avrebbe potuto esercitare maggiore influenza dall'interno dell'azienda. Sharma stesso osserva che, al di fuori dei vincoli aziendali, ha più libertà di parlare apertamente. Sullo sfondo della promozione aggressiva del chatbot Claude e dell'ampia campagna pubblicitaria di Anthropic, le sue dimissioni potrebbero influenzare la percezione dell'azienda nel campo della sicurezza AI.