AI-sikkerhetssjef sier opp i Anthropic på grunn av verdikonflikter

En høyt profilert avgang har rystet Anthropic: selskapets AI-sikkerhetssjef Mriyank Sharma har sagt opp, med henvisning til interne verdikonflikter. I et avskjedsbrev lagt ut på plattformen X, som fikk millioner av visninger, takket han kollegaene for samarbeidet, men understreket at økende økonomisk press har ført til beslutninger han ikke lenger kan støtte.

Sharma ledet Safeguards Research-teamet og ble ansett som en sentral ekspert på trygg AI-utvikling. I sin uttalelse sa han at verden er i fare, og beskrev den nåværende situasjonen som en polykrise – en sammenkomst av sammenknyttede globale problemer. Ifølge ham dreier dette seg ikke bare om risiko fra AI eller bioteknologi, men også om økende geopolitisk ustabilitet og systemiske utfordringer som forsterker hverandre.

Brevet fremhever spesielt vanskeligheten med å opprettholde prinsipper i et bedriftsmiljø. Selv selskaper som posisjonerer seg som sikkerhets- og verdiorienterte, står overfor markedspress og behovet for kompromisser. Siden Anthropic har bygget sitt image som et mer ansvarlig alternativ til andre AI-giganter, har Sharmas uttalelse fått spesielt sterk gjennomslagskraft.

Etter avgangen planlegger han å skifte retning helt og ta opp filosofistudier. Fellesskapet har møtt hans beslutning med respekt, selv om noen brukere mener han kunne ha utøvd større innflytelse fra innsiden av selskapet. Sharma selv påpeker at utenfor bedriftsbegrensningene har han større frihet til å snakke åpent. Mot bakteppet av aggressiv promotering av Claude-chatboten og Anthropics omfattende reklamekampanje, kan hans oppsigelse påvirke hvordan selskapet oppfattes innen AI-sikkerhetsfeltet.