AI-veiligheidsleider stapt op bij Anthropic door interne waardenstrijd

Een opvallend vertrek heeft Anthropic opgeschud: de AI-veiligheidsleider van het bedrijf, Mriyank Sharma, heeft zijn functie neergelegd vanwege een intern conflict in waarden. In een afscheidsbrief op platform X, die miljoenen keren werd bekeken, bedankte hij collega's voor hun samenwerking maar benadrukte dat toenemende economische druk heeft geleid tot beslissingen die hij niet langer kan steunen.

Sharma leidde het Safeguards Research-team en werd beschouwd als een sleuteldeskundige in veilige AI-ontwikkeling. In zijn toespraak stelde hij dat de wereld in gevaar verkeert, waarbij hij de huidige situatie omschreef als een polycrisis—een samenvloeiing van onderling verbonden wereldwijde problemen. Volgens hem gaat het hierbij niet alleen om risico's van AI of biotechnologie, maar ook om toenemende geopolitieke instabiliteit en systemische uitdagingen die elkaar versterken.

De brief benadrukt vooral de moeilijkheid om principes vast te houden in een bedrijfsomgeving. Zelfs bedrijven die zichzelf positioneren als veiligheids- en waardenbewust, staan onder marktdruk en moeten compromissen sluiten. Gezien het feit dat Anthropic zijn imago heeft opgebouwd als een meer verantwoordelijk alternatief voor andere AI-giganten, heeft Sharma's verklaring bijzonder sterk weerklank gevonden.

Na zijn vertrek wil hij een volledig andere richting inslaan en filosofie gaan studeren. De gemeenschap heeft met respect gereageerd op zijn besluit, hoewel sommige gebruikers vinden dat hij meer invloed had kunnen uitoefenen vanuit de organisatie. Sharma zelf merkt op dat hij, vrij van bedrijfsbeperkingen, meer vrijheid heeft om openlijk te spreken. Tegen de achtergrond van de agressieve promotie van de Claude-chatbot en de uitgebreide reclamecampagne van Anthropic, kan zijn ontslag invloed hebben op hoe het bedrijf wordt gezien in het AI-veiligheidsveld.