AI-säkerhetschef lämnar Anthropic på grund av värdekonflikt

En högt uppsatt avgång har skakat Anthropic: företagets AI-säkerhetschef Mriyank Sharma har lämnat sin post, med hänvisning till en intern värdekonflikt. I ett avskedsbrev publicerat på plattformen X, som fick miljontals visningar, tackade han kollegor för samarbetet men betonade att ökande ekonomiska påtryckningar lett till beslut han inte längre kan stödja.

Sharma ledde Safeguards Research-teamet och ansågs vara en nyckelperson inom säker AI-utveckling. I sitt inlägg konstaterade han att världen befinner sig i fara och beskrev den aktuella situationen som en polykris – en sammanflätning av sammankopplade globala problem. Enligt honom handlar detta inte bara om risker från AI eller bioteknik, utan också om växande geopolitisk instabilitet och systemutmaningar som förstärker varandra.

Brevet lyfter särskilt fram svårigheten att bevara principer i en företagsmiljö. Även företag som positionerar sig som säkerhets- och värderingsorienterade står inför marknadspress och behovet av kompromisser. Med tanke på att Anthropic byggt sitt varumärke som ett mer ansvarsfullt alternativ till andra AI-jättar har Sharmas uttalande fått särskilt starkt genomslag.

Efter sin avgång planerar han att helt byta riktning och ägna sig åt filosofistudier. Gemenskapen har bemött hans beslut med respekt, även om vissa användare anser att han kunnat utöva större inflytande inifrån företaget. Sharma själv noterar att han utanför företagets begränsningar har större frihet att tala öppet. Mot bakgrund av den aggressiva marknadsföringen av chattroboten Claude och Anthropics omfattande reklamkampanj kan hans avgång påverka hur företaget uppfattas inom AI-säkerhetsfältet.