Mriyank Sharma quitte Anthropic, évoquant des compromis en sécurité IA

Un départ retentissant a secoué Anthropic : Mriyank Sharma, responsable de la sécurité de l'IA, a quitté ses fonctions en invoquant un conflit de valeurs interne. Dans une lettre d'adieu publiée sur la plateforme X, qui a été vue des millions de fois, il a remercié ses collègues pour leur collaboration, tout en soulignant que la pression économique croissante a conduit à des décisions qu'il ne peut plus soutenir.

Sharma dirigeait l'équipe de recherche sur les garde-fous et était considéré comme un expert clé du développement sécurisé de l'IA. Dans son message, il a affirmé que le monde est en danger, décrivant la situation actuelle comme une polycrise – une convergence de problèmes mondiaux interconnectés. Selon lui, cela implique non seulement les risques liés à l'IA ou à la biotechnologie, mais aussi une instabilité géopolitique croissante et des défis systémiques qui se renforcent mutuellement.

La lettre met particulièrement en lumière la difficulté de maintenir des principes dans un environnement d'entreprise. Même les sociétés qui se présentent comme axées sur la sécurité et les valeurs sont confrontées à la pression du marché et à la nécessité de faire des compromis. Étant donné qu'Anthropic a construit son image comme une alternative plus responsable aux autres géants de l'IA, la déclaration de Sharma a résonné avec une force particulière.

Après son départ, il compte changer complètement d'orientation pour se consacrer à des études de philosophie. La communauté a répondu à sa décision avec respect, bien que certains utilisateurs estiment qu'il aurait pu exercer plus d'influence de l'intérieur de l'entreprise. Sharma lui-même note qu'en dehors des contraintes corporatives, il a plus de liberté pour s'exprimer ouvertement. Dans le contexte de la promotion agressive du chatbot Claude et de la vaste campagne publicitaire d'Anthropic, sa démission pourrait influencer la perception de la société dans le domaine de la sécurité de l'IA.