アンソロピック社のAI安全責任者が退任、企業の価値観と圧力を批判

アンソロピック社で大きな動きがあった。同社のAI安全責任者であるムリヤンク・シャルマ氏が退任し、内部的な価値観の衝突を理由に挙げた。プラットフォームXに投稿された数百万回閲覧された別れの手紙で、彼は同僚との協力に感謝しつつも、高まる経済的圧力が、もはや支持できない決定につながっていると強調した。

シャルマ氏はセーフガード研究チームを率い、安全なAI開発における主要な専門家と見なされていた。彼は声明の中で、世界は危機に直面しており、現在の状況をポリクライシス（相互に関連する地球規模の問題が収束した状態）と表現した。彼によれば、これにはAIやバイオテクノロジーからのリスクだけでなく、高まる地政学的不安定性や互いに強化し合うシステム的課題も含まれるという。

この手紙は特に、企業環境で原則を維持することの難しさを浮き彫りにしている。安全や価値観を重視すると位置づける企業でさえ、市場の圧力や妥協の必要性に直面する。アンソロピック社が他のAI大手よりも責任ある選択肢としてイメージを築いてきたことを考えると、シャルマ氏の発言は特に強く響いている。

退任後、彼は方向性を完全に変え、哲学研究に取り組む意向だ。コミュニティは彼の決断に敬意を表しているが、一部のユーザーは、社内からより大きな影響力を行使できたはずだと指摘する。シャルマ氏自身は、企業の制約から離れることで、より自由に率直に発言できると述べている。クロードチャットボットの積極的な宣伝やアンソロピック社の大規模な広告キャンペーンを背景に、彼の辞任は、同社がAI安全分野でどう見られるかに影響を与える可能性がある。