Anthropic'de yapay zeka güvenliği lideri Mriyank Sharma istifa etti

Anthropic'de yüksek profilli bir ayrılık yaşandı: şirketin yapay zeka güvenliği lideri Mriyank Sharma, içsel değer çatışması nedeniyle görevinden ayrıldığını açıkladı. Platform X'te paylaştığı ve milyonlarca görüntülenen veda mektubunda, meslektaşlarına işbirliği için teşekkür etti, ancak artan ekonomik baskıların artık destekleyemediği kararlara yol açtığını vurguladı.

Sharma, Güvenlik Araştırmaları ekibinin başındaydı ve güvenli yapay zeka geliştirmede kilit bir uzman olarak görülüyordu. Mektubunda, dünyanın tehlikede olduğunu belirterek mevcut durumu bir polikriz—yani birbirine bağlı küresel sorunların birleşimi—olarak tanımladı. Ona göre, bu sadece yapay zeka veya biyoteknoloji kaynaklı riskleri değil, aynı zamanda artan jeopolitik istikrarsızlığı ve birbirini güçlendiren sistemsel zorlukları da içeriyor.

Mektup, özellikle şirket ortamında ilkeleri korumanın zorluğuna dikkat çekiyor. Kendilerini güvenlik ve değer odaklı olarak konumlandıran şirketler bile piyasa baskısı ve uzlaşma ihtiyacıyla karşı karşıya kalıyor. Anthropic, diğer yapay zeka devlerine karşı daha sorumlu bir alternatif olarak imajını oluşturduğundan, Sharma'nın açıklaması özellikle güçlü bir yankı buldu.

Ayrılığının ardından, tamamen yön değiştirerek felsefe eğitimi almayı planlıyor. Topluluk, kararına saygıyla yaklaştı, ancak bazı kullanıcılar şirket içinde daha fazla etki yaratabileceğini düşünüyor. Sharma ise, şirket kısıtlamaları dışında daha açık konuşma özgürlüğüne sahip olduğunu belirtiyor. Claude sohbet robotunun agresif tanıtımı ve Anthropic'in kapsamlı reklam kampanyası arka planında, istifasının şirketin yapay zeka güvenliği alanındaki algısını etkileyebileceği düşünülüyor.