Mriyank Sharma, vedoucí bezpečnosti AI v Anthropic, rezignoval kvůli vnitřním konfliktům hodnot. Zjistěte, jak to ovlivňuje vnímání bezpečnosti umělé inteligence.
© Сгенерировано нейросетью
Anthropic zasáhla významná personální změna: vedoucí oddělení bezpečnosti umělé inteligence Mriyank Sharma rezignoval kvůli vnitřnímu konfliktu hodnot. V rozlučkovém dopise zveřejněném na platformě X, který získal miliony zhlédnutí, poděkoval kolegům za spolupráci, ale zároveň zdůraznil, že narůstající ekonomický tlak vedl k rozhodnutím, která už nemůže podporovat.
Sharma vedl tým pro výzkum bezpečnostních opatření a byl považován za klíčového odborníka na bezpečný vývoj AI. Ve svém prohlášení uvedl, že svět se ocitá v ohrožení, přičemž současnou situaci popsal jako polykrizi – tedy propojení vzájemně souvisejících globálních problémů. Podle jeho slov jde nejen o rizika z umělé inteligence nebo biotechnologií, ale také o rostoucí geopolitickou nestabilitu a systémové výzvy, které se vzájemně posilují.
V dopise zvláště upozornil na obtížnost udržování zásad v korporátním prostředí. I firmy, které se prezentují jako bezpečnostně a hodnotově orientované, čelí tržnímu tlaku a nutnosti kompromisů. Vzhledem k tomu, že si Anthropic vybudovala image zodpovědnější alternativy k ostatním gigantům v oblasti AI, vyznívá Sharmaovo prohlášení obzvlášť silně.
Po odchodu z firmy plánuje zcela změnit směr a věnovat se studiu filozofie. Komunita na jeho rozhodnutí reaguje s respektem, ačkoli někteří uživatelé se domnívají, že mohl mít větší vliv zevnitř společnosti. Sám Sharma poznamenává, že mimo korporátní omezení má větší svobodu otevřeně mluvit. Na pozadí agresivní propagace chatbotu Claude a rozsáhlé reklamní kampaně Anthropic může jeho rezignace ovlivnit vnímání firmy v oblasti bezpečnosti AI.