Mriyank Sharma, șeful securității AI de la Anthropic, și-a dat demisia, invocând un conflict de valori intern și presiune economică. Citește despre impactul său asupra siguranței IA.
© Сгенерировано нейросетью
O plecare importantă a zguduit compania Anthropic: șeful securității AI, Mriyank Sharma, și-a dat demisia, invocând un conflict de valori intern. Într-o scrisoare de adio postată pe platforma X, care a strâns milioane de vizualizări, el și-a mulțumit colegilor pentru colaborare, dar a subliniat că presiunea economică crescândă a dus la decizii pe care nu le mai poate susține.
Sharma conducea echipa de cercetare pentru măsuri de protecție și era considerat un expert-cheie în dezvoltarea sigură a inteligenței artificiale. În mesajul său, el a afirmat că lumea se află în pericol, descriind situația actuală drept o policriză – o convergență de probleme globale interconectate. Potrivit lui, aceasta implică nu doar riscuri din partea IA sau biotehnologiei, ci și instabilitate geopolitică în creștere și provocări sistematice care se întăresc reciproc.
Scrisoarea evidențiază în mod special dificultatea de a menține principiile într-un mediu corporatist. Chiar și companiile care se prezintă ca fiind orientate spre siguranță și valori se confruntă cu presiunea pieței și cu nevoia de compromisuri. Având în vedere că Anthropic și-a construit imaginea ca o alternativă mai responsabilă față de alți giganți AI, declarația lui Sharma a avut un ecos deosebit de puternic.
După plecare, el intenționează să schimbe complet direcția și să urmeze studii de filozofie. Comunitatea a răspuns la decizia sa cu respect, deși unii utilizatori cred că ar fi putut exercita mai multă influență din interiorul companiei. Sharma însuși notează că, în afara constrângerilor corporatiste, are mai multă libertate să vorbească deschis. În contextul promovării agresive a chatbot-ului Claude și a campaniei extinse de publicitate a Anthropic, demisia sa ar putea afecta modul în care compania este percepută în domeniul securității AI.