Ponad 800 liderów wzywa do wstrzymania prac nad superinteligentną AI

Ponad 800 znanych polityków, naukowców, liderów biznesu i osób publicznych — wśród nich często nazywany ojcem chrzestnym sztucznej inteligencji Geoffrey Hinton, współzałożyciel Baidu Zhang Yaqin, aktorka Meghan Markle i pisarz Stephen Fry — podpisało otwarte pismo wzywające do natychmiastowego zakazu prac nad superinteligentną AI.

List, opublikowany przez organizację non-profit Future of Life Institute (FLI), apeluje o wstrzymanie budowy systemów, które mogłyby przewyższyć człowieka inteligencją, do czasu aż społeczność naukowa potwierdzi ich bezpieczeństwo, a opinia publiczna jednoznacznie poprze ich wdrożenie. Badania FLI wskazują, że zaledwie 5% Amerykanów popiera obecną, w dużej mierze niekontrolowaną ścieżkę rozwoju AI, podczas gdy niemal 75% opowiada się za surowymi regulacjami. W tle pobrzmiewa prosta myśl: najpierw sprawdźmy zabezpieczenia i zdobądźmy mandat społeczny, dopiero potem dodawajmy mocy.

Prezes FLI Max Tegmark podkreślił, że realne ryzyko nie płynie od konkurujących firm czy państw, lecz z tego, co ludzkość tworzy sama. Zaznaczył, że celem nie jest zatrzymanie badań, lecz zapobieżenie utracie kontroli nad systemami zdolnymi do autonomicznego, a potencjalnie także niebezpiecznego działania. Ta subtelność ma znaczenie: apel dotyczy wstrzymania prac z zabezpieczeniami, a nie odwrotu od innowacji — i właśnie to rozróżnienie wyznacza ton całej inicjatywy.

Wśród sygnatariuszy są laureaci Nagrody Turinga Yoshua Bengio i Yao Qizhi, była doradczyni ds. bezpieczeństwa narodowego USA Susan Rice, były przewodniczący Kolegium Połączonych Szefów Sztabów Mike Mullen, a także Steve Wozniak i Richard Branson. Wezwanie wybrzmiewa w momencie przyspieszającego wyścigu gigantów technologicznych — OpenAI, Google i innych — o stworzenie tzw. sztucznej inteligencji ogólnej, wysiłku, który sygnatariusze postrzegają jako możliwy punkt zwrotny w dziejach ludzkości. Z tej perspektywy trudno uznać moment publikacji za przypadkowy.