Hinton, Bengio a stovky lídrů chtějí pauzu vývoje superinteligentní AI

Více než 800 významných politických představitelů, vědců, byznysových lídrů a dalších osobností — mezi nimi „kmotr umělé inteligence“ Geoffrey Hinton, spoluzakladatel Baidu Zhang Yaqin, herečka Meghan Markle a spisovatel Stephen Fry — podepsalo otevřený dopis, který žádá okamžitý zákaz vývoje superinteligentní umělé inteligence.

Dopis zveřejněný neziskovou organizací Future of Life Institute (FLI) vyzývá k pozastavení tvorby systémů, jež by mohly překonat lidskou inteligenci, dokud vědecká obec neověří jejich bezpečnost a veřejnost nedá jasně najevo podporu jejich nasazení. Podle zjištění FLI podporuje současnou, převážně nekontrolovanou trajektorii AI jen 5 % Američanů, zatímco téměř 75 % se vyslovuje pro přísnou regulaci.

Prezident FLI Max Tegmark zdůraznil, že skutečné riziko nepramení ze soupeření firem či států, ale z toho, co lidstvo samo vytváří. Dodal, že cílem není výzkum zastavit, nýbrž předejít ztrátě kontroly nad systémy schopnými jednat autonomně a potenciálně nebezpečně. Důležitý je právě tento odstín: jde o pauzu s pojistkami, nikoli o ústup od inovací. Tón výzvy tak působí varovně, ne protitechnologicky.

Mezi signatáři jsou držitelé Turingovy ceny Yoshua Bengio a Yao Qizhi, bývalá poradkyně pro národní bezpečnost USA Susan Rice, bývalý předseda sboru náčelníků štábů Mike Mullen, stejně jako Steve Wozniak a Richard Branson. Výzva přichází v době, kdy technologičtí giganti — OpenAI, Google a další — zrychlují závod o takzvanou obecnou umělou inteligenci, který signatáři popisují jako možný zlom v dějinách lidstva. V tomto světle načasování sotva působí náhodně.