Yli 800 nimeä, mm. Geoffrey Hinton, allekirjoitti FLI:n kirjeen: pysäytetään superälykkään tekoälyn kehitys, kunnes turvallisuus ja sääntely ovat kunnossa.
© RusPhotoBank
Yli 800 näkyvää poliitikkoa, tutkijaa, yritysjohtajaa ja julkisuuden henkilöä — heidän joukossaan tekoälyn kummisedäksi kutsuttu Geoffrey Hinton, Baidun toinen perustaja Zhang Yaqin, näyttelijä Meghan Markle ja kirjailija Stephen Fry — on allekirjoittanut avoimen kirjeen, jossa vaaditaan välitöntä kieltoa superälykkään tekoälyn kehittämiselle.
Future of Life Institute -järjestön (FLI) julkaisema kirje kehottaa pysäyttämään sellaisten järjestelmien rakentamisen, jotka voivat ylittää ihmisen älykkyyden, kunnes tiedeyhteisö on voinut varmistaa niiden turvallisuuden ja yleisö on selvästi ilmaissut tukensa niiden käyttöönotolle. FLI:n selvityksen mukaan vain 5 prosenttia yhdysvaltalaisista kannattaa nykyistä, pitkälti valvomatonta suuntaa, kun taas lähes 75 prosenttia toivoo tiukkaa sääntelyä.
FLI:n puheenjohtaja Max Tegmark painotti, että todellinen riski ei hänen mukaansa kumpua yritysten tai valtioiden välisestä kilpailusta, vaan siitä, mitä ihminen on itse rakentamassa. Hän korosti, ettei tavoitteena ole tukahduttaa tutkimusta, vaan estää tilanne, jossa hallinta lipsuu järjestelmistä, jotka pystyvät toimimaan itsenäisesti ja mahdollisesti vaarallisesti. Viesti asettuu tarkasti: kyse on tauosta turvakaiteiden pystyttämiseksi, ei innovaation peruutusvaihteesta.
Allekirjoittajissa on muun muassa Turing-palkinnon saajat Yoshua Bengio ja Yao Qizhi, Yhdysvaltain entinen kansallisen turvallisuuden neuvonantaja Susan Rice, Joint Chiefs of Staffin entinen puheenjohtaja Mike Mullen sekä Steve Wozniak ja Richard Branson. Vetoomus osuu hetkeen, jolloin OpenAI, Google ja muut teknologiayritykset kiihdyttävät pyrkimyksiään kohti niin sanottua yleistä tekoälyä — kehitysvaihetta, jonka allekirjoittajat näkevät mahdollisena ihmiskunnan käännekohtana. Ajoitus tuskin on sattumaa.