Több mint 800 vezető nyílt levélben sürgeti a szuperintelligens mesterséges intelligencia fejlesztésének leállítását, biztonsági garanciákat és szabályozást.
© RusPhotoBank
Több mint 800 ismert politikus, tudós, üzleti vezető és közszereplő — köztük az AI „keresztapjaként” emlegetett Geoffrey Hinton, a Baidu társalapítója, Zhang Yaqin, a színész Meghan Markle és az író Stephen Fry — nyílt levélben azonnali tilalmat sürget a szuperintelligens mesterséges intelligencia fejlesztésére.
A levelet a Future of Life Institute (FLI) tette közzé. A felhívás azt kéri, hogy álljon le minden olyan rendszer építése, amely meghaladhatja az emberi intelligenciát, amíg a tudományos közösség nem tudja igazolni a biztonságukat, és amíg a nyilvánosság egyértelmű támogatást nem jelez a bevezetésükre. Az FLI kutatása szerint az amerikaiak mindössze 5%-a támogatja a mesterséges intelligencia jelenlegi, jórészt ellenőrizetlen irányát, miközben közel 75% szigorú szabályozást pártol. Ezek az arányok inkább óvatosságot, mint gyorsítást jeleznek.
Max Tegmark, az FLI elnöke hangsúlyozta, hogy a valódi kockázat nem a versengő vállalatokból vagy országokból fakad, hanem abból, amit az emberiség maga hoz létre. Úgy fogalmazott, a cél nem a kutatás leállítása, hanem annak megelőzése, hogy az önállóan cselekvő, potenciálisan veszélyes rendszerek felett elveszítsük az irányítást. A hangsúly a finomhangoláson van: szünetet és biztosítékokat kérnek, nem visszavonulást az innovációtól. Ez a megközelítés inkább védőkorlátok felállítását sürgeti, nem a pálya lezárását.
Az aláírók között van a Turing-díjas Yoshua Bengio és Yao Qizhi, az Egyesült Államok korábbi nemzetbiztonsági tanácsadója, Susan Rice, a vezérkari főnökök egyesített bizottságának volt elnöke, Mike Mullen, továbbá Steve Wozniak és Richard Branson. A felhívás egy olyan időszakban érkezik, amikor a technológiai óriások — az OpenAI, a Google és mások — felgyorsított ütemben dolgoznak az úgynevezett általános mesterséges intelligencián. Az aláírók ezt az emberiség történetének lehetséges fordulópontjaként írják le, és ebben a fénytörésben az időzítés aligha tűnik véletlennek.