Over 800 politikere, forskere og ledere ber om forbud mot superintelligent KI

Mer enn 800 fremtredende politikere, forskere, næringslivsledere og offentlige personer — blant dem Geoffrey Hinton, ofte omtalt som AIens gudfar, Baidu-medgründer Zhang Yaqin, skuespilleren Meghan Markle og forfatteren Stephen Fry — har signert et åpent brev som ber om et umiddelbart forbud mot utvikling av superintelligent kunstig intelligens.

Brevet, publisert av den ideelle organisasjonen Future of Life Institute (FLI), oppfordrer til å stanse byggingen av systemer som kan overgå menneskelig intelligens inntil fagmiljøene kan verifisere sikkerheten og offentligheten tydelig støtter en eventuell utrulling. Ifølge FLI viser tilgjengelige funn at bare 5 prosent av amerikanere støtter dagens i stor grad uregulerte kurs, mens nær 75 prosent ønsker streng regulering.

FLI-president Max Tegmark understreker at den største risikoen ikke kommer fra rivaliserende selskaper eller stater, men fra det menneskeheten selv er i ferd med å skape. Han peker på at målet ikke er å stenge forskning, men å forhindre at vi mister kontrollen over systemer som kan handle autonomt og i verste fall farlig. Ordlyden legger vekt på en pause med tydelige sikkerhetsnettet, ikke et brått tilbakeslag for innovasjon — en nyanse som er vanskelig å overse.

Blant underskriverne er også Turingpris-vinnerne Yoshua Bengio og Yao Qizhi, tidligere amerikansk nasjonal sikkerhetsrådgiver Susan Rice, tidligere forsvarssjef Mike Mullen, samt Steve Wozniak og Richard Branson. Oppropet kommer mens kappløpet blant teknologigiganter som OpenAI og Google for å bygge såkalt generell kunstig intelligens tiltar i styrke — et fremstøt underskriverne beskriver som et mulig veiskille i menneskehetens historie. Timingen fremstår da heller ikke som tilfeldig.