Över 800 profiler kräver omedelbart stopp för superintelligent AI

Över 800 framträdande politiker, forskare, företagsledare och offentliga personer — däribland Geoffrey Hinton, ofta kallad AI:s gudfader, Baidus medgrundare Zhang Yaqin, skådespelaren Meghan Markle och författaren Stephen Fry — har undertecknat ett öppet brev som uppmanar till ett omedelbart förbud mot utvecklingen av superintelligent artificiell intelligens.

Brevet, som har publicerats av den ideella organisationen Future of Life Institute (FLI), kräver ett uppehåll i arbetet med system som kan överträffa mänsklig intelligens tills forskarsamhället kan verifiera deras säkerhet och allmänheten tydligt ger sitt stöd för att de tas i bruk. Enligt FLI:s undersökningar stöder bara 5 procent av amerikanerna den nuvarande, i stort sett oreglerade utvecklingslinjen för AI, medan närmare 75 procent förespråkar strikt reglering.

FLI:s ordförande Max Tegmark betonade att den verkliga risken inte handlar om rivaliserande företag eller stater, utan om det som mänskligheten själv håller på att skapa. Han framhöll att målet inte är att stoppa forskning, utan att undvika att kontrollen tappas över system som kan agera självständigt och i värsta fall farligt. Poängen är viktig: det handlar om en paus med skyddsräcken, inte ett avsteg från innovation.

Bland undertecknarna finns Turingpristagarna Yoshua Bengio och Yao Qizhi, USA:s tidigare nationella säkerhetsrådgivare Susan Rice, den före detta ordföranden för Joint Chiefs of Staff Mike Mullen samt Steve Wozniak och Richard Branson. Uppropet kommer samtidigt som teknikjättar – OpenAI, Google och andra – trappar upp jakten på så kallad artificiell generell intelligens, en satsning som undertecknarna beskriver som en möjlig vändpunkt i mänsklighetens historia. I det ljuset framstår tajmningen knappast som slumpmässig.