Waarom 800 prominenten een verbod op superintelligente AI vragen

Meer dan 800 prominente politici, wetenschappers, bedrijfsleiders en publieke figuren — onder wie Geoffrey Hinton, vaak de peetvader van AI genoemd, Baidu‑medeoprichter Zhang Yaqin, actrice Meghan Markle en schrijver Stephen Fry — hebben een open brief ondertekend met de oproep om een onmiddellijk verbod op de ontwikkeling van superintelligente kunstmatige intelligentie.

De brief, gepubliceerd door de non-profitorganisatie Future of Life Institute (FLI), vraagt om een pauze bij het bouwen van systemen die de menselijke intelligentie kunnen overtreffen, totdat de wetenschappelijke gemeenschap hun veiligheid kan verifiëren en het publiek ondubbelzinnig steun uitspreekt voor hun inzet. Onderzoek van FLI wijst erop dat slechts 5% van de Amerikanen het huidige, grotendeels ongeremde pad van AI steunt, terwijl bijna 75% voorstander is van strikte regulering. Die kloof in draagvlak is moeilijk te negeren.

Volgens FLI‑voorzitter Max Tegmark ligt het echte risico niet bij concurrerende bedrijven of landen, maar bij wat de mensheid zelf maakt. Hij benadrukte dat het niet gaat om het stilleggen van onderzoek, maar om het voorkomen van verlies van controle over systemen die autonoom en mogelijk gevaarlijk kunnen handelen. Die nuance is cruciaal: gevraagd wordt om een pauze met waarborgen, niet om een vlucht uit innovatie.

Tot de ondertekenaars behoren Turingprijswinnaars Yoshua Bengio en Yao Qizhi, voormalig nationaal veiligheidsadviseur van de VS Susan Rice, voormalig voorzitter van de Joint Chiefs of Staff Mike Mullen, evenals Steve Wozniak en Richard Branson. De oproep valt in een almaar versnelling rakende wedloop van technologiereuzen — OpenAI, Google en anderen — om zogeheten algemene kunstmatige intelligentie te bouwen, een streven dat de ondertekenaars neerzetten als een mogelijk scharniermoment in de menselijke geschiedenis. In dat licht oogt de timing allesbehalve toevallig.