Lettre ouverte du FLI: un moratoire pour stopper l’IA superintelligente

Plus de 800 personnalités politiques, scientifiques, chefs d’entreprise et figures publiques — parmi eux Geoffrey Hinton, souvent présenté comme le parrain de l’IA, le cofondateur de Baidu Zhang Yaqin, l’actrice Meghan Markle et l’écrivain Stephen Fry — ont signé une lettre ouverte réclamant l’interdiction immédiate du développement d’une intelligence artificielle superintelligente.

Publiée par l’organisation à but non lucratif Future of Life Institute (FLI), la lettre demande de suspendre la construction de systèmes susceptibles de dépasser l’intelligence humaine, le temps que la communauté scientifique puisse en vérifier la sûreté et que le public exprime un soutien clair à leur déploiement. Selon les travaux de FLI, seuls 5 % des Américains approuvent la trajectoire actuelle de l’IA, largement laissée sans garde-fous, tandis que près de 75 % se prononcent pour une réglementation stricte.

Le président du FLI, Max Tegmark, insiste sur le fait que le véritable risque ne vient ni de la concurrence entre entreprises ni de rivalités entre nations, mais de ce que l’humanité conçoit elle-même. Il souligne que l’objectif n’est pas de mettre fin à la recherche, mais d’éviter une perte de contrôle sur des systèmes capables d’agir de manière autonome et, potentiellement, dangereuse. La nuance est essentielle: il s’agit d’un moratoire avec des garde-fous, pas d’un recul face à l’innovation.

Parmi les signataires figurent également les lauréats du prix Turing Yoshua Bengio et Yao Qizhi, l’ancienne conseillère à la sécurité nationale des États-Unis Susan Rice, l’ex-chef d’état-major interarmées Mike Mullen, ainsi que Steve Wozniak et Richard Branson. Cet appel intervient alors que les géants technologiques — OpenAI, Google et d’autres — accélèrent la course à la dite intelligence artificielle générale, un effort que les signataires présentent comme un possible tournant de l’histoire humaine. Dans ce contexte, le calendrier semble tout sauf fortuit.