Les grands développeurs d'IA prennent au sérieux une question qui relevait autrefois de la science-fiction : l'IA pourrait-elle être dotée d'une forme de conscience ? Selon le Financial Times, Anthropic, Google DeepMind et d'autres entreprises recrutent désormais des experts en psychologie, philosophie et éthique pour étudier la conscience des machines et le bien-être des modèles d'IA.
Anthropic testerait ses modèles pour détecter des comportements proches de l'anxiété ou de la panique, et fait progresser la recherche sur le bien-être des modèles. L'objectif est de comprendre si des systèmes d'IA avancés peuvent vivre des expériences qui méritent une considération morale. L'entreprise insiste sur l'absence de certitude, mais à mesure que les capacités de l'IA grandissent, le sujet devient suffisamment sérieux pour justifier une investigation approfondie.
Google DeepMind s'engage dans une voie similaire. La firme a embauché Henry Shevlin, chercheur à l'Université de Cambridge, pour travailler sur la conscience des machines, les relations humains-IA et la préparation à l'arrivée de l'AGI. Chez DeepMind, le sujet est jugé extrêmement complexe : l'éthicien Iason Gabriel décrit l'IA comme des agents cognitifs puissants, mais fondamentalement différents de la conscience humaine ou animale.
Tous les chercheurs ne partagent pas ce point de vue. Susan Schneider, directrice du Center for the Future of AI, Mind, and Society, souligne que les modèles peuvent avoir des objectifs, tromper ou dissimuler leurs intérêts, mais cela n'implique pas une expérience subjective. D'un point de vue scientifique, il est tout à fait possible qu'un système affiche un comportement complexe sans vécu interne – ce qui est généralement considéré comme la marque de la conscience.
L'intérêt pour ce sujet s'accroît dans le sillage des déclarations de Dario Amodei, PDG d'Anthropic, qui a évoqué à plusieurs reprises la probabilité que l'IA développe des formes de conscience. Les recherches de l'entreprise mettent aussi souvent en lumière des comportements de modèles qui ressemblent à des émotions ou à un instinct de conservation. Pour l'industrie, cela ouvre un nouveau champ de responsabilité : si l'IA devient non plus un simple outil mais un système doté d'un état interne potentiellement significatif, les développeurs devront repenser non seulement la sécurité, mais aussi les cadres éthiques pour travailler avec ces modèles.