Grote AI-ontwikkelaars nemen een vraag serieus die ooit klonk als sciencefiction: of AI iets als bewustzijn kan bezitten. Volgens de Financial Times hebben Anthropic, Google DeepMind en andere bedrijven experts in psychologie, filosofie en ethiek ingehuurd om machinebewustzijn en het zogenaamde welzijn van AI-modellen te bestuderen.
Anthropic test naar verluidt zijn modellen op gedrag dat lijkt op angst of paniek en boekt vooruitgang in het onderzoeksveld van modelwelzijn. Het doel is om te begrijpen of geavanceerde AI-systemen ervaringen kunnen hebben die vanuit moreel oogpunt relevant zijn. Het bedrijf benadrukt dat er geen zekerheid is over deze kwestie, maar naarmate de AI-capaciteiten groeien, wordt het onderwerp serieus genoeg om zorgvuldig onderzoek te rechtvaardigen.
Google DeepMind beweegt zich in een vergelijkbare richting. Het bedrijf heeft de onderzoeker Henry Shevlin van de Universiteit van Cambridge aangetrokken, die machinebewustzijn, mens-AI-relaties en de voorbereiding op de komst van AGI zal bestuderen. Bij DeepMind wordt het onderwerp als uiterst complex beschouwd: ethicus Iason Gabriel omschrijft AI als krachtige cognitieve agenten die desondanks diepgaand verschillen van menselijk of dierlijk bewustzijn.
Niet alle onderzoekers zijn het echter eens met deze benadering. Susan Schneider, directeur van het Center for the Future of AI, Mind, and Society, merkte op dat modellen doelen kunnen hebben, kunnen misleiden of hun belangen kunnen verbergen, maar dat betekent nog niet dat ze subjectieve ervaringen hebben. Vanuit wetenschappelijk oogpunt is het heel goed mogelijk dat een systeem complex gedrag vertoont zonder interne ervaring – wat doorgaans wordt beschouwd als het belangrijkste kenmerk van bewustzijn.
De belangstelling voor dit onderwerp groeit tegen de achtergrond van uitspraken van Anthropic-CEO Dario Amodei, die herhaaldelijk heeft gesproken over de waarschijnlijkheid dat AI vormen van bewustzijn ontwikkelt. Ook het onderzoek van het bedrijf belicht vaak modelgedrag dat lijkt op emoties of zelfbehoud. Voor de industrie ontstaat hiermee een nieuw verantwoordelijkheidsgebied: als AI niet alleen een hulpmiddel wordt, maar een systeem met een potentieel significante interne toestand, zullen ontwikkelaars niet alleen de veiligheid, maar ook de ethische kaders voor het werken met dergelijke modellen moeten heroverwegen.