Store AI-utviklere tar et spørsmål som tidligere virket som science fiction på alvor: kan AI ha noe som ligner bevissthet? Ifølge Financial Times har Anthropic, Google DeepMind og andre selskaper ansatt eksperter innen psykologi, filosofi og etikk for å studere maskinbevissthet og såkalt velferd for AI-modeller.
Anthropic tester visstnok modellene sine for tegn på angstlignende atferd eller panikk, og driver frem forskning på modellvelferd. Målet er å finne ut om avanserte AI-systemer kan ha opplevelser som bør vurderes fra et moralsk perspektiv. Selskapet understreker at ingenting er sikkert, men i takt med at AI blir kraftigere, blir temaet alvorlig nok til å kreve grundig forskning.
Hos Google DeepMind går man i samme retning. Selskapet har ansatt Cambridge-forsker Henry Shevlin, som skal forske på maskinbevissthet, relasjoner mellom mennesker og AI, og forberedelse til fremveksten av AGI. Hos DeepMind anses temaet som svært komplekst: etiker Iason Gabriel beskriver AI som kraftige kognitive aktører som likevel er helt forskjellige fra menneskelig eller dyrisk bevissthet.
Men ikke alle forskere er enige i denne beskrivelsen. Susan Schneider, direktør for Center for the Future of AI, Mind, and Society, påpeker at modeller kan ha mål, lyve eller skjule sine interesser, men det betyr ikke at de har subjektive opplevelser. Fra et vitenskapelig ståsted er det fullt mulig at et system viser kompleks atferd uten indre opplevelser – som vanligvis regnes som nøkkelen til bevissthet.
Interessen for temaet vokser i kjølvannet av uttalelser fra Anthropic-sjef Dario Amodei, som gjentatte ganger har sagt at det er sannsynlig at AI utvikler former for bevissthet. Selskapets forskning peker også ofte på modellatferd som ligner følelser eller selvbevarelse. For bransjen skaper dette et nytt ansvarsområde: Hvis AI ikke bare er et verktøy, men et system med potensielt betydelig indre tilstand, må utviklerne revurdere både sikkerhet og de etiske rammene for arbeidet med slike modeller.