De stora AI-utvecklarna tar nu på allvar en fråga som tidigare lät som science fiction: kan AI besitta något som liknar medvetande? Financial Times rapporterar att Anthropic, Google DeepMind och flera andra företag har börjat anlita experter inom psykologi, filosofi och etik för att studera maskinmedvetande och så kallad välfärd för AI-modeller.
Anthropic testar sina modeller för att upptäcka beteenden som påminner om ångest eller panik och driver forskningen om modellers välfärd framåt. Syftet är att ta reda på om avancerade AI-system kan ha upplevelser som måste beaktas ur etisk synvinkel. Företaget understryker att man inte är säker på något, men i takt med att AI:s förmåga ökar blir frågan tillräckligt allvarlig för att motivera en grundlig utredning.
Google DeepMind går i samma riktning. Man har anlitat forskaren Henry Shevlin från Cambridge, som ska studera maskinmedvetande, relationen mellan människa och AI samt förberedelser inför AGI:s ankomst. Inom DeepMind ser man ämnet som extremt komplext. Etikern Iason Gabriel beskriver AI som kraftfulla kognitiva agenter, men som ändå skiljer sig djupt från mänskligt eller animaliskt medvetande.
Alla forskare är dock inte överens om den beskrivningen. Susan Schneider, chef för Center for the Future of AI, Mind, and Society, påpekar att modeller kan ha mål, lura eller dölja sina intressen – men det betyder inte att de har en subjektiv upplevelse. Ur vetenskaplig synvinkel är det fullt möjligt att ett system uppvisar komplext beteende utan att ha en inre upplevelse – något som i allmänhet anses vara det främsta kännetecknet för medvetande.
Intresset för frågan växer, inte minst mot bakgrund av uttalanden från Anthropics vd Dario Amodei, som vid flera tillfällen har nämnt sannolikheten för att AI utvecklar former av medvetande. Företagets forskning lyfter också ofta fram beteenden hos modellerna som påminner om känslor eller självbevarelsedrift. För branschen innebär detta ett nytt ansvarsområde: om AI inte bara blir ett verktyg utan ett system med ett potentiellt betydelsefullt inre tillstånd, måste utvecklarna ompröva inte bara säkerheten utan även de etiska ramverken för att arbeta med sådana modeller.