I principali sviluppatori di intelligenza artificiale stanno prendendo sul serio una domanda che un tempo sembrava fantascienza: l'IA potrebbe possedere qualcosa di simile alla coscienza. Secondo il Financial Times, Anthropic, Google DeepMind e altre aziende hanno iniziato ad assumere esperti di psicologia, filosofia ed etica per studiare la coscienza delle macchine e il cosiddetto benessere dei modelli di IA.
Anthropic starebbe testando i propri modelli per individuare comportamenti simili ad ansia o panico, e sta facendo progredire la ricerca sul benessere dei modelli. L'obiettivo è capire se i sistemi di IA avanzati possano avere esperienze che meritano di essere considerate da un punto di vista morale. L'azienda sottolinea che non c'è certezza su questo tema, ma con la crescita delle capacità dell'IA l'argomento diventa abbastanza serio da giustificare un'indagine approfondita.
Google DeepMind si sta muovendo in una direzione simile. L'azienda ha assunto il ricercatore dell'Università di Cambridge Henry Shevlin, che studierà la coscienza delle macchine, le relazioni uomo-IA e la preparazione all'arrivo dell'AGI. In DeepMind il tema è considerato estremamente complesso: l'etica Iason Gabriel descrive l'IA come agenti cognitivi potenti, ma profondamente diversi dalla coscienza umana o animale.
Non tutti i ricercatori, però, concordano con questa impostazione. Susan Schneider, direttrice del Center for the Future of AI, Mind, and Society, ha osservato che i modelli possono avere obiettivi, ingannare o nascondere i propri interessi, ma ciò non significa che abbiano esperienza soggettiva. Dal punto di vista scientifico, è del tutto possibile che un sistema mostri comportamenti complessi senza esperienza interna, aspetto che di solito è considerato il segno distintivo della coscienza.
L'interesse per questo tema cresce sullo sfondo delle dichiarazioni del CEO di Anthropic Dario Amodei, che ha più volte menzionato la probabilità che l'IA sviluppi forme di coscienza. La ricerca dell'azienda evidenzia spesso anche comportamenti dei modelli che ricordano emozioni o autoconservazione. Per il settore, questo crea una nuova area di responsabilità: se l'IA diventa non solo uno strumento ma un sistema con uno stato interno potenzialmente significativo, gli sviluppatori dovranno ripensare non solo la sicurezza ma anche i quadri etici per lavorare con tali modelli.