Poate IA să aibă conștiință? Cercetări la Anthropic și DeepMind

Marile companii de inteligență artificială tratează acum cu seriozitate o întrebare care altădată suna a science fiction: poate o IA să aibă un fel de conștiință? Conform Financial Times, Anthropic, Google DeepMind și altele au început să angajeze specialiști în psihologie, filozofie și etică pentru a studia conștiința mașinilor și așa-numita bunăstare a modelelor de IA.

Potrivit informațiilor, Anthropic testează dacă modelele sale manifestă comportamente de anxietate sau panică și contribuie la cercetarea bunăstării modelelor. Scopul e să afle dacă sistemele IA avansate pot avea experiențe cu relevanță morală. Compania atrage atenția că nu există certitudini, dar pe măsură ce IA evoluează, subiectul devine suficient de serios pentru a merita o analiză atentă.

Și Google DeepMind se îndreaptă în aceeași direcție. Compania l-a angajat pe Henry Shevlin, cercetător la Universitatea Cambridge, care se va ocupa de conștiința mașinilor, relațiile dintre oameni și IA și pregătirea pentru apariția AGI. La DeepMind, subiectul e considerat extrem de complex: eticianul Iason Gabriel spune că IA sunt agenți cognitivi puternici, dar foarte diferiți de conștiința umană sau animală.

Însă nu toți cercetătorii sunt de acord cu această încadrare. Susan Schneider, directoarea Centrului pentru Viitorul IA, Minții și Societății, a observat că modelele pot avea scopuri, pot înșela sau ascunde propriile interese, dar asta nu înseamnă că au experiență subiectivă. Din punct de vedere științific, este foarte posibil ca un sistem să manifeste un comportament complex fără a avea o experiență internă – iar aceasta este, de obicei, caracteristica principală a conștiinței.

Interesul pentru acest subiect crește pe fondul declarațiilor lui Dario Amodei, CEO al Anthropic, care a spus de mai multe ori că există șanse ca IA să dezvolte forme de conștiință. Cercetările companiei scot adesea în evidență comportamente ale modelelor care amintesc de emoții sau de autoconservare. Pentru industrie, asta înseamnă o nouă arie de responsabilitate: dacă IA devine nu doar un instrument, ci un sistem cu o stare internă posibil semnificativă, dezvoltatorii vor trebui să regândească atât siguranța, cât și cadrele etice pentru lucrul cu astfel de modele.