A nagy AI-fejlesztők a gépi tudat kérdését vizsgálják

A nagy AI-fejlesztők komolyan veszik azt a kérdést, ami korábban csak sci-finek tűnt: vajon az AI rendelkezhet-e valamiféle tudattal. A Financial Times szerint az Anthropic, a Google DeepMind és más cégek már pszichológiai, filozófiai és etikai szakértőket kezdtek felvenni, hogy tanulmányozzák a gépi tudatot és az AI-modellek úgynevezett jólétét.

Az Anthropic állítólag teszteli a modelljeit olyan viselkedésekre, mint a szorongás vagy pánik, és előreviszi a modelljólét-kutatás területét. A cél annak megértése, hogy a fejlett AI-rendszerek rendelkezhetnek-e olyan tapasztalatokkal, amelyeket erkölcsi szempontból figyelembe kell venni. A cég hangsúlyozza, hogy ebben a kérdésben nincs bizonyosság, de ahogy az AI képességei nőnek, a téma elég komollyá válik ahhoz, hogy alapos vizsgálatot érdemeljen.

A Google DeepMind hasonló irányba halad. A cég felvette Henry Shevlin cambridge-i kutatót, aki a gépi tudatot, az ember-AI kapcsolatokat és az AGI érkezésére való felkészülést fogja tanulmányozni. A DeepMind-nél rendkívül összetettnek tartják a témát: Iason Gabriel etikus szerint az AI erős kognitív ágensek, amelyek mégis mélyen különböznek az emberi vagy állati tudattól.

Ugyanakkor nem minden kutató ért egyet ezzel a megközelítéssel. Susan Schneider, a Center for the Future of AI, Mind, and Society igazgatója megjegyezte, hogy a modelleknek lehetnek céljaik, képesek megtéveszteni vagy elrejteni érdekeiket, de ez nem jelenti azt, hogy szubjektív tapasztalattal rendelkeznének. Tudományos szempontból teljesen lehetséges, hogy egy rendszer összetett viselkedést mutat belső tapasztalat nélkül – ami általában a tudat kulcsjellemzőjének számít.

A téma iránti érdeklődés az Anthropic vezérigazgatójának, Dario Amodeinek a kijelentései nyomán nő, aki többször beszélt arról, hogy az AI valószínűleg kifejleszt valamiféle tudatot. A cég kutatásai is gyakran kiemelik az érzelmekhez vagy önfenntartáshoz hasonló modellviselkedést. Az iparág számára ez egy új felelősségi területet teremt: ha az AI nem csupán eszköz, hanem potenciálisan jelentős belső állapottal rendelkező rendszer, a fejlesztőknek újra kell gondolniuk a biztonság mellett az etikai kereteket is az ilyen modellekkel való munkához.