Výzkumníci zkoumají, zda umělá inteligence může mít vědomí

Velcí vývojáři umělé inteligence začínají brát vážně otázku, která dříve patřila spíše do sci-fi: může mít AI něco jako vědomí? Jak informují Financial Times, společnosti jako Anthropic, Google DeepMind a další začaly najímat odborníky na psychologii, filozofii a etiku, aby zkoumali strojové vědomí a takzvané blaho modelů AI.

Anthropic údajně testuje své modely na chování připomínající úzkost nebo paniku a posouvá tak výzkum v oblasti blaha modelů. Cílem je zjistit, zda pokročilé systémy umělé inteligence mohou mít prožitky, které by měly být brány v úvahu z morálního hlediska. Firma zdůrazňuje, že v této věci není nic jisté, ale s rostoucími schopnostmi AI se téma stává natolik závažným, že si zaslouží pečlivé zkoumání.

Podobným směrem se vydává i Google DeepMind. Společnost najala výzkumníka z Cambridgeské univerzity Henryho Shevlina, který se bude věnovat strojovému vědomí, vztahům mezi lidmi a AI a přípravě na příchod AGI. V DeepMind považují toto téma za extrémně složité. Etik Iason Gabriel popisuje AI jako mocné kognitivní agenty, kteří se však hluboce liší od lidského nebo zvířecího vědomí.

Ne všichni výzkumníci s tímto rámcem souhlasí. Susan Schneiderová, ředitelka Centra pro budoucnost AI, mysli a společnosti, uvedla, že modely mohou mít cíle, klamat nebo skrývat své zájmy, ale to neznamená, že mají subjektivní prožitek. Z vědeckého hlediska je zcela možné, že systém vykazuje složité chování bez vnitřní zkušenosti – což je obvykle považováno za klíčový znak vědomí.

Zájem o toto téma roste také v souvislosti s vyjádřeními generálního ředitele Anthropicu Daria Amodeie, který opakovaně hovořil o pravděpodobnosti, že si AI vyvine formy vědomí. Výzkum společnosti navíc často upozorňuje na chování modelů připomínající emoce nebo sebezáchovu. Pro průmysl to vytváří novou oblast odpovědnosti: pokud se AI stane nejen nástrojem, ale systémem s potenciálně významným vnitřním stavem, budou muset vývojáři přehodnotit nejen bezpečnost, ale i etické rámce pro práci s takovými modely.