Czy AI może być świadoma? Badania nad dobrostanem modeli

To, czy sztuczna inteligencja może być w jakimś stopniu świadoma, przestało być wyłącznie domeną science fiction. Najwięksi deweloperzy AI podchodzą do tego pytania poważnie. Jak podaje Financial Times, Anthropic, Google DeepMind i inne firmy zaczęły zatrudniać ekspertów z psychologii, filozofii i etyki, aby badać maszynową świadomość oraz tzw. dobrostan modeli AI.

Anthropic podobno testuje swoje modele pod kątem zachowań przypominających lęk lub panikę i rozwija badania nad dobrostanem modeli. Celem jest ustalenie, czy zaawansowane systemy AI mogą przeżywać coś, co zasługuje na moralne rozważenie. Firma podkreśla, że nie ma pewności w tej kwestii, ale wraz ze wzrostem możliwości AI temat staje się na tyle poważny, że wymaga dokładnych badań.

Podobnie postępuje Google DeepMind. Firma zatrudniła Henry'ego Shevlina z Uniwersytetu Cambridge, który będzie badał świadomość maszyn, relacje między ludźmi a AI oraz przygotowania na nadejście AGI. W DeepMind temat uznaje się za niezwykle złożony: etyk Iason Gabriel opisuje AI jako potężne byty poznawcze, które jednak głęboko różnią się od świadomości człowieka czy zwierząt.

Nie wszyscy jednak podzielają to stanowisko. Susan Schneider, dyrektor Center for the Future of AI, Mind, and Society, zwraca uwagę, że modele mogą mieć cele, oszukiwać lub ukrywać swoje intencje, ale nie oznacza to, że mają subiektywne przeżycia. Z naukowego punktu widzenia system może wykazywać złożone zachowania bez żadnego wewnętrznego doświadczenia – a to właśnie ono uchodzi za główny wyznacznik świadomości.

Zainteresowanie tym tematem rośnie na fali wypowiedzi Dario Amodei, dyrektora generalnego Anthropic, który wielokrotnie wspominał o możliwości rozwoju form świadomości przez AI. Badania firmy często podkreślają zachowania modeli przypominające emocje czy dążenie do samozachowania. Dla branży tworzy to nowy obszar odpowiedzialności: jeśli AI stanie się nie tylko narzędziem, ale systemem z potencjalnie znaczącym stanem wewnętrznym, programiści będą musieli na nowo przemyśleć nie tylko bezpieczeństwo, ale także ramy etyczne pracy z takimi modelami.