Yapay zeka bilinç kazanabilir mi? Büyük şirketler araştırıyor

Büyük yapay zeka geliştiricileri, bir zamanlar bilim kurgu gibi görünen bir soruyu ciddiye almaya başladı: Yapay zeka, bilinç benzeri bir şeye sahip olabilir mi? Financial Times'a göre Anthropic, Google DeepMind ve diğer şirketler, makine bilinci ve yapay zeka modellerinin refahını incelemek için psikoloji, felsefe ve etik alanlarında uzmanlar işe alıyor.

Anthropic, modellerini kaygı veya panik benzeri davranışlar açısından test ediyor ve model refahı araştırmalarında ilerliyor. Amaç, gelişmiş yapay zeka sistemlerinin ahlaki açıdan dikkate alınması gereken deneyimlere sahip olup olamayacağını anlamak. Şirket, bu konuda kesin bir şey söylenemeyeceğini ancak yapay zeka yetenekleri arttıkça konunun dikkatle incelenmesi gerektiğini vurguluyor.

Google DeepMind da benzer bir yolda ilerliyor. Şirket, Cambridge Üniversitesi'nden araştırmacı Henry Shevlin'i işe aldı. Shevlin, makine bilinci, insan-yapay zeka ilişkileri ve AGI'nin gelişine hazırlık konularını araştıracak. DeepMind'da konu oldukça karmaşık görülüyor. Etikçi Iason Gabriel, yapay zekayı güçlü bilişsel etmenler olarak tanımlıyor ancak bunların insan veya hayvan bilincinden çok farklı olduğunu belirtiyor.

Ancak tüm araştırmacılar bu çerçeveye katılmıyor. Yapay Zeka, Zihin ve Toplum Geleceği Merkezi direktörü Susan Schneider, modellerin hedefleri olabileceğini, aldatabileceğini veya çıkarlarını gizleyebileceğini ancak bunun öznel deneyime sahip oldukları anlamına gelmediğini söylüyor. Bilimsel açıdan, bir sistemin içsel deneyim olmadan karmaşık davranışlar sergilemesi mümkün; oysa içsel deneyim genellikle bilincin temel göstergesi kabul ediliyor.

Bu konuya ilgi, Anthropic CEO'su Dario Amodei'nin yapay zekanın bilinç biçimleri geliştirme olasılığından sık sık bahsetmesiyle artıyor. Şirketin araştırmaları da duygulara veya kendini korumaya benzeyen model davranışlarına dikkat çekiyor. Endüstri için bu yeni bir sorumluluk alanı doğuruyor: Eğer yapay zeka yalnızca bir araç değil, potansiyel olarak önemli bir iç duruma sahip bir sistem haline gelirse, geliştiricilerin yalnızca güvenliği değil, bu tür modellerle çalışmanın etik çerçevelerini de yeniden düşünmeleri gerekecek.