FLI açık mektubu: süperzekâ düzeyindeki yapay zekâya moratoryum

Aralarında yapay zekânın vaftiz babası olarak anılan Geoffrey Hinton, Baidu'nun kurucu ortağı Zhang Yaqin, oyuncu Meghan Markle ve yazar Stephen Fry’ın da bulunduğu 800'den fazla önde gelen siyasetçi, bilim insanı, iş dünyası lideri ve kamuoyunda tanınan isim, süperzekâ düzeyindeki yapay zekânın geliştirilmesine derhal yasak getirilmesini isteyen açık bir mektuba imza attı.

Kâr amacı gütmeyen Future of Life Institute (FLI) tarafından yayımlanan mektup, bilim dünyası güvenliği doğrulayana ve kamuoyu bu tür sistemlerin hayata geçirilmesine açık destek verene kadar, insan zekâsını aşabilecek sistemlerin geliştirilmesinin durdurulmasını talep ediyor. FLI’nin araştırmasına göre, Amerikalıların yalnızca yüzde 5’i yapay zekânın mevcut, büyük ölçüde denetimsiz gidişatını desteklerken, neredeyse yüzde 75’i sıkı düzenleme istiyor.

FLI başkanı Max Tegmark, asıl riskin rakip şirketlerden ya da ülkelerden değil, insanlığın bizzat yarattığı şeyden doğduğunu vurguladı. Amacın araştırmayı kapatmak değil, özerk ve potansiyel olarak tehlikeli biçimde hareket edebilecek sistemler üzerinde kontrolü kaybetmemek olduğunu belirtti. Mesajın altı çiziliyor: talep, inovasyondan geri çekilmek değil; güvenlik önlemleriyle desteklenmiş bir mola.

İmzacılar arasında Turing Ödülü sahipleri Yoshua Bengio ve Yao Qizhi, ABD’nin eski Ulusal Güvenlik Danışmanı Susan Rice, ABD Genelkurmay Başkanları Kurulu’nun eski başkanı Mike Mullen ile Steve Wozniak ve Richard Branson da yer alıyor. Çağrı, OpenAI, Google ve diğer teknoloji devlerinin genel yapay zekâ olarak adlandırılan sistemleri inşa etme yarışını hızlandırdığı bir dönemde geliyor; imzacılar bu itkiyi insanlık tarihi için olası bir dönüm noktası olarak çerçeveliyor. Bu açıdan bakıldığında zamanlamanın pek de tesadüf olmadığı söylenebilir.