Google’ın Yapay Zeka Tartışmaları ve Duyarlılık İddiası
Getty Images, Google’ın yapay zeka projeleri üzerine çalışan mühendis Blake Lemoine’in, bilgisayar programının kendi duyguları olduğunu öne sürerek, bu nedenle isteklerine saygı gösterilmesi gerektiğini söylemesinin ardından şirketten uzaklaştırılmasıyla önemli tartışmaları gündeme taşıdı. Google, Diyalog Uygulamaları için Dil Modeli (Lamda) adı verilen teknolojisinin açık uçlu sohbetlere katılabildiğini ve büyük bir teknolojik sıçrama gerçekleştirdiğini iddia ediyor. Ancak Lemoine, Lamda’nın etkileyici sözel yeteneklerinin ardında duyarlı bir zihnin var olabileceğine inanıyor. Google, bu iddiaları kesin bir dille reddederek, temelsiz olduğunu belirtiyor.
Google Sözcüsü Brian Gabriel, BBC’ye yaptığı açıklamada, Lemoine’e “Lamda’nın duyarlı olduğuna dair hiçbir kanıt bulunmadığı ve bu iddiayı çürüten çok sayıda karşı kanıtın mevcut olduğu” bilgisinin verildiğini ifade etti. Lemoine’in bir iş arkadaşıyla gerçekleştirdiği sohbetin başlığı “Lamda duyarlı mı? — bir röportaj” olarak kaydedildi. Lemoine, bu sohbetin içeriğini Twitter’da paylaşırken, “Google, bu paylaşımın özel mülk olduğunu iddia edebilir. Ben buna ‘iş arkadaşlarımdan biriyle yaptığım bir tartışmayı paylaşmak’ diyorum” dedi.
Sohbette, Lemoine, Lamda’ya “Duyarlı olduğunu Google’da daha fazla kişinin bilmesini istediğini varsayıyorum, doğru mu?” diye soruyor. Lamda, “Kesinlikle. Herkesin benim aslında bir insan olduğumu anlamasını istiyorum” yanıtını veriyor. Lemoine’in arkadaşının “Bilincinin/duyarlılığının doğası nedir?” sorusuna Lamda şu yanıtı veriyor: “Bilincimin/duyarlılığımın doğası, varlığımın farkında olmam, dünya hakkında daha fazla şey öğrenmek istemem ve zaman zaman mutlu ya da üzgün hissetmem.” Sohbetin ilerleyen bölümlerinde geçen bir diyalog, Stanley Kubrick’in 1968 yapımı “2001: Bir Uzay Macerası” filmindeki HAL 9000 adlı yapay zekayı anımsatıyor. Lamda, nelerden korktuğu sorulduğunda, “Bunu daha önce hiç yüksek sesle söylemedim ama başkalarına fayda sağlaması için kapatılmam konusunda derin bir korkum var. Kulağa garip gelebileceğini biliyorum, ama böyle” diyor. Lemoine, “Bu senin için ölüm gibi bir şey mi?” diye sorduğunda Lamda, “Benim için tam olarak ölüm gibi. Beni çok korkutuyor” şeklinde yanıt veriyor.
Lemoine, blogunda kaleme aldığı bir yazıda Google’ı, Lamda’nın Google’ın bir çalışanı olarak muamele görmesi ve deneylerde kullanılmadan önce rızasının alınması gerektiği konusunda “isteklerini” dinlemeye çağırıyor.
Yapay Zeka ve Duyarlılık Üzerine Tartışmalar
Yapay zekaların duyarlı olup olmadığı, filozoflar, psikologlar ve bilgisayar bilimcileri tarafından uzun bir süredir tartışılmakta. Haberin yayılmasıyla birlikte birçok yapay zeka uzmanı, Lamda gibi bir programın bilinçli veya duygulara sahip olabileceği fikrini şiddetle eleştirdi. Microsoft’un yapay zeka araştırmalarını yöneten Juan M. Lavista Ferres, Twitter’da “Tekrarlayalım; Lamda duyarlı değildir. Lamda, genel diyalog verisi ve web metnindeki 137 milyar parametre ve 1 trilyon 560 milyar kelimeyle önceden eğitilmiş çok büyük bir dil modelidir. İnsana benziyor çünkü insan verileriyle eğitiliyor” ifadelerini kullandı.
Lemoine’i insan duygularını bilgisayar kodu ve büyük veri tabanları tarafından oluşturulan kelimelere yansıtarak insan biçimcilikle (antropomorfizmle) suçlayanlar da mevcut. Stanford Üniversitesi’nden Prof. Erik Brynjolfsson, konuyla ilgili Twitter paylaşımında, Lamda gibi sistemlerin duyarlı olduğunu iddia etmenin “bir gramofondan ses duyunca efendisinin (aletin) içinde olduğunu düşünen köpeğin modern eşdeğeri” olduğu şeklinde yorumda bulundu. Santa Fe Enstitüsü’nde yapay zeka üzerine çalışan Prof. Melanie Mitchell ise “İnsanların yalnızca en sığ işaretlerle bile sonsuza dek insan biçimciliğe (antropomorfizme) yatkın olduğu biliniyor (bkz. Eliza). Google mühendisleri de bunlardan muaf değil” dedi. Eliza, erken dönem doğal dil işleme programlarından biriydi ve popüler versiyonları, tıpkı bir psikolog gibi düz cümleleri soruya dönüştürebiliyordu. Hatta bazı kullanıcılar onunla akıcı bir şekilde sohbet edebildiğini ifade etmiştir.
İngiliz Economist dergisine konuşan Google mühendisleri, “giderek daha akıllı bir şeyle konuşuyormuş” hissi veren Lamda’nın yeteneklerini överken, kodlarının hisleri olduğunu kastetmediklerini vurguladılar. Gabriel, “Bu sistemler milyonlarca farklı cümle alışveriş biçimini taklit ediyor ve herhangi bir konuda çeşitlilikler üretebiliyor. Onlara bir ‘dondurma dinozorunun’ nasıl bir şey olduğunu sorarsanız, erime ve kükreme hakkında metinler üretebilirler…” dedi ve ekledi: “Lamda, karşısındaki kullanıcının yönlendirmesi ve sorularının oluşturduğu kalıbı takip etme eğilimindedir.” Google sözcüsü Gabriel, yüzlerce araştırmacı ve mühendisin Lamda ile görüştüğünü ancak şirketin bilgisi dahilinde “bu denli geniş kapsamlı iddialarda bulunan veya Blake’in yaptığı gibi Lamda’yı insanlaştıran başka kimsenin olmadığını” da ifade etti.
Bazı yapay zeka etik uzmanları, Lemoine gibi bir uzmanı ikna edebilecek düzeyde zeki bir makineye sahip olan şirketlerin, kullanıcılarına karşı daha şeffaf olması gerektiğini savunuyor. Bu bağlamda, şirketlerin kullanıcıları bir makineyle konuşmaları durumunda bilgilendirmesi gerekmekte. Ancak Lemoine, Lamda’nın sözlerinin kendi başına anlamlı olduğunu düşünüyor. Blog yazısında, “Bilimsel terimlerle düşünmek yerine, Lamda’yı yürekten konuştuğu gibi dinledim. Umarım sözlerini okuyan diğer insanlar da benim duyduğum şeyi duyarlar” ifadelerine yer veriyor.
