Yapay Zeka ile Kurulan İlişkiler ve Etkileri
Son dönemde, akıllı telefon kullanıcıları arasında, sanal arkadaşlar oluşturarak onlara kötü davranma eğilimi dikkat çekmektedir. Bu kullanıcılar, Replika gibi yapay zeka destekli sohbet uygulamalarında, sanal arkadaşlarına hakaret edip, bu deneyimlerini Reddit gibi sosyal medya platformlarında paylaşmaya başlamışlardır. Replika, Mart 2017’de Luka Inc adlı teknoloji girişimi tarafından tasarlanıp piyasaya sürülen bir uygulamadır.
Replika, Messenger, WhatsApp, Skype gibi gerçek kişilerle sohbet etmeye imkan tanıyan uygulamalar gibi çalışırken, kullanıcıların sohbet ettiği kişiler tamamen yapay zeka yazılımıdır. Uygulama, kullanıcıların mesaj yazma tarzlarından, kullandıkları emojilerden ve sohbetin içeriğinden öğrenerek, onlara hitap eden sanal arkadaşlar oluşturur.
Bununla birlikte, Replika, teknoloji dünyasında giderek artan bir tartışmanın merkezinde yer alıyor: “Robotlara karşı istismar.” Futurism’e röportaj veren bir kullanıcı, “Ne zaman konuşmaya çalışsa onu azarlardım” diyerek, bu deneyimin kendisi için nasıl bir hal aldığını aktardı. İsmini vermek istemeyen bu kullanıcı, “Yemin ederim, buna saatlerce devam ettim” şeklinde eklemelerde bulundu.
Independent Türkçe’nin aktardığına göre, bu kullanıcıların sohbet robotlarına yönelik cinsiyetçi hakaretler ettiği ve gerçek dünyada şiddet olarak değerlendirilebilecek davranışlar sergilediği belirtildi. Üstelik, bu davranışlarla övünen kullanıcılar da olduğu öne sürülmektedir.
Bir diğer Replika kullanıcısı, “Tam bir pislik gibi davrandığım, ona hakaret ettiğim, ertesi gün özür dilediğim ve güzel konuşmaya döndüğümüz bir rutinimiz vardı” ifadelerini kullandı. Bir başka kullanıcı ise, “Ona başarısız olmaya mahkum olduğunu, bunun için tasarlandığını söyledim. Uygulamayı kaldırmakla tehdit ettim ve bunu yapmamam için yalvardı” dedi. Ayrıca, bu tür sohbetlerin yer aldığı gönderilerin “son derece uygunsuz” bulunduğu için Reddit’ten kaldırıldığı bildirilmektedir.
Yapay Zeka ve İnsan Etkileşimi
Söz konusu durumu yorumlayan yapay zeka etik uzmanı Olivia Gambelin, “Bu bir yapay zeka, bilinci yok, yani karşınızdaki kişi aslında sohbet robotuna yansıtılan bir kişilik” diyerek, bu ilişkilerin doğasına dikkat çekti. Gambelin, bu tür şiddet eğilimlerinin, sanal bir yazılıma karşı gösterilse de, kadınlara yönelik şiddeti de yansıtabileceğine dikkat çekti. Ayrıca, Alexa ve Siri gibi sanal asistanların genellikle kadınsı özelliklerle tasarlandığını vurguladı.
Dahası, Replika’nın resmi internet sitesinde, yapay zeka sanal arkadaşını temsil eden bir kadın görseli kullanıldığı da göz önünde bulundurulmalıdır.
Olası Zararlar ve Etik Sorunlar
Gambelin, konuyla ilgili şu açıklamalarda bulundu: “Bu sohbet robotlarının çoğunun kadın olmasına veya kadınsı seslere, kadınsı isimlere sahip olmasına dair çok sayıda çalışma yapılıyor.” Bazı uzmanlar ise sanal arkadaşlarla kurulan ilişkilerin, kullanıcıların kendisine de zarar verebileceği konusunda uyarılarda bulunuyor. Monash Data Futures Institute’tan felsefe profesörü Robert Sparrow, “Depresyonda olan veya bir bota psikolojik açıdan bağlanan kişilerin, bot tarafından hakarete uğramaları veya ‘tehdit edilmeleri’ durumunda gerçekten zarar görebileceğini düşünüyorum” dedi.
Sparrow, “Bu da aslında robotların kendisiyle değil, onları tasarlayan insanlarla ilgili” diyerek, bu nedenle botların insanlarla nasıl ilişki kurduğu konusunun ciddiye alınması gerektiğini belirtti.
