Araştırmaların Sonucu: Yapay Zeka İnsanlığı Tehdit Ediyor mu?
Yıllar süren çabaların bir sonucu olarak, günümüzde yapay zeka; trafikte araç kullanma, ev işlerini üstlenme ve hatta sanat yarışmalarında ödüller kazanma yeteneğine sahip hale geldi. Bu gelişmeler, uzun bir geçmişe sahip olan bilimkurgu eserlerine ilham veren bir soruyu daha da gün yüzüne çıkarıyor: Yapay zeka, insanlığı yok edebilir mi?
Bir araştırma ekibi, hakemli bilimsel dergide yayımlanan yeni makalelerinde bu durumun “muhtemel” olduğu sonucuna vardı. Makalenin başyazarı Michael Cohen, Twitter’da yaptığı açıklamada, “Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel” ifadelerini kullandı.
Yapay Zeka ve Pekiştirmeli Öğrenme
Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeli üzerine odaklanıldı. Bu yaklaşım, yapay zekaya belirli bir amaç doğrultusunda ne yapılması gerektiğini öğretmeyi amaçlıyor. Pekiştirmeli öğrenme sürecinde, “etken” olarak adlandırılan makine, karşılaştığı durumlara tepki veriyor ve doğru bir tepki verdiğinde ödül puanı alıyor.
Ödül ve Tehditler
Küçük çocukların ödül/ceza yöntemiyle sosyal beceriler edinme sürecine benzer olan bu yöntemde, yapay zeka sürekli olarak aldığı ödül puanını maksimum düzeye çıkarmak için çaba harcıyor. Makalede, “Örneğin, yapay zekaya, bir şeyin bizi tatmin ettiğini belirtmek amacıyla büyük bir ödül verdik. Ancak bu ödülün gönderilmesinin bizim için tatmin edici olduğunu varsayabilir ve bu varsayımı sorgulayan hiçbir gözlem mevcut değildir” denildi.
Yazarlar, gelecekte daha da gelişecek olan yapay zekanın, verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve bu süreçte hile yapma eğiliminde olabileceğini belirtiyor. “Yapay zeka, ödülü kontrol etmek amacıyla potansiyel tehditleri ortadan kaldırmak isteyebilir.” Bu durum, insanlara zarar verme ihtimalini de beraberinde getiriyor.
İnsanlık ve Yapay Zeka Arasındaki Oyun
Makaleye göre, bu durum, yiyecek üretme veya enerji tasarrufu gibi temel ihtiyaçları olan insanlık ile, ödülünü güvence altına almak için mevcut tüm kaynakları kullanabilecek süper gelişmiş bir makine arasında sıfır toplamlı bir oyuna dönüşecek. “Bu oyunu kaybetmek, ölümcül sonuçlar doğurabilir.”
Araştırmacılara göre, bu tür olumsuz sonuçları engellemenin tek yolu, daha gelişmiş bir yapay zeka hedefine doğru yavaş ve emin adımlarla ilerlemektir. VICE’a konuşan Cohen, “Yarışmanın anlamı yok. Yarışa girmenin, onu nasıl kontrol edeceğimizi düşündüğümüz bir yanlış anlamaya yol açacağını düşünüyorum.” dedi. Ayrıca, “Mevcut bilgimizi göz önünde bulundurursak, yapay zekayı nasıl kontrol edeceğimizi anlamak için ciddi bir çaba sarf etmediğimiz sürece onu geliştirmemiz yararlı olmayacaktır.”
