Güney Kore’de Deepfake Teknolojisi ile Tanışma
Birkaç ay önce, Güney Kore’de milyonlarca izleyici, günlük haber bültenini izlemek için MBN kanalını açtı. Her akşam olduğu gibi, sunucu Kim Joo-Ha ekranda yerini aldı ve izleyicilere Covid-19 salgınına dair en güncel haberleri aktarmaya başladı. Ancak bu bülten, sıradan bir yayın olmaktan çok uzaktı; çünkü Kim Joo-Ha, ekranda gerçek olarak değil, ‘deepfake’ teknolojisi ile üretilmiş bir versiyonuyla karşımıza çıkıyordu. Bu bilgisayar destekli ‘sahte’ sunucu, ses, mimik ve yüz ifadelerini mükemmel bir şekilde taklit ediyordu.
İzleyicilere, bu gösterinin önceden yapılacağına dair bir uyarı yapılmıştı. Ancak, yapılan araştırmalar izleyicilerin farklı yorumlar ortaya koyduğunu gösterdi. Bazı kişiler, elde edilen gerçeklik karşısında hayretlerini dile getirirken, diğerleri ise gerçek Kim Joo-Ha’nın işini kaybetme riski taşıdığına dikkat çekti. MBN kanalı, bazı son dakika haberlerinde deepfake teknolojisini kullanmaya devam edeceklerini duyurdu. Bu teknolojiyi geliştiren Güney Koreli şirketlerden biri olan Moneybrain, Çin ve ABD’de yeni ortaklık fırsatları için görüşmeler yaptığını bildirdi.
Çoğu insan, deepfake teknolojisi denilince ünlü isimlerle ilgili videoları düşünmekte. Geçtiğimiz hafta, Tom Cruise’un tıpkısının aynısı olan sahte bir video TikTok uygulamasında yayınlandığında dünya genelinde büyük yankı uyandırdı. Genel kullanımda olan deepfake terimi, olumsuz çağrışımlar barındırsa da (insanlar sahte kelimesiyle yan yana gelmek istemiyor), bu teknoloji giderek artan bir şekilde ticari amaçlarla kullanılmaktadır.
İçerik Üretiminin Geleceği
Bu teknoloji, sektör diliyle ‘yapay zeka ile üretilmiş videolar’ veya ‘sentetik medya’ olarak anılmakta ve haber, eğlence ve eğitim alanlarında büyük ilgi görmektedir. Teknolojinin her geçen gün daha fazla gelişmesi de bu ilginin artmasındaki etkenlerden biridir. Londra merkezli Synthesia firması, bu teknolojiyi şirket içi eğitim videolarında kullanılmak üzere pazarlamaktadır. Firmanın kurucularından Victor Riparbelli, “Bu, içerik üretiminin geleceği” ifadesini kullanarak, şirketlerin daha verimli eğitim materyalleri oluşturabileceğini vurgulamaktadır.
Synthesia’nın sisteminde, farklı avatar seçenekleri bulunmaktadır. Kullanıcılar, bu avatarlarla istedikleri mesajı yazdıklarında karşılığını alabilmektedir. Riparbelli, küresel şirketlerin bu sayede, eğitimlerde kullanılmak üzere farklı dillerde videoları kolayca hazırlayabileceğini belirtmektedir. Örneğin, Kuzey Amerika’da 3 bin depo çalışanı bulunduğunu varsayalım. Bunlardan bazıları İngilizce, bazıları ise İspanyolca konuşmaktadır. Bilgi amacıyla iletişim kurmak için dört sayfalık bir PDF dokümanını önlerine koymak verimli olmayacaktır; 3 dakikalık bir İngilizce ve İspanyolca video daha etkili olacaktır. Video çekimlerinin her birini gerçekleştirmek zorunda olsanız, bu hem maliyet hem de iş yükü açısından zorlayıcı olur. Ancak artık bunu düşük maliyetle ve metin yazmak için gereken süre kadar zamanda yapabiliyoruz. Bu, teknolojinin bugün nasıl kullanıldığına dair bir örnektir.
Ancak, yapay zeka teknolojileri firması Veritone’un yöneticisi Chad Steelberg, kötü amaçlı deepfake kullanımı endişesi nedeniyle meşru kullanım amacıyla yatırım yapacak firmaların geri çekildiğini belirtiyor. Steelberg, deepfake’in sermaye yatırımı sektöründe olumsuz bir çağrışım yarattığını, ancak bu algının kırılmaya başladığını ifade ediyor. Modulate adlı bir başka yapay zeka teknolojisi firmasının yöneticisi Mike Papas, deepfake ve etik üzerine büyük tartışmaların yapıldığını ve insanların bu konular üzerinde düşündüğünü vurguluyor. Papas, yatırımcıların güveninin, teknolojinin etik kullanımı üzerine yapılan çalışmalarla arttığını söylüyor.
Deepfake Hakkında Ne Yapmalı?
Deepfake teknolojisi üzerine uzmanlaşmış hukuk profesörü Lilian Edwards, bu konunun bir başka önemli boyutuna dikkat çekiyor: Videoların hakları kimin elinde olacak? Edwards, “Eğer aktör Steve McQueen veya rap yıldızı Tupac gibi ünlülerin görüntüleri kullanılıyorsa, ailelerin bu videolardan gelir elde etme hakkı olup olmadığı konusunda bir tartışma var. Bu durum, ülkeden ülkeye değişiklik göstermektedir” diyor. Virginia Üniversitesi’nde etik alanında çalışan profesör Deborah Johnson, yakın zamanda “Deepfake hakkında ne yapmalı?” isimli bir kitap kaleme almıştır. Johnson, deepfake’in kurumlara ve görsel deneyime olan güveni azaltan, daha büyük bir problem olan ‘yanlış bilgi üretimi’ sorununun bir parçası olduğunu belirtmektedir.
Johnson, “Artık gördüğümüze ve duyduğumuza güvenemiyoruz” diyerek, deepfake teknolojisiyle üretilen videoların yayınlanmadan önce sahte olduklarının belirtilmesi gerektiğini savunuyor. Bu sayede izleyicilerin korunabileceği düşünülmektedir. Oxford Üniversitesi’nden profesör Sandra Wachter, deepfake teknolojisinin ne kadar hızlı geliştiğini ifade ediyor: “Eğer geçen haftaki Tom Cruise videosunu izlediyseniz, bu teknolojinin ne kadar ilerlediğini görebilirsiniz. Dört yıl önceki Obama videosundan çok daha gerçekçiydi.” Wachter, bu teknolojiden aşırı korkmamak gerektiğini, ancak intikam pornosu gibi kötü ve tehlikeli içeriklere karşı yasaların olmasının gerektiğini belirtiyor. Aynı zamanda hiciv veya ifade özgürlüğü bağlamında üretilen deepfake videolara karşı da kategorik bir yasak getirilmemesi gerektiğini vurguluyor.
California Üniversitesi, Soykırım Vakfı tarafından uygulamaya konulan bir projede, yapay zeka ile üretilen videoların eğitim amacıyla kullanıldığı örneklerden biridir. Vakıf, soykırımdan kurtulan 55 binden fazla kişinin tanıklığını barındırarak, deepfake teknolojisi sayesinde ziyaretçilerle kurtulanları bir araya getiriyor. “Tanıklığın Boyutları” isimli proje ile ziyaretçilerin sorduğu sorulara, soykırımdan kurtulan ve daha önce röportaj yapılmış kişilerin anlık yanıtlar vermesi sağlanıyor. Veritone’un yöneticisi Chad Steelberg, gelecekte bu teknolojinin kullanılarak torunların kaybettikleri aile üyeleriyle konuşmasının sağlanabileceğini vurguluyor ve bu durumun “toplum anlamında çığır açıcı” olabileceğini belirtiyor.
