Çocukların yakınlarının müsaadesi olmadan üretilen görüntülerde çocuklar ve hatta bazen bebekler nasıl öldürüldüklerini anlatıyor.
TikTok, çocukların yapay zeka ile oluşturulmuş görüntülerinin platformunda paylaşılmasını Mart ayında yasaklamıştı. Lakin çocuk cinayeti görüntüleri Nisan ayından bu yana TikTok’ta yayılmaya devam ediyor.
BBC’nin araştırması, yasakla ilgili olarak kimi TikTok çalışanlarının bile başlarının karışık olduğunu ortaya çıkardı.
BBC’ye konuşan TikTok’un içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi.
Yapay zeka ile üretilen bu görüntülerin kimileri aylarca platformda dolaştı, kimileri milyonlarca kere izlendi.
‘EN BERBATINDAN BİLE DAHA BERBAT BİR YUMRUK YEMİŞ GİBİYDİM’
Çocukların yakınları bu görüntülerin ortaya çıkmasından kısa müddet sonra şikayetlerini lisana getirmeye başladı. Kanadalı Amélie Lemieux, dertlerini lisana getiren birinci bayanlardan.
BBC Amélie Lemieux kızının yapay zekayla oluşturulan görüntüsünü izledikten sonra dehşete düştü. Lemieux’nün eşi, Temmuz 2020’de 6 ve 11 yaşındaki kızları Romy ve Norah’ı öldürüp intihar etmişti.
Nisan ayında TikTok’ta Norah’nın öldürüldükleri anı anlattığı bir görüntüyü gördüğünde dehşete düştü:
“Hayal edebileceğiniz en makus yumruktan bile daha makus bir yumruk yemiş üzereydim.
“Ne ben ne de erkek kardeşim görüntüyü sonan kadar izleyebilir. Durması için bağırıyordu.”
Lemieux bilhassa genç yeğenlerinin TikTok’ta bu görüntüyle müsabakasından telaş ediyordu.
Çok sayıda kişi TikTok’a görüntüyle ilgili şikayette bulundu. Lakin görüntü platformda dolaşmaya devam etti.
Nihayetinde Lemieux’nün durumu gazetecilerin ilgisini çekti, görüntüyü paylaşan anonim hesap silindi.
Lemieux görüntüyü kimin yaptığını bulamadı lakin onu asla affedemeyeceğini söyledi:
“Birinin bu kadar rahatsız edici, bizi geri kalan günlerimizde eksik hissettirecek bir şeyi kullanması inanılmaz derecede şok edici. Tek istedikleri izlenme, beğeni, paylaşım. Ve aşağıya yorum bırakan beşerler. Şahsî olarak bunu affedemem.”
YENİ TEKNOLOJİLER VE SÜRATLE TAKİPÇİ KAZANMA İSTEĞİ
Yapay zeka yazılımlarının gitgide daha erişilebilir hale gelmesi, bu görüntülerin üretilmesine imkan tanıyor.
Yazılımlar sayesinde çarçabuk bir insan figürü oluşturup ona aşikâr bir metni söyletebiliyorsunuz.
Kurban görsellerinin kimileri gerçek hayattakilere benzemiyor fakat kimiler gerçek hayattaki insanları baz alıyor.
Vieoları yapanlar anonim olsa da BBC, yapımcılardan birinin Londra’da yaşayan Ritul isimli bir erkek öğrenci olduğunu tespit etti.
Ritul, YouTube’da “hikaye anlatımlı” görüntülerin TikTok’ta takipçi kazanmak için süratli bir yol olduğunu söylüyor:
“Sadece yapay zeka kullandığımız öykü anlatımlı görüntülerle binlerce ve binlerce takipçi kazandım. 3 haftadan az müddette 47 bin takipçi kazandım.”
Ritul yorum talebimizi reddetti ve TikTok tarafından hesabı silindi.
TikTok üzere görüntülerin süratle tüketildiği bir platformda görüntülerin saniyeler içinde dikkat çekmesi gerekiyor. Bu nedenle Ritul üzere içerik üreticiler en uç yahut en çok dikkat çeken olaylarla ilgili görüntüler hazırlamaya odaklanıyor.
PA Media James Bulger’ın yapay zeka görüntüleri birçok lisanda yayımlandı. Bazı çocukların öyküleri Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca ve Lehçe dahil birçok lisanda yayımlanan görüntülere husus oldu.
BBC, 2 ay boyunca 1993’te İngiltere’nin Merseyside bölgesinde kendisinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulger’ın yapay zeka versiyonlarını içeren 170 farklı TikTok görüntüsünü keşfetti.
ReutersTİKTOK NE CEVAP VERDİ?
Temmuz ayında James’in annesi Denise Fergus’un bir gazeteye verdiği demeçte oğlunu mevzu alan görüntüleri “hastalıklı olmanında ötesinde” diye nitelendirmesiyle TikTok trendi İngiltere’de manşetlere taşındı.
TikTok, görüntüleri toplu olarak kaldırdıktan sonra yaptığı açıklamada, “Platformumuzda bu cins rahatsız edici içeriklere yer yok. Bu cins içerikleri tespit ettikçe kaldırmaya devam ediyoruz” sözlerini kullandı.
James’in kaldırılan görüntüleri ortasında Vietnamca lisanındaki iki görüntü da vardı. Bunlardan biri 4 milyon sefer izlenmişti.
BBC, isminin bâtın kalması şartıyla röportaj yapmayı kabul eden Vietnam’daki bir TikTok içerik moderatörüyle konuştu.
Videoların kaldırılmasından 2 hafta sonra bile şirketin kendisine bu cins içeriklerin yasaklandığını resmi olarak söylemediğini belirtti.
BBC’ye konuşan moderatöre nazaran, görüntülerin paylaşılmasına TikTok’un sömürü ve istismardan kurtulanların kıssalarını paylaşmalarına müsaade veren kuralları kapsamında müsaade verilmiş olabilir.
Peki TikTok’un çalışanları şirketin siyasetinin gerçekte ne olduğu konusunda baş karışıklığı yaşıyor mu? Yorum istediğimiz TikTok yetkilileri, bu soruya özel bir cevap vermedi.
Ancak TikTok, moderatörün bu görüntülerin hayatta kalanların tecrübeleri olarak platformda yayınlanmasına müsaade verilebileceği önermesinin yanılgılı olduğunu açıkça belirtti. Zira bunlar, gerçek hayatta kalanların tecrübelerinden çok, ölen çocukların bilgisayar tarafından oluşturulmuş manzaralarıydı.
Bu cins görüntüler TikTok’ta hala çarçabuk bulunabiliyor. Lakin TikTok, platformunda yayımlanan her şeyi yakalayamayacağı konusunda epey açık olduğunu söylüyor.
Bu haber BBC Vietnamca Servisi’nden Thuong Le’nin katkılarıyla hazırlandı.
