Çocukların yakınlarının müsaadesi olmadan üretilen görüntülerde çocuklar ve hatta bazen bebekler nasıl öldürüldüklerini anlatıyor.
TikTok, çocukların yapay zeka ile oluşturulmuş görüntülerinin platformunda paylaşılmasını mart ayında yasaklamıştı. Lakin çocuk cinayeti görüntüleri nisan ayından bu yana TikTok’ta yayılmaya devam ediyor.
BBC’nin araştırması, yasakla ilgili olarak birtakım TikTok çalışanlarının bile başlarının karışık olduğunu ortaya çıkardı.
BBC’ye konuşan TikTok’un içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi.
Yapay zeka ile üretilen bu görüntülerin kimileri aylarca platformda dolaştı, kimileri milyonlarca sefer izlendi.
‘EN BERBATINDAN BİLE DAHA MAKÛS BİR YUMRUK YEMİŞ GİBİYDİM’
Çocukların yakınları bu görüntülerin ortaya çıkmasından kısa mühlet sonra şikayetlerini lisana getirmeye başladı. Kanadalı Amélie Lemieux, telaşlarını lisana getiren birinci bayanlardan.
BBC Amélie Lemieux kızının yapay zekayla oluşturulan görüntüsünü izledikten sonra dehşete düştü. Lemieux’nün eşi, Temmuz 2020’de 6 ve 11 yaşındaki kızları Romy ve Norah’ı öldürüp intihar etmişti.
Nisan ayında TikTok’ta Norah’nın öldürüldükleri anı anlattığı bir görüntüyü gördüğünde dehşete düştü:
“Hayal edebileceğiniz en makûs yumruktan bile daha berbat bir yumruk yemiş üzereydim.
“Ne ben ne de erkek kardeşim görüntüyü sonan kadar izleyebilir. Durması için bağırıyordu.”
Lemieux bilhassa genç yeğenlerinin TikTok’ta bu görüntüyle müsabakasından tasa ediyordu.
Çok sayıda kişi TikTok’a görüntüyle ilgili şikayette bulundu. Fakat görüntü platformda dolaşmaya devam etti.
Nihayetinde Lemieux’nün durumu gazetecilerin ilgisini çekti, görüntüyü paylaşan anonim hesap silindi.
Lemieux görüntüyü kimin yaptığını bulamadı lakin onu asla affedemeyeceğini söyledi:
“Birinin bu kadar rahatsız edici, bizi geri kalan günlerimizde eksik hissettirecek bir şeyi kullanması inanılmaz derecede şok edici. Tek istedikleri izlenme, beğeni, paylaşım. Ve aşağıya yorum bırakan beşerler. Şahsî olarak bunu affedemem.”
YENİ TEKNOLOJİLER VE SÜRATLE TAKİPÇİ KAZANMA İSTEĞİ
Yapay zeka yazılımlarının gitgide daha erişilebilir hale gelmesi, bu görüntülerin üretilmesine imkan tanıyor.
Yazılımlar sayesinde çarçabuk bir insan figürü oluşturup ona belirli bir metni söyletebiliyorsunuz.
Kurban görsellerinin kimileri gerçek hayattakilere benzemiyor fakat kimiler gerçek hayattaki insanları baz alıyor.
Vieoları yapanlar anonim olsa da BBC, yapımcılardan birinin Londra’da yaşayan Ritul isimli bir erkek öğrenci olduğunu tespit etti.
Ritul, YouTube’da “hikaye anlatımlı” görüntülerin TikTok’ta takipçi kazanmak için süratli bir yol olduğunu söylüyor:
“Sadece yapay zeka kullandığımız kıssa anlatımlı görüntülerle binlerce ve binlerce takipçi kazandım. 3 haftadan az müddette 47 bin takipçi kazandım.”
Ritul yorum talebimizi reddetti ve TikTok tarafından hesabı silindi.
TikTok üzere görüntülerin süratle tüketildiği bir platformda görüntülerin saniyeler içinde dikkat çekmesi gerekiyor. Bu nedenle Ritul üzere içerik üreticiler en uç yahut en çok dikkat çeken olaylarla ilgili görüntüler hazırlamaya odaklanıyor.
PA Media James Bulger’ın yapay zeka görüntüleri birçok lisanda yayımlandı. Bazı çocukların kıssaları Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca ve Lehçe dahil birçok lisanda yayımlanan görüntülere bahis oldu.
BBC, 2 ay boyunca 1993’te İngiltere’nin Merseyside bölgesinde kendisinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulger’ın yapay zeka versiyonlarını içeren 170 farklı TikTok görüntüsünü keşfetti.
ReutersTİKTOK NE CEVAP VERDİ?
Temmuz ayında James’in annesi Denise Fergus’un bir gazeteye verdiği demeçte oğlunu bahis alan görüntüleri “hastalıklı olmanında ötesinde” diye nitelendirmesiyle TikTok trendi İngiltere’de manşetlere taşındı.
TikTok, görüntüleri toplu olarak kaldırdıktan sonra yaptığı açıklamada, “Platformumuzda bu cins rahatsız edici içeriklere yer yok. Bu çeşit içerikleri tespit ettikçe kaldırmaya devam ediyoruz” sözlerini kullandı.
James’in kaldırılan görüntüleri ortasında Vietnamca lisanındaki iki görüntü da vardı. Bunlardan biri 4 milyon sefer izlenmişti.
BBC, isminin zımnî kalması şartıyla röportaj yapmayı kabul eden Vietnam’daki bir TikTok içerik moderatörüyle konuştu.
Videoların kaldırılmasından 2 hafta sonra bile şirketin kendisine bu tıp içeriklerin yasaklandığını resmi olarak söylemediğini belirtti.
BBC’ye konuşan moderatöre nazaran, görüntülerin paylaşılmasına TikTok’un sömürü ve istismardan kurtulanların öykülerini paylaşmalarına müsaade veren kuralları kapsamında müsaade verilmiş olabilir.
Peki TikTok’un çalışanları şirketin siyasetinin gerçekte ne olduğu konusunda baş karışıklığı yaşıyor mu? Yorum istediğimiz TikTok yetkilileri, bu soruya özel bir cevap vermedi.
Ancak TikTok, moderatörün bu görüntülerin hayatta kalanların tecrübeleri olarak platformda yayınlanmasına müsaade verilebileceği önermesinin yanlışlı olduğunu açıkça belirtti. Zira bunlar, gerçek hayatta kalanların tecrübelerinden fazla, ölen çocukların bilgisayar tarafından oluşturulmuş manzaralarıydı.
Bu cins görüntüler TikTok’ta hâlâ çarçabuk bulunabiliyor. Fakat TikTok, platformunda yayımlanan her şeyi yakalayamayacağı konusunda hayli açık olduğunu söylüyor.
Bu haber BBC Vietnamca Servisi’nden Thuong Le’nin katkılarıyla hazırlandı.
