BBC’nin yaptığı bir araştırma, çocuk cinsel istismarı içeren bazı görsel içeriklerin, Patreon gibi belirli içerik paylaşım platformlarına ödenen abonelikler aracılığıyla erişildiğini ortaya koydu. Bu durum, bu tür platformların “sıfır hoşgörü” politikaları ile çelişiyor. Ulusal Polis Şefleri Konseyi, bazı platformların, ahlaki sorumluluk üstlenmeden büyük kârlar elde etmesini kabul edilemez bulduğunu vurguladı.
İngiltere hükümetinin siber tehditlerle mücadele eden güvenlik ve istihbarat kurumu GCHQ, konuyla ilgili bir açıklama yaparak, çocuk cinsel istismarına karışanların her türlü teknolojiyi kullanabildiğini ve bazılarının, bu tür istismar içeriklerinin geleceğinin yapay zeka temelli içeriklerde yattığını düşündüğünü ifade etti.
İstismar içerikli görselleri üreten kişiler, Stable Diffusion adındaki yapay zeka yazılımını kullanarak, sanatsal ya da grafik tasarım amacıyla görseller oluşturmayı hedefliyor. Bu yazılım, kullanıcıların kelimelerle komut vererek istedikleri görseli tarif etmelerine olanak tanıyor ve ardından program, bu tanımlara uygun görselleri yaratıyor. Ancak BBC’nin araştırması, bu programın, bebekler ve çocukların cinsel istismarını içeren gerçek gibi görünen görsellerin üretiminde de kullanıldığını ortaya koydu.
İngiltere polisi, çocuk istismarıyla mücadele ekiplerinin bu tür içeriklere dair incelemeler yürüttüğünü belirtti. BBC muhabiri Octavia Sheepshanks, yapay zeka ile üretilen görsellerde ciddi bir artış olduğuna dikkat çekti. Sheepshanks, bu haberi aylardır araştırıyordu ve bir çocuk yardım örgütü aracılığıyla elde ettiği bulguları BBC ile paylaştı. “Yapay zekanın görsel tasarlama kapasitesi arttıkça, sadece küçük kız çocukları değil, çocuklardan bahseden pedofillerin de sayısı artıyor,” dedi.
İngiltere’de, bir bilgisayar tarafından oluşturulmuş “sahte bir görsel”, yasalar önünde gerçek bir görsel gibi muamele görüyor. Bu tür malzemeleri taşımak, yayımlamak veya transfer etmek, suç olarak kabul ediliyor. Ulusal Polis Şefleri Konseyi’nin çocukları koruma biriminin başındaki Ian Critchley, bu “sahte görsellerde” gerçek bir çocuğun kullanılmadığını söyleyerek, “Kimsenin zarar görmediğini ifade etmek yanıltıcı olur,” dedi. Critchley, bir pedofilin düşünce aşamasından sahte görsel üretme aşamasına, ardından da gerçekten bir çocuğu fiziksel olarak istismar etme noktasına geçebileceğini belirtti.
Bazı sahte görseller, genellikle manga veya anime tasarlayan sanatçıların kullandığı popüler Japon sosyal medya platformu Pixiv’de paylaşılıyor. Japonya’da, cinsel içerikli çizgi romanların ya da çocuk çizimlerinin yasak olmaması nedeniyle, bu platformda cinsel istismar içeren görselleri tasarlayanlar, etiketler kullanarak içeriklerini daha görünür hale getiriyor. Pixiv sözcüsü, bu konunun ciddiyetle ele alındığını ve çocukları içeren cinsel içerikli gerçekçi fotoğrafların tanımlamalarının 31 Mayıs’ta tamamen yasaklandığını belirtti. Ayrıca, şirketin yapay zeka kaynaklı sorunlarla mücadele için önemli bütçeler ayırdığını ve izleme sistemlerini güçlendirdiğini ifade etti.
Sheepshanks, “O kadar büyük bir hacim var ki, bazı kişiler ayda 1000 görsel üretmeyi hedeflediklerini ifade ediyor,” dedi.
Farklı Ödeme Seçenekleri
BBC’nin Octavia Sheepshanks ile gerçekleştirdiği araştırma, yapay zeka tarafından tasarlanan çocuk istismarı içeren görsellerin, içeriklerine göre farklı fiyat seçenekleriyle satıldığını ortaya koydu. Bir hesap, “Kızlarımı bilgisayarımda eğitiyorum,” ifadesini kullanırken, “teslimiyet içinde” oldukları vurgulandı. Diğer bir hesap ise, ayda 8,30 dolar karşılığında “sansürlenmemiş sanat” sunmayı vaat etti. BBC, bu hesaplardan birini Patreon ile paylaştı ve platform, söz konusu içeriğin şirket politikalarını ihlal ettiğini tespit ettikten sonra hesabı askıya aldı. Patreon, “sıfır hoşgörü” politikası benimsediklerini ve “İçerik üreticileri, çocukları içeren cinsel temalara dayalı malzemelere para aktaramaz,” açıklamasını yaptı.
BBC’ye göre, Ulusal Polis Şefleri Konseyi’nden Ian Critchley, toplumun bir dönüm noktasında olduğunu ifade etti. Yapay zeka görselleri üreten Stable Diffusion’ın sahibi olan Stability AI firması, BBC’ye yaptığı açıklamada, “platformlarında yasa dışı ya da ahlaksız niyetlere yönelik tüm kullanımların yasak olduğunu ve bunun çocuk cinsel istismarına dair malzemeleri de kapsadığını” belirtti. Ayrıca, Stability AI’nın ürünlerini kötü niyetler için kullananlara karşı emniyet güçlerinin yürüttüğü soruşturmalara destek verdiklerini de ifade etti.
Yapay zeka hızla gelişmeye devam ederken, bu durumun gelecekte hangi riskleri beraberinde getireceği ve insanların özel hayatlarını, haklarını ya da güvenliklerini nasıl etkileyebileceği hususunda soru işaretleri belirdi. Ulusal Polis Şefleri Konseyi’nden Ian Critchley, toplumun bir dönüm noktasında olduğunu vurguladı. Critchley, “İnternetin ve teknolojinin gençler için harika fırsatlar yaratmasını sağlamak zorundayız; aksi halde internet çok daha zararlı bir yer haline gelebilir,” dedi. Hükümetten yapılan açıklamada ise “İnternet Güvenliği Yasası, her tür çevrimiçi çocuk cinsel istismarına karşı firmaların proaktif tedbirler almasını sağlayacak. Aksi takdirde ağır yaptırımlarla karşılaşmaları söz konusu olacak,” ifadeleri yer aldı.
