Düzenleyici kurum, yapay zeka tarafından üretilen çocuk istismarıyla ilgili materyallerde endişe verici bir artış olduğu konusunda uyardı

Zaten ünlülerin derin sahte videolarının internette yayılmasına yol açan yapay zekanın olumsuz etkileri artık çocuklara da uzanıyor. Yapay zeka tarafından oluşturulan çocuk cinsel istismarı içeriği, İnternet’in halka açık alanlarında giderek daha fazla yer alıyor.

Internet Watch Foundation’ın (IWF) hazırladığı bir rapora göre, yapay zeka tarafından oluşturulan çocuk cinsel istismarı içeriği, daha fazla insanı zararlı ve korkunç görüntülere maruz bırakıyor.

Zarar gören ve istismar edilen çocukların pek çok görüntü ve videosu o kadar gerçekçi ki, bunları gerçek çocuk görüntülerinden ayırmak çok zor olabiliyor ve Birleşik Krallık yasaları gözünde tıpkı ‘geleneksel içerik’ gibi suç niteliğinde içerik olarak kabul ediliyor. Uluslararası Halter Federasyonu’na göre bu, çocuklara yönelik cinsel istismar malzemesi olacaktır.

Yalnızca son altı ayda, IWF’deki analistler, önceki 12 aya kıyasla, AI tarafından oluşturulan çocuk cinsel istismarı materyallerini içeren doğrulanmış raporlarda %6’lık bir artış gördü.

IWF, içeriğin neredeyse tamamının (%99) internetin halka açık alanlarında bulunduğunu ve karanlık ağda gizlenmediğini uyarıyor. Raporların çoğu, forumlar veya yapay zeka galerileri gibi sitelerde yanlışlıkla suç görüntülerine rastlayan halktan (%78) kişilerden geldi. Geriye kalan eylemler IWF analistleri tarafından proaktif araştırmalar yoluyla gerçekleştirildi.

Analistler, cinsel istismara uğrayan çocukların yapay zeka tarafından oluşturulan içeriğini izlemenin, eğer bir kişi bu tür materyalleri görmeye hazırlıklı veya eğitimli değilse, gerçek çocukları istismar görüntülerinde görmek kadar travmatik olabileceğini söylüyor.

Bazı AI çocuk cinsel istismarı materyalleri, çizgi film gibi rahatsız edici olmayan görseller olarak sınıflandırılır ve aynı zamanda görüntüleme açısından zararlı olarak kabul edilir ve bu nedenle IWF analistleri tarafından değerlendirilir.