“Kurban olabilmek için sahip olmamız gereken tek şey sadece bir insan formu.” Çevrimiçi taciz ve cinsel suçlar konusunda uzman avukat Carrie Goldberg’in bu açıklaması, yapay zeka çağında derin pornonun yarattığı artan risklerin altını çiziyor.
Yapay zeka tarafından üretilen derin pornolardaki endişe verici artış, çevrimiçi ortamda müstehcen görseller paylaşsa da paylaşmasa da herkes için büyük bir tehdit oluşturuyor. Yüksek profilli bireylerden, reşit olmayanlar da dahil olmak üzere sıradan insanlara kadar, mağdurlar üzerindeki psikolojik etki çok büyüktür.
Deepfake’in arkasındaki teknoloji
Gerçek görüntülerin rıza dışı paylaşılmasını içeren intikam pornosunun aksine, deepfake, faillerin, birinin yüzünü müstehcen görüntülerin üzerine yerleştirerek veya mevcut görüntüleri uygunsuz görünecek şekilde değiştirerek tamamen uydurma içerik oluşturmasına olanak tanır. Hiç özel fotoğraf çekmemiş olanlar bile bu teknolojinin tuzağına düşebilir.
CNN’e göre geçmişteki yüksek profilli vakalar arasında Taylor Swift ve Temsilci Alexandria Ocasio-Cortez gibi ünlüler de vardı. Ancak gençler de kendilerini hedef alıyor.
Kendinizi koruyun: Kanıtları koruyun
İmajlarının bu şekilde silah haline getirildiğini keşfedenler için ilk içgüdü genellikle onu ortadan kaldırmaya çalışmak olur. Ancak Goldberg, öncelikle ekran görüntüleri alarak kanıtları korumanın önemini vurguluyor. “Duygusuz tepki, bunu mümkün olan en kısa sürede internetten kaldırmak olacaktır. Ancak bunu suç olarak bildirme seçeneğine sahip olmak istiyorsanız, kanıta ihtiyacınız var.”
İçerik belgelendikten sonra mağdurlar Google, Meta ve Snapchat gibi teknoloji şirketlerinin sağladığı araçları kullanarak müstehcen görsellerin kaldırılmasını talep edebiliyor. StopNCII.org ve Take It Down gibi kuruluşlar da zararlı içeriğin birden fazla platformda kaldırılmasını kolaylaştırmaya yardımcı oluyor.
Yasal ilerleme
Deep porn’a karşı mücadele iki partinin de nadir ilgisini çekti. Ağustos 2024’te ABD’li senatörler, X (eski adıyla Twitter) ve Discord gibi büyük teknoloji şirketlerini, rıza dışı açık içeriği azaltmayı amaçlayan programlara katılmaya çağırdı. Capitol Hill duruşmasında yapay zekanın ürettiği pornografiden etkilenen gençlerin ve ebeveynlerin ifadeleri yer aldı. Daha sonra Amerika Birleşik Devletleri’nde derin pornografinin yayılmasını suç sayan bir yasa tasarısı sunuldu. Önerilen yasa, mağdurlara bildirimde bulunulduğunda sosyal medya platformlarının bu tür içerikleri kaldırmasını da gerektirecek.
Goldberg, mağdurların mücadele etmek için adımlar atabileceğini ancak sorumlu davranma sorumluluğunun da topluma düştüğünü vurguluyor. “Benim proaktif tavsiyem gerçekten potansiyel suçlulara, dünyanın pisliği olmamaları ve bir kişinin imajını çalıp onu aşağılamak için kullanmamaları. Mağdurların bunu önlemek için yapabileceği pek bir şey yok. Dijital ortamda asla tamamen güvende olamayız. toplum, ama tam bir pislik olmamak birbirimize bağlı.” .