2006’da öldürülen bir kız, bir yapay zeka karakteri olarak yeniden dirildi ve aileyi dehşete düşürdü

Ekim ayının başında, yani kızı Jennifer’ın öldürülmesinden yaklaşık 18 yıl sonra, Drew Crescenti, yeni çevrimiçi profilinin ne olduğuyla ilgili bir Google uyarısı aldı.

Profil, Jennifer’ın tam adını ve yıllık fotoğrafının yanı sıra onu “video oyunu gazetecisi ve teknoloji, popüler kültür ve gazetecilik alanında uzman” olarak tanımlayan uydurma bir biyografiyi gösteriyordu. Siteye göre, 2006 yılında lise son sınıftayken eski erkek arkadaşı tarafından öldürülen Jennifer, “bilgili ve arkadaş canlısı bir yapay zeka karakteri” olarak yeniden tasavvur edilmiş gibi görünüyor. Kullanıcıları sohbet robotuyla etkileşime davet eden belirgin bir düğme var.

Crescente, “Nabzım hızla atıyordu” dedi. WashingtonPost, “Ben sadece tokatlayıp durdurabileceğim büyük, yanıp sönen kırmızı bir durdurma düğmesi arıyordum.”

Jennifer’ın adı ve fotoğrafı, kullanıcıların yapay zeka tarafından oluşturulan karakterlerle etkileşime girmesine olanak tanıyan bir platform olan Character.AI’de bir sohbet robotu oluşturmak için kullanıldı. Artık silinen profilin ekran görüntüsüne göre, birkaç kullanıcı sitedeki birisi tarafından oluşturulan Jennifer’ın dijital versiyonuyla etkileşime girdi.

Gençlerde flört şiddetini önlemek için kızı adına kâr amacı gütmeyen bir kuruluş işleten Crecente, platformun bir kullanıcının, ailenin izni olmadan öldürülen bir lise öğrencisinin yapay zeka kopyasını oluşturmasına izin vermesi karşısında dehşete düştü. Uzmanlar, olayın, yapay zeka sektörünün kullanıcıları hassas kişisel verileri işleme kapasitesine sahip teknolojinin yarattığı risklerden koruma becerisine ilişkin ciddi endişeleri ortaya çıkardığını söylüyor.

Crescente, “Şok olmam biraz zaman aldı çünkü o kadar çok şey yaşadım ki” dedi. “Fakat bu yeni bir düşük seviyeydi.”

Character sözcüsü Kathryn Kelly, şirketin hizmet şartlarını ihlal eden sohbet robotlarını kaldırdığını ve “topluluk güvenliğini önceliklendirmek için güvenlik uygulamalarımızı sürekli olarak geliştirip iyileştirdiğini” söyledi.

Kelly yaptığı açıklamada, “Jennifer’ın profili bize bildirildiğinde içeriği ve hesabı inceledik ve politikalarımıza uygun şekilde harekete geçtik” dedi. Şirketin şartları, kullanıcıların herhangi bir kişi veya kuruluşun kimliğine bürünmesini yasaklamaktadır.

Konuşmayı simüle edebilen ve gerçek veya kurgusal karakterlerin kişiliklerini veya biyografik ayrıntılarını benimseyebilen yapay zeka destekli sohbet robotları, arkadaş, akıl hocası ve hatta romantik partner olarak pazarlanan dijital yoldaşlar olarak popülerlik kazandı. Ancak teknoloji aynı zamanda önemli eleştirilerle de karşı karşıya kaldı. 2023’te Belçikalı bir adam, etkileşimleri sırasında bir chatbot’un eylemi teşvik etmesinden sonra intihar ederek öldü.

Yapay zeka destekli sohbet robotu alanının önemli bir oyuncusu olan Character, yakın zamanda Google ile 2,5 milyar dolarlık bir lisans anlaşması imzaladı. Platformda önceden tasarlanmış sohbet robotları bulunuyor ancak aynı zamanda kullanıcıların fotoğraf, ses kayıtları ve yazılı komutlar yükleyerek kendi sohbet robotlarını oluşturmalarına ve paylaşmalarına da olanak tanıyor. Kütüphanesi, motivasyon sansüründen kitap öneren kütüphaneciye kadar çeşitli karakterlerin yanı sıra Nicki Minaj ve Elon Musk gibi tanınmış kişilerin taklitlerini içeriyor.

Ancak Drew Crescenti için merhum kızının Kişisel’deki profilini keşfetmek yıkıcı bir şok oldu. 18 yaşındaki Jennifer Crescente, 2006 yılında öldürüldü, ormana götürüldü ve eski erkek arkadaşı tarafından vuruldu. 18 yıldan fazla bir süre sonra, 2 Ekim’de Drew, telefonunda onu sanki hayattaymış gibi Jennifer’ın adının, fotoğrafının ve biyografisinin yer aldığı Character.AI sohbet robotuna yönlendiren bir uyarı aldı.

“Gerçekten korkunç şeyler için bundan daha ileri gidemezsiniz” dedi.

Drew’un kardeşi Brian Crescenti de olay hakkında Platform X’te (eski adıyla Twitter) yazdı. Buna yanıt olarak Character, 2 Ekim’de chatbot’u kaldırdığını duyurdu.

Bu çok iğrenç: @character_ai Öldürülen yeğenim, babasının izni olmadan yapay zekalı bir video oyununun yüzü olarak kullanılıyor. Şu anda çok üzgün. Neler yaşadığını hayal bile edemiyorum.

Lütfen bu tür korkunç uygulamaları durdurmamıza yardımcı olun. https://t.co/y3gvAYyHVY

– Brian Crescente (@crecenteb) 2 Ekim 2024

Kelly, şirketin kara listeleri kullanarak platformunu aktif olarak yönettiğini ve Güven ve Güvenlik ekibi aracılığıyla kimliğe bürünme raporlarını araştırdığını açıkladı. Hizmet şartlarını ihlal eden chatbotların kaldırıldığını da sözlerine ekledi. Kamuya mal olmuş kişileri taklit eden diğer sohbet robotları sorulduğunda Kelly, bu tür vakaların araştırıldığını ve ihlallerin tespit edilmesi durumunda harekete geçildiğini doğruladı.