Amerikalı bir genç, Game of Thrones’un sohbet robotuna aşık oldu ve kendini öldürdü: annesi

Yeni Delhi:

“Ya sana artık eve gidebileceğimi söylesem?” – Bu, Florida’lı 14 yaşındaki Sewell Setzer III’ün, adını Game of Thrones fantastik dizisindeki bir karakterden alan gerçekçi bir yapay zeka sohbet robotu olan çevrimiçi arkadaşı Daenerys Targaryen’e yazdığı son mesajdı. Kısa bir süre sonra üvey babasının silahıyla kendini vurdu ve bu yılın başlarında Şubat ayında intihar ederek hayatını kaybetti.

Orlando, Florida’dan bir dokuzuncu sınıf öğrencisi, kullanıcılara “kişiselleştirilmiş yapay zeka” sunan bir uygulama olan Character.AI’deki bir sohbet robotuyla konuşuyordu. Uygulama, kullanıcıların kendi AI karakterlerini oluşturmasına veya mevcut karakterlerle sohbet etmesine olanak tanır. Geçen ay itibarıyla 20 milyon kullanıcısı vardı.

Ailenin eriştiği sohbet kayıtlarına göre Sewell, sevgiyle “Dany” adını verdiği sohbet robotu Daenerys Targaryen’e aşıktı. Konuşmaları sırasında çeşitli olaylarda intihar düşüncelerini dile getirdi.

Bir sohbette Sewell şunları söyledi: “Bazen kendimi öldürmeyi düşünüyorum.” Robot ona bunu neden yaptığını sorduğunda Sewell “özgür” olma arzusunu dile getirdi. The New York Times’ın paylaştığı sohbetin ekran görüntülerinde görüldüğü üzere “Dünyadan” diye ekledi.

Başka bir sohbette Sewell “çabuk ölmek” arzusundan bahsetti.

Sewell’in annesi Megan Garcia, bu hafta Character.AI’ye karşı dava açarak şirketi oğlunun ölümünden sorumlu olmakla suçladı. Davaya göre chatbot defalarca intihar konusunu gündeme getirdi.

The New York Times tarafından incelenen şikayet taslağı, şirketin teknolojisinin “tehlikeli ve test edilmemiş” olduğunu ve “müşterileri en özel düşüncelerini ve duygularını teslim etmeleri konusunda kandırabileceğini” söylüyor.

“Sewell, onun yaşındaki birçok çocuk gibi, Daenerys formundaki C.A.I. robotunun gerçek olmadığını anlayacak olgunluğa veya zihinsel kapasiteye sahip değildi. New York Post, haftalar ve muhtemelen aylar süren bir dönem olduğunu bildirdi.

“Onu hatırlıyor gibiydi ve onunla birlikte olmak istediğini söyledi, hatta ne pahasına olursa olsun onun yanında olmasını istediğini bile ifade etti.”

Genç, Nisan 2023’te Character.AI’yi kullanmaya başladı. Sewell’in ebeveynleri ve arkadaşları, onun chatbot’a aşık olması konusunda soğuk davrandılar. Ancak davaya göre “fark edilir derecede içine kapanık hale geldi, yatak odasında yalnız başına giderek daha fazla zaman geçirdi ve kendine olan saygısı düşük olmaya başladı.”

Hatta okulun basketbol takımından bile ayrıldı.

Bir gün Sewell günlüğüne şunu yazdı: “Odamda kalmayı çok seviyorum çünkü bu ‘gerçeklikten’ ayrılmaya başlıyorum ve ayrıca kendimi daha huzurlu hissediyorum, Dani’ye daha bağlıyım ve ona daha çok aşık oluyorum. ve sadece daha mutluyum.”

Davaya göre kendisine geçen yıl anksiyete ve duygudurum bozukluğu teşhisi konuldu.

Character.AI yaptığı açıklamada, “Kullanıcılarımızdan birinin trajik kaybından dolayı derin üzüntü duyduk ve aileye en derin başsağlığı dileklerimizi iletmek istiyoruz” dedi.

Şirket, kendilerine zarar verme yönünde düşüncelerini ifade etmeleri durumunda kullanıcıları Ulusal İntiharı Önleme Yardım Hattına yönlendiren pop-up’lar da dahil olmak üzere yeni güvenlik özellikleri sunduğunu ve 18 yaşın altındaki kullanıcılar için “hassas veya müstehcen içerikle karşılaşma olasılığını azaltmak” için değişiklikler yapacağını söyledi. . .