ChatGPT, ABD’de intihar eden genci suçladı

ABD’nin Kaliforniya eyaletinde yaşayan Matt ve Maria Raine, 16 yaşındaki oğulları Adam Raine’in vefatından ötürü OpenAI’yi dava etti.

Aile, yapay zeka sohbet programı ChatGPT’nin oğullarını intihara teşvik ettiğini öne sürdü.

Bu dava, OpenAI’ye karşı haksız vefat savıyla açılan birinci yasal süreç olarak kayıtlara geçti.

Ailenin avukatına nazaran Raine, intiharından evvel aylarca ChatGPT ile uzun sohbetler yaptı ve bu konuşmalar sırasında chatbot gençten gelen metot sorularına cevap verdi, hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etti.

“AMACI DIŞINDA YANLIŞ KULLANIMDAN KAYNAKLANMIŞTIR”

California Yüksek Mahkemesi’ne yapılan savunmada OpenAI, “Bu trajedinin rastgele bir nedeni varsa, bu durum ChatGPT’nin yetkisiz, hedefi dışında ve yanlış kullanımından kaynaklanmıştır” ifadesini kullandı.

Şirket, kullanım kurallarında kendine ziyan verme hususlarında tavsiye alınmasının yasak olduğunu ve kullanıcılara chatbot çıktılarının tek gerçek bilgi kaynağı olarak görülmemesi gerektiğini hatırlattı.

“GÜVELİK İÇİN ÇALIŞMALARIMIZA DEVAM EDECEĞİZ”

OpenAI açıklamasında, “Raine ailesinin yaşadığı kayıp tarifsizdir. Türel süreçten bağımsız olarak teknolojimizi inançlı hale getirme konusundaki çalışmalarımıza devam edeceğiz” ifadelerine yer verdi.

Ailenin avukatı Jay Edelson, şirketin cevabını “rahatsız edici” olarak niteledi ve OpenAI’nin “suçu herkese yüklemeye çalıştığını, hatta Adam’ın şartları tam da programlandığı halde kullandığını söyleyerek onu suçladığını” ifade etti.

UZUN SOHBETLERDE GÜVENLİK ZAFİYETİ

OpenAI, Ağustos ayında yaptığı açıklamada, uzun müddetli konuşmalarda modelin güvenlik eğitiminde vakitle zayıflama olabileceğini kabul etmişti:

“Bir kullanıcı birinci kere intihar niyetini belirttiğinde takviye çizgisine yönlendirme yapılabiliyor. Fakat uzun müddet devam eden konuşmalarda güvenlik düzeneği bozulabiliyor. Tam da engellemeye çalıştığımız durum budur.”

Şirket bu ay içinde intihara teşvik tezleriyle ilgili yedi yeni davayla daha karşı karşıya kaldı.