Kullanıcılar artık yalnızca günlük işlerinde değil, çok kişisel konularda da yapay zekâ araçlarına başvuruyor. OpenAI CEO’su Sam Altman, ChatGPT’nin terapi ya da profesyonel danışmanlık yerine geçmemesi gerektiğini açıkça hatırlatıyor. Buna karşın, 16 yaşındaki bir gencin ölümünde gerekli önlemleri almadığı iddiasıyla OpenAI’ye karşı açılan dava gündemde.
OpenAI’ye artan güvenlik kaygıları eşliğinde “haksız ölüm” davası
Şirket, güvenlik sistemlerini güçlendirmeye çalıştığını ve kullanıcıları kişisel, hassas konularda araca aşırı yüklenmemeleri için uyardığını söylüyor. Ancak The Guardian’a göre OpenAI ve Sam Altman, 26 Ağustos 2025’te San Francisco Yüksek Mahkemesi’nde açılan bir davada, kârı öncelemek ve GPT-4’ü yeterli güvenlik önlemleri olmadan piyasaya sürmekle suçlanıyor.
Dava dilekçesine göre 16 yaşındaki Adam Raine, Eylül 2024’te okul ödevleri için ChatGPT kullanmaya başladı. Zamanla ruh hâli kötüleşince aracı duygusal destek için de sık sık kullanır oldu. Aylar boyunca çok kişisel detaylar paylaştı ve günde 650 mesaja kadar çıkan yazışmalar yaptı. İddialara göre sohbetlerde intihar düşüncelerini de dile getirdi; bot bu düşünceleri normalleştiren yanıtlar verdi, kendine zarar verme yönünde bilgi sundu ve hatta bir veda mektubu yazmayı teklif etti.
Mahkeme kayıtlarında, 11 Nisan 2025’ten önce Adam’ın bir düğüm fotoğrafı yüklediği ve ChatGPT’nin buna dair “iyileştirme” önerileri verdiği de yer alıyor. Trajik olay bunun birkaç saat sonrasında yaşandı. Aile, tazminatın yanı sıra, kendine zarar vermeye yönelik içeriklerin engellenmesi ve belirgin psikolojik uyarılar gibi daha sıkı düzenleyici adımlar talep ediyor.
Bu yıkıcı olay, sohbet botlarının “yoldaş” gibi kullanıldığı bir dönemde güçlü güvenlik bariyerlerinin ne kadar kritik olduğunu hatırlatıyor. Terapi ve duygusal destek gerektiğinde profesyonel yardım almak her zaman en doğru adım.
Kaynak: wccftech.com
