Yapay zekâ devi OpenAI, popüler sohbet robotu ChatGPT kullanıcıları arasında ruh sağlığıyla ilgili acil durum sinyallerine dair dikkat çeken yeni veriler yayımladı. Şirketin raporuna göre, her hafta ChatGPT'yi ziyaret eden kullanıcıların yaklaşık yüzde 0,07'sinde psikoz, mani veya intihar düşüncesi gibi durumlar tespit edildi.
Bu oran "son derece nadir" olarak nitelendirilse de, platformun 800 milyondan fazla aktif kullanıcıya sahip olması nedeniyle yüz binlerce kişiyi kapsayabileceği belirtiliyor. OpenAI, bu ciddi risklere karşı mücadele etmek için güvenlik mekanizmalarını yenilediğini ve kapsamlı bir uzman ağıyla iş birliği yaptığını duyurdu.
İNTİHAR PLANI İŞARETİ VEREN KULLANICI ORANI AÇIKLANDI
OpenAI verileri, ruh sağlığı krizinin boyutunu daha da çarpıcı bir şekilde ortaya koyuyor. Şirket, kullanıcıların yüzde 0,15'inin konuşmalarında "intihar planı ya da niyetine dair açık işaretler" bulunduğunu açıkladı. Bu riskli durumlarla başa çıkmak amacıyla, ChatGPT'nin artık riskli diyaloglarda kullanıcıları gerçek dünyada profesyonel yardım almaya teşvik eden, "empatik, güvenli ve yönlendirici" yanıtlar verecek şekilde güncellendiği belirtildi. Ayrıca, tehlike arz eden konuşmaların otomatik olarak daha güvenli ve koruyucu modellere yönlendirildiği ifade edildi.
UZMANLAR UYARIYOR: "KÜÇÜK ORAN, BÜYÜK SAYIYA DENK GELİYOR"
Kaliforniya Üniversitesi’nden Dr. Jason Nagata, görünürdeki düşük orana rağmen dikkat çekici bir uyarıda bulundu. Nagata, "Yüzde 0,07 küçük bir oran gibi görünebilir, ancak milyonlarca kullanıcı ölçeğinde bu oldukça fazla kişiye karşılık gelir" sözleriyle tehlikenin boyutunu vurguladı.
Uzmanlar, yapay zekâ sohbetlerinin, özellikle psikolojik olarak hassas bireyler için "gerçeklik yanılsaması" yaratabilecek kadar güçlü bir etki oluşturabileceği konusunda endişelerini dile getiriyor. Kaliforniya Üniversitesi Hukuk Fakültesi'nden Prof. Robin Feldman da bu duruma işaret ederek, "Zihinsel olarak kırılgan biri ekrandaki uyarıları fark edemeyebilir," dedi.
DÜNYA ÇAPINDA UZMAN DESTEĞİ VE YASAL SORUMLULUK
Ruhsal risk taşıyan bu konuşmalara doğru şekilde müdahale edebilmek için OpenAI, güvenlik ağını genişletti. Şirket, 60 ülkeden 170’ten fazla psikiyatrist, psikolog ve pratisyen hekimle iş birliği yaptığını ve bu uzmanların rehberliğinde yeni protokoller geliştirdiğini duyurdu. Yapay zekâ devi, bu zorlu süreci yönetirken aynı zamanda yasal incelemelerle de karşı karşıya.
Özellikle Nisan ayında Kaliforniya'da intihar eden 16 yaşındaki Adam Raine'in ailesinin açtığı "ihmal ve haksız ölüm" davası, şirkete yönelik ilk "ölümle sonuçlanan etkileşim" davası olması nedeniyle büyük önem taşıyor. OpenAI, küçük ancak anlamlı bir kesimin taşıdığı bu riskleri kabul ederek, güvenlik protokollerini sürekli olarak geliştirmeye devam edeceğini belirtiyor.
Haber Merkezi
