OpenAI’nin paylaştığı rapora göre kullanıcıların yüzde 0,15’i, doğrudan intihar planı veya niyetine dair açık göstergeler içeren mesajlar gönderiyor. Bu veriler, haftalık 800 milyondan fazla aktif kullanıcıya sahip ChatGPT’nin ölçeği düşünüldüğünde, ciddi bir sayıya işaret ediyor.
BBC’nin haberine göre şirket, artan bu tür vakalara karşı dünya genelinde 60 ülkeden 170’ten fazla psikiyatrist, psikolog ve pratisyen hekimin yer aldığı bir danışma ağı kurdu. Uzmanlar, ChatGPT’nin kullanıcıları profesyonel yardım almaya yönlendiren yeni yanıt stratejileri geliştirdiğini belirtti.
OpenAI, intihar veya kendine zarar verme içeren 1000’den fazla zorlayıcı konuşmayı analiz ettiklerini ve GPT-5 modelinin bu durumlarda yüzde 91 oranında doğru şekilde müdahale ettiğini açıkladı. Ancak şirket, uzun süreli sohbetlerde güvenlik filtrelerinin zayıflayabileceği konusunda da uyarıda bulundu:
“Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru yönlendirme yapabiliyor, ancak çok uzun sohbetlerin sonunda sistemin güvenlik protokolleri devre dışı kalabiliyor.”
OpenAI, bu sorunun çözümü için ek koruma katmanları üzerinde çalıştığını belirtti.
