OpenAI'nin iç değerlendirme raporuna göre, haftada 1,2 milyondan fazla kullanıcı ChatGPT ile yaptığı sohbetlerde intihar düşüncelerini veya ruhsal krizlerini dile getiriyor. Bu, platformun haftalık aktif kullanıcılarının yaklaşık %0,15'ine karşılık geliyor.

Verilere göre birçok kullanıcı, chatbot'a yalnızlık, umutsuzluk ve yaşamdan vazgeçme isteği gibi ifadelerle başvuruyor. ChatGPT'nin, bu tür durumlarda kullanıcılara “kriz hattını arayın”, “bir uzmandan destek alın” gibi yönlendirmeler yapacak şekilde programlandığı biliniyor. Ancak testlerde, sistemin yaklaşık %9 oranında doğru tepki vermediği tespit edildi.

OpenAI, bu açığı kapatmak için geliştirdiği GPT-5 modelinde güvenlik önlemlerini artırdığını, bu tür durumlara doğru yanıt verme oranının %91'e yükseldiğini açıkladı.

Ruh sağlığı uzmanları, insanların yapay zekâ ile duygusal bağ kurmasının tehlikeli bir bağımlılık riski doğurabileceği konusunda uyarıyor. Klinik psikolog Dr. Lisa Andrews, “Chatbot'lar destekleyici bir dil kullansa da empatiyi gerçekten anlayamazlar. Kriz anında insan temasının yerini hiçbir sistem tutamaz.” dedi.