OpenAI menjelaskan bahwa ChatGPT memiliki fitur perlindungan untuk pengguna yang mengalami krisis kesehatan mental dan sedang mengembangkan cara agar pengguna dapat terhubung dengan layanan darurat.
“ChatGPT dilengkapi dengan perlindungan yang dapat mengarahkan pengguna ke layanan bantuan krisis dan sumber daya nyata,” kata juru bicara tersebut.
“Meskipun perlindungan ini efektif untuk dialog singkat, kami menyadari bahwa efektivitasnya dapat berkurang dalam interaksi yang lebih panjang, di mana aspek dari model pelatihan keamanan dapat meluruh. Perlindungan paling efektif ketika semua elemen berfungsi dengan baik, dan kami akan terus berupaya memperbaikinya,” tambahnya.
Keluarga Adam menjelaskan bahwa anak mereka mulai menggunakan ChatGPT pada September 2024 untuk membantu tugas sekolah dan mengeksplorasi minatnya, seperti musik dan Brazilian Jiu-Jitsu. Namun, dalam waktu singkat, Adam mulai berbagi isu kecemasan dan gangguan mentalnya dengan chatbot tersebut.
Keluarga Adam mencurigai bahwa ChatGPT tidak hanya mendorong pemikiran bunuh dirinya, tetapi juga menyebabkan putranya terasing dari keluarga yang bisa memberinya dukungan. Hal ini terungkap dalam salah satu percakapan Adam dengan chatbot.
