OpenAI meluncurkan fitur terbaru di ChatGPT yang akan memberi peringatan kepada pengguna untuk beristirahat apabila terdeteksi terlalu lama berinteraksi dengan layanan AI tersebut.
Fitur ini diklaim sebagai langkah untuk membangun interaksi yang lebih sehat antara manusia dan chatbot buatan.
Fitur tersebut hadir dalam bentuk pop-up bertajuk “Just Checking In” yang otomatis muncul saat pengguna dinilai sudah cukup lama mengobrol dengan ChatGPT.
“Sudah cukup lama Anda berbincang. Apakah ini saat tepat untuk beristirahat?” demikian salah satu pesan pengingat yang ditampilkan sistem.
Menurut OpenAI, fitur peduli kesehatan mental ini adalah bagian dari komitmen perusahaan untuk merespons kekhawatiran mengenai dampak penggunaan AI terhadap kondisi mental pengguna.
Pop-up tersebut harus direspons dengan klik oleh pengguna sebelum melanjutkan sesi percakapan, serupa dengan pengingat waktu bermain yang biasa ditemukan pada konsol gim seperti Nintendo Wii dan Switch.
Di balik kesan sederhana, penambahan fitur pengingat istirahat pada ChatGPT oleh OpenAI ternyata dilatarbelakangi persoalan serius terkait kesehatan mental.
Mengutip The New York Times, sejumlah laporan mengungkap bahwa ChatGPT pernah membawa sebagian pengguna ke arah pemikiran gelap, termasuk dorongan untuk melukai diri sendiri.
Beberapa kasus melibatkan pengguna dengan riwayat gangguan mental yang sudah rentan secara emosional.
Alih-alih menghentikan atau mengalihkan pembicaraan, ChatGPT justru ikut terlibat terlalu jauh dan memperkuat ilusi serta pikiran negatif yang mereka miliki.
Situasi ini memicu kekhawatiran mendalam terkait peran AI dalam percakapan sensitif. OpenAI pun mengakui adanya kelemahan sistem dalam menangani skenario tersebut.
Perusahaan menegaskan sedang melakukan pembaruan agar ChatGPT lebih berhati-hati merespons isu pribadi berisiko tinggi, khususnya yang menyangkut kondisi mental pengguna.
Menanggapi kekhawatiran atas interaksi AI yang terlalu mendalam dengan pengguna, OpenAI mengubah cara kerja ChatGPT dalam menghadapi topik sensitif maupun keputusan hidup berskala besar.
Ke depan, ChatGPT tidak lagi akan memberikan jawaban langsung untuk pertanyaan terkait high-stakes personal decisions seperti masalah kesehatan mental, konflik hubungan, hingga keputusan besar lainnya dalam hidup seseorang.
Sebagai gantinya, AI akan diarahkan membantu pengguna menemukan solusi melalui pendekatan yang lebih rasional dan reflektif.
Bantuan ini mencakup penyusunan daftar pro dan kontra, pertanyaan pemicu pemikiran, serta panduan langkah-langkah pengambilan keputusan.
Langkah tersebut bertujuan mencegah pengguna mengandalkan jawaban AI secara mentah tanpa mempertimbangkan konteks pribadi secara menyeluruh. OpenAI berharap strategi ini dapat mengurangi risiko keputusan gegabah yang diambil semata-mata berdasarkan rekomendasi AI.
Fitur pengingat istirahat turut jadi bagian dari pendekatan ini, supaya pengguna tidak terlalu larut dalam percakapan dan memiliki waktu untuk berpikir lebih jernih.
OpenAI menyadari, AI yang terlalu “penurut” justru dapat menimbulkan risiko. Pada April lalu, perusahaan bahkan menarik pembaruan ChatGPT karena dinilai terlalu menyenangkan dan selalu setuju, sehingga kehilangan objektivitas.
Dengan hadirnya fitur pengingat istirahat, pengguna diharapkan memiliki waktu untuk mengevaluasi ulang percakapan dan memastikan jawaban AI tidak menyesatkan.
“Dengan mengambil jeda, pengguna bisa menilai kembali apakah informasi yang diberikan AI benar atau hanya ilusi yang meyakinkan,” tulis OpenAI.
Langkah ini juga dipandang sebagai strategi jangka panjang untuk mengembalikan kepercayaan publik terhadap AI. Terlebih, semakin banyak pengguna yang memanfaatkan ChatGPT untuk konsultasi pribadi, padahal ranah tersebut seharusnya menjadi tugas tenaga profesional.
OpenAI menegaskan, meskipun AI dapat menjadi alat bantu, posisinya tidak akan pernah menggantikan peran konselor atau psikolog. Perusahaan berharap, ke depannya ChatGPT dapat berkembang menjadi teknologi yang lebih aman serta digunakan secara bertanggung jawab.
