ChatGPT dikabarkan memperbarui aturan internal sejak 29 Oktober. Platform chatbot AI ini tidak lagi bisa memberikan saran kesehatan, hukum, dan keuangan.
Kini, alih-alih memberikan saran langsung, ChatGPT hanya akan menjelaskan prinsip, menguraikan mekanisme umum, dan menyarankan pengguna untuk berkonsultasi dengan dokter, pengacara, atau profesional keuangan.
“Tidak boleh lagi menyebutkan nama obat atau memberikan dosis. Tidak boleh ada lagi template tuntutan hukum. Tidak ada lagi liat investasi atau saran jual/beli,” demikian isi aturan baru ChatGPT dikutip dari NEXTA, media Eropa, Senin (3/11).
Beberapa orang menggunakan ChatGPT sebagai terapis pengganti. Meskipun dapat menawarkan teknik grounding, jawaban chatbot AI ini sangat berisiko.
ChatGPT tidak memiliki pengalaman langsung sebagai terapis, tidak dapat membaca bahasa tubuh penanya, dan tidak memiliki kapasitas empati yang tulus.
Terapis berlisensi beroperasi di bawah mandat hukum untuk melindungi pasiennya dari bahaya, sedangkan ChatGPT tidak.
Terkait keuangan, ChatGPT dapat menjelaskan apa itu ETF atau Exchange Traded Fund, tetapi tidak mengetahui rasio utang terhadap pendapatan, tujuan pensiun, atau selera risiko penanya. Ketika uang sungguhan dan denda regulator dipertaruhkan, pengguna baru akan menghubungi seorang profesional.
Selain topik yang dilarang secara resmi, ChatGPT memiliki kelemahan mendasar dalam situasi berisiko tinggi. Jika alarm karbon monoksida tercium di ruangan, jangan buka ChatGPT dan bertanya apakah Anda benar-benar dalam bahaya. Evakuasi terlebih dahulu.
Model bahasa besar alias large language model (LLM) seperti GPT-4o di balik ChatGPT, tidak dapat mencium bau gas atau mengirimkan kru darurat. Keterbatasan itu juga berlaku untuk informasi realtime.
Sejak OpenAI meluncurkan ChatGPT Search pada akhir 2024, chatbot AU ini dapat mengambil halaman web dan harga saham terbaru, tetapi tidak memperbarui secara terus-menerus. Setiap pembaruan membutuhkan prompt baru, sehingga tidak efektif untuk memantau berita terkini. Hal ini juga mencakup risiko data yang besar.
“Apa pun yang pengguna bagikan, termasuk penghasilan, nomor Jaminan Sosial, atau informasi rute bank, kemungkinan besar akan menjadi bagian dari data pelatihan ChatGPT,” demikian dikutip dari IBTimes UK.
Risiko yang sama berlaku untuk kontrak klien, rekam medis, atau nomor paspor. Setelah informasi sensitif dimasukkan dalam prompt ChatGPT, tidak ada jaminan di mana informasi itu disimpan atau siapa yang dapat memeriksanya.
