Australia kembali menjadi sorotan dengan rencananya membatasi anak-anak dari penggunaan aplikasi atau layanan kecerdasan buatan (artificial intelligence/AI). Mereka bahkan mengancam akan memblokir aplikasi tersebut jika gagal memverifikasi usia pengguna.
Dilansir Reuters, langkah tegas ini muncul setelah ditemukan lebih dari separuh layanan AI belum mempublikasikan langkah kepatuhan menjelang tenggat pekan depan. Peringatan tersebut menandai salah satu upaya paling agresif di dunia untuk mengendalikan perusahaan AI.
Sejumlah perusahaan teknologi saat ini menghadapi gelombang gugatan hukum karena dinilai gagal mencegah, bahkan diduga mendorong konten yang berkaitan dengan tindakan melukai diri sendiri atau kekerasan. Di sisi lain, para peneliti memperingatkan platform berbasis AI berpotensi lebih berdampak buruk terhadap kesehatan mental remaja dibandingkan media sosial.
Pada Desember 2025, Australia menjadi negara pertama yang melarang penggunaan media sosial bagi remaja dengan alasan kesehatan mental. Kebijakan itu memicu respons dari sejumlah pemimpin dunia yang menyatakan niat mengikuti langkah serupa.
Kini, mereka memperluas pendekatan tersebut ke ranah AI. Mulai 9 Maret 2026, layanan internet di Australia, termasuk alat pencarian berbasis AI seperti ChatGPT milik OpenAI serta chatbot pendamping lainnya, wajib membatasi akses pengguna di bawah 18 tahun terhadap konten pornografi, kekerasan ekstrem, menyakiti diri sendiri, dan gangguan makan.
Jika terbukti melanggar, mereka terancam denda hingga 49,5 juta dolar Australia atau setara Rp 591 miliar.
Komisioner lembaga keselamatan daring Australia, eSafety Commissioner, menyatakan akan menggunakan seluruh kewenangan yang dimiliki jika terjadi ketidakpatuhan, termasuk mengambil tindakan terhadap mesin pencari atau toko aplikasi yang menjadi pintu akses utama.
Beberapa perusahaan AI sebelumnya sudah menghadapi gugatan hukum. OpenAI dan startup chatbot pendamping Character.AI digugat dalam kasus kematian yang salah (wrongful death) terkait interaksi dengan pengguna muda.
OpenAI pekan ini juga mengakui telah menonaktifkan akun ChatGPT milik seorang remaja tersangka penembakan massal di Kanada beberapa bulan sebelum insiden terjadi, tanpa memberitahu pihak berwenang.
Meski Australia belum mencatat kasus kekerasan atau tindakan menyakiti diri yang dikaitkan langsung dengan chatbot, regulator melaporkan data anak-anak berusia 10 tahun berbicara dengan alat AI interaktif hingga enam jam per hari.
Juru bicara eSafety menyebut pihaknya khawatir perusahaan AI memanfaatkan manipulasi emosional, antropomorfisme (membuat AI terasa seperti manusia), dan teknik canggih lain untuk menarik dan mempertahankan pengguna muda dalam penggunaan chatbot yang berlebihan.
Operator toko aplikasi terkemuka, Apple, belum memberikan tanggapan langsung, tetapi pekan lalu menyatakan akan menggunakan “reasonable methods” untuk mencegah anak di bawah umur mengunduh aplikasi 18+ di Australia dan yurisdiksi lain yang memberlakukan pembatasan usia.
Sementara itu, Google, penyedia mesin pencari dominan di Australia sekaligus operator toko aplikasi terbesar kedua, menolak berkomentar.
Jennifer Duxbury, kepala kebijakan kelompok industri internet DIGI yang terlibat dalam penyusunan kode AI sebelum disahkan regulator, mengatakan eSafety tengah berupaya memberi pemberitahuan kepada layanan chatbot tentang aturan baru tersebut. Namun ia menegaskan, setiap layanan yang beroperasi di Australia tetap bertanggung jawab memahami kewajiban hukum dan mematuhinya.
Berdasarkan tinjauan Reuters, sepekan menjelang aturan diberlakukan, dari 50 produk AI berbasis teks paling populer, hanya sembilan platform yang telah menerapkan atau mengumumkan rencana sistem verifikasi usia.
Sebanyak 11 platform lainnya menerapkan filter konten menyeluruh atau berencana memblokir seluruh pengguna Australia, langkah yang secara teknis memenuhi aturan dengan mencegah konten terlarang diakses siapa pun. Artinya, masih ada 30 platform yang belum menunjukkan langkah jelas untuk mematuhi regulasi.
Sebagian besar asisten pencarian berbasis chat besar seperti ChatGPT, Replika, dan Claude milik Anthropic telah mulai menerapkan sistem verifikasi usia atau filter menyeluruh. Character.AI bahkan menghentikan fitur obrolan terbuka bagi pengguna di bawah 18 tahun.
Namun, di kalangan chatbot pendamping, sekitar tiga perempat belum memiliki sistem penyaringan atau verifikasi usia yang berfungsi maupun direncanakan. Bahkan, sekitar satu per enam tidak mencantumkan alamat email publik untuk melaporkan dugaan pelanggaran, padahal itu juga diwajibkan aturan.
Alat pencarian berbasis chat Grok milik Elon Musk, yang dikembangkan oleh xAI, disebut belum memiliki sistem verifikasi usia atau filter konten teks. Grok sendiri tengah diselidiki secara global atas dugaan kegagalan mencegah pembuatan citra seksual sintetis anak. Perusahaan induknya, xAI, belum merespons permintaan komentar.
Lisa Given, Direktur Centre for Human-AI Information Environments di RMIT University, menilai temuan ini tidak mengejutkan.
“Sebagian besar alat ini dirancang tanpa mempertimbangkan potensi bahaya dan kebutuhan kontrol keselamatan,” ujarnya.
Menurutnya, masyarakat seolah menjadi “bahan uji coba” bagi perusahaan-perusahaan tersebut.
“Rasanya seperti kita sedang menguji coba semua ini untuk mereka, dan mereka mencoba melihat sejauh mana masyarakat bersedia didorong,” kata Given.
