Video dengan editan deepfake yang beredar di media sosial sering kali bikin ketawa, Buzztie. Tapi teknik berbasis AI itu juga sering meresahkan karena bisa disalahgunakan, terutama untuk membuat video bertema seksual. Selebriti pun sering menjadi korbannya, seperti Emma Watson yang wajahnya muncul dalam banyak video seksi editan di Facebook.
Facebook baru-baru ini menghapus ratusan video seksi yang memunculkan wajah selebriti, termasuk Emma Watson. Dalam salah satu video iklan yang viral, pemeran Hermione tersebut ditampilkan sedang memberikan tatapan sensual kepada kamera sebelum melakukan aktivitas seksual. Postingan yang sudah ditonton 16 juta kali tersebut dibuat menggunakan teknik deepfake dari aplikasi FaceMega yang memang ditujukan untuk mengganti wajah orang.
Dilansir NBC News, FaceMega sudah merilis lebih dari 230 iklan di media sosial Meta, seperti Facebook dan Instagram. Selain Emma Watson, selebriti lain yang wajahnya sering dipakai untuk video seksual adalah Scarlett Johansson. “Replace face with anyone. Enjoy yourself with AI swap face technology.” tulis aplikasi tersebut dalam iklannya.
Facebook sendiri mengaku selalu berusaha untuk menghapus semua jenis video berbau sensual di media sosialnya.
“Kebijakan kami adalah untuk melarang konten dewasa terlepas dari apakah itu hasil AI atau tidak dan kami telah membatasi halaman ini untuk beriklan di platform kami,” ungkap perwakilan Meta kepada dilansir NY Post.
Selain itu, perwakilan Google mengatakan mereka juga sudah menghapus aplikasi tersebut dari Play Store sehingga tidak bisa lagi digunakan untuk membuat video-video yang tidak pantas.
“Kami tidak mengizinkan aplikasi yang memuat atau mempromosikan konten seksual atau kata-kata kasar, termasuk pornografi atau konten dan jasa yang ditujukan untuk memuaskan seksual,” kata pihak Google.
Kasus deepfake yang merugikan wanita sudah sering terjadi. Bulan lalu, influencer Sweet Anita terkejut ketika menemukan dirinya terpampang dalam video bernuansa seksual. Postingan tersebut menggunakan teknik deepfake untuk memasukkan wajahnya yang sempat dikira asli oleh banyak penggemar.
What do you think, Buzztie?
