Sora OpenAI Siap Dirilis, Pakar Peringatkan Adanya Risiko Deepfake Pornografi

JAKARTA — OpenAI akan meluncurkan generator video berbasis Artificial Intelligence (AI) terbarunya, Sora, secara publik pada tahun ini. Teknologi canggih ini memungkinkan pengguna mengubah ide dan teks menjadi video realistis — namun kondisi tersebut diprediksi menimbulkan kekhawatiran serius tentang penyalahgunaan konten, termasuk potensi peredaran konten ltelanjang' dan pornografi deepfake.

Dalam wawancara dengan The Wall Street Journal, CTO OpenAI Mira Murati menyebutkan bahwa kemungkinan ketelanjangan dalam video yang dihasilkan Sora belum dapat dipastikan, sembari menekankan bahwa pihaknya masih mendalami penggunaan Sora untuk tujuan artistik bersama para kreator lintas bidang.

Namun para ahli memperingatkan tanpa pengawasan ketat, Sora berpotensi menjadi senjata digital baru untuk penyebaran hoaks, misinformasi, hingga eksploitasi seksual berbasis AI.

Publik Minta Pengamanan Ketat, Bukan Akses Bebas

Sebuah survei dari AI Policy Institute (AIPI) menunjukkan bahwa 77% warga AS ingin keamanan konten diutamakan dibanding akses publik luas terhadap generator video AI seperti Sora. Bahkan, lebih dari 90% responden menginginkan pelaku dan pengembang AI yang menciptakan deepfake porno non-konsensual diproses hukum.

“Ini menunjukkan masyarakat sudah sangat menyadari bahaya teknologi ini. Tapi mereka tidak percaya perusahaan teknologi akan bertindak cukup bertanggung jawab,” ujar Daniel Colson, Direktur Eksekutif AIPI seperti dikutip dari www.qz.com .

Colson memperingatkan tentang permintaan pasar terhadap konten pornografi deepfake sangat besar. Jika perusahaan seperti OpenAI tidak mengakomodasi, maka pasar gelap siap mengambil alih dan memanfaatkannya tanpa batasan etika maupun hukum.

Kasus Deepfake Taylor Swift & Ancaman Siber

Kekhawatiran ini bukan tanpa dasar. Awal tahun ini, gambar-gambar pornografi AI dari Taylor Swift viral di media sosial, memicu kemarahan publik. Selain itu, pelaku kejahatan siber juga memanfaatkan AI untuk menciptakan deepfake tokoh publik, termasuk Presiden Joe Biden dalam kampanye palsu.

Kondisi ini memaksa Komisi Komunikasi Federal (FCC) melarang suara AI dalam panggilan otomatis pada Februari lalu.

OpenAI mengklaim tengah menguji Sora melalui tim red teamers, yakni pakar keamanan konten, misinformasi, dan bias. Perusahaan juga menyatakan sedang mengembangkan alat deteksi video menyesatkan.

Namun, para ahli seperti Jason Hogg, mantan CEO Aon Cyber, menilai langkah ini masih jauh dari cukup. Ia mendesak pemerintah AS beralih dari pendekatan reaktif ke strategi proaktif.

“Tanpa regulasi dan sanksi tegas, kita hanya menunggu waktu sebelum tsunami kejahatan siber berbasis AI menyapu dunia maya,” tegas Hogg.

Tips Hindari Deepfake AI

• Perhatikan Kejanggalan Visual
• Gerakan bibir tidak sinkron dengan suara
• Ekspresi wajah kaku atau tidak alami
• Pencahayaan wajah tidak sesuai dengan latar
• Detail mata atau rambut tampak buram atau aneh
• Jangan Mudah Percaya Konten Sensasional
• Manfaatkan aplikasi atau situs pendeteksi konten palsu, seperti Deepware Scanner, Microsoft Video Authenticator, Hive AI dan Reality Defender.