Unicef Desak Negara Kriminalisasi Pembuat Konten Pelecehan Anak lewat AI

KOMPAS.com - UNICEF, badan Perserikatan Bangsa-Bangsa (PBB) untuk anak-anak, mendesak setiap negara mengkriminalisasi pembuat konten seksual anak berbasis AI (Artificial Intelligence atauk kecerdasan buatan). Hal ini dilakukan seiring meningkatnya laporan kasus tersebut. 

“Dampak dari penyalahgunaan deepfake itu nyata dan mendesak. Anak-anak tidak bisa hanya menunggu hukum untuk menyelesaikan,” kata UNICEF dalam pernyataannya dilansir dari Reuters, Jumat (5/2/2026).

Baca juga:

• UNDP: Kesenjangan Pembangunan Antarnegara Bisa Melebar akibat AI
• UN Women Peringatkan, Kekerasan Digital Berbasis AI Ancam Perempuan

Adapun deepfake memuat gambar, video, atau audio hasil proses AI yang bisa meniru seseorang. Di samping itu, UNICEF turut mendesak pengembang teknologi menerapkan pendekatan pengamanan safety-by-design dalam mencegah penyalahgunaan model AI.

Lainnya, meminta perusahaan mencegah peredaran gambar-gambar tersebut dengan memperkuat moderasi konten melalui investasi teknologi pendeteksian.

UNICEF desak kriminalisasi konten seksual anak dari AI

freepik UNICEF mendesak negara-negara untuk mengkriminalisasi pelaku yang sengaja membuat konten seksual anak berbasis AI.

Menurut catatan, UNICEF mengungkapkan bahwa gambar 1,2 juta anak di 11 negara telah dimanipulasi menjadi deepfake seksual dalam satu tahun terakhir.

Praktik itu disebut sebagai nudification, penggunaan AI untuk menghapus atau mengubah pakaian yang digunakan di dalam foto.

Adanya kasus ini membuat Inggris menjadi negara pertama yang berencana menyetujui penggunaan alat AI untuk menciptakan gambar pelecehan seksual anak sebagai tindak pidana.

Sementara itu, Sekretaris Jenderal PBB, Antonio Guterres menyatakan, dirinya mengusulkan agar 40 orang bisa bergabung dalam Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan. Tujuannya, memastikan AI digunakan sebagai kepentingan masyarakat.

Baca juga:

• OpenAI Siapkan Rencana Stargate agar Pusat Data AI Tak Bebani Warga
• Studi: Bisnis Gagal Nilai Dampak Lingkungan Penggunaan AI

Guterres menjelaskan, panel ini melibatkan para ahli dari 37 negara dengan keahlian mendalam di bidang pembelajaran mesin (machine learning), tata kelola data, kesehatan masyarakat, keamanan siber, perkembangan anak, serta hak asasi manusia.

“Kita membutuhkan pemahaman bersama untuk membangun pagar pengaman yang efektif, membuka inovasi demi kepentingan bersama, dan mendorong kerja sama,” beber Guterres.

Penggunaan Grok dan gambar seksual anak di bawah umur

Reuters UNICEF mendesak negara-negara untuk mengkriminalisasi pelaku yang sengaja membuat konten seksual anak berbasis AI.

Kekhawatiran terhadap penggunaan AI untuk menghasilkan konten pelecehan anak meningkat dalam beberapa tahun terakhir, terutama terkait chatbot seperti Grok milik xAI. Perusahaan milik Elon Musk ini disorot lantaran menghasilkan gambar seksual perempuan dan anak di bawah umur. 

Investigasi Reuters menunjukkan, chatbot Grok tetap memproduksinya meski mendapat kecaman dari pengguna.

Menanggapi hal itu, X (dulu Twitter) mengumumkan langkah pemblokiran agar Grok tidak lagi menghasilkan konten provokatif dalam unggahan publik.