Unicef Desak Negara Kriminalisasi Pembuat Konten Pelecehan Anak lewat AI

KOMPAS.com - UNICEF, badan Perserikatan Bangsa-Bangsa (PBB) untuk anak-anak, mendesak setiap negara mengkriminalisasi pembuat konten seksual anak berbasis AI (Artificial Intelligence atauk kecerdasan buatan). Hal ini dilakukan seiring meningkatnya laporan kasus tersebut. 

“Dampak dari penyalahgunaan deepfake itu nyata dan mendesak. Anak-anak tidak bisa hanya menunggu hukum untuk menyelesaikan,” kata UNICEF dalam pernyataannya dilansir dari Reuters, Jumat (5/2/2026).

Baca juga:

• UNDP: Kesenjangan Pembangunan Antarnegara Bisa Melebar akibat AI
• UN Women Peringatkan, Kekerasan Digital Berbasis AI Ancam Perempuan

Adapun deepfake memuat gambar, video, atau audio hasil proses AI yang bisa meniru seseorang. Di samping itu, UNICEF turut mendesak pengembang teknologi menerapkan pendekatan pengamanan safety-by-design dalam mencegah penyalahgunaan model AI.

Lainnya, meminta perusahaan mencegah peredaran gambar-gambar tersebut dengan memperkuat moderasi konten melalui investasi teknologi pendeteksian.

UNICEF desak kriminalisasi konten seksual anak dari AI

freepik UNICEF mendesak negara-negara untuk mengkriminalisasi pelaku yang sengaja membuat konten seksual anak berbasis AI.

Menurut catatan, UNICEF mengungkapkan bahwa gambar 1,2 juta anak di 11 negara telah dimanipulasi menjadi deepfake seksual dalam satu tahun terakhir.

Praktik itu disebut sebagai nudification, penggunaan AI untuk menghapus atau mengubah pakaian yang digunakan di dalam foto.

Adanya kasus ini membuat Inggris menjadi negara pertama yang berencana menyetujui penggunaan alat AI untuk menciptakan gambar pelecehan seksual anak sebagai tindak pidana.

Sementara itu, Sekretaris Jenderal PBB, Antonio Guterres menyatakan, dirinya mengusulkan agar 40 orang bisa bergabung dalam Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan. Tujuannya, memastikan AI digunakan sebagai kepentingan masyarakat.

Baca juga:

• OpenAI Siapkan Rencana Stargate agar Pusat Data AI Tak Bebani Warga
• Studi: Bisnis Gagal Nilai Dampak Lingkungan Penggunaan AI

Guterres menjelaskan, panel ini melibatkan para ahli dari 37 negara dengan keahlian mendalam di bidang pembelajaran mesin (machine learning), tata kelola data, kesehatan masyarakat, keamanan siber, perkembangan anak, serta hak asasi manusia.

“Kita membutuhkan pemahaman bersama untuk membangun pagar pengaman yang efektif, membuka inovasi demi kepentingan bersama, dan mendorong kerja sama,” beber Guterres.

Penggunaan Grok dan gambar seksual anak di bawah umur

Reuters UNICEF mendesak negara-negara untuk mengkriminalisasi pelaku yang sengaja membuat konten seksual anak berbasis AI.

Kekhawatiran terhadap penggunaan AI untuk menghasilkan konten pelecehan anak meningkat dalam beberapa tahun terakhir, terutama terkait chatbot seperti Grok milik xAI. Perusahaan milik Elon Musk ini disorot lantaran menghasilkan gambar seksual perempuan dan anak di bawah umur. 

Investigasi Reuters menunjukkan, chatbot Grok tetap memproduksinya meski mendapat kecaman dari pengguna.

Menanggapi hal itu, X (dulu Twitter) mengumumkan langkah pemblokiran agar Grok tidak lagi menghasilkan konten provokatif dalam unggahan publik.

XAI menyatakan telah membatasi fitur penyuntingan gambar bagi pengguna Grok AI, serta memblokir pengguna berdasarkan lokasi untuk menghasilkan gambar orang dengan pakaian terbuka di wilayah hukum yang melarangnya.

Kendati demikian, perusahaan tidak merinci negara-negara yang dimaksud. Sebelumnya, xAI juga membatasi fitur pembuatan dan penyuntingan gambar Grok hanya untuk pelanggan berbayar.

Rekanan di Grosvenor Law, James Broomhall berpandangan perusahaan seperti xAI dapat menghadapi denda signifikan atau tindakan perdata lainnya berdasarkan Undang-Undang Keamanan Daring Inggris tahun 2023 jika terbukti tidak mengawasi alat-alatnya dengan benar. 

Tanggung jawab pidana dapat dikenakan apabila terbukti xAI sengaja mengatur chatbot-nya untuk membuat gambar-gambar itu. Badan pengawas media Inggris, Ofcom, mengatakan pihaknya masih menyelidiki X sebagai prioritas utama, sambil memastikan mengikuti proses yang semestinya.

Sementara itu, Meta menyatakan perusahaan sangat menentang pembuatan atau penyebaran gambar intim tanpa persetujuan. Alat AI-nya tidak akan mematuhi permintaan untuk membuatnya. 

OpenAI mengatakan pihaknya memiliki pengamanan dan memantau dengan cermat penggunaan alat-alat dalam operasional. 

Baca juga:

• Peneliti Kembangkan AI TreeStructor untuk Kenali Struktur Pohon di Hutan
• AS Pimpin Lonjakan PLTG Baru untuk AI, Bisa Perparah Dampak Iklim