Unicef Desak Negara Kriminalisasi Pembuat Konten Pelecehan Anak lewat AI

XAI menyatakan telah membatasi fitur penyuntingan gambar bagi pengguna Grok AI, serta memblokir pengguna berdasarkan lokasi untuk menghasilkan gambar orang dengan pakaian terbuka di wilayah hukum yang melarangnya.

Kendati demikian, perusahaan tidak merinci negara-negara yang dimaksud. Sebelumnya, xAI juga membatasi fitur pembuatan dan penyuntingan gambar Grok hanya untuk pelanggan berbayar.

Rekanan di Grosvenor Law, James Broomhall berpandangan perusahaan seperti xAI dapat menghadapi denda signifikan atau tindakan perdata lainnya berdasarkan Undang-Undang Keamanan Daring Inggris tahun 2023 jika terbukti tidak mengawasi alat-alatnya dengan benar. 

Tanggung jawab pidana dapat dikenakan apabila terbukti xAI sengaja mengatur chatbot-nya untuk membuat gambar-gambar itu. Badan pengawas media Inggris, Ofcom, mengatakan pihaknya masih menyelidiki X sebagai prioritas utama, sambil memastikan mengikuti proses yang semestinya.

Sementara itu, Meta menyatakan perusahaan sangat menentang pembuatan atau penyebaran gambar intim tanpa persetujuan. Alat AI-nya tidak akan mematuhi permintaan untuk membuatnya. 

OpenAI mengatakan pihaknya memiliki pengamanan dan memantau dengan cermat penggunaan alat-alat dalam operasional. 

Baca juga:

• Peneliti Kembangkan AI TreeStructor untuk Kenali Struktur Pohon di Hutan
• AS Pimpin Lonjakan PLTG Baru untuk AI, Bisa Perparah Dampak Iklim