PBB Peringatkan AI Perparah Bias Gender dan Kekerasan di Dunia Maya

KOMPAS.com - Kecerdasan buatan (AI) sudah memengaruhi cara miliaran orang melihat dunia. Akan tetapi Badan PBB untuk Perempuan (UN Women) memperingatkan bahwa teknologi ini keliru dalam menilai perempuan.

Melansir Down to Earth, Senin (22/6/2026) UN Women menunjukkan sebuah penelitian terhadap 133 sistem AI.

Hasilnya, sebanyak 44 persen dari sistem tersebut terbukti mendiskriminasi gender perempuan, sementara 26 persen lainnya menunjukkan diskriminasi ganda, yaitu berdasarkan gender sekaligus warna kulit.

Lembaga ini mengatakan risiko bahaya ini semakin besar karena teknologi AI pembuat konten kini sudah dipakai secara luas di bidang iklan, komunikasi, dan pembuatan media.

Misalnya saja di Inggris, sebanyak 88 persen perusahaan iklan dan media sudah menggunakan teknologi AI pembuat konten dalam berbagai bentuk.

Namun, baru 51 persen dari pelaku industri pemasaran yang saat ini menggunakan bantuan manusia untuk memeriksa kembali karya kreatif yang dibuat oleh AI sebelum disebarluaskan ke publik.

Baca juga: Perempuan Lebih Rentan di Lingkungan Kerja Toxic

UN Women pun menegaskan bahwa kesetaraan gender harus dimasukkan sejak awal dalam pembuatan, penggunaan, dan aturan hukum sistem AI.

Diskriminasi dan kekerasan daring terhadap perempuan

Lantas seperti apa bentuk diskriminasi gender yang terjadi? UN Women mengatakan bahwa sistem AI pintar terbukti sering menghubungkan perempuan dengan kata-kata seperti "rumah", "keluarga", dan "anak-anak".

Sebaliknya, AI lebih sering menghubungkan laki-laki dengan kata-kata seperti "bisnis", "pimpinan", "gaji", dan "karier". Dalam beberapa kasus, jawaban yang dibuat oleh AI bahkan menunjukkan sikap yang merendahkan dan membenci perempuan.

Lembaga tersebut juga memperingatkan bahwa AI membuat kekerasan online terhadap perempuan dan anak perempuan menjadi semakin parah.

Hasil survei menunjukkan hampir satu dari empat orang pejuang hak asasi manusia, aktivis, dan jurnalis perempuan pernah mengalami kekerasan online yang dibantu oleh teknologi AI.

Beberapa di antara mereka melaporkan adanya penyebaran foto pribadi tanpa izin, video palsu hasil manipulasi AI hingga gangguan seksual yang tidak diinginkan melalui pesan digital.

Keterlibatan perempuan di sektor teknologi

UN Women juga menyebutkan bahwa jumlah perempuan yang ikut membuat sistem AI masih sangat sedikit, yaitu hanya sekitar 30 persen dari total pekerja AI di seluruh dunia.

Lembaga ini memperingatkan bahwa kurangnya jumlah perempuan ini membuat orang-orang yang merancang teknologi AI tidak bisa mewakili masyarakat luas yang seharusnya mereka layani.

Baca juga: Perempuan Pesisir Kehilangan Pekerjaan akibat Perubahan Iklim

Lembaga tersebut mengatakan bahwa perempuan yang bekerja di luar sektor teknologi juga memiliki risiko dua kali lebih tinggi daripada laki-laki untuk kehilangan pekerjaan mereka akibat digantikan oleh mesin otomatis (AI).

Dampak terbesar ini kemungkinan besar akan menimpa kelompok-kelompok perempuan yang selama ini memang sudah sulit mendapatkan ruang di media dan pasar kerja.

UN Women menegaskan bahwa membuat AI yang adil dan merangkul semua kelompok bukan sekadar masalah penegakan hak asasi manusia, melainkan juga sangat menguntungkan bagi bisnis.

Lembaga ini menunjukkan riset dari Unstereotype Alliance yang membuktikan bahwa iklan yang bebas dari stereotip gender justru bisa meningkatkan penjualan, nilai merek dagang, dan kesetiaan dari pelanggan.

UN Women juga menambahkan bahwa AI sebenarnya bisa digunakan untuk mendeteksi stereotip buruk dan memperbaiki keterwakilan perempuan. Namun, hal itu hanya bisa terjadi jika perempuan dan anak perempuan diikutkan dalam pengambilan keputusan tentang bagaimana teknologi ini dibuat dan digunakan.