Agar AI Tak Lagi Bias, UN Women Serukan Teknologi yang Ramah Gender

KOMPAS.com — Head of Programme UN Women Indonesia, Dwi Yuliawati, mengatakan bahwa meskipun teknologi kecerdasan buatan (AI) kerap dianggap netral dan menjanjikan efisiensi serta percepatan proses dalam berbagai sektor, kenyataannya tidak sedikit sistem AI yang memperparah ketimpangan yang sudah ada di dunia nyata.

Saat ini, perkembangan AI dan teknologi digital banyak digunakan di lingkup korporasi karena dinilai mampu mempercepat proses bisnis hingga mempermudah akses layanan publik. Namun, menurut Dwi, kemajuan teknologi ini tidak dapat dipandang sebagai sesuatu yang netral secara sosial.

AI, kata Dwi, memiliki sejarah bias yang berasal dari ketimpangan di masyarakat dan tercermin dalam data pelatihannya. Selain itu, AI dinilai kekurangan representasi data perempuan (representational bias), serta mengandung proxy bias karena variabel dalam model AI secara tidak langsung bisa menunjukkan jenis kelamin pengguna.

“AI memang tidak serta-merta diskriminatif, tetapi ia merefleksikan kondisi sosial yang sudah bias berdasarkan data yang ia terima,” ujarnya sebagaimana dikutip dari keterangan tertulis di laman BRIN, Sabtu (7/6/2025).

Ia mencontohkan temuan komite independen yang dibentuk Dewan Eropa pada 2019, yang mengidentifikasi setidaknya enam pola diskriminasi dalam AI. Salah satunya adalah sejarah bias, yakni bias akibat ketimpangan yang telah berlangsung lama di masyarakat yang masuk kedalam pelatihan data AI.

Dwi juga menyebut studi internal Amazon yang menunjukkan bahwa model AI dalam proses seleksi karyawan baru secara tidak sengaja lebih menyukai kandidat laki-laki. Ini terjadi karena mayoritas pelamar selama bertahun-tahun memang laki-laki.

Tidak hanya dalam rekrutmen, bias juga muncul dalam representasi perempuan di sektor teknologi secara keseluruhan.

Dwi mengatakan studi terbaru UN Women menunjukkan bahwa kesenjangan ini bersifat global. Perempuan masih menghadapi keterbatasan akses, representasi, dan partisipasi dalam dunia digital, termasuk di bidang AI.

Baca juga: Bagaimana AI Membantu Industri Mode Kurangi Limbah Tekstil?

“Kesenjangan digital berbasis gender ini tidak hanya terjadi di negara berkembang,” ujarnya.

Diperkirakan pada 2025, sekitar 75 persen pekerjaan akan terkait bidang STEM (Science, Technology, Engineering, Mathematics), termasuk pengembangan AI. Namun, secara global, perempuan hanya mengisi sekitar 22 persen posisi di bidang tersebut.

Studi terhadap 133 sistem AI di berbagai industri juga menunjukkan bahwa 44 persen mengandung bias gender, sementara 25 persen bahkan mengandung bias ganda: gender dan ras.

Selain dalam penggunaan teknologi, perempuan juga mengalami dampak negatif secara langsung seperti kekerasan daring.

“38 persen perempuan pernah menjadi korban dan 85 persen pernah menyaksikan kekerasan terhadap perempuan di ruang digital,” kata Dwi.

Stereotipe gender dalam keterampilan teknis turut memengaruhi desain produk digital yang tidak inklusif. Kebutuhan perempuan kerap tidak dipertimbangkan dalam desain dan pemasaran produk digital.

Dari sisi partisipasi dalam pengembangan teknologi, Dwi menyebut data komunitas pengembang menunjukkan ketimpangan signifikan. Jumlah perempuan hanya 78 dibandingkan 922 laki-laki. Ini menjadi salah satu alasan mengapa banyak sistem AI tidak sensitif terhadap kebutuhan perempuan.

Untuk mengatasi kesenjangan tersebut, UN Women mendorong pendekatan yang melihat perempuan dalam tiga identitas: pengguna (users), pembelajar (learners), dan pengembang (developers).

Dwi menekankan pentingnya intervensi afirmatif dan sistemik, mulai dari upskilling, reskilling, hingga pengembangan kebijakan publik berbasis hak asasi manusia.

Ia menyoroti Uni Eropa sebagai contoh nyata yang telah berhasil mengintegrasikan pendekatan berbasis pasar dan HAM dalam penyusunan kebijakan AI.

“Komitmen tersebut dibangun sejak 2019 melalui pembentukan komite independen yang fokus pada keterkaitan AI dan hak asasi manusia,” jelasnya.

Baca juga: Terobosan AI Google, Pangkas Emisi Lampu Lalu Lintas

Transformasi, kata Dwi, tidak bisa berhenti pada literasi digital semata. “Penting untuk ada perhatian terhadap dimensi struktural dan kebijakan agar kesenjangan partisipasi perempuan dapat ditangani secara berkelanjutan,” tegasnya.

Untuk mewujudkan visi Indonesia Emas 2045, salah satu kuncinya menurut Dwi adalah meningkatkan partisipasi angkatan kerja perempuan minimal sebesar 25 persen.

“Inklusi dan sensitivitas gender dalam seluruh tahapan pengembangan teknologi digital adalah sebuah keharusan,” ujarnya.

Dwi juga menekankan bahwa pemerintah perlu memastikan layanan publik digital, termasuk sistem informasi luar negeri bagi pekerja migran perempuan, dapat diakses secara aman, ramah, dan bebas diskriminasi.

Sementara itu, Kepala PR EIJP BRIN, Umi, menyatakan bahwa perkembangan AI seharusnya tidak berlangsung secara eksplosif tanpa kesiapan yang memadai dalam pemanfaatannya.

Menurutnya, penting untuk memastikan bahwa teknologi digunakan secara bijak dan inklusif.

“Masih banyak area aplikasi yang belum relevan. Ini menjadi refleksi bahwa perkembangan AI harus diarahkan agar sejalan dengan konteks sosial dan kebutuhan nyata,” pungkas Umi.

Baca juga: Demi AI, Meta Kontrak Pakai Nuklir dari Pembangkit yang Nyaris Tutup