Penyalahgunaan AI Berisiko Perparah Kesenjangan Gender

KOMPAS.com - Perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) dapat memperkuat kesenjangan gender jika tidak dikelola dengan baik.

Hal tersebut disampaikan Country Representative and Liaison to ASEAN UN Women Ulziisuren Jamsran dalam sebuah webinar, Sabtu (15/3/2025).

"Meskipun perempuan secara global, termasuk di Indonesia, semakin terkoneksi dengan internet, hanya 20 persen perempuan di negara berpenghasilan rendah yang memiliki akses online," kata Ulziisuren, sebagaimana dilansir Antara.

Baca juga: Penghapusan Kekerasan terhadap Perempuan Terhambat Tarik Ulur Kepentingan Politik

Dia menjelaskan, penyalahgunaan AI berisiko memperkuat persoalan bias sosial yang saat ini belum terselesaikan. 

Selain itu, teknologi pengenalan wajah dan suara sering kali salah mengklasifikasikan perempuan.

AI serta teknologi informasi dan komunikasi (ICT) juga dapat berkontribusi pada penyebaran misinformasi dan bahkan meningkatkan kekerasan berbasis gender.

"Semua ini mengancam kohesi sosial dan keamanan. Namun, di tengah tantangan ini, AI juga memiliki potensi besar untuk memberdayakan perempuan dan meningkatkan kesetaraan gender," ujar Ulziisuren.

Sebagai bagian dari upaya untuk memastikan AI yang lebih inklusif dan etis, UN Women berkomitmen untuk mendorong sistem AI yang responsif terhadap gender.

Baca juga: Komnas Perempuan: Kasus Kekerasan Berbasis Gender Naik 14 Persen

Pihaknya terus melakukan penelitian mengenai dampak AI terhadap bias gender dan mempelajari bagaimana teknologi ini dapat digunakan untuk memberdayakan perempuan, terutama dalam menjaga perdamaian dan keamanan di kawasan.

Ulziisuren mengajak semua pihak untuk berkolaborasi dalam memastikan tata kelola AI yang etis menjadi norma baru.

"Ada banyak yang harus kita lakukan bersama. Kita harus memastikan bahwa AI tidak hanya canggih, tetapi juga inklusif, aman, dan dapat dipercaya," ucapnya.

Sementara itu, Menteri Komunikasi dan Digital Meutya Hafid menyatakan komitmen pemerintah dalam mendorong partisipasi perempuan dalam ekosistem AI guna menciptakan solusi yang lebih beragam dan mencegah reproduksi bias di masyarakat.

"Pemerintah mendorong partisipasi perempuan dalam ekosistem AI. Data saat ini menunjukkan bahwa keterlibatan perempuan dalam pengembangan dan kepemimpinan AI masih jauh dari ideal," kata Meutya.

Baca juga: Kepemimpinan Perempuan di Sektor Bisnis Perlu Didorong

Dia menambahkan, AI harus dipastikan tidak mereproduksi bias yang ada di masyarakat.

Dalam mewujudkan hal tersebut, Meutya mengatakan pemerintah akan memperkuat kolaborasi dengan akademisi, pelaku industri, hingga organisasi internasional untuk memastikan perempuan mendapatkan akses dan peluang yang setara dalam industri AI.