Penyalahgunaan AI Berisiko Perparah Kesenjangan Gender

KOMPAS.com - Perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) dapat memperkuat kesenjangan gender jika tidak dikelola dengan baik.

Hal tersebut disampaikan Country Representative and Liaison to ASEAN UN Women Ulziisuren Jamsran dalam sebuah webinar, Sabtu (15/3/2025).

"Meskipun perempuan secara global, termasuk di Indonesia, semakin terkoneksi dengan internet, hanya 20 persen perempuan di negara berpenghasilan rendah yang memiliki akses online," kata Ulziisuren, sebagaimana dilansir Antara.

Baca juga: Penghapusan Kekerasan terhadap Perempuan Terhambat Tarik Ulur Kepentingan Politik

Dia menjelaskan, penyalahgunaan AI berisiko memperkuat persoalan bias sosial yang saat ini belum terselesaikan. 

Selain itu, teknologi pengenalan wajah dan suara sering kali salah mengklasifikasikan perempuan.

AI serta teknologi informasi dan komunikasi (ICT) juga dapat berkontribusi pada penyebaran misinformasi dan bahkan meningkatkan kekerasan berbasis gender.

"Semua ini mengancam kohesi sosial dan keamanan. Namun, di tengah tantangan ini, AI juga memiliki potensi besar untuk memberdayakan perempuan dan meningkatkan kesetaraan gender," ujar Ulziisuren.

Sebagai bagian dari upaya untuk memastikan AI yang lebih inklusif dan etis, UN Women berkomitmen untuk mendorong sistem AI yang responsif terhadap gender.

Baca juga: Komnas Perempuan: Kasus Kekerasan Berbasis Gender Naik 14 Persen

Pihaknya terus melakukan penelitian mengenai dampak AI terhadap bias gender dan mempelajari bagaimana teknologi ini dapat digunakan untuk memberdayakan perempuan, terutama dalam menjaga perdamaian dan keamanan di kawasan.

Ulziisuren mengajak semua pihak untuk berkolaborasi dalam memastikan tata kelola AI yang etis menjadi norma baru.

"Ada banyak yang harus kita lakukan bersama. Kita harus memastikan bahwa AI tidak hanya canggih, tetapi juga inklusif, aman, dan dapat dipercaya," ucapnya.

Sementara itu, Menteri Komunikasi dan Digital Meutya Hafid menyatakan komitmen pemerintah dalam mendorong partisipasi perempuan dalam ekosistem AI guna menciptakan solusi yang lebih beragam dan mencegah reproduksi bias di masyarakat.

"Pemerintah mendorong partisipasi perempuan dalam ekosistem AI. Data saat ini menunjukkan bahwa keterlibatan perempuan dalam pengembangan dan kepemimpinan AI masih jauh dari ideal," kata Meutya.

Baca juga: Kepemimpinan Perempuan di Sektor Bisnis Perlu Didorong

Dia menambahkan, AI harus dipastikan tidak mereproduksi bias yang ada di masyarakat.

Dalam mewujudkan hal tersebut, Meutya mengatakan pemerintah akan memperkuat kolaborasi dengan akademisi, pelaku industri, hingga organisasi internasional untuk memastikan perempuan mendapatkan akses dan peluang yang setara dalam industri AI.

Pekerja perempuan

Di sisi lain, dia juga menyoroti tantangan dan risiko dari adopsi AI terhadap pekerja perempuan. Menurutnya, otomatisasi yang didorong oleh AI dapat mengancam pekerjaan-pekerjaan yang selama ini didominasi oleh perempuan.

"Jika kita tidak mengambil langkah yang tepat, kesenjangan digital antara laki-laki dengan perempuan bisa semakin melebar," ujar Meutya.

Oleh karena itu, dia menekankan pentingnya membangun ekosistem AI yang tidak hanya canggih, tapi juga beretika dan inklusif, serta bermanfaat bagi seluruh masyarakat Indonesia.

Baca juga: IWHM 2025, Berdayakan Perempuan lewat Langkah Inspiratif

Selain meningkatkan keterlibatan perempuan, Meutya berujar pemerintah telah menerapkan berbagai kebijakan untuk mendukung transformasi digital yang beretika dan inklusif.

Pertama, pemerintah telah mengesahkan Undang-Undang Pelindungan Data Pribadi untuk menjaga keamanan informasi masyarakat.

Selain itu, pihaknya juga menerbitkan Surat Edaran Etika AI yang menekankan pentingnya asas transparansi, inklusifitas, dan non-diskriminasi dalam pengembangan teknologi kecerdasan buatan.

Kedua, pengembangan infrastruktur digital dan literasi AI dengan memperluas akses internet ke seluruh pelosok negeri guna memastikan bahwa setiap warga negara memiliki kesempatan yang sama untuk pemanfaatan teknologi.

"Selain itu, gerakan menjangkau jutaan masyarakat kini diperkuat dengan fokus pada literasi AI, termasuk bagi perempuan dan juga kelompok rentan, agar mereka tidak tertinggal dalam era otomatisasi ini," ucap Meutya.

Baca juga: Studi: Perubahan Iklim Tingkatkan Kekerasan Terhadap Perempuan