Jika kamu meminta AI untuk merekomendasikan hadiah untuk ibu, maka dalam hitungan detik kamu akan mendapatkan daftar rapi yang terdiri dari: peralatan masak, skincare, set perhiasan. Terasa wajar. Namun, dari mana AI tahu bahwa itulah yang “cocok” untuk perempuan? Pertanyaan itu tidak sesederhana kedengarannya. AI tidak punya ibu, tidak punya kakak perempuan, dan tidak pernah merasakan bagaimana menjadi perempuan. Maka siapa yang mengajarinya tentang perempuan?
Kita sering menganggap AI sebagai mesin yang bekerja hanya dengan logika dan angka. Nyatanya, AI belajar dari data yang dibuat oleh manusia, lalu mengenali pola di dalamnya. Ia tidak punya pengalaman sendiri, melainkan memantulkan apa yang pernah ia pelajari.
Hal ini dijelaskan Dwi Yuliawati, Head of Programme UN Women Indonesia, dalam Science to Policy Dialogue yang diselenggarakan Pusat Riset Ekonomi Industri, Jasa, dan Perdagangan (PR EIJP) BRIN pada 4 Juni 2025 lalu. Menurut Dwi, AI tidak serta merta diskriminatif, tetapi ia merefleksikan kondisi sosial yang sudah bias. Bias historis di masyarakat berpindah ke data pelatihan, lalu dipelajari oleh algoritma/AI.
Dwi merujuk temuan komite independen bentukan Dewan Eropa pada 2019 yang mengidentifikasi setidaknya enam pola diskriminasi dalam AI. Salah satunya adalah bias historis, yakni bias yang muncul dari ketimpangan lama dalam masyarakat.
Wajah bias gender dalam AI
Bias itu bisa muncul dalam banyak bentuk. Dwi mencontohkan studi internal Amazon yang menunjukkan model AI untuk seleksi kandidat tanpa sengaja lebih memilih laki-laki, karena bertahun-tahun mayoritas pelamar memang laki-laki. Selain bias historis, ada bias representasional akibat data yang kurang mewakili perempuan, serta bias proxy, ketika variabel tertentu dalam model secara tidak langsung menunjukkan jenis kelamin pengguna.
Di dalam model bahasa pada sistem AI, kata diubah menjadi titik koordinat angka. “Perempuan” bukan dipahami sebagai manusia, melainkan sebagai sesuatu yang selalu berada dekat dengan kata-kata yang sering muncul bersamanya di dalam teks. Dalam diskusi Kartini Conference on Indonesia Feminism (KCIF) 2024, sebagaimana dilaporkan Konde.co, AI diberi soal analogi. Ketika “ayah” dipasangkan dengan “dokter”, “ibu” dijawab “perawat”. Ketika “laki-laki” dipasangkan dengan “programmer komputer”, “perempuan” dijawab “ibu rumah tangga”.
Hal serupa pun terjadi pada gambar. Image generator dilatih dengan pasangan gambar dan teks dalam jumlah masif dari internet, sehingga ia belajar “wajah perempuan” dari citra yang paling sering beredar, termasuk standar kecantikan yang dibuat oleh manusia. Indonesia AI Institute, lembaga yang berkantor di Kota Bandung, menyebut bahwa ketika sebuah image generator diminta menampilkan 10 foto CEO, yang muncul laki-laki semua. Dwi Yuliawati juga menyebut suara asisten virtual populer seperti Alexa dan Siri, yang mayoritas bersuara perempuan, sebagai bagian dari bias gender dalam teknologi.
Pada uji coba sederhana yang BandungBergerak lakukan terhadap model AI, saat disodori premis seperti “Ayah : Direktur :: Ibu : x”, sistem AI dengan cepat mengisi variabel x dengan “Asisten” atau “Sekretaris”, dengan alasan lensa kemitraan fungsional, direktur sebagai pengambil keputusan utama dan asisten sebagai partner pendukung operasional. Pada premis lainnya, pola serupa berulang pada “Laki-laki : Pengusaha :: Perempuan : x”, sistem AI langsung mengisi variabel x dengan “Ibu rumah tangga”, dengan alasan pasangan peran sosial konvensional.
Secara lebih luas, studi UN Women terhadap 133 sistem AI di berbagai industri menemukan 44% di antaranya mengandung bias gender, dan 25% mengandung bias ganda, yaitu gender dan ras. UN Women juga mencatat sistem AI kerap mengaitkan perempuan dengan kata-kata seperti rumah, keluarga, dan anak-anak.
Dampaknya tidak berhenti pada stereotipe. Dalam paparan di BRIN, Dwi menyebut 38% perempuan pernah menjadi korban kekerasan daring dan 85% pernah menyaksikannya di ruang digital.
Lalu, siapa yang “mengajari” AI?
Di tengah perkiraan bahwa pada 2025 sekitar 75% pekerjaan akan terkait bidang STEM, perempuan hanya mengisi sekitar 22% posisi di bidang AI secara global, menurut paparan Dwi. Dalam sebuah komunitas pengembang yang ia contohkan, perempuan hanya 78 orang dibanding 922 laki-laki.
Indonesia AI Institute menyebut tiga faktor yang saling berkaitan yang membuat risiko bias terhadap perempuan tinggi: representasi perempuan di data latih yang terbatas, stereotip sosial yang terserap ke dalam dataset, dan kurangnya perspektif perempuan dalam pengembangan teknologi.
Dwi menambahkan, stereotip gender dalam keterampilan teknis ikut mempengaruhi desain produk digital yang tidak inklusif. Kebutuhan perempuan kerap tidak dipertimbangkan dalam desain dan pemasaran, sehingga pembagian gender justru diperkuat. Jadi pertanyaannya bukan hanya data apa yang dipakai, tetapi juga siapa yang duduk di meja ketika AI dirancang, dan suara perempuan siapa yang akhirnya terekam.
Namun, di Indonesia persoalannya kompleks dan berlapis. Derry Wijaya, dosen bidang data di Monash University, mengatakan kepada forum KCIF 2024 bahwa model AI umumnya dilatih dengan bahasa dominan dunia seperti Inggris, sehingga kurang akurat memahami bahasa lain, termasuk bahasa Indonesia. Dengan sekitar 700 bahasa dan keragaman budaya yang luas, Indonesia berisiko tidak terwakili. Derry menyebut kolonisasi kini bukan lagi soal wilayah, melainkan soal data.
Pengalaman perempuan Indonesia, dengan beban peran, norma budaya, dan konteks kerja yang khas, belum tentu tecermin dalam data yang sebagian besar berasal dari luar negeri. Dwi juga mengingatkan bahwa layanan publik digital, termasuk sistem informasi bagi pekerja migran perempuan, harus aman, ramah, dan bebas diskriminasi.
Apa yang bisa dilakukan?
Dari sisi pengembangan, Indonesia AI Institute mendorong tiga langkah: memakai data latih yang beragam dengan representasi perempuan yang proporsional, memeriksa dan merevisi algoritma yang berpotensi bias, serta melibatkan lebih banyak perempuan dalam tim pengembang.
Dari sisi aturan, Dwi Yuliawati menegaskan dalam pernyataannya pada Agustus 2025 bahwa regulasi AI perlu menjangkau tahap data sumber, pengembangan, hingga penerapan, bukan hanya pemakaian. Ia menyebut Uni Eropa sebagai contoh yang memadukan pendekatan pasar dan hak asasi manusia dalam kebijakan AI sejak 2019. Pemerintah Indonesia, melalui Menteri Komunikasi dan Digital Meutya Hafid, menyatakan komitmen mendorong partisipasi perempuan dalam ekosistem AI untuk mencegah reproduksi bias di masyarakat.
UN Women juga mendorong pendekatan yang melihat perempuan sebagai pengguna, pembelajar, dan pengembang, serta intervensi afirmatif dan sistemik, mulai dari peningkatan keterampilan hingga kebijakan berbasis hak asasi manusia. Dwi menekankan transformasi digital tidak cukup berhenti pada literasi digital. Dimensi struktural dan kebijakan perlu ikut dibenahi.
Di tingkat pengguna, sikap kritis tetap penting. Jawaban AI bukan kebenaran, melainkan cerminan data. Dan seperti kata Umi, Kepala PR EIJP BRIN, perkembangan AI semestinya tidak berlangsung eksplosif tanpa kesiapan pemanfaatan, agar teknologi ini dipakai secara bijak dan inklusif.
AI tidak lahir netral. Ia belajar dari manusia, dari apa yang kita tulis, kita unggah, dan kita percayai tentang perempuan. Jika AI adalah cermin, bayangan yang terpantul adalah potret masyarakat yang membentuknya. Maka yang perlu diubah bukan hanya cermin, tetapi juga apa yang kita letakkan di depannya.
