Teknologi kecerdasan buatan (Artificial Intelligence/AI) tidak pernah berjalan sendirian. Ia tidak hidup dan berkembang secara otomatis. Ada manusia dan industri besar yang menentukan ke mana arah ia akan berkembang.
Akan sangat dikhawatirkan apabila masyarakat melihat AI hanya sebagai teknologi yang sudah jadi dan berkembang secara otomatis. Padahal, nyatanya, AI dibentuk oleh perusahaan dan serangkaian keputusan manusia di belakangnya. Ini dapat berupa: Data apa yang akan digunakan, fitur apa yang akan digunakan, bahkan tujuan apa yang sebenarnya hendak dicapai.
Karena itu, dapat saya katakan bahwa AI tidak pernah netral. Pilihan yang dibuat oleh pihak yang membangunnya turut menentukan cara AI bekerja, berkembang, dan dampaknya bagi masyarakat. Perkembangan itu sudah semestinya menjadi kekhawatiran manusia, apalagi saat AI kini terus berkembangan saling bersaing. Setiap perusahaan berusaha memberikan fitur AI tercanggih, lagi dan lagi. Hingga manusia lupa untuk menelusuri, apakah kecanggihan itu selalu berdampak baik atau justru sebaliknya.
Merujuk dari penelitian Stanford University Human-Centered Artificial Intelligence, industri terus menjadi pihak yang paling banyak berinvestasi dalam pengembangan AI dan memimpin dalam menghasilkan model AI yang penting. Pada 2024, hampir 90% model AI penting berasal dari industri, meningkat tajam dari sekitar 60% pada 2023. Di sisi lain, akademisi masih menjadi penghasil utama penelitian AI yang paling banyak dikutip. Hal ini menunjukkan bahwa perkembangan AI semakin banyak didorong oleh perusahaan, sementara perguruan tinggi dan lembaga penelitian tetap memiliki peran besar dalam menghasilkan pengetahuan dan riset yang berpengaruh.
Dalam persaingan pengembangan model AI, Amerika Serikat masih menjadi negara dengan kontribusi terbesar. Pada 2024, institusi berbasis Amerika Serikat menghasilkan 40 model AI penting, jauh lebih banyak dibandingkan China yang menghasilkan 15 model dan seluruh Eropa yang secara gabungan menghasilkan 3 model. Pada saat yang sama, model AI semakin besar dan membutuhkan lebih banyak komputasi dan energi.
Perkembangan itu juga didukung oleh kemajuan perangkat keras AI. Kinerja perangkat keras untuk machine learning meningkat sekitar 43% setiap tahun, sementara biaya penggunaannya turun sekitar 30% per tahun dan efisiensi energinya meningkat sekitar 40% per tahun.
Secara keseluruhan, data ini menunjukkan bahwa AI tidak berkembang hanya karena teknologi menjadi semakin canggih. Investasi industri, kapasitas komputasi, penelitian, paten, dan keputusan perusahaan mengenai model apa yang dikembangkan turut menentukan seberapa cepat dan ke arah mana AI berkembang.
Arah perkembangan AI saat ini banyak ditentukan oleh perusahaan yang memiliki modal, data, infrastruktur, dan kemampuan komputasi. Ketika perusahaan memutuskan untuk mengembangkan AI sebagai alat produktivitas, mesin pencari, asisten hukum, atau sistem otomatisasi pekerjaan, keputusan tersebut secara perlahan membentuk cara masyarakat menggunakan dan memandang AI.
Persoalannya, kepentingan bisnis tidak selalu seiring dengan kepentingan publik. Bahkan, seringkali kepentingan bisnis berbanding balik dengan kepentingan masyarakat. Jika keputusan tentang masa depan AI hanya didominasi oleh segelintir perusahaan, masyarakat pada akhirnya lebih banyak menjadi objek pengguna daripada pihak yang ikut menentukan arahnya.
Cara AI dirancang, dikembangkan, digunakan, dan dievaluasi tidak terlepas dari keputusan manusia. Asumsi, harapan, dan pertimbangan manusia dapat membawa bias ke dalam seluruh siklus pengembangan AI. Bias tersebut juga dapat berasal dari struktur organisasi, termasuk siapa yang memiliki kendali atas proses pengambilan keputusan.
Peran perusahaan dan individu manusia
Dikutip dari publikasi “Artificial Intelligence Risk Management Framework (AI RMF 1.0)” yang diterbitkan National Institute of Standards And Technology (NIST) tahun 2023, salah satu persoalan dari AI yakni teknologi ini sering berusaha mengubah perilaku dan proses pengambilan keputusan manusia yang kompleks menjadi data dan model matematika. Dalam proses tersebut, konteks sosial dan manusia yang sebenarnya penting bisa saja hilang. Akibatnya, dampak AI terhadap individu dan masyarakat menjadi lebih sulit dipahami. Bahkan, interaksi antara manusia dan AI tidak selalu menghasilkan keputusan yang lebih baik.
Dalam kondisi tertentu, AI justru dapat memperkuat bias manusia dan menghasilkan keputusan yang lebih bias dibandingkan jika hanya manusia atau AI yang bekerja sendiri. Namun, jika peran manusia dan AI dirancang dengan tepat, keduanya dapat saling melengkapi dan meningkatkan kualitas keputusan.
Karena itu, pengelolaan AI tidak cukup hanya berfokus pada seberapa akurat atau canggih sebuah sistem. Perlu ditentukan siapa yang bertanggungjawab, siapa yang mengawasi, siapa yang dapat menentang keputusan AI, dan bagaimana keputusan itu dievaluasi.
NIST melalui AI Risk Management Framework menekankan pentingnya tim yang lintas disiplin dan beragam, serta keterlibatan masyarakat yang berpotensi terdampak oleh AI. Pendekatan ini penting karena nilai, kebutuhan, dan konteks pengguna perlu dipertimbangkan sejak tahap perancangan hingga penggunaan AI di dunia nyata.
Ketika perkembangan AI semakin banyak didorong oleh perusahaan yang memiliki sumber daya besar. Keputusan mengenai data yang digunakan, masalah yang ingin diselesaikan, fitur yang dikembangkan, hingga batasan sistem pada akhirnya turut menentukan arah teknologi. Jika keputusan tersebut hanya ditentukan oleh kepentingan bisnis dan kemampuan teknologi, masyarakat berisiko hanya menjadi pengguna dari sistem yang arah perkembangannya ditentukan oleh pihak lain.
AI sebenarnya untuk siapa?
Perdebatan mengenai AI seringkali berfokus pada seberapa cepat dan canggih teknologi ini berkembang. Padahal, saya rasa ada hal yang jauh lebih penting yakni tentang siapa yang mendapatkan manfaat dan siapa yang menanggung risikonya.
Telah banyak penelitian maupun artikel biasa yang membahas manfaat AI terhadap manusia. Saya kira, manfaat ini seharusnya dapat dirasakan menyeluruh oleh semua orang. Namun, pada kenyataannya setiap teknologi dikembangkan berdasarkan tujuan, kebutuhan, dan keputusan tertentu, sehingga manfaatnya tidak selalu dirasakan secara merata.
Dalam menentukan arah AI tidak hanya menjadi urusan perusahaan teknologi. Masyarakat, pemerintah, pekerja, akademisi, dan kelompok yang terdampak juga perlu memiliki ruang untuk menentukan AI seperti apa yang ingin mereka hadirkan dan untuk kepentingan siapa.
AI dapat mengubah pekerjaan, memperkuat bias, bahkan menghasilkan keputusan yang berdampak langsung pada kehidupan seseorang. Karena itu, ukuran keberhasilan AI seharusnya tidak hanya dilihat dari kecanggihannya, tetapi juga dari siapa yang memperoleh manfaat, siapa yang menanggung risikonya, dan siapa yang memiliki suara dalam menentukan bagaimana teknologi tersebut digunakan.
