Budi Rahman Hakim, Ph.D.
Sebuah lamaran ditolak sebelum manusia membacanya. Permohonan pinjaman diberi batas, bantuan ditandai berisiko, dan wajah di gerbang tidak dikenali. Di layar hanya muncul keputusan singkat; di belakangnya bekerja pola yang disusun dari data masa lalu. Kita menyebutnya efisien karena mesin dapat memilih ribuan orang dalam hitungan detik. Namun bagi orang yang jalannya ditutup, satu pertanyaan tetap menggantung: kepada siapa ia dapat menjelaskan bahwa hidupnya lebih luas daripada data yang mewakilinya?
Sistem otomatis kini membantu keputusan dalam pekerjaan, keuangan, pendidikan, layanan publik, keamanan, dan kesehatan. Ia dapat mengurangi beban administratif serta menemukan pola yang luput dari manusia. Tetapi data tidak turun dari langit dalam keadaan netral. Ia lahir dari sejarah, kategori, kebijakan, dan ketimpangan. Jika masa lalu mengandung diskriminasi, model dapat mempelajari ketidakadilan itu lalu mengulanginya dengan bahasa angka. Keputusan tampak objektif karena tak ada suara marah, padahal diam bukan bukti adil. Kesalahan kecil pada skala besar dapat berubah menjadi ribuan pintu yang tertutup secara serentak.
Nafs institusional menyukai jarak dari akibat. Ketika keputusan dipersoalkan, manusia berkata, “Sistem yang menentukan.” Tanggung jawab dipindahkan kepada mesin yang tidak dapat bertobat, meminta maaf, atau memperbaiki korban. Kita juga tergoda mempercayai apa yang rumit sebagai sesuatu yang lebih benar. Padahal ketertutupan teknis dapat menjadi hijab baru: ia menutupi pilihan manusia tentang tujuan, variabel, ambang risiko, dan siapa yang dianggap sebagai kesalahan yang dapat diterima.
Al-Māwardī dalam Adab al-Dunyā wa al-Dīn menghubungkan tertib kehidupan dengan akal, agama, dan keadilan yang dijalankan manusia. Sebuah alat dapat membantu penilaian, tetapi amanah moral tidak berpindah kepadanya. Dalam semangat itu, orang yang merancang atau memakai sistem tetap wajib memahami akibat, menimbang konteks, dan membuka ruang koreksi. Keadilan bukan sekadar menerapkan aturan yang sama secara konsisten; ia juga memerlukan keberanian melihat ketika aturan yang konsisten menghasilkan luka yang tidak seimbang.
Cathy O’Neil melalui Weapons of Math Destruction menjelaskan bagaimana model berskala besar dapat merugikan ketika ia buram, meluas, dan menciptakan umpan balik. Seseorang yang dinilai berisiko menerima kesempatan lebih sedikit; kurangnya kesempatan kemudian dipakai sebagai bukti bahwa penilaian awal benar. Model tidak hanya meramalkan dunia, tetapi ikut membentuknya. Karena itu, pertanyaan terpenting bukan “seberapa canggih algoritmanya?”, melainkan “siapa yang dapat menantang keputusan, siapa yang menanggung kesalahan, dan siapa yang memperoleh manfaat?”
Tasawuf mengenal baṣīrah, pandangan batin yang menembus tampilan luar menuju makna dan akibat. Ia bukan kemampuan gaib untuk menggantikan audit teknis. Justru baṣīrah menolak kemalasan moral yang bersembunyi di balik kecanggihan. Dzikrullah menjaga pusat hati agar pengetahuan tidak berubah menjadi kuasa tanpa belas kasih. Seorang perancang, pemimpin, atau petugas yang ingat akan pertanggungjawaban tidak puas hanya karena model akurat rata-rata; ia mencari siapa yang berulang kali dikorbankan oleh angka rata-rata itu.
Jika sistem otomatis digunakan di tempat kita, ajukan enam pertanyaan: keputusan apa yang dibuat, data apa yang dipakai, kelompok mana yang mungkin dirugikan, bagaimana akurasi diuji, apakah manusia dapat meninjau, dan ke mana orang mengajukan keberatan? Dokumentasikan alasan keputusan penting dengan bahasa yang dapat dipahami. Uji hasil pada kelompok berbeda, bukan hanya skor keseluruhan. Untuk keputusan berisiko tinggi, sediakan peninjauan manusia yang sungguh berwenang mengubah hasil, bukan sekadar meja keluhan simbolik.
Sebagai warga, kita tidak harus menjadi pemrogram untuk menuntut hak atas penjelasan, keamanan data, dan proses banding. Namun kita juga perlu jujur terhadap bias sendiri; manusia bukan hakim sempurna yang otomatis lebih adil daripada mesin. Pilihannya bukan manusia atau teknologi, melainkan tata kelola yang membuat keduanya dapat diperiksa. Transparansi harus hadir sebelum kerugian, bukan hanya sesudah kegaduhan. Sistem yang baik membantu manusia mengambil keputusan lebih bertanggung jawab, sementara manusia tetap hadir untuk mendengar keadaan yang tidak muat dalam kotak data.
Mesin di aula keputusan itu dapat tetap bekerja, tetapi panelnya harus dapat dibuka dan jalurnya harus dapat dikoreksi. Efisiensi adalah manfaat, bukan kiblat. Setiap baris data mewakili hidup yang akan menerima atau kehilangan kesempatan nyata. Tidak seorang pun layak dikurung selamanya oleh satu prediksi. Ketika kita mengingat hal itu, teknologi kembali ke kedudukannya sebagai alat dan amanah kembali ke pundak manusia. Mesin boleh membantu memilih, tetapi manusia tidak boleh menyerahkan tanggung jawab untuk berlaku adil.
End of Article