Jakarta – Sebuah program kecerdasan buatan (AI) yang digunakan untuk mengklasifikasikan tingkat keamanan narapidana di penjara Ontario, Kanada, menuai kontroversi. Sistem ini dinilai secara tidak proporsional menempatkan narapidana kulit hitam ke dalam kondisi keamanan maksimum. Temuan ini diungkap dalam investigasi yang diterbitkan oleh The Breach dan gugatan class action yang diajukan terhadap provinsi tersebut.
Investigasi yang dilakukan oleh jurnalis Desmond Cole mengkaji alat bernama Security Assessment for Evaluating Risk (SAFER). Sistem ini telah digunakan di penjara Ontario sejak tahun 2021 untuk memberikan skor risiko kepada narapidana berdasarkan riwayat penangkapan dan disiplin mereka.
Mengutip data pemerintah yang dianalisis oleh kriminolog Universitas Toronto, Scot Wortley, outlet tersebut melaporkan bahwa orang kulit hitam hanya sekitar 5 persen dari populasi Ontario. Namun, mereka mewakili hampir 27 persen narapidana di penjara keamanan maksimum antara tahun 2022 dan 2025.
Sebaliknya, orang kulit putih secara signifikan kurang terwakili dalam kategori tersebut jika dibandingkan dengan proporsi mereka dalam populasi. Temuan ini menunjukkan adanya bias sistemik yang tertanam dalam algoritma AI tersebut.
Gugatan class action yang diajukan oleh firma hukum Koskie Minsky menuduh provinsi mengetahui bahwa alat tersebut bermasalah. Tuduhannya adalah ketergantungan sistem pada data historis sistem peradilan dapat secara tidak proporsional merugikan narapidana kulit hitam.
Data historis tersebut mencerminkan kesenjangan rasial yang terdokumentasi dalam praktik kepolisian dan penuntutan. Provinsi Ontario disebut telah mengadopsi langkah-langkah mitigasi untuk narapidana Pribumi tanpa memberikan perlindungan serupa kepada narapidana kulit hitam.
Dokumen pelatihan internal kementerian yang dikutip oleh The Breach mengakui bahwa penilaian seperti SAFER kemungkinan akan berkontribusi pada representasi berlebihan masyarakat Pribumi dan rasial di penjara keamanan maksimum. Pengakuan ini menjadi bukti kuat adanya masalah dalam sistem.
The Breach melaporkan bahwa baik Kementerian Jaksa Agung Ontario maupun Grant Duwe, peneliti yang dikreditkan dengan mendesain SAFER, tidak menanggapi permintaan komentar. Pertanyaan mengenai metodologi atau akurasi program tersebut tidak dijawab oleh pihak terkait.
Sebuah laporan Ombudsman Ontario yang dirujuk dalam investigasi mencatat bahwa pihaknya telah menerima keluhan tentang dampak tidak proporsional alat tersebut. Keluhan terutama datang dari narapidana kulit hitam dan Pribumi yang merasa dirugikan oleh sistem AI ini.
Laporan tersebut juga menyebutkan bahwa tinjauan kementerian terhadap program SAFER saat ini masih berlangsung. Belum ada keputusan final mengenai masa depan penggunaan alat kontroversial ini di penjara Ontario.
Kasus ini menjadi contoh nyata bagaimana teknologi AI dapat memperkuat bias yang sudah ada di masyarakat. Sistem yang seharusnya objektif justru menjadi alat diskriminasi baru jika tidak dirancang dengan hati-hati.
Isu diskriminasi rasial dalam teknologi bukanlah hal baru. Sebelumnya, platform seperti Airbnb juga pernah menghadapi masalah serupa dan membuat rencana untuk melawan rasisme dan diskriminasi di platform mereka.
Di media sosial, gerakan seperti #StopAsianHate juga pernah trending di Twitter sebagai respons terhadap meningkatnya kejahatan rasial. Hal ini menunjukkan bahwa kesadaran akan isu diskriminasi rasial semakin meningkat di berbagai sektor.
Penggunaan AI dalam sistem peradilan pidana memang menjanjikan efisiensi dan objektivitas. Namun, kasus di Ontario ini menjadi pengingat bahwa teknologi hanyalah cerminan dari data yang digunakan untuk melatihnya.
Jika data yang digunakan mengandung bias historis, maka hasil yang dikeluarkan oleh AI pun akan bias. Oleh karena itu, pengawasan ketat dan audit berkala sangat diperlukan untuk memastikan keadilan bagi semua kelompok.
Gugatan class action ini akan menjadi ujian penting bagi akuntabilitas algoritma di sektor publik. Keputusan pengadilan nantinya bisa menjadi preseden bagi penggunaan AI di lembaga pemasyarakatan lainnya.
