Alasan AI dan Teknologi Malah Mendiskriminasi Penyandang Disabilitas

TEMPO.CO, Jakarta - Artificial Intelligence (AI) dan teknologi dapat membantu kehidupan penyandang disabilitas. Meski begitu, penyandang disabilitas juga memiliki risiko dan kerentanan diskriminasi tertentu saat berinteraksi dengan AI dan sistem algoritmik karena beberapa alasan.

Pertama, banyak alat AI dan algoritmik dirancang melalui pengenalan pola dan membuat penentuan berdasarkan pola-pola umum dalam kumpulan data tertentu. "Namun, banyak penyandang disabilitas (berdasarkan disabilitas mereka) hidup di luar pola yang umum, seperti memiliki perbedaan gaya berjalan, perbedaan vokal, gerakan mata yang tidak biasa," tulis laporan American Association of People with Disabilities (AAPD) seperti yang dikutip dari situs resmi Center for Democracy and Technology, cdt.org, Selasa, 11 Maret 2025.

Alat-alat ini mungkin secara tidak sengaja mendiskriminasi orang-orang dengan ragam disabilitas tertentu, terutama ketika penyandang disabilitas mengandalkan masukan biometrik.

Kedua, AI dan teknologi algoritmik membuat keluaran berdasarkan input  dari kumpulan data yang sering kali tidak benar-benar mencakup data penyandang disabilitas. "Seperti data yang tidak akurat tentang disabilitas, kurang sampel, atau informasi yang ditandai secara tidak tepat sebagai informasi yang terkait dengan disabilitas," tulis laporan CDT dan AAPD yang dipublikasikan guna merancang regulasi pengaturan AI yang lebih berpihak kepada penyandang disabilitas.

Ketiga, banyak penyandang disabilitas yang terpinggirkan secara ganda lantaran mengidentifikasi diri sebagai anggota kelompok rentan lainnya. Seperti penyandang disabilitas yang juga berasal dari etnis minoritas tertentu atau penyandang disabilitas yang memiliki orientasi seksual berbeda (LGBTQ+).