Kecerdasan buatan; Alat diskriminasi terhadap orang Islam dan minoriti di India

KEGANASAN INDIA (IQNA) - Pangkalan data yang digunakan di India untuk melatih sistem AI (Teknologi telekomunikasi Kecerdasan buatan) adalah berat sebelah terhadap kasta, jantina, agama dan juga lokasi, sekaligus mengekalkan prasangka dan diskriminasi terhadap mereka. Sebagai contoh, pengkritik mengatakan penggunaan teknologi pengecaman wajah berisiko meningkatkan pengawasan terhadap orang Islam, kasta rendah, adivasis orang asli dan kumpulan sosial dan minoriti lain yang terpinggir.

Laporan IQNA, memetik Hindu Bussiness Line; Selepas pertempuran komunal di kawasan Jahangirpuri di Delhi pada 11 September tahun lalu, polis berkata mereka menggunakan teknologi pengecaman muka untuk mengenal pasti dan menangkap berpuluh-puluh orang, kes kedua seumpamanya selepas rusuhan yang lebih ganas di ibu negara pada 2020.

Dalam kedua-dua kes, kebanyakan tertuduh adalah Muslim, dan kumpulan hak asasi manusia serta pakar teknologi telah mengkritik penggunaan teknologi berasaskan AI oleh kerajaan India untuk menyasarkan kumpulan miskin, minoriti dan terpinggir di Delhi dan tempat lain di negara itu.

India mempunyai alat kecerdasan buatan yang dikatakan pegawai akan meningkatkan kecekapan dan meningkatkan akses orang ramai kepada maklumat. 

Pakar teknologi bimbang bahawa ketiadaan dasar formal untuk penggunaan beretika AI memudaratkan orang ramai, mengukuhkan prasangka, menjenayahkan minoriti dan lebih mengutamakan kepentingan orang kaya daripada mereka yang kurang bernasib baik.

Shivangi Narayan, seorang penyelidik yang telah meneliti kepolisan pencegahan di Delhi, berkata: "Penggunaan kecerdasan buatan ini secara langsung memberi kesan kepada orang yang berada di pinggir, seperti Dalit (kelas masyarakat yang lemah dan lebih rendah), serta orang Islam, dan memberi kesan kepada minoriti sosial dan meningkatkan berat sebelah dan diskriminasi terhadap mereka".

India, dengan populasi 1.4 bilion dan ekonomi kelima terbesar di dunia, sedang mengalami perubahan teknologi yang pesat dan menggunakan sistem berasaskan kecerdasan buatan dalam bidang yang terdiri daripada kesihatan, pendidikan, pertanian kepada keadilan jenayah, kata pakar; Terdapat sedikit perdebatan tentang implikasi moral mereka di negara ini.

India tidak mempunyai undang-undang AI, dan satu-satunya perkara yang wujud ialah strategi daripada badan pemikir kendalian kerajaan NITI Aayog, yang menyatakan bahawa sistem AI tidak seharusnya mendiskriminasi berdasarkan agama, bangsa, kasta, jantina, kasta, tempat kelahiran atau tempat tinggal dan perlu dipantau untuk memastikan bahawa mereka tidak berat sebelah dan bebas daripada berat sebelah.

4168223