Pengawas hak asasi Uni Eropa memperingatkan perangkap dalam penggunaan Kecerdasan Buatan

Pengawas hak asasi Uni Eropa telah memperingatkan risiko menggunakan kecerdasan buatan dalam kepolisian prediktif, diagnosis medis dan iklan bertarget ketika blok tersebut mempertimbangkan aturan tahun depan untuk mengatasi tantangan yang ditimbulkan oleh teknologi.

Sementara AI banyak digunakan oleh lembaga penegak hukum, kelompok-kelompok hak asasi manusia mengatakan itu juga disalahgunakan oleh rezim otoriter untuk pengawasan massal dan diskriminatif. Para kritikus juga khawatir tentang pelanggaran hak-hak dasar orang dan aturan privasi data.

Badan Uni Eropa untuk Hak-Hak Fundamental (FRA) yang berbasis di Wina mendesak para pembuat kebijakan dalam sebuah laporan yang dikeluarkan pada hari Senin untuk memberikan lebih banyak panduan tentang bagaimana aturan yang ada berlaku untuk AI dan memastikan bahwa undang-undang AI di masa depan melindungi hak-hak dasar.

“AI tidak sempurna, itu dibuat oleh manusia – dan manusia bisa membuat kesalahan. Itulah sebabnya orang perlu menyadari kapan AI digunakan, cara kerjanya dan bagaimana menantang keputusan otomatis,” kata Direktur FRA Michael O’Flaherty dalam sebuah pernyataan.

Laporan FRA muncul ketika Komisi Eropa, eksekutif Uni Eropa, mempertimbangkan undang-undang tahun depan untuk mencakup apa yang disebut sektor berisiko tinggi seperti perawatan kesehatan, energi, transportasi dan bagian dari sektor publik.

Badan itu mengatakan aturan AI harus menghormati semua hak dasar, dengan perlindungan untuk memastikan hal ini dan termasuk jaminan bahwa orang dapat menantang keputusan yang diambil oleh AI dan bahwa perusahaan harus dapat menjelaskan bagaimana sistem mereka mengambil keputusan AI.

Ia juga mengatakan harus ada lebih banyak penelitian tentang efek AI yang berpotensi diskriminatif sehingga Eropa dapat menjaganya, dan blok tersebut harus lebih memperjelas bagaimana aturan perlindungan data berlaku untuk teknologi tersebut.

Laporan FRA didasarkan pada lebih dari 100 wawancara dengan organisasi publik dan swasta yang sudah menggunakan AI, dengan analisis berdasarkan penggunaan AI di Estonia, Finlandia, Prancis, Belanda, dan Spanyol.