Aturan soal AI dimaksudkan untuk mengatasi kekhawatiran tentang bias, privasi, dan risiko lain dari teknologi yang berkembang pesat. Peraturan ini akan melarang penggunaan AI untuk mendeteksi emosi di tempat kerja dan sekolah. Pembatasan lain adalah bagaimana AI dapat digunakan dalam situasi berisiko tinggi seperti menyortir lamaran pekerjaan.
RUU ini juga akan menempatkan pembatasan pertama pada alat AI generatif, yang menarik perhatian dunia tahun lalu dengan popularitas ChatGPT.
Di balik itu semua, RUU tersebut telah memicu kekhawatiran dalam tiga bulan sejak para pejabat mencapai kesepakatan sementara, setelah sesi negosiasi yang berlangsung selama hampir 24 jam penuh.
Ketika pembicaraan mencapai tahap akhir tahun lalu, pemerintah Prancis dan Jerman menolak beberapa ide yang paling ketat untuk mengatur AI generatif. Alasan keduanya bahwa peraturan tersebut akan merugikan perusahaan startup Eropa seperti Mistral AI dari Prancis dan Aleph Alpha GmbH dari Jerman.
Kelompok masyarakat sipil seperti Corporate Europe Observatory (CEO) menyuarakan keprihatinannya tentang pengaruh yang dimiliki oleh perusahaan-perusahaan teknologi besar dan Eropa dalam membentuk teks akhir.
“Pengaruh sepihak ini berarti bahwa 'AI untuk tujuan umum' sebagian besar dikecualikan dari peraturan dan hanya diharuskan mematuhi beberapa kewajiban transparansi,” tulis para pengawas termasuk CEO dan LobbyControl dalam sebuah pernyataan, mengacu pada sistem AI yang mampu melakukan berbagai tugas yang lebih luas.
Pengumuman baru-baru ini bahwa Mistral telah bermitra dengan Microsoft Corp, menimbulkan kekhawatiran dari beberapa anggota parlemen. Kai Zenner, asisten parlemen yang berperan penting dalam penulisan undang-undang tersebut dan sekarang menjadi penasihat Perserikatan Bangsa-Bangsa untuk kebijakan AI, menulis bahwa langkah tersebut secara strategis cerdas dan “bahkan mungkin diperlukan” untuk startup Prancis, tetapi mengatakan “legislator Uni Eropa dipermainkan lagi.”
Perusahaan-perusahaan di AS dan Eropa juga telah menyuarakan kekhawatiran bahwa undang-undang tersebut akan membatasi daya saing UE tersebut.
“Dengan industri teknologi digital yang terbatas dan investasi yang relatif rendah dibandingkan dengan raksasa industri seperti AS dan China, ambisi Uni Eropa dalam kedaulatan teknologi dan kepemimpinan AI menghadapi rintangan yang cukup besar,” tulis Raluca Csernatoni, seorang peneliti di wadah pemikir Carnegie Europe.
Para anggota parlemen selama debat hari Selasa mengakui bahwa masih ada pekerjaan yang signifikan di masa mendatang. Uni Eropa sedang dalam proses mendirikan AI Office, sebuah badan independen di dalam Komisi Eropa.
Dalam praktiknya, kantor ini akan menjadi penegak utama, dengan kemampuan meminta informasi dari perusahaan yang mengembangkan AI generatif. AI Office mungkin juga dapat melarang sebuah sistem untuk beroperasi di kawasan Eropa.
“Aturan yang telah kami sahkan dalam mandat ini untuk mengatur domain digital - bukan hanya Undang-Undang AI - benar-benar bersejarah, perintis," kata Dragos Tudorache, salah satu penulis utama undang-undang di parlemen.
“Meski demikian membuat semuanya bekerja selaras dengan efek yang diinginkan dan mengubah Eropa menjadi pusat kekuatan digital di masa depan, akan menjadi ujian bagi kita semua.”
(bbn)
