Kemajuan EU dalam pengawalseliaan kecerdasan buatan untuk memastikan hak dan menggalakkan inovasi

Kesatuan Eropah (EU) terus menerajui pengawalseliaan kecerdasan buatan (AI), mewujudkan rangka kerja kawal selia yang belum pernah berlaku sebelum ini yang bertujuan untuk menjamin hak warganegara dan, pada masa yang sama, menggalakkan inovasi. Undang-undang baharu itu, yang berkuat kuasa secara rasmi pada 1 Ogos 2024, meletakkan Eropah di hadapan global dalam mewujudkan perundangan yang bertujuan untuk mengawal pembangunan dan pelaksanaan teknologi ini.

Dengan berkuatkuasanya peraturan, EU telah menjelaskan hasratnya untuk mengehadkan penggunaan dan pemasaran aplikasi AI yang mungkin melanggar Hak asasi, seperti privasi dan perlindungan data. Oleh itu, perundangan memperkenalkan peraturan ketat yang berbeza mengikut tahap risiko yang diperlukan oleh setiap sistem AI, menawarkan rangka kerja yang stabil yang akan membolehkan pertumbuhan teknologi dengan cara yang bertanggungjawab dan terkawal.

Larangan utama untuk melindungi rakyat

Antara aspek pertama yang ditangani oleh undang-undang ialah permohonan yang dilarang AI, yang mewakili risiko yang tidak boleh diterima oleh masyarakat. Ia dilarang sama sekali penggunaan teknologi yang melibatkan pengkategorian biometrik melalui parameter sensitif seperti orientasi seksual, kepercayaan agama atau politik, serta penggunaan AI tanpa pandang bulu untuk mencipta pangkalan data pengecaman muka diperoleh daripada internet atau imej CCTV.

Di samping itu, penggunaan sistem AI yang boleh memanipulasi tingkah laku manusia atau mengeksploitasi kelemahan orang adalah dilarang, serta pengiktirafan emosi di tempat kerja dan sekolah. Semua larangan ini bertindak balas kepada keperluan untuk melindungi penduduk daripada kemungkinan penyalahgunaan teknologi. Walau bagaimanapun, peraturan menetapkan pengecualian dalam situasi yang sangat khusus, seperti pencarian orang hilang atau pencegahan serangan pengganas, di mana pasukan keselamatan mungkin mempunyai sistem pengenalan biometrik, sentiasa di bawah kebenaran kehakiman terlebih dahulu.

Sistem berisiko tinggi: peraturan dan ketelusan

Satu lagi fokus penting peraturan adalah Sistem AI diklasifikasikan sebagai berisiko tinggi. Ini merangkumi aplikasi yang digunakan dalam sektor kritikal seperti pendidikan, infrastruktur penting, pekerjaan, penghijrahan atau keadilan. Sistem yang boleh mempengaruhi kesolvenan ekonomi rakyat atau dalam pemilihan calon pekerjaan juga termasuk dalam kategori ini.

Pembekal sistem ini perlu tunduk kepada yang ketat penilaian risiko dan memastikan bahawa mereka mempunyai penyeliaan a entiti manusia. Begitu juga, mereka mesti menyimpan rekod terperinci penggunaannya dan memberikan maklumat yang jelas kepada rakyat apabila keputusan penting dalam hidup mereka dimediasi oleh AI.

Selain itu, syarikat perlu memastikan bahawa sistem AI mereka adalah telus dan tepat, yang membayangkan bahawa mereka mesti melaporkan jenis data yang digunakan dalam melatih model, serta menjalankan semakan berkala untuk mengesan kemungkinan bias atau ralat.

Sistem tujuan am dan risikonya

Peraturan juga meliputi apa yang dipanggil sistem AI tujuan umum, yang walaupun mereka tidak mempunyai penggunaan awal yang khusus, boleh dilaraskan untuk melaksanakan pelbagai tugas, beberapa daripadanya dianggap berisiko tinggi. Contoh yang jelas ialah platform AI Generatif sebagai SembangGPT o Gemini, yang permohonannya jauh melebihi apa yang dirancang pada mulanya.

Sistem tujuan am ini sepatutnya memenuhi keperluan yang sama seperti sistem berisiko tinggi, kerana aplikasinya boleh memberi kesan penting pada aspek kritikal masyarakat. Di samping itu, undang-undang menyeru agar sistem ini sentiasa disemak untuk mengesan kemungkinan ancaman seperti penggunaan AI yang tidak sesuai untuk serangan siber atau gangguan terhadap infrastruktur utama.

Denda dan sekatan bagi mereka yang melanggar undang-undang

Peraturan menetapkan denda yang besar bagi mereka yang gagal mematuhi peraturan yang ditetapkan, dengan sekatan mulai dari 35 juta euro atau 7% daripada volum perniagaan global syarikat dalam kes yang serius, dan 7,5 juta euro atau 1,5% daripada jumlah kemasukan dalam kes yang kurang serius.

Garis keras dari segi sekatan ini bertindak balas, menurut penggubal undang-undang, kepada keperluan untuk mewujudkan persekitaran teknologi di mana hak asasi dan kebebasan rakyat dihormati. Pihak berkuasa EU akan bertanggungjawab memantau pematuhan undang-undang ini, dan undang-undang baharu Pejabat AI yang akan membantu syarikat menyesuaikan diri dengan peraturan sebelum berkuat kuasa sepenuhnya.

Tarikh akhir untuk penggunaan penuh undang-undang

Peraturan AI EU akan digunakan dengan cara progresif. Walaupun ia sudah berkuat kuasa, ia telah ditetapkan bahawa beberapa langkah tidak akan diguna pakai sepenuhnya selama dua tahun. Walau bagaimanapun, yang larangan amalan yang paling relevan Ia akan dilaksanakan dalam tempoh enam bulan akan datang, manakala bagi sistem berisiko tinggi, obligasi akan mula berkuat kuasa 36 bulan selepas berkuatkuasanya piawaian tersebut.

Undang-undang ini menandakan peristiwa penting untuk EU, yang bukan sahaja bertujuan untuk menjamin etika dalam penggunaan AI, tetapi juga untuk mempromosikan daya saing Eropah dalam bidang ini, menetapkan standard yang boleh diikuti oleh pasaran lain. Dengan cara ini, Eropah diletakkan sebagai rujukan global dalam peraturan teknologi baru muncul, dengan pendekatan tertumpu pada melindungi hak dan kebebasan warganegara, tanpa memperlahankan inovasi.