- Vzpostavlja pravni okvir, ki temelji na stopnjah tveganja, da se zagotovi varnost, etičnost in osredotočenost na človeka pri uporabi umetne inteligence.
- Nalaga stroge obveznosti glede preglednosti in upravljanja, zlasti za sisteme z visokim tveganjem in modele splošnega namena.
- Vzpostavlja usklajeno nadzorno strukturo med Uradom za umetno inteligenco Evropske komisije in nacionalnimi organi posameznih držav članic.
Evropska unija je naredila velik korak naprej z uvedbo prve celovite uredbe o umetni inteligenci na svetovni ravni. Ta uredba ni le zbirka pravnih dokumentov; njen cilj je zagotoviti, da je umetna inteligenca zanesljiva in varna , pri čemer vedno postavlja človeka v središče in varuje naše temeljne pravice, zdravje in varnost, da tehnologija ne uide izpod nadzora.
Poseben namen tega zakona je, da ne poskuša dušiti inovacij, temveč jih usmerjati. Njegov cilj je ustvariti enoten digitalni trg , kjer lahko podjetja inovirajo, ne da bi vedela, kaj lahko pričakujejo, preprečiti, da bi posamezne države delovale neodvisno, in zagotoviti, da je vsako orodje, ki doseže naše naprave, pregledno in etično , ne glede na to, kdo ga je izdelal.
Sistem razvrščanja stopenj tveganja
Uredba ne obravnava vse umetne inteligence enako, temveč uporablja pristop, ki temelji na tveganju. V bistvu velja, da bolj ko je uporaba tehnologije nevarna, več papirjev in kontrol bo potrebnih.
Najprej imamo prepovedani sistemiTo so tehnologije, ki jih EU šteje za neposredno grožnjo. To vključuje tehnike, ki nas poskušajo manipulirati s pomočjo podzavestnih dražljajev, izkoriščanja ranljivosti (kot sta starost ali invalidnost) in sistemov socialni rezultat ki ljudi razvrščajo glede na njihovo vedenje. Izključena je tudi biometrična kategorizacija za sklepanje o političnih mnenjih ali branje čustev v službi ali šoli, razen če gre za zdravstvene ali varnostne razloge.
Potem so tu še sistemi z visokim tveganjem . Ti niso prepovedani, vendar so predmet strogega nadzora. Segajo od varnostnih komponent v izdelkih (kot so igrače ali dvigala) do orodij, ki odločajo o tem, kdo se bo vpisal na univerzo ali kdo bo prejel bančno posojilo. Za te zakonodaja zahteva stalno upravljanje tveganj , visokokakovostne podatke o usposabljanju, da se prepreči pristranskost, in človeški nadzor, ki lahko sproži sistem ustavi-zaženi, če gre kaj narobe.
Za tiste z omejenim tveganjem je ključnega pomena, da se izognejo zavajanju. Če se pogovarjate s klepetalnim robotom ali si ogledujete ponaredek, vas mora sistem jasno opozoriti, da komunicirate z umetno inteligenco . Nenazadnje lahko tisti z minimalnim tveganjem , ki jih je velika večina (na primer filtri neželene pošte ali videoigre), še naprej delujejo skoraj tako kot doslej, čeprav jih spodbujamo, da upoštevajo prostovoljne najboljše prakse.
Splošni modeli umetne inteligence in sistemsko tveganje
Obstaja posebna kategorija za modele, ki služijo vsem namenom, tako imenovani modeli za splošno uporabo (kot sta GPT ali Gemini). Ti modeli so osnova mnogih aplikacij, zato morajo biti njihovi ustvarjalci transparentni glede načina njihovega učenja in spoštovati zakonodaja o avtorskih pravicah.
Če je model tako močan, da lahko povzroči domino učinek po vsej Uniji – kar imenujejo sistemsko tveganje—, se obveznosti zvišujejo. V teh primerih je treba izvesti simulacijske vaje nasprotnika (slavne rdeče ekipe), o vseh resnih incidentih poročati Komisiji in zagotoviti, da kibernetsko varnost je treba okrepiti da preprečimo vdor ali manipulacijo modela.
Nadzorni mehanizem: Upravljanje in nadzor
Da to ne bi ostalo le govorjenje, je bila vzpostavljena robustna struktura poveljevanja. Na evropski ravni Urad za umetno inteligenco prevzema vodilno vlogo, usklajuje nadzor nad najzmogljivejšimi modeli in zagotavlja tehnično podporo. Poleg tega obstaja Svet za umetno inteligenco s predstavniki iz vsake države in skupina neodvisnih znanstvenih strokovnjakov, ki spremljajo tehnologijo, da bi zagotovili, da nam ne uide iz rok.
Vsaka država članica ima organe za nadzor trga. V Španiji je za inšpekcijske preglede, preverjanje in po potrebi izrekanje glob odgovorna AESIA (Španska agencija za nadzor umetne inteligence). Ponudniki morajo svoje sisteme z visokim tveganjem registrirati v podatkovni zbirki EU , da zagotovijo sledljivost in preglednost glede tega, katera orodja delujejo na našem ozemlju.
Sankcije in podpora inovacijam
Pazite se spregledov, saj so lahko globe visoke. Glede na kršitev lahko kazni dosežejo do 35 milijonov evrov oziroma 7 % svetovnega letnega prometa podjetja. Vendar pa EU priznava, da multinacionalna korporacija ni isto kot zagonsko podjetje, zato imajo mala in srednje velika podjetja ter mikropodjetja sorazmernejše režime kazni in prejemajo pomoč pri ustvarjanju pravnih besedil z umetno inteligenco, da se izognejo hudim sankcijam.
Da bi preprečili ustrahovanje podjetij in spodbudili nadaljnje inovacije, obstajajo nadzorovana testna okolja ali peskovniki. To so varna okolja, kjer lahko razvijalci preizkusijo svoje inovacije pod nadzorom regulativnih organov, preden jih dajo na trg. To omogoča tehnološko izpopolnjevanje in zagotavlja skladnost z zakonom brez tveganja takojšnjih kazni, s čimer spodbuja odgovorno inoviranje.
Časovni načrt postopnega izvajanja
Zakon se ne izvaja naenkrat, temveč po fazah. Najstrožje prepovedi so začele veljati 2. februarja 2025. Do avgusta istega leta bodo vzpostavljeni nadzorni ukrepi za modele splošnega namena in sistem upravljanja. Večina obveznosti za večino sistemov bo začela veljati 2. avgusta 2026 , čeprav bodo imeli nekateri regulirani izdelki čas do leta 2027 ali 2028, da se v celoti uskladijo z njimi.
Ta regulativni okvir na novo opredeljuje odnos med tehnologijo in družbo ter zahteva, da vsak algoritem, ki vpliva na naša življenja, opravi etični in varnostni pregled. Z združitvijo obveznega človeškega nadzora s sistemom zglednih sankcij in podpornih mehanizmov za mala podjetja si Evropska unija prizadeva utrti pot digitalni preobrazbi, kjer učinkovitost strojev ne gre na račun človekovega dostojanstva.
Strasten pisec o svetu bajtov in tehnologije nasploh. Rad delim svoje znanje s pisanjem in to je tisto, kar bom počel v tem blogu, saj vam bom pokazal vse najbolj zanimive stvari o pripomočkih, programski opremi, strojni opremi, tehnoloških trendih in še več. Moj cilj je, da vam pomagam krmariti po digitalnem svetu na preprost in zabaven način.