EU je vodilna v svetu pri oblikovanju zakonodaje o uporabi AI

Organi po vsem svetu tekmujejo pri pripravi pravil za umetno inteligenco (AI), tudi v Evropski uniji. Odbor Evropskega parlamenta je 11. maja glasoval za okrepitev vodilnega zakonodajnega predloga, ki se bliža končnemu sprejetju. EU si že dolgo prizadeva, da pripravi zaščitne ukrepe pri uporabi AI. Ta prizadevanja so postala še bolj nujna, ker hiter napredek chat-botov, kot je na primer ChatGPT, poleg prednosti, ki jih lahko prinese nastajajoča tehnologija, predstavlja tudi nove nevarnosti.
 

Vpogled v zakon EU o AI

Zakon o AI, ki je bil prvič predlagan leta 2021, bo urejal vse izdelke ali storitve, ki uporabljajo sistem AI.

Zakon bo sisteme AI razvrstil glede na 4 stopnje tveganja, od minimalne do nesprejemljive. Bolj tvegane aplikacije se bodo soočale s strožjimi zahtevami, vključno z večjo preglednostjo in uporabo točnih podatkov.
 

Kakšna so tveganja?

Eden glavnih ciljev EU je zaščita pred vsemi grožnjami AI zdravju in varnosti ter zaščita temeljnih pravic in vrednot.

To pomeni, da so nekatere uporabe AI popolnoma nesprejemljive, kot so na primer sistemi družbenega točkovanja, ki ljudi ocenjujejo na podlagi njihovega vedenja.

Prepovedana je tudi uporaba AI, ki izkorišča ranljive skupine ljudi, vključno z otroki.

Prav tako je prepovedana AI, ki uporablja subliminalno manipulacijo, torej sporočila, ki jih zavestni um ne zazna, prepozna pa jih podzavestni um, še posebej, če so negativna (na primer interaktivna govoreča igrača, ki spodbuja nevarno vedenje).

Zakonodajalci so glasovali tudi za prepoved prediktivnih policijskih orodij, ki združujejo podatke za napovedovanje, kje se bodo zločini zgodili in kdo jih bo storil.

Odobrili so tudi razširjeno prepoved prepoznavanja obraza na daljavo, razen nekaj izjem za organe pregona, kot je preprečevanje določene teroristične grožnje. Ta tehnologija skenira mimoidoče in uporablja AI, da njihove obraze poveže z zbirko podatkov.

Cilj novega zakona je izogniti se nadzorovani družbi, ki temelji na AI. Te nove tehnologije bi namreč lahko uporabili namesto za dobro tudi za slabo, in tveganja so prevelika.

Sistemi AI, ki sodijo v kategorijo z visokim tveganjem, kot sta zaposlitev in izobraževanje, in bi lahko vplivali na potek človekovega življenja, se soočajo s strogimi zahtevami, kot je preglednost z uporabniki ter uvedba ocene tveganja in ukrepov za ublažitev.

Večina sistemov AI, kot so video igre ali filtri za neželeno pošto, spada v kategorijo nizkega tveganja ali so brez tveganja.
 

Kaj pa ChatGPT?

Prvotni 108-stranski predlog skoraj ni omenjal klepetalnih robotov. Zahteval je le, da so označeni, da bodo uporabniki vedeli, da komunicirajo z računalnikom.

Pogajalci so pozneje dodali določbe za AI za splošne namene, kot je ChatGPT, in zanje postavili nekatere enake zahteve kot za sisteme z visokim tveganjem.

Eden ključnih dodatkov je zahteva po temeljitem dokumentiranju kakršnega koli avtorsko zaščitenega gradiva, ki se uporablja za učenje sistemov AI, kako ustvariti besedilo, slike, video ali glasbo, ki spominja na človeško delo. Tako bi ustvarjalci vsebin vedeli, ali so bile njihove objave v blogih, digitalne knjige, znanstveni članki ali pop pesmi uporabljene za urjenje algoritmov, ki napajajo sisteme, kot je ChatGPT, ter lahko tudi zahtevali odškodnino.


 

Zakaj so pravila EU o AI tako pomembna?

EU ni velik akter na področju razvoja vrhunske AI, kot sta ZDA in Kitajska, a pogosto s predpisi določa trende in svetovne standarde. Enotni trg bloka s 450 mio potrošnikov lažje izpolnjuje zahteve kot razvija različne izdelke za različne regije.

S postavljanjem pravil za AI poskuša EU z vlivanjem zaupanja med uporabniki hkrati tudi razvijati trg. Če bodo ljudje zaupali AI in aplikacijam, jo bodo tudi bolj uporabljali, s tem pa sprostili gospodarski in družbeni potencial AI.
 

Kaj bodo sankcije v primeru kršitve pravil?

Kršitve bodo povzročile globe do 30 mio EUR ali 6 % letnega globalnega prihodka podjetja. To bi lahko v primeru kršitev velikih tehnoloških podjetij, kot sta Google in Microsoft, znašalo več mlrd EUR.
 

Kaj sledi?

Poslanci EU bodo o osnutku zakona glasovali na plenarnem zasedanju sredi junija 2023. Nato sledijo tristranska pogajanja, ki vključujejo 27 držav članic bloka, parlament in izvršno komisijo.

Zakonodaja o AI naj bi bila predvidoma sprejeta do konca leta 2023 ali najpozneje v začetku leta 2024, čemur bo sledilo obdobje odloga za prilagoditev podjetij in organizacij, ki je običajno 2 leti.


Viri: Factiva, The Associated Press

 

Preberite še:

Globalni trendi na področju IKT

Španska podjetja bodo do 2025 v AI investirala 1,4 mlrd EUR

Na Kitajskem cveti trend zaposlovanja digitalnih delavcev

Evropski trg AI v FinTech sektorju



Za informacije na www.izvoznookno.si skrbimo:
 

• ekipa Sektorja za spodbujanje internacionalizacije, SPIRIT Slovenija, javna agencija,
• svetovalci v državah ter
• zunanji sodelavci in institucije, ki posredujejo informacije za posamezne vsebine na spletni portal.