Mnenje varuha osebnih podatkov o aktu o umetni inteligenci

Evropski varuh osebnih podatkov (EDPS) je na lastno pobudo objavil mnenje o aktu o umetni inteligenci, ki je v zaključni fazi pogajanj med sozakonodajalcema EU.

Namen akta o umetni inteligenci je urediti razvoj in uporabo sistemov umetne inteligence v EU. Najpomembneje je, da se prepove uporaba sistemov umetne inteligence, ki predstavljajo nesprejemljiva tveganja za posameznike in njihove temeljne pravice. To vključuje prepoved uporabe sistemov umetne inteligence za samodejno prepoznavanje človeških značilnosti in drugih vedenjskih signalov na javnih mestih ter na primer kategorizacijo posameznikov na podlagi njihovih biometričnih značilnosti.

Uporaba sistemov UI in sistemov UI z visokim tveganjem v teh kontekstih bi morala biti prepovedana zaradi njihove visoke stopnje vmešavanja v življenja posameznikov in njihovega vpliva na človekovo dostojanstvo.

Zakon o umetni inteligenci določa ENVP kot priglašeni organ in organ za nadzor trga, ki ocenjuje skladnost sistemov umetne inteligence z visokim tveganjem, ki jih razvijajo ali uporabljajo EUI, ter kot pristojni organ za nadzor zagotavljanja ali uporabe sistemov umetne inteligence s strani EUI. Evropski nadzornik za varstvo podatkov je na podlagi svojih izkušenj z uveljavljanjem temeljnih pravic pripravljen prevzeti vlogo nadzornika za umetno inteligenco v EUI. V zvezi s tem zahteva, da se njegova vloga, naloge in pooblastila pojasnijo v skladu z zakonom o umetni inteligenci ob upoštevanju posebnosti pravnega okvira, ki se uporablja za EUI. Evropski nadzornik za varstvo podatkov tudi ponovno poudarja, da potrebuje ustrezne finančne in človeške vire za opravljanje svoje vloge nadzornika za umetno inteligenco.

ENVP meni, da bi bilo treba posameznikom, ki jih prizadene uporaba sistemov umetne inteligence, zagotoviti pravico do vložitve pritožbe pri pristojnem organu, če ponudniki in uporabniki sistemov umetne inteligence kršijo zakon o umetni inteligenci. V ta namen bi moral zakon o umetni inteligenci izrecno vključevati pristojnost ENVP za sprejemanje pritožb. V širšem smislu ENVP priporoča, da se organi za varstvo podatkov imenujejo za nacionalne nadzorne organe v skladu z zakonom o umetni inteligenci, z namenom sodelovali z organi, ki imajo posebno strokovno znanje in izkušnje na področju uvajanja sistemov umetne inteligence.

ENVP je prepričan, da je evropski pristop k izvrševanju zakona o umetni inteligenci bistvenega pomena, zlasti v čezmejnih primerih, zato pozdravlja ustanovitev Evropskega urada za umetno inteligenco. ENVP podpira cilje urada za umetno inteligenco, da bi v nekaterih primerih centraliziral izvrševanje zakona o umetni inteligenci in uskladil njegovo uporabo v državah članicah EU. Evropski nadzornik za varstvo podatkov je tudi pripravljen izvajati skupne preiskave na enakopravni podlagi z nacionalnimi nadzornimi organi ter sodelovati pri drugih dejavnostih Urada za umetno inteligenco.

Zato ENVP poziva sozakonodajalca, naj mu kot polnopravnemu članu upravnega odbora Urada za AI podeli glasovalne pravice. Na podlagi izkušenj, ki jih je pridobil kot izvajalec sekretariata EDPB, kar je omogočilo znatne prihranke in sinergije, ENVP zahteva, da to vlogo prevzame tudi za Urad za umetno inteligenco.

Več: Mnenje

 

 

Preberite tudi:

Storitve slovenskih poslovnih klubov v tujini