Akt o umetni inteligenci: poslanci sprejeli prelomno zakonodajo

• Zaščitni ukrepi v zvezi z umetno inteligenco za splošne namene
• Omejitve za organe kazenskega pregona pri uporabi sistemov za biometrično identifikacijo
• Prepoved družbenega točkovanja in uporabe umetne inteligence za manipuliranje in izkoriščanje šibkih točk uporabnikov
• Pravice potrošnikov, da se pritožijo in prejmejo tehtne obrazložitve

Parlament je v sredo sprejel Akt o umetni inteligenci, ki zagotavlja varnost in upoštevanje človekovih pravic ter spodbuja inovacije.

Poslanke in poslanci so o uredbi, o kateri je bil decembra 2023 dosežen sporazum z državami članicami, glasovali s 523 glasovi za, 46 proti in 49 vzdržanimi glasovi.

Njen namen je zaščititi temeljne pravice, demokracijo, pravno državo in okoljsko trajnostnost pred velikim tveganjem, ki ga predstavlja umetna inteligenca, ob tem pa spodbuditi inovacije in postaviti Evropo na čelo tega področja. V uredbi je določeno, da mora umetna inteligenca izpolnjevati določene obveznosti, ki so odvisne od morebitnih tveganj in razsežnosti njenega vpliva.

Prepovedane aplikacije

V skladu z novimi pravili so nekatere umetnointeligenčne aplikacije prepovedane. Mednje sodijo aplikacije, ki ogrožajo pravice državljanov, tudi sisteme biometričnega kategoriziranja, ki temeljijo na občutljivih lastnostih, in aplikacije za prepoznavanje obrazov z neciljnim odvzemom podob obraza z interneta ali s posnetkov sistema CCTV. Prepovedani bodo tudi sistemi za prepoznavanje čustev na delovnih mestih in v šolah, družbeno točkovanje, napovedno policijsko delo (ko temelji zgolj na profiliranju osebe ali ocenjevanju njenih lastnosti) ter umetna inteligenca, ki manipulira s človeškim obnašanjem ali izkorišča šibke točke ljudi.

Izjeme za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj

Uporaba sistemov za biometrično identifikacijo s strani organov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj je načeloma prepovedana, razen v jasno in natančno opredeljenih primerih. Biometrična identifikacija v realnem času se lahko uporabi samo, če je bilo zadoščeno strogim zahtevam, na primer če je njena uporaba omejena v času in prostoru ter če je bilo zanjo predhodno izdano sodno ali upravno dovoljenje. Med to uporabo sodi na primer ciljno iskanje pogrešane osebe ali preprečitev terorističnega napada. Uporaba tovrstnih sistemov po dejanju (post facto) velja za zelo tvegano in je zanjo obvezna izdaja sodnega dovoljenja, povezanega s kaznivim dejanjem.

Obveznosti v zvezi z zelo tveganimi sistemi

Tudi za druge zelo tvegane umetnointeligenčne sisteme so predvidene jasne obveznosti, saj lahko škodujejo zdravju, varnosti, temeljnim pravicam, okolju, demokraciji in pravni državi. Primeri zelo tveganih umetnointeligenčnih sistemov zajemajo bistveno infrastrukturo, izobraževanje in poklicno usposabljanje, osnovne zasebne in javne storitve (npr. zdravstvo, bančništvo), nekatere sisteme za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, migracije, upravljanje meja, sodstvo in demokratične procese (kot je vplivanje na volitve). Pri teh sistemih je treba tveganja oceniti in zmanjšati, hraniti evidenco uporabe ter zagotoviti preglednost, natančnost in človeški nadzor. Državljani bodo imeli pravico, da se v zvezi z umetnointeligenčnimi sistemi pritožijo in prejmejo tehtne obrazložitve odločitev, temelječih na zelo tveganih umetnointeligenčnih sistemih, ki vplivajo na njihove pravice.

Zahteve glede preglednosti

Umetnointeligenčni sistem za splošne namene in modeli, na katerih temeljijo, morajo pri usposabljanju svojih modelov izpolniti določene zahteve glede preglednosti, vključno z evropskim avtorskim pravom  in objavo podrobnih povzetkov vsebin, uporabljenih pri učenju. Močnejši modeli umetnointeligenčnih sistemov za splošne namene, ki bi lahko povzročili sistemsko tveganje, bodo morali izpolniti dodatne zahteve, kot so izvajanje ocenjevanj modela, ocenjevanje in reševanje sistemskih tveganj in poročanje o incidentih.

Poleg tega je treba umetne ali spremenjene slikovne, zvočne ali video vsebine (globoki ponaredki) jasno označiti kot take.

Ukrepi za spodbujanje inovacij ter malih in srednjih podjetij

Na nacionalni ravni bo treba vzpostaviti regulativne peskovnike in testiranje v dejanskih razmerah, ter malim, srednjim in zagonskim podjetjem omogočiti dostop do njih, da bodo lahko razvila in usposobila inovativne umetnointeligenčne sisteme, preden pristanejo na trgu.

Izjavi

Med torkovo plenarno razpravo je soporočevalec odbora za notranji trg Brando Benifei (S&D, Italija) dejal: „Končno imamo prvi zavezujoč zakon o umetni inteligenci na svetu, ki zmanjšuje tveganja, ustvarja priložnosti, se bori proti diskriminaciji in prinaša preglednost. Zahvaljujoč parlamentu bodo nesprejemljive prakse umetne inteligence v EU prepovedane, pravice delavcev in državljanov pa zaščitene. Urad za umetno inteligenco bo zdaj vzpostavljen za podporo podjetjem, da začnejo izpolnjevati pravila, preden začnejo veljati. Zagotovili smo, da so ljudje in evropske vrednote v samem središču razvoja umetne inteligence.”

Soporočevalec odbora za državljanske svoboščine Dragos Tudorache (Renew, Romunija) je dejal: „EU je uspelo. Koncept umetne inteligence smo povezali s temeljnimi vrednotami, ki so osnova naših družb. Vendar pa je pred nami še veliko dela, ki presega sam akt o umetni inteligenci. Umetna inteligenca nas bo spodbudila k ponovnemu premisleku o družbeni pogodbi, ki je v središču naših demokracij, naših izobraževalnih modelih, trgih dela in načinu vojskovanja. Ta akt je izhodišče za nov model upravljanja, ki temelji na tehnologiji. Zdaj se moramo osredotočiti na izvajanje tega akta v praksi.”

Nadaljnji koraki

Uredbo bodo zdaj pregledali pravniki lingvisti, sprejeta pa naj bi bila pred koncem tekočega zakonodajnega obdobja (v tako imenovanem postopku za popravek). Zakonodajo mora dokončno sprejeti tudi Svet EU.

Veljati začne dvajset dni po objavi v uradnem listu, v celoti pa bo veljavna 24 mesecev po začetku veljavnosti z izjemo: prepovedi prepovedanih praks, ki bodo veljale šest mesecev po datumu začetka veljavnosti; kodeksov prakse (devet mesecev po začetku veljavnosti); pravil za umetnointeligenčne sisteme za splošne namene, vključno z upravljanjem (dvanajst mesecev po začetku veljavnosti) in obveznosti v zvezi z zelo tveganimi sistemi (36 mesecev).

Ozadje

Akt o umetni inteligenci se neposredno odziva na predloge državljanov Konference o prihodnosti Evrope, najbolj konkretno na predlog 12(10) o povečanju konkurenčnosti EU v strateških sektorjih, predlog 33(5) o varni in zaupanja vredni družbi, vključno z bojem proti dezinformacijam in zagotavljanjem, da imajo ljudje na koncu nadzor, predlog 35 o spodbujanju digitalnih inovacij, (3) ob zagotavljanju človeškega nadzora in (8) zaupanja vredno in odgovorno uporabo umetne inteligence, določanje zaščitnih ukrepov in zagotavljanje preglednosti ter predlog 37 (3) o uporabi umetne inteligence in digitalnih orodij za izboljšanje dostopa državljanov do informacij, vključno z invalidi.