Zakon o vještačkoj inteligenciji: Poslanici Evropskog parlamenta usvojili istorijski zakon

U srijedu, Parlament je odobrio Zakon o vještačkoj inteligenciji koji osigurava sigurnost i usklađenost sa osnovnim pravima, dok istovremeno podstiče inovacije.

Regulativa, dogovorena u pregovorima sa državama članicama u decembru 2023. godine, dobila je podršku od strane poslanika Evropskog parlamenta sa 523 glasa za, 46 protiv i 49 uzdržanih.

Cilj je zaštita osnovnih prava, demokratije, vladavine prava i ekološke održivosti od AI visokog rizika, istovremeno podstičući inovacije i uspostavljajući Evropu kao lidera u ovoj oblasti. Regulacija postavlja obaveze za AI zasnovane na njihovim potencijalnim rizicima i nivou uticaja.

Zabranjene primjene

Novi propisi zabranjuju određene primjene AI koje ugrožavaju građanska prava, uključujući sisteme biometrijske kategorizacije zasnovane na osjetljivim karakteristikama i neusmjereno prikupljanje facijalnih slika sa interneta ili CCTV snimaka radi stvaranja baza podataka za prepoznavanje lica. Prepoznavanje emocija na radnom mjestu i u školama, društveno ocjenjivanje, prediktivno policijsko djelovanje (kada je zasnovano isključivo na profilisanju osobe ili procjeni njihovih karakteristika), kao i AI koji manipuliše ljudskim ponašanjem ili iskorištava ranjivosti ljudi takođe će biti zabranjeni.

Izuzeci za primjene u sprovođenju zakona

Upotreba sistema biometrijske identifikacije (RBI) od strane organa reda je u principu zabranjena, osim u iscrpno navedenim i usko definisanim situacijama. “Real-time” RBI se može koristiti samo ako se ispune strogi zaštitni uslovi, npr. njegova upotreba je ograničena u vremenu i geografskom obimu i podložna je specifičnom prethodnom sudskom ili administrativnom odobrenju. Takve upotrebe mogu obuhvatiti, na primjer, ciljanu pretragu nestale osobe ili sprječavanje terorističkog napada. Korišćenje takvih sistema nakon događaja (“post-remote RBI”) smatra se visokorizičnim slučajem upotrebe, zahtijevajući sudsko odobrenje koje je povezano sa krivičnim djelom.

Obaveze za sisteme visokog rizika

Takođe su predviđene jasne obaveze za druge sisteme veštačke inteligencije visokog rizika (zbog njihovog značajnog potencijalnog štetnog uticaja na zdravlje, bezbjednost, osnovna prava, životnu sredinu, demokratiju i vladavinu prava). Primjeri upotrebe AI visokog rizika uključuju kritičnu infrastrukturu, obrazovanje i stručno osposobljavanje, zapošljavanje, osnovne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sisteme u sprovođenju zakona, migraciju i upravljanje granicama, pravdu i demokratske procese (npr. uticaj na izbore). Takvi sistemi moraju procijenjivati i smanjivati rizike, voditi evidenciju o korišćenju, biti transparentni i precizni, i osigurati ljudski nadzor. Građani će imati pravo da podnesu pritužbe u vezi sa AI sistemima i dobiju objašnjenja o odlukama zasnovanim na AI visokog rizika koje utiču na njihova prava.

Zahtjevi za transparentnost

Sistemi opšte namjene vještačke inteligencije (GPAI), i modeli GPAI na kojima se zasnivaju, moraju ispuniti određene zahtjeve za transparentnost, uključujući usklađenost sa zakonima EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja korišćenog za obuku. Moćniji modeli GPAI koji bi mogli predstavljati sistemski rizik će se suočiti sa dodatnim zahtjevima, uključujući sprovođenje evaluacija modela, procjenu i ublažavanje sistemskih rizika, i izvještavanje o incidentima.

Dodatno, vještačke ili manipulisane slike, audio ili video sadržaj (“deepfake”) moraju biti jasno označeni kao takvi.

Mjere podrške inovacijama i MSP-ima

Na nacionalnom nivou će se morati uspostaviti regulatorni peskari i testiranje u stvarnom svijetu, i omogućiti pristup MSP-ima i startapima, kako bi se razvijala i obučavala inovativna vještačka inteligencija prije nego što se plasira na tržište.

Izjave

Tokom plenarne debate u utorak, ko-raporter Odbora za unutrašnje tržište Brando Benifei (S&D, Italija) je rekao: “Konačno imamo prvi obavezujući zakon o vještačkoj inteligenciji u svijetu, radi smanjenja rizika, stvaranja prilika, borbe protiv diskriminacije i donošenja transparentnosti. Zahvaljujući Parlamentu, neprihvatljive prakse vještačke inteligencije biće zabranjene u Evropi, a prava radnika i građana će biti zaštićena. Kancelarija za vještačku inteligenciju će sada biti uspostavljena kako bi podržala kompanije da počnu da se pridržavaju pravila prije nego što ona stupe na snagu. Osigurali smo da ljudska bića i evropske vrijednosti budu u samom centru razvoja vještačke inteligencije”.

Ko-raporter Odbora za građanske slobode Dragos Tudorache (Obnova, Rumunija) je rekao: “Evropska unija je isporučila. Povezali smo koncept vještačke inteligencije sa osnovnim vrijednostima koje čine osnovu naših društava. Međutim, pred nama je još mnogo posla koji ide izvan same AI akta. Vještačka inteligencija će nas natjerati da ponovo razmislimo o društvenom ugovoru koji je u srcu naših demokratija, naših modela obrazovanja, tržišta rada i načina na koji vodimo ratovanje. AI akt je početna tačka za novi model upravljanja zasnovan na tehnologiji. Sada se moramo fokusirati na sprovođenje ovog zakona u praksi”.

Sledeći koraci

Regulativa je još uvijek predmet konačne provjere pravnika-lingvista i očekuje se da će konačno biti usvojena prije kraja mandata (putem tzv. postupka ispravke). Zakon takođe treba formalno odobriti Savjet.

Stupiće na snagu dvadeset dana nakon objavljivanja u zvaničnom Službenom listu i potpuno će se primijenjivati 24 meseca nakon stupanja na snagu, osim za: zabrane zabranjenih praksi, koje će se primjenjivati šest mjeseci nakon datuma stupanja na snagu; kodekse prakse (devet mjeseci nakon stupanja na snagu); pravila o vještačkoj inteligenciji opšte namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu); i obaveze za sisteme visokog rizika (36 meseci).

Pozadina

Zakon o vještačkoj inteligenciji direktno odgovara na predloge građana sa Konferencije o budućnosti Evrope (COFE), najkonkretnije na predlog 12(10) o unapređenju konkurentnosti EU u strateškim sektorima, predlog 33(5) o sigurnom i pouzdanom društvu, uključujući borbu protiv dezinformacija i osiguranje da su ljudi konačno u kontroli, predlog 35 o promovisanju digitalne inovacije, (3) uz osiguranje ljudskog nadzora i (8) pouzdanog i odgovornog korišćenja vještačke inteligencije, postavljanje zaštita i osiguravanje transparentnosti, i predlog 37 (3) o korišćenju vještačke inteligencije i digitalnih alata radi poboljšanja pristupa informacijama građana, uključujući osobe sa invaliditetom.

Prevod: AI

Izvor: www.europarl.europa.eu