Akt o umjetnoj inteligenciji stupio je na snagu 1. kolovoza i u potpunosti će se početi primjenjivati 2026., uz neke iznimke. Članak 77. Uredbe o umjetnoj inteligenciji propisuje  zaštitu temeljnih prava pri korištenju visokorizičnih sustava umjetne inteligencije.

Ministarstvo pravosuđa, uprave i digitalne transformacije dostavilo je Europskoj komisiji, putem Stalnog predstavništva Republike Hrvatske pri EU u Bruxellesu, popis nadležnih tijela sukladno Uredbi (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. (Akt o umjetnoj inteligenciji).

Uredba, koja je stupila na snagu, postavlja usklađena pravila o umjetnoj inteligenciji, a njezina će se primjena, uz propisane iznimke, početi od 2. kolovoza 2026. godine.

Člankom 77. stavkom 2. Akta propisano je da države članice do 2. studenoga 2024. moraju odrediti i objaviti popis tijela javne vlasti ili javnih tijela nadležnih za nadzor i provedbu obveza vezanih uz zaštitu temeljnih prava pri korištenju visokorizičnih sustava umjetne inteligencije.

Taj popis dostavlja se Europskoj komisiji i drugim državama članicama te se redovito ažurira.

Sukladno ovoj obvezi, Republika Hrvatska odredila je sljedeća tijela kao nadležna:

Pučka pravobraniteljica,

Pravobraniteljica za djecu,

Pravobraniteljica za ravnopravnost spolova,

Pravobraniteljica za osobe s invaliditetom,

Agencija za zaštitu osobnih podataka,

Državno izborno povjerenstvo, i

Agencija za elektroničke medije, voditelj Odjela pravnih i kadrovskih poslova.

Ovaj korak osigurava usklađenost Republike Hrvatske s europskim pravilima i doprinosi zaštiti temeljnih prava građana u kontekstu razvoja i primjene umjetne inteligencije.

EU-ov akt o umjetnoj inteligenciji prvi je zakonodavni akt te vrste na svijetu. Svrha mu je zajamčiti da sustavi umjetne inteligencije budu sigurni i pouzdani te u skladu s etičkim načelima. Aktom o umjetnoj inteligenciji želi se osigurati odgovoran razvoj i upotreba sustava umjetne inteligencije.

Pravilima koje sadrži uvode se obveze za dobavljače tehnologije umjetne inteligencije i subjekte koji takve tehnologije uvode te se uređuje odobravanje sustava umjetne inteligencije na jedinstvenom tržištu EU-a.

Aktom se odgovara na rizike povezane s umjetnom inteligencijom, kao što su pristranost, diskriminacija i nedostaci u pogledu odgovornosti, promiču se inovacije i potiče se uvođenje umjetne inteligencije.

Većina sustava umjetne inteligencije ne predstavlja rizik. Igre koje se temelje na umjetnoj inteligenciji ili filtri za neželjenu poštu mogu se upotrebljavati bez ograničenja. Nisu regulirani Aktom o umjetnoj inteligenciji niti ih on zahvaća.

Sustavi umjetne inteligencije koji predstavljaju samo ograničen rizik, kao što su chatbotovi ili sustavi umjetne inteligencije za generiranje sadržaja, podliježu obvezama u pogledu transparentnosti, kao što je obavješćivanje korisnika da je sadržaj generiran umjetnom inteligencijom kako bi mogli donositi informirane odluke o daljnjoj upotrebi.

Visokorizični sustavi umjetne inteligencije, kao što su oni koji se upotrebljavaju za dijagnosticiranje bolesti, autonomnu vožnju i biometrijsku identifikaciju pojedinaca uključenih u kriminalne aktivnosti ili istrage, moraju ispunjavati stroge zahtjeve i obveze za pristup tržištu EU-a, uključujući rigorozno testiranje, transparentnost i ljudski nadzor.

Primjena sustava umjetne inteligencije koji ugrožavaju sigurnost, prava ili egzistenciju ljudi zabranjena je u EU-u. Takve primjene obuhvaćaju kognitivnu manipulaciju ponašanja, prognostički rad policije, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama te društveno vrednovanje. Osim toga, tijelima kaznenog progona zabranjeno je na javnim mjestima upotrebljavati sustave za daljinsku biometrijsku identifikaciju u stvarnom vremenu, kao što su sustavi za prepoznavanje lica, uz ograničene iznimke.

Modeli umjetne inteligencije opće namjene pokreću sustave umjetne inteligencije sposobne za obavljanje širokog raspona zadaća, kao što su generiranje teksta i prepoznavanje slika, u različitim primjenama.

Na modele umjetne inteligencije opće namjene koji ne predstavljaju sistemske rizike primjenjuju se ograničeni zahtjevi, kao što su obveze transparentnosti, dok modeli koji predstavljaju sistemske rizike moraju biti u skladu sa strožim pravilima.

Kako bi se osigurala pravilna provedba, Aktom o umjetnoj inteligenciji osniva se nekoliko upravljačkih tijela:

Ured za umjetnu inteligenciju u okviru Europske komisije radi provedbe zajedničkih pravila u cijelom EU-u

Znanstveno povjerenstvo neovisnih stručnjaka za potporu provedbenim aktivnostima

Odbor za umjetnu inteligenciju sastavljen od predstavnika država članica za savjetovanje i pružanje pomoći Komisiji i državama članicama u dosljednoj i djelotvornoj primjeni Akta o umjetnoj inteligenciji

Savjetodavni forum za dionike radi pružanja tehničkog stručnog znanja Odboru za umjetnu inteligenciju i Komisiji.

Aktom se utvrđuju novčane kazne za kršenje pravila. Kazne se temelje na postotku ukupnog prošlogodišnjeg prometa poduzeća ili utvrđenom iznosu, ovisno o tome koji je iznos veći. MSP-ovima i start-up poduzećima mogu se izreći razmjerne novčane kazne.

Vlada Republike Hrvatske će u sljedećem razdoblju donijeti nacionalni okvir za razvoj umjetne inteligencije pri čemu će se uzeti u obzir i Preporuke vijeća za umjetnu inteligenciju OECD-a. Također, na nacionalnoj razini primjenjivat će se odredbe usvojenog Akta o umjetnoj inteligenciji.

Navedenim mjerama i aktivnostima omogućit će se pravilan okvir za odgovornu integraciju umjetne inteligencije u gospodarstvo i društvo, uz poštivanje europskih vrijednosti i zaštitu temeljnih prava građana. Akt o umjetnoj inteligenciji stupio je na snagu 1. kolovoza i u potpunosti će se početi primjenjivati dvije godine kasnije, uz neke iznimke: zabrane će stupiti na snagu nakon šest mjeseci, pravila upravljanja i obveze za modele umjetne inteligencije opće namjene počet će se primjenjivati nakon 12 mjeseci, a pravila za UI sustave ugrađene u regulirane proizvode nakon 36 mjeseci. Kako bi olakšala prelazak na novi regulatorni okvir, Komisija je pokrenula Pakt o umjetnoj inteligenciji, dobrovoljnu inicijativu kojom se nastoji poduprijeti buduća provedba i poziva razvojne programere umjetne inteligencije iz Europe i šire da unaprijed ispune ključne obveze iz Akta o umjetnoj inteligenciji.

Članak 77. Akta propisuje ovlasti tijela nadležnih za zaštitu temeljnih prava: Nacionalna tijela javne vlasti ili javna tijela koja nadziru ili izvršavaju poštovanje obveza na temelju prava Unije o zaštiti temeljnih prava, uključujući pravo na nediskriminaciju, u pogledu korištenja visokorizičnih UI sustava iz Priloga III. ovlaštena su zatražiti i pristupiti svoj dokumentaciji izrađenoj ili vođenoj na temelju ove Uredbe na pristupačnom jeziku i u pristupačnom formatu kada je pristup toj dokumentaciji potreban za djelotvorno ispunjavanje njihovih mandata u granicama njihove jurisdikcije. Relevantno tijelo javne vlasti ili javno tijelo obavješćuje tijelo za nadzor tržišta dotične države članice o svakom takvom zahtjevu.

Svaka država članica do 2. studenoga 2024. određuje tijela javne vlasti ili javna tijela iz stavka 1. i objavljuje popis tih tijela. Države članice taj popis dostavljaju Komisiji i drugim državama članicama te ga ažuriraju.

Ako dokumentacija iz stavka 1. nije dovoljna za utvrđivanje je li došlo do povrede obveza na temelju prava Unije o zaštiti temeljnih prava, tijelo javne vlasti ili javno tijelo iz stavka 1. može tijelu za nadzor tržišta podnijeti obrazloženi zahtjev za organiziranje testiranja visokorizičnog UI sustava tehničkim sredstvima. Tijelo za nadzor tržišta u razumnom roku nakon podnošenja zahtjeva organizira testiranje u bliskoj suradnji s tijelom javne vlasti ili javnim tijelom koje je podnijelo zahtjev.

Sa svim informacijama ili dokumentacijom koje su nacionalna tijela javne vlasti ili javna tijela iz stavka 1. ovog članka dobila na temelju ovog članka postupa se u skladu s obvezama u pogledu povjerljivosti utvrđenima u članku 78.