Digitalna nejednakost: Utjecaj umjetne inteligencije na žene na tržištu rada

Hrvatski poslovni savjet za održivi razvoj u partnerstvu s Predstavništvom Europske komisije organizirao je 6. ožujka povodom Međunarodnog dana žena forum Digitalna  nejednakost: Utjecaj umjetne inteligencije na žene na tržištu rada.

Umjetna inteligencija mijenja tržište rada i može produbiti postojeće nejednakosti, osobito za žene u STEM-u. Sudionici foruma razgovarali su o tome kako osigurati jednake prilike i razviti digitalne vještine potrebne za gospodarstvo, uz nove mogućnosti zapošljavanja koje ono donosi.

Uz video obraćanje hrvatskog zastupnika iz EU parlamenta Marka Vešligaja iz kluba zastupnika Progresivnog saveza socijalista i demokrata u Europskom parlamentu i potpredsjednika Odbora za prava žena i rodnu ravnopravnost, na forumu su govorili Sabina Glasovac, potpredsjednica Hrvatskog sabora, odvjetnica Natalija Babić, Tome Barić, direktor ljudskih potencijala u INI, Dijana Kesonja, zamjenica pučke pravobraniteljice  i Lea Ordanić, AI & Data Manager iz tvrtke Span.

Na panelu je istaknuto kako se kod treniranja algoritama treba koristi pristup dopunjavanja skupova podataka sintetičkim podacima kako bi se izjednačili ulazni podaci. Cilj takvog pristupa je smanjiti pristranosti u podacima i postići uravnoteženiji skup podataka koji može dovesti do pravednijih ishoda algoritamskog odlučivanja.

Govorilo se o tome može li kandidat u postupku zapošljavanja zatražiti objašnjenje odluke o odabiru te na koji se način može dokazati algoritamska diskriminacija. Zamjenica pučke pravobraniteljice Dijana Kesonja istaknula je da u praksi kandidat često neće znati da je odluka donesena uz pomoć algoritma uz ljudski nadzor. Nerijetko neće prepoznati da se radi o potencijalnoj diskriminaciji kao što građani i dalje ne prepoznaju druge vrste diskriminacije kojima su izloženi.

Prema Uredbi o umjetnoj inteligenciji, kandidati će moći koristiti određene mehanizme zaštite ako je u postupku odlučivanja korišten algoritam. U takvim situacijama moći će se obratiti tijelu za nadzor tržišta, ali i tijelima nadležnima za zaštitu temeljnih prava.

Budući da Uredba još nije prevedena u hrvatsko zakonodavstvo još se ne zna tko će biti tijelo za nadzor tržišta. Tijela nadležna za zaštitu temeljnih prava sukladno članku 77. Uredbe su imenovana: pravobranitelji (pučka pravobraniteljica i specijalizirani pravobranitelji), Agencija za zaštitu osobnih podataka (AZOP), Državno izborno povjerenstvo Republike Hrvatske (DIP) i Hrvatska regulatorna agencija za mrežne djelatnosti (HAKOM).

Zamjenica pučke pravobraniteljice rekla je da će u praksi biti teško provoditi ispitne postupke u slučajevima algoritamske diskriminacije. Zbog toga se savjetnici pučke pravobraniteljice već sada dodatno educiraju za rad na takvim predmetima. Posebno je istaknuta važnost instituta prebacivanja tereta dokazivanja. U takvim postupcima dovoljno je dokazati postojanje sumnje na diskriminaciju, nakon čega poslodavac mora dokazati da donošenje odluke nije bilo diskriminatorno, neovisno o tome je li odluka donesena uz pomoć algoritamskog sustava ili bez njega.

Otvoreno je i pitanje je li postojeći regulatorni okvir dovoljno robustan da se nosi s izazovima koje donosi razvoj umjetne inteligencije. Iako se Uredba o umjetnoj inteligenciji primjenjuje izravno, bit će potrebno donijeti i nacionalno zakonodavstvo kako bi se njezine odredbe operacionalizirale u praksi.

U tom kontekstu spomenuti su postojeći zakoni, poput Zakona o suzbijanju diskriminacije, Zakona o ravnopravnosti spolova, Zakona o radu i Zakona o zaštiti osobnih podataka. Ti su zakoni nastajali u kontekstu industrijskog društva, kada su odnosi između radnika i poslodavaca bili znatno jasniji nego danas. Danas se, međutim, razvijaju novi oblici rada, poput platformskog rada. Platformski rad je već djelomično reguliran u Zakonu o radu, ali se i dalje postavlja pitanje odgovornosti samih platformi za kršenja radničkih prava. Prema postojećem zakonskom uređenju, odgovorni su posrednici odnosno agregatori.

U budućnosti će u zakonodavnom okviru trebati regulirati čitav niz novih pitanja, kao što su algoritamski utjecaji na zapošljavanje, digitalni nadzor rada, algoritamski načini upravljanja radnicima, pravo na objašnjenje algoritamskih odluka te obvezni ljudski nadzor nad automatiziranim sustavima donošenja odluka. Takve izmjene bit će potrebno donijeti relativno brzo jer se praksa i tehnologija razvijaju iznimno brzo.

U raspravi se otvorilo i pitanje automatizacije koja proizlazi iz razvoja umjetne inteligencije, odnosno pitanje koje će radne pozicije nestati i postoje li planovi za prekvalifikaciju radnika. Istaknuto je da je ageizam i dalje jedan od najraširenijih oblika diskriminacije na tržištu rada. U praksi se često otvoreno priznaje da se traži mlađi kandidat. Također se smatra da će fleksibilniji radnici imati određene prednosti, a među njima se često spominju žene. Kao primjer dobre prakse navedena je INA, koja je bila posvećena zapošljavanju jednakog udjela žena i muškaraca.

Bit će potrebno razvijati modele mikroprekvalifikacija i kontinuiranog obrazovanja.

U raspravi se pojavila i problematična percepcija da se ponekad preferira zapošljavanje djevojaka jer se smatra da su manje ambiciozne. U tom kontekstu postavlja se pitanje može li umjetna inteligencija doprinijeti smanjenju rodnog jaza. Naglašeno je da umjetna inteligencija svima može omogućiti oslobađanje od repetitivnih poslova te ostaviti više vremena za radne zadatke koji zahtijevaju vještine poput kritičkog i strateškog razmišljanja, empatiju, emocionalnu inteligenciju te sposobnosti razlaganja složenih zadataka na manje cjeline.

Važno je, međutim, promisliti kako motivirati djevojke za karijere u STEM području bez nesvjesnog stereotipiziranja, odnosno bez pokušaja da se STEM područje prilagodi stereotipnim očekivanjima ili da se interes umjetno potiče na stereotipan način.

Općenito se smatra da poslovi neće potpuno nestati, ali će se morati prilagoditi obavljanju radnih zadataka uz pomoć umjetne inteligencije. Zbog toga će biti nužno omogućiti sustavne programe prekvalifikacije i prijelaza na druga radna mjesta.

Posebno je raspravljano i o problemu tzv. „crne kutije“ algoritama, odnosno o pitanju kako objasniti algoritamsku odluku kandidatu. Istaknuto je da suvremeni sustavi umjetne inteligencije nisu deterministički, nego probabilistički. Iako se ne može uvijek u potpunosti rekonstruirati svaki korak odlučivanja, moguće je identificirati koje su informacije i obrasci podataka najviše utjecali na donošenje određene odluke.

Naglašeno je da su „crne kutije“ samo jedan od elemenata tehnologije te da odgovornost za korištenje takvih sustava snose njihovi korisnici. Algoritmi su prije svega alat za obradu podataka, dok konačnu odluku i dalje treba donositi čovjek.

Postavlja se i pitanje transparentnosti procesa odabira kandidata. Važno je znaju li kandidati da ih procjenjuje algoritam i jesu li takvi procesi dovoljno vidljivi i razumljivi. Istaknuto je da ljudski element, uključujući intuiciju i profesionalni instinkt, i dalje ima važnu ulogu u procesu zapošljavanja te da mnogi ne bi željeli raditi u kompaniji koja odluke donosi isključivo na temelju algoritama.

U raspravi je također istaknuto da žene u sve većem broju ulaze u sustav visokog obrazovanja. Međutim, paralelno s razvojem tehnologije postoji i rizik od neetičnog postupanja u korištenju umjetne inteligencije.

Algoritamska diskriminacija kao takva još uvijek nije eksplicitno prepoznata u zakonodavstvu. Pučka pravobraniteljica preporučila je osnivanje registra sustava umjetne inteligencije kako bi bilo jasno u kojim se sustavima odlučivanja koristi umjetna inteligencija. Trenutačno pravobraniteljstva još nemaju formalnih pritužbi na algoritamsku diskriminaciju.

Naglašena je i važnost suradnje između IT stručnjaka i institucija poput pravobraniteljstava. Ta suradnja treba biti dvosmjerna: IT stručnjaci mogu pružiti potrebna tehnička znanja, ali ih je također potrebno upozoriti na važnost izrade smjernica prilikom unosa podataka u algoritme. Naime, podaci na kojima se algoritmi treniraju često već odražavaju društvene predrasude i nejednakosti, što može dovesti do diskriminatornih rezultata.

Vezano uz sudsku praksu spomenuto je da su 2025. zabilježena su samo 43 nova postupka u građanskim predmetima vezanima uz diskriminaciju, uglavnom u radnim sporovima u kojima je diskriminacija dodatni element. U postupcima utvrđivanja algoritamske diskriminacije kad do njih dođe suci će se u velikoj mjeri oslanjati na vještake koji će pružati potrebne tehničke informacije. Statistički gledano, u svega oko 6 % predmeta vezanih uz diskriminaciju usvojen je tužbeni zahtjev.

Ako želimo da umjetna inteligencija postane nediskriminirajuća, potrebno je osvijestiti postojeće društvene predrasude, uključiti rodnu dimenziju u strateške dokumente, provoditi edukacije te analizirati i uravnotežiti ulazne podatke kako bi se uklonile predrasude sadržane u njima. Na to je posebno upozorila Lea Ordanić Špan.

U raspravi o budućnosti rada spomenuta je i mogućnost razvoja humanoidnih robota. Procjenjuje se da bi do 2035. godine jedan humanoidni robot mogao zamijeniti rad 10 do 15 ljudi, dok bi do 2050. godine broj takvih robota mogao dosegnuti milijardu. Takav razvoj tehnologije upućuje na pojavu novih oblika rada i na potrebu stalnog prilagođavanja vještina. Procjenjuje se da će se naše vještine morati značajno mijenjati svakih pet do sedam godina zbog ubrzanog tehnološkog napretka.

Istaknuta je i potreba za donošenjem smjernica za etičko upravljanje algoritmima. Tehnologija se razvija vrlo brzo, dok zakonodavstvo često ne uspijeva pratiti taj tempo. Primjerice, pojedini sektori poput skladištenja, turizma i administracije još uvijek nisu dovoljno obuhvaćeni postojećim normativnim okvirom.

Zbog svega navedenog bit će potrebno razmotriti i izmjene Zakona o radu.

Na kraju je naglašeno da se u razvoju sustava umjetne inteligencije modeli stalno analiziraju i nadograđuju. Rezultati se kontinuirano evaluiraju, a zatim se mijenjaju ulazni podaci i parametri kako bi se poboljšala točnost i pravednost modela.

U tom kontekstu uvijek se postavlja temeljno pitanje: je li tehnologija umjetne inteligencije doista rješenje za problem koji određena organizacija pokušava riješiti.