243 Članki / Articles DELAVCI IN DELODAJALCI 2-3/2023/XXIII * Aljoša Polajžar, magister prava, mladi raziskovalec, asistent in doktorski kandidat na Pravni fakulteti Univerze v Mariboru aljosa.polajzar@um.si Aljoša Polajžar, Master of Law, young researcher, Assistant and PhD Student at the Faculty of Law, University of Maribor Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna razmerja ter primeri dobrih praks Aljoša Polajžar* UDK: 349.2:331.101:004.8 Povzetek: Avtor obravnava vlogo predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna razmerja ter izbrane vidike primerov dobrih praks. Na podlagi obravnavanih primerov iz Nemčije ugotavlja, da imajo lahko pomembno vlogo na tem področju tako sindikati kot sveti delavcev – pri čemer je pomembno, da so za naslavljanje te tematike v dialogu z delavci zainteresirana poslovodstva podjetij. Skladno z nemškim vzorom bi veljalo razmisliti tudi o posodobitvi slovenske zakonodaje s področja sodelovanja delavcev pri upravljanju. Ključne besede: umetna inteligenca, sindikati, sveti delavcev, delodajalci, kolektivne pogodbe, delovna razmerja The Role of Workers' and Employers' Representatives in the Introduction of Artificial Intelligence in Employment Relations and Examples of Good Practice Abstract: The author discusses the role of workers' and employers' representatives in the introduction of artificial intelligence into employment relations and selected aspects of examples of good practice. Based on the German examples discussed, he concludes that both trade unions and works councils can play an important role in this area – and that it is important that company managements are interested in addressing this issue in dialogue with workers. In line with the German example, it Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 244 Članki / Articles would also be worth considering updating Slovenian legislation on worker participation in management. Key words: artificial intelligence, trade unions, works councils, employers, collective agreements, employment relations 1. UVOD Razvoj digitalizacije in umetne inteligence ima pomemben vpliv na delovna razmerja. Med drugim je z vidika področja nadzora nad delavcem dandanes možno, da delodajalci za nadzor uporabljajo pametne naprave, videokamere ter algoritme (programe), ki omogočajo množično zbiranje in nadaljnjo obdelavo osebnih podatkov delavcev itd.1 Uporaba umetne inteligence je povezana predvsem s področjem varstva osebnih podatkov delavcev, ki je v literaturi že bilo obravnavano.2 Res je, da že Splošna uredba o varstvu podatkov3 (v nadaljevanju: GDPR) predstavlja celovit sistem varstva osebnih podatkov delavcev.4 Kljub temu pa tudi 88. člen GDPR daje podlago za podrobnejšo nacionalno ureditev (tudi na ravni avtonomnih pravil) za obdelavo osebnih podatkov v okviru zaposlitve.5 V praksi se posledično lahko te tematike urejajo z različnimi pravnimi viri. Na ravni zakona bi bilo denimo možno te vidike specialno urejati v Zakonu o delovnih razmerjih (ZDR-1)6 ali v Zakonu o varstvu osebnih podatkov7 (ZVOP-2). 1 Edwards, Martin, Henderson, 2018, str. 1–2; Bhave, Teo, Dalal, 2020, str. 153–154. 2 Glej, med drugim, Polajžar, 2021a in Mežnar, 2019. 3 Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (Besedilo velja za EGP), Uradni list L 119. 4 Na tej točki velja izpostaviti, da se v okviru tega prispevka ne bomo spuščali v pravni okvir varstva osebnih podatkov po GDPR, ki je sicer relevanten tudi v kontekstu umetne inteligence – slednja namreč temelji prav na obdelavi podatkov. Za več o pomenu GDPR za varstvo zasebnosti delavca glej Polajžar, 2021a, str. 277–283. 5 Glej Polajžar, 2021a, str. 277, 286. 6 Zakon o delovnih razmerjih (Uradni list RS, št. 21/13, 78/13 – popr., 47/15 – ZZSDT, 33/16 – PZ-F, 52/16, 15/17 – odl. US, 22/19 – ZPosS, 81/19, 203/20 – ZIUPOPDVE, 119/21 – ZČmIS-A, 202/21 – odl. US, 15/22 in 54/22 – ZUPŠ-1). 7 Zakon o varstvu osebnih podatkov (Uradni list RS, št. 163/22). 245 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles Namen tega prispevka je oris vloge predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna razmerja – s poudarkom na predstavitvi izbranih vidikov stanja na tem področju v Nemčiji. Tematiko bomo obravnavali tako z vidika zakonske ravni (npr. prilagoditev zakonodaje s področja sodelovanja pri upravljanju v Nemčiji) kot ravni delovanja socialnih partnerjev (tako v okviru podjetij kot na ravni dejavnosti). Poseben poudarek pa bo na analizi možnih sprememb slovenske zakonske ureditve sodelovanja delavcev pri upravljanju – v luči nemškega primera posodobitve zakonodaje s področja sodelovanja pri upravljanju, ki je predstavljal odgovor na izzive, ki jih za delavce in delodajalce (podjetja) prinaša umetna inteligenca. 2. OBLIKE UPORABE UMETNE INTELIGENCE V DELOVNIH RAZMERJIH Literatura navaja različne primere uporabe sistemov umetne inteligence v zvezi z delovnimi razmerji. Denimo, podjetja lahko uporabljajo sisteme za množično obdelavo podatkov v postopku izbire kandidatov za zaposlitev. Pri čemer je treba zagotoviti skladnost tovrstnih sistemov s pravicami posameznikov po GDPR.8 Nadalje Bagari navaja primere uporabe sistemov umetne inteligence tekom delovnega razmerja. Tako se tovrstni sistemi uporabljajo za organizacijo dela, navodila, nadzor in ocenjevanje delavcev. Organizacija dela s pomočjo algoritmov je značilna za platformno delo. Prav tako pa se pojavlja tudi v bolj tradicionalnih delovnih okoljih, npr. v trgovinah in gostinstvu se algoritmi lahko uporabljajo za razporejanje delavcev in odrejanje delovnega časa. Ali pa se iz varnostnih razlogov lahko s pomočjo algoritmov opozarja delavce v skladiščih, v kolikor se njihove poti preveč približajo. Zaznani pa so tudi primeri uporabe umetne inteligence v zvezi s prenehanjem delovnega razmerja ali drugimi oblikami sankcioniranja delavcev. Na podlagi zbranih podatkov (npr. ocen strank, opravljanih delovnih nalog ipd.) algoritmi odločajo, kateri izmed delavcev niso dosegli pričakovanih delovnih rezultatov ter jih posledično sankcionirajo (odstranitev iz platforme itd.).9 8 Fernández Fernández, 2022, str. 98–100. 9 Bagari, 2022, str. 44–46. Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 246 Članki / Articles 3. NASPLOH O VLOGI DELAVSKIH IN DELODAJALSKIH PREDSTAVNIKOV PRI VPELJAVI UMETNE INTELIGENCE V DELOVNA RAZMERJA Literatura poudarja pomen kolektivne dimenzije za urejanje uporabe umetne inteligence (algoritmov) v podjetjih.10 Denimo, Adams-Prassl navaja, da je za tehnološki razvoj pogosto značilna heterogenost tehnoloških rešitev. Posledično je socialni dialog (prav zaradi možnosti fleksibilnosti in prilagodljivosti, ki jih ponuja) lahko zelo dobra pot za urejanje teh vprašanj v okviru podjetij.11 Z vidika delavskih predstavnikov (v okviru slovenske pravne ureditve) velja omeniti, da lahko svojo vlogo uveljavijo v okviru postopkov sprejema splošnih aktov delodajalca po 10. členu ZDR-1, v okviru kolektivnih pogajanj (sklepanje kolektivnih pogodb) ali v okviru sodelovanja pri upravljanju po Zakonu o sodelovanju delavcev pri upravljanju12 (ZSDU).13 Podobno lahko tudi predstavniki delodajalcev z morebitnimi predlogi dobrih praks, izobraževanji, ozaveščanji ipd. pomagajo posameznim delodajalcem pri urejanju problematike na ravni podjetja. Prav tako lahko odigrajo aktivno vlogo za vključitev teh vsebin v kolektivne pogodbe na ravni dejavnosti. V luči načela vsebinske avtonomije kolektivnega pogajanja za slednje ne bi bilo ovir. Se pa morajo za tovrstno urejanje tako predstavniki delavcev kot delodajalcev prostovoljno odločiti za vključitev teh vsebin v kolektivne pogodbe.14 Nadalje UNI Europa ICTS (global union) navaja predvsem tri ključna področja v zvezi z umetno inteligenco, ki morajo biti naslovljena v socialnem dialogu, in sicer: 1. vprašanja v zvezi z zbiranjem in obdelavo osebnih podatkov delavcev (kandidatov); 2. vprašanja v zvezi z izobraževanjem, izpopolnjevanjem ali usposabljanjem delavcev na področju novih tehnologij; in 3. vloga delavskih predstavnikov pri urejanju pravičnega digitalnega prehoda v podjetjih.15 10 Glej Bagari, 2022, str. 49–53; Adams-Prassl, 2022, str. 44. 11 Adams-Prassl, 2022, str. 44. 12 Zakon o sodelovanju delavcev pri upravljanju (Uradni list RS, št. 42/07 - uradno prečiščeno besedilo, 45/08 - ZArbit). 13 Glej Polajžar, 2021a, str. 287–289. 14 Del načela avtonomije je tudi prostovoljnost kolektivnih pogajanj. Glej: Kresal Šoltes, 2011, str. 26; Senčur Peček, 2004, str. 393. 15 UNI Europa ICTS (global union), 2022, str. 4. 247 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles Nazadnje pa velja omeniti, da je treba biti pozoren tudi na pojave, ko se umetna inteligenca uporabi za onemogočanje kolektivnega delovanja delavcev (npr. biometrični nadzor, preko katerega se lahko ugotovi, kateri delavci so nezadovoljni v podjetjih).16 Čeprav so po drugi strani zabeleženi tudi pozitivni primeri, ko delavski predstavniki uporabljajo orodja umetne inteligence za spodbujanje kolektivnega organiziranja ter delovanja. Denimo, Flanagan in Walker navajata primer uporabe robotskega klepetalnika ('chatbot') s strani delavskih gibanj v ZDA ter sindikatov v Avstraliji. Tovrstni robotski klepetalnik je izboljšal zmožnosti delavskih predstavnikov, da so bili pomoči ter relevantnih informacij deležni tudi sicer bolj marginalizirani delavci.17 4. NORMATIVNA UREDITEV TER VLOGA PREDSTAVNIKOV DELAVCEV IN DELODAJALCEV PRI UVAJANJU UMETNE INTELIGENCE V DELOVNA RAZMERJA V NEMČIJI (IZBRANI VIDIKI) V okviru tega poglavja bomo v prvem razdelku obravnavali dokumentirane primere delovanja delavskih (sindikatov in vetov delavcev) ter delodajalcev (ter njihovih predstavnikov) na področju vpeljave umetne inteligence v delovna razmerja. V drugem delu pa bomo obravnavali spremembe zakonskega okvirja na področju sodelovanja delavcev pri upravljanju (ki naslavljajo izzive umetne inteligence) ter možno implementacijo tovrstnih sprememb tudi v slovenski pravni red. 4.1. Oris vloge predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna razmerja V zvezi s tem področjem Krzywdzinski, Gerst in Butollo uvodoma poudarjajo, da je za razumevanje nemškega sistema pomembno, da imajo po nemškem pravu sindikati pomembno vlogo pri sklepanju kolektivnih pogodb na ravni dejavnosti. Na ravni podjetij pa delujejo voljeni delavski predstavniki, t.i. »obratni sveti« (v Sloveniji poznani kot sveti delavcev), ki imajo pristojnosti na področju sodelovanja pri upravljanju.18 16 De Stefano, Wouters, 2022, str. 28. 17 Flanagan, Walker, 2021, str. 159. 18 Krzywdzinski, Gerst, Butollo, 2022, str. 3. Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 248 Članki / Articles V zvezi z vlogo sindikatov ter svetov delavcev Krzywdzinski, Gerst in Butollo navajajo primere, ko sindikati sodelujejo v t.i. »think-tank« platformah (npr. 'Industrie 4.0’ in ‘Learning Systems’) za izmenjavo idej, preko katerih nastajajo priporočila za pripravljavce politik (na državni ravni) ter za konkretna podjetja. Prav tako sindikati sodelujejo tudi v državnih delovnih telesih (npr. Ministrstva za delo in socialne zadeve), ki delujejo na področju umetne inteligence. Pomembno pa sindikati (npr. IG Metall) sodelujejo tudi s sveti delavcev v podjetjih, ki imajo pomembne pristojnosti na področju umetne inteligence (oziroma pri vpeljavi novih tehnologij) v okviru posameznih podjetij. Projektne aktivnosti sindikatov (npr. priprava 'Transformation Atlas', 'Digitalisation Compass' ter izvedba več kot 2000 delavnic po podjetjih s strani sindikata IG Metall) pripomorejo k izobraževanju oziroma učinkovitejšemu uresničevanju pristojnosti svetov delavcev, ki jih slednji imajo na področju umetne inteligence. Za svete delavcev pa je v vsakem primeru zelo pomemben kvaliteten strateški dialog (v zvezi z vpeljavo umetne inteligence v podjetja) s poslovodstvom. Velja poudariti, da ni dovolj zgolj obstoj zakonskih pristojnosti na tem področju sam po sebi, ampak tudi skrb za aktivno in učinkovito uresničevanje pristojnosti svetov delavcev na tem področju. Problematično pa je, da je v nekaterih podjetjih zaznati nezainteresiranost poslovodstva za produktivno sodelovanje s sveti delavcev ali pa šibko razvito delavsko predstavništvo – oboje je problem za dobro uresničevanje pravic svetov delavcev. V tovrstnih primerih so ključne prav vse navedene aktivnosti sindikatov, ki spodbujajo in ozaveščajo svete delavcev za sodelovanje pri upravljanju na teh področjih.19 Glede primerov novih pristopov svetov delavcev k urejanju te tematike pa avtorji kot prvi primer navajajo prakso sodelovanja pri pripravi strateških dokumentov podjetij. Denimo v podjetju IBM (Nemčija) je bil leta 2020 sklenjen sporazum med poslovodstvom in svetom delavcev glede uporabe umetne inteligence v podjetju. V okviru sporazuma so poudarjena temeljna načela za uporabo in vpeljavo umetne inteligence, in sicer načela transparentnosti, ne-diskriminacije in kakovosti. Prav tako mora končne odločitve še zmeraj sprejeti človek in ne umetna inteligenca. Nazadnje pa je bil na podlagi sporazuma ustanovljen posebni IBM odbor za etiko in umetno inteligenco. Kot drugi primer je izpostavljena praksa dolgoročnega »postopkovnega sodelovanja« sveta delavcev pri upravljanju. Denimo, pri podjetju Airbus so v sporazumu predvideli postopke sodelovanja delavcev pri upravljanju in strategijah glede modernih tehnologij »4.0« vse od nivoja na ravni posameznih oddelkov do delovanja sveta delavcev na ravni celotne 19 Ibidem, str. 11–13. 249 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles družbe. Podrobno so določena pravila, kako bo podjetje postopalo pri vpeljavi novih tehnologij (katera tveganja morajo biti naslovljena, kako bo z izobraževanjem za relevantne zaposlene itd.). Tretja praksa pa predvideva ustanovitev posebnih odborov (delovnih skupin) svetov delavcev (sestavljenih ne samo iz članov svetov delavcev, ampak tudi drugih zaposlenih – predvsem tehnoloških strokovnjakov) v okviru podjetij, ki bi se še posebej ukvarjali s problematiko področja digitalizacije oziroma umetne inteligence v podjetjih.20 Nazadnje pa velja omeniti, da imajo v okviru nemškega sistema pomembno vlogo tudi predstavniki delodajalcev. Tudi slednji so vključeni v delovanje v državnih delovnih telesih, ki so povezana z umetno inteligenco. Denimo, leta 2018 je bila s strani nemškega zveznega parlamenta (Bundestag) ustanovljena delovna skupina »Artificial Intelligence – Social Responsibility and Economic, Social and Ecological Potentials«, ki je bila sestavljena tudi iz predstavnikov delodajalcev. V letu 2020 je to delovno telo pripravilo poročilo ter izdalo smernice (priporočila) v zvezi z uporabo oziroma vpeljavo umetne inteligence v podjetja.21 Tudi predstavniki delodajalcev tako lahko igrajo pomembno vlogo pri ozaveščanju, izobraževanju ter deljenju dobrih praks v zvezi z izzivi in priložnostmi, ki jih prinaša uporaba umetne inteligence, med posamezna podjetja. 4.2. Posodobitev nemške zakonske ureditve sodelovanja pri upravljanju na področju umetne inteligence22 Uvodoma velja omeniti, da je na normativni ravni pomen udeležbe delavcev pri upravljanju priznan že v okviru prava EU, in sicer Listine EU o temeljnih pravicah23 (glej 27. in 28. člen), Evropskega stebra socialnih pravic24 (glej 8. točko) ter Direktive 2002/14/ES o določitvi splošnega okvirja za obveščanje in posvetovanje v Evropski skupnosti.25 Ključna pa je tudi nadaljnja konkretizacija teh pravil na nacionalni ravni. 20 Ibidem, str. 11–12. 21 Ibidem, str. 7–8. 22 Razdelek je povzet, med drugim, po Polajžar, 2021b in Polajžar, 2021a. 23 Listina Evropske unije o temeljnih pravicah, UL C 326/391, z dne 26.10.2012. 24 Medinstitucionalna razglasitev evropskega stebra socialnih pravic, (2017/C 428/09), UL C 428/10 z dne 13. decembra 2017. 25 Direktiva 2002/14/ES Evropskega parlamenta in Sveta z dne 11. marca 2002, o določitvi splošnega okvirja za obveščanje in posvetovanje v Evropski skupnosti, Uradni list EU, št. L 80/02. Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 250 Članki / Articles Nemčija je v letu 2021 sprejela zakon za spodbujanje izvajanja volitev in delovanja svetov delavcev v digitaliziranem svetu dela – »Zakon o modernizaciji svetov delavcev« (Betriebsrätemodernisierungsgesetz)26 – ki, med drugim, spreminja oziroma dopolnjuje temeljni zakon s področja delovanja svetov delavcev (Betriebsverfassungsgesetz – BetrVG27). Eno izmed področij zakona se je nanašalo na okrepitev (uresničevanja) pravic svetov delavcev na področju umetne inteligence. Kot izhaja iz predloga zakona, je nemška vlada zaznala vedno večji pomen umetne inteligence v kontekstu dela. Skladno z vladno strategijo o umetni inteligenci je pomembno, da se zagotovi sodelovanje delavcev oziroma delavskih predstavnikov že v zgodnji fazi vpeljave novih tehnologij. Tovrstno sodelovanje je predpogoj, da se bo med delavci povečalo zaupanje in sprejemanje vpeljave in uporabe umetne inteligence v delovnem okolju. Prav tako je treba v zvezi z uporabo umetne inteligence postaviti jasna pravila in s tem vsem deležnikom zagotoviti pravno varnost.28 Kot rešitev za opisano problematiko je sprememba zakona najprej dopolnila 3. odstavek 80. člena BetrVG, ki je že prej omogočal, da sveti delavcev (na podlagi posebnega dogovora z delodajalcem) pridobijo strokovno mnenje zunanjega izvedenca, ki je potrebno za ustrezno opravljanje obveznosti sveta delavcev. Dopolnitev omogoča, da svet delavcev pridobi mnenje izvedenca, če mora v okviru svojih dolžnosti ovrednotiti učinke vpeljave in uporabe umetne inteligence. S tem se poenostavlja dostop sveta delavcev do strokovnega mnenja, saj za vprašanja povezana z umetno inteligenco ni treba preverjati, ali je pridobitev mnenja neodvisnega strokovnjaka (nujno) potrebna.29 Izrecno se je dopolnil tudi 95. člen BetrVG, po katerem sveti delavcev ohranijo svoje sodelovalne pravice pri določanju smernic za zaposlovanje, premestitve in odpuščanja (kadrovska vprašanja), tudi v primerih, ko je za pripravo teh smernic uporabljena umetna inteligenca. Podobno se je v 3. točki 1. odstavka 90. člena BetrVG izrecno navedlo, da imajo sveti delavcev pravico do obveščenosti o planiranih ukrepih glede (organizacije) delovnega procesa, tudi v primerih, ko je 26 Gesetz zur Förderung der Betriebsratswahlen und der Betriebsratsarbeit in einer digitalen Arbeitswelt (Betriebsrätemodernisierungsgesetz), z dne 14. 6. 2021 BGBl I 32, str. 1762. 27 Betriebsverfassungsgesetz (BetrVG) z dne 25. 9. 2001 (BGBl. I S. 2518), nazadnje spremenjen dne 16. 9. 2022 (BGBl. I S. 1454). 28 Bundesministerium für Arbeit und Soziales, 2021, str. 1, 11. 29 Ibidem, str. 23-24. 251 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles nameravana uporaba umetne inteligence. Slednja lahko ima velik vpliv na potek in organizacijo delovnega procesa ter s tem tudi na delavce.30 Nazadnje pa velja izpostaviti, da je že pred temi spremembami imel svet delavcev pravico do soodločanja v primerih vpeljave uporabe novih tehnologij, ki so namenjene nadzoru vedenja oziroma opravljanja dela delavcev na delovnem mestu (6. točka 1. odstavka 87. člena BetrVG). Voigt in Bussche navajata, da omenjena določba obsega, med drugim, tehnologije, s katerimi delodajalec preko zbiranja podatkov nadzira delo oziroma vedenje delavcev. Pri tem je treba poudariti, da se pravica do soodločanja aktivira ne glede na uporabljeno tehnološko sredstvo ter neodvisno od pravne podlage za nadzor in od obsega nadzora.31 Podobno tudi Grentzenberg in Kirchner navajata, da v skladu s sodno prakso nemških sodišč pod to določbo spadajo avtomatični sistemi za merjenje delovnega časa, videonadzor, beleženje uporabe interneta ali e-pošte in tudi programska računalniška oprema, ki se namesti za potrebe nadzora nad delavci.32 Velja poudariti, da bodo tovrstni sistemi nadzora vedenja oziroma opravljanja dela delavcev v prihodnje še pogosteje temeljili na umetni inteligenci. 4.3. Možna posodobitev slovenske zakonske ureditve sodelovanja pri upravljanju na področju umetne inteligence33 Skladno s predstavljenim nemškim primerom bi lahko dopolnili 61. in/ali 65. člen ZSDU na način, da svet delavcev lahko pridobi mnenje izvedenca (zunanjega strokovnjaka), če mora v okviru svojih dolžnosti (npr. skupnega posvetovanja, soodločanja) ovrednotiti učinke vpeljave in uporabe umetne inteligence v podjetju. Tovrstno strokovno mnenje bi se v teh primerih štelo za nujen strošek potreben za delo sveta delavcev, ki jih krije delodajalec.34 S tem bi se poenostavil dostop sveta delavcev do strokovnega mnenja. Še bolje pa bi bilo slediti nemškemu vzoru, ki dodatno določa, da za vprašanja povezana z umetno inteligenco ni treba preverjati, ali je pridobitev mnenja neodvisnega strokovnjaka (nujno) potrebna, saj se to domneva. 30 Ibidem, str. 2, 24. 31 Voigt, Bussche, 2017, str. 227–228. 32 Grentzenberg, Kirchner, 2019, str. 140. 33 Razdelek je povzet, med drugim, po Polajžar, 2021c in Polajžar 2021a. 34 Glej 65. člen ZSDU. Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 252 Članki / Articles Prav tako bi bilo smiselno dopolniti pristojnosti svetov delavcev na področju umetne inteligence. Res je, da ima po trenutni ureditvi svet delavcev po 91. členu pravico do skupnega posvetovanja35 glede statusnih in kadrovskih vprašanj družbe ter glede vprašanj varnosti in zdravja delavcev pri delu (predvsem s slednjima dvema je uporaba umetne inteligence lahko povezana). Prav tako mora skladno z 89. členom ZSDU delodajalec obveščati svet delavcev predvsem o vprašanjih, ki se nanašajo na, med drugim, spremembe v organizaciji proizvodnje in spremembe tehnologije. Kljub temu pa bi bilo primerneje, da bi pristojnosti na področju digitalizacije dela oziroma umetne inteligence zapisali podrobneje in da ne bi pravne »praznine« zapolnjevali z interpretacijo navedenih splošnih določb, kar lahko povzroča nejasnosti. Prav tako bi lahko nastala tudi nesoglasja med delodajalcem in delavskimi predstavniki, ali je v konkretnem primeru obveznost skupnega posvetovanja sploh obstajala (kar lahko privede do zapletov tudi v luči pristojnosti sveta delavcev, da zahteva zadržanje odločitev delodajalca, ki niso bila sprejeta z ustreznim sodelovanjem sveta delavcev). V vsakem primeru je pomembna tudi odločitev zakonodajalca glede načina sodelovanja sveta delavcev (dolžnost obvestitve, skupnega posvetovanja ali soodločanja). Menim, da bi bila ustrezna najmanj dolžnost skupnega posvetovanja, za kar bi bilo treba dopolniti 91. člen ZSDU. Po nemškem vzoru pa morda celo soodločanja, saj ima tam, denimo, svet delavcev pravico do soodločanja v primerih vpeljave uporabe novih tehnologij, ki so namenjene nadzoru vedenja oziroma opravljanja dela delavcev na delovnem mestu.36 Tovrstni sistemi bodo v prihodnje še pogosteje temeljili na umetni inteligenci. 5. SKLEP Ugotavljam, da imajo predstavniki delavcev in delodajalcev pomembno vlogo pri vpeljavi umetne inteligence v podjetja. V prvi vrsti so zelo pomembna izobraževanja ter ozaveščanja (ki jih lahko izvajajo delavski in delodajalski predstavniki med svojim članstvom) na temo vpliva novih tehnologij na delovna razmerja. Prav tovrstna izobraževanja oziroma ozaveščanja lahko spodbujajo 35 To pomeni, da seznani svet delavcev o predvidenih odločitvah glede statusnih in kadrovskih vprašanj ter glede vprašanj varnosti in zdravja delavcev pri delu, se z njim posvetuje in si prizadeva za uskladitev stališč. 36 Glej 6. točko, 1. odstavka 87. člena BetrVG. 253 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles aktivnosti delodajalcev, sindikatov in svetov delavcev na tem področju. Pravna vprašanja v zvezi z vpeljavo umetne inteligence v podjetja se lahko urejajo v kolektivnih pogodbah (na različnih ravneh), prav tako pa so lahko tudi predmet sodelovanja pri upravljanju v okviru podjetja (pri čemer se lahko v podjetjih sprejmejo podrobnejša pravila, ki lahko nadgradijo zakonsko ureditev po ZSDU). V vsakem primeru pa je za uresničevanje navedenih kolektivnih pravic bistvena zainteresiranost vseh vpletenih za dvostransko urejanje teh vprašanj. Ključen je spoštljiv dialog med predstavniki delavcev in delodajalcev. Primer dobre prakse bi lahko bil tudi sodelovanje socialnih partnerjev v delovnih telesih na ravni države, ki bi se ukvarjala s področjem umetne inteligence in imela možnost sprejema »smernic dobrih praks«, ki bi bila relevantna za podjetja v praksi. Nazadnje pa velja omeniti, da mora ob aktivnostih socialnih partnerjev tudi država poskrbeti za ustrezno zakonsko regulativo vloge socialnih partnerjev na predmetnem področju. Skladno z nemškim vzorom bi veljalo razmisliti tudi o posodobitvi slovenske zakonodaje s področja sodelovanja delavcev pri upravljanju. VIRI IN LITERATURA - Adams-Prassl Jeremias, Regulating algorithms at work: Lessons for a ‘European approach to artificial intelligence’, European Labour Law Journal, vol. 13, št. 1, 2022, str. 30–50, URL: https://doi.org/10.1177/20319525211062558 (nazadnje dostopano 27. 3. 2023). - Bagari Sara, Uporaba algoritmov na področju delovnih razmerij in socialne varnosti, Delavci in Delodajalci, let. XXII, št. 1, 2022, str. 41–55. - Betriebsverfassungsgesetz (BetrVG) z dne 25. 9. 2001 (BGBl. I S. 2518), nazadnje spremenjen dne 16. 9. 2022 (BGBl. I S. 1454). - Bhave, Devasheesh P., Laurel H. Teo, and Reeshad S. Dalal. Privacy at Work: A Review and a Research Agenda for a Contested Terrain. Journal of Management, Let. 46, št. 1, 2020, str. 127–164, URL: https://journals.sagepub.com/doi/full/10.1177/0149206319878254 (naza- dnje dostopano 27. 3. 2023). - Bundesministerium für Arbeit und Soziales, Gesetzentwurf der Bundesregierung: Entwurf eines Gesetzes zur Förderung der Betriebsratswahlen und der Betriebsratsarbeit in einer digitalen Arbeitswelt (Betriebsrätemodernisierungsgesetz), z dne 31. 3. 2021, URL: https://www.bmas. de/DE/Service/Gesetze-und-Gesetzesvorhaben/betriebsraetemodernisierungsgesetz.html (nazadnje dostopano 27. 3. 2023). - De Stefano Valerio, Wouters Mathias, AI and digital tools in workplace management and eva- luation: An assessment of the EU's legal framework, European Parliament, Brussels 2022, URL: https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2022)729516 (nazadnje dostopano 27. 3. 2023). - Direktiva 2002/14/ES Evropskega parlamenta in Sveta z dne 11. marca 2002, o določitvi splo- šnega okvirja za obveščanje in posvetovanje v Evropski skupnosti, Uradni list EU, št. L 80/02. Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 254 Članki / Articles - Edwards Lilian, Martin Laura, Henderson Tristan, Employee Surveillance: the Road to Surveillance Is Paved with Good Intentions, SSRN Electronic Journal, 2018, str. 1–30, URL: https://ssrn.com/abstract=3234382 (nazadnje dostopano 27. 3. 2023). - Fernández Fernández Roberto, Big Data as a Tool to Enhance Recruitment Processes, E-Journal of International and Comparative LABOUR STUDIES, let. 11, št. 11, 2022, str. 93–107, URL: https://ejcls.adapt.it/index.php/ejcls_adapt/article/view/1168 (nazadnje dostopano 27. 3. 2023). - Flanagan Frances, Walker Michael, How can unions use Artificial Intelligence to build power? The use of AI chatbots for labour organising in the US and Australia, New Technology, Work and Employment, vol. 36, št. 2, 2021, str. 159–176, URL: https://doi.org/10.1111/ntwe.12178 (nazadnje dostopano 27. 3. 2023). - Gesetz zur Förderung der Betriebsratswahlen und der Betriebsratsarbeit in einer digitalen Arbeitswelt (Betriebsrätemodernisierungsgesetz), z dne 14. 6. 2021 BGBl I 32, str. 1762. - Grentzenberg Verena, Kirchner Jens, Data Protection and Monitoring, v: Key Aspects of German Employment and Labour Law: Second Edition, J. Kirchner, P. R. Kremp in M. Magotsch (ur.), Springer, Berlin 2019, str. 135–152. - Kresal Šoltes Katarina, Vsebina kolektivne pogodbe : pravni vidiki s prikazom sodne prakse in primerjalnopravnih ureditev, GV založba, Ljubljana 2011. - Krzywdzinski Martin, Gerst Detlef, Butollo Florian, Promoting human-centred AI in the workplace. Trade unions and their strategies for regulating the use of AI in Germany, Transfer: European Review of Labour and Research, 2022, str. 1–17, URL: https://doi. org/10.1177/10242589221142273 (nazadnje dostopano 27. 3. 2023). - Listina Evropske unije o temeljnih pravicah, UL C 326/391, z dne 26.10.2012. - Medinstitucionalna razglasitev evropskega stebra socialnih pravic, (2017/C 428/09), UL C 428/10 z dne 13. decembra 2017. - Mežnar Špelca, Varstvo delavčevih osebnih podatkov (48. člen), v: Zakon o delovnih razmerjih (ZDR-1): s komentarjem 2., posodobljena in dopolnjena izdaja, N. Belopavlovič, B. Kresal, K. Kresal Šoltes, D. Senčur Peček (ur.), Lexpera GV založba, Ljubljana 2019b, str. 286-290. - Polajžar Aljoša, Čas za posodobitev zakonskega okvirja za močnejšo vlogo svetov delavcev v dobi digitalizacije in umetne inteligence? – Predstavitev predloga Zakona o modernizaciji svetov delavcev v Nemčiji, Ekonomska demokracija, let. XXV, št. 3, 2021b, str. 8-11. - Polajžar Aljoša, Čas je za posodobitev zakonskega okvirja za močnejšo vlogo svetov delavcev v dobi digitalizacije in umetne inteligence? (II. del) – Razmišljanje o mogočih spremembah slovenske zakonodaje. Ekonomska demokracija, let. XXV, št. 4, 2021c, str. 3–6. - Polajžar Aljoša, Varstvo zasebnosti delavca v dobi digitalizacije: GDPR in vloga delavskih predstavnikov, Delavci in delodajalci, let. XXI št. 2-3, 2021a, str. 273 – 293. - Senčur Peček Darja, Podjetniška kolektivna pogodba: Uvodna pojasnila, v: Pogodba o zaposlitvi in podjetniška kolektivna pogodba, E. Korpič Horvat (red.), GV založba, Ljubljana 2004, str. 391-393. - UNI Europa ICTS (global union), UNI Europa ICTS Position on Artificial Intelligence: execu- tive summary, november 2019, URL: https://www.uni-europa.org/wp-content/uploads/ sites/3/2021/11/AIUniEuropaSummPrtWeb_en.pdf (nazadnje dostopano 27. 3. 2023). - Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posa- meznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi 255 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (Besedilo velja za EGP), Uradni list L 119. - Voigt Paul, von dem Bussche Axel, The EU General Data Protection Regulation (GDPR): A Practical Guide, Springer International Publishing, 2017. - Zakon o delovnih razmerjih (Uradni list RS, št. 21/13, 78/13 – popr., 47/15 – ZZSDT, 33/16 – PZ-F, 52/16, 15/17 – odl. US, 22/19 – ZPosS, 81/19, 203/20 – ZIUPOPDVE, 119/21 – ZČmIS-A, 202/21 – odl. US, 15/22 in 54/22 – ZUPŠ-1). - Zakon o sodelovanju delavcev pri upravljanju (Uradni list RS, št. 42/07 - uradno prečiščeno besedilo, 45/08 - ZArbit). - Zakon o varstvu osebnih podatkov (Uradni list RS, št. 163/22). Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... 256 Članki / Articles The Role of Workers' and Employers' Representatives in the Introduction of Artificial Intelligence in Employment Relations and Examples of Good Practice Aljoša Polajžar* Summary The purpose of this paper was to outline the role of workers' and employers' representatives in the introduction of artificial intelligence into employment relations. The topic was discussed both from the perspective of the normative level (e.g. the adaptation of legislation in the field of employee participation in Germany) and the level of the social partners' activities (both within companies and at the level of industry). Particular emphasis was placed on the analysis of possible changes to the Slovenian legal regulation of Workers' Participation in Management Act – in light of the German example of the modernisation of the legislation in this field. The amendments represented a response to the challenges posed by artificial intelligence for workers and employers (companies). The author concludes that workers' and employers' representatives have an important role to play in the introduction of AI in companies. First and foremost, training and awareness-raising (which can be carried out by workers' and employers' representatives among their membership) on the impact of new technologies on labour relations is very important. It is this kind of education or awareness-raising that can stimulate employers', trade unions' and works councils' activities in this area. Legal issues relating to the introduction of AI in companies can be regulated in collective agreements (at different levels). In the light of the principle of substantive autonomy of collective bargaining, there would be no obstacles to the latter. However, for such regulation to take place, both workers' and employers' representatives must voluntarily decide to include such content in collective agreements. They may also be the subject of information and consultation rights within the company (whereby more detailed rules may be adopted on the company level). In any event, the interest of all concerned * Aljoša Polajžar, Master of Law, young researcher, Assistant and PhD Student at the Faculty of Law, University of Maribor aljosa.polajzar@um.si 257 Aljoša Polajžar: Vloga predstavnikov delavcev in delodajalcev pri uvajanju umetne inteligence v delovna ... Članki / Articles in regulating these issues bilaterally is essential for the effective exercise of the collective rights referred to above. A respectful dialogue between workers' and employers' representatives is essential. Another example of good practice could be the participation of social partners in national working bodies on AI, which could adopt »good practice guidelines« relevant for companies in practice. Finally, it is worth noting that, alongside the activities of the social partners, the State must also ensure that the role of the social partners in this area is properly regulated by law. In line with the German example, it would also be worth considering updating Slovenian legislation on employee participation. This concerns the provisions relating to the powers of works councils (joint consultation or co-determination) in relation to the introduction of new technologies (including artificial intelligence) and the provisions providing for the involvement of an external expert (access by the works council to an expert opinion). The latter would be possible (and would represent a necessary cost for the company) if the works council were required, as part of its duties (e.g. joint consultation, co-determination), to evaluate the effects of the introduction and use of artificial intelligence in the company.