Zbornik recenziranih znanstvenih prispevkov DIGITALNA EKONOMIJA IN PRAVO 2023 Študentsko posvetovanje o ekonomskih in pravnih izzivih digitalne preobrazbe Maribor Društvo ekonomistov Maribor 2023 https://demb.si/ Zbornik recenziranih znanstvenih prispevkov Uredil dr. Dejan Romih Tehnično uredila Nejc Fir in dr. Dejan Romih Recenzirali dr. Blaž Frešer, dr. Silvo Dajčman, dr. Aleksandra Pisnik, dr. Martina Repas in dr. Petra Weingerl Lektoriral Mitja Brünec Založilo Društvo ekonomistov Maribor 2023 Licenčni pogoji Vsebina zbornika je na voljo pod pogoji slovenske licence Creative Commons 4.0 CC BY NC-ND, ki ob navajanju in priznavanju avtorstva dopušča reproduciranje in distribuiranje, ne dovoljuje pa dajanja v najem, priobčevanja javnosti za komercialni namen in nobene predelave. Kataložni zapis o publikaciji (CIP) pripravili v Narodni in univerzitetni knjižnici v Ljubljani COBISS.SI-ID 157188355 ISBN 978-961-6059-17-6 (PDF) 4 PREDGOVOR Zbornik recenziranih znanstvenih prispevkov na študentskem posvetovanju Digitalna ekonomija in pravo (DEP) 2023 je rezultat znanstvenoraziskovalnega dela študentov ter visokošolskih učiteljev in sodelavcev z Univerze v Mariboru. Študentsko posvetova- nje o ekonomskih in pravnih izzivih digitalne preobrazbe, ki je potekalo 30. junija 2023 na daljavo s pomočjo aplikacije Microsoft Teams, je organiziralo Društvo ekonomistov Maribor v sodelovanju z Ekonomsko-poslovno fakulteto Univerze v Mariboru, Študent- skim svetom Ekonomsko-poslovne fakultete Univerze v Mariboru in Študentskim sve- tom Pravne fakultete Univerze v Mariboru, ki se zavedajo vloge in pomena vključevanja študentov v znanstvenoraziskovalno delo. Študentsko posvetovanje DEP 2023 temelji na študentskem posvetovanju Digitalna ekonomija 2022, ki ga je Društvo ekonomistov Maribor organiziralo leta 2022. Na študentskem posvetovanju DEP 2023 je sodelovalo devet študentov ter sedem visokošolskih učiteljev in sodelavcev, ki so predstavili devet znanstvenih prispevkov s področja digitalne ekonomije in prava, vabljeno predavanje pa je izvedla Jelena Jeknić iz podjetja Outbrain Inc., ki je predavala o umetni inteligenci in digitalnem oglaševanju. V okviru študentskega posvetovanja DEP 2023 je potekala tudi predstavitev projektne naloge ŠI:UM (NOO), katere avtorji so študenti ter visoko- šolski učitelji z Univerze v Mariboru. Dr. Dejan Romih, univ. dipl. ekon., urednik, Ekonomsko-poslovna fakulteta Univerze v Mariboru Celotna družba je vstopila v obdobje, ko se umetna inteligenca, avtomatizacija in po- vezljivost prepletajo z vsakodnevnimi izkušnjami posameznikov in podjetij. Digitalna ekonomija je postala gonilna sila sodobnega sveta, saj oblikuje način, kako opravljamo poslovne dejavnosti, komuniciramo in izmenjujemo informacije. Obenem pa prinaša tudi nove izzive in dileme. Razumevanje in odgovorno ravnanje z umetno inteligenco ter digitalnimi tehnologijami sta postala ključna vidika tako v ekonomiji kot v pravu. Umetna inteligenca in avtomatizacija sta že zdaj prevzeli nekatere naloge, ki so jih ne- koč izvajali ljudje, in s tem pomembno vplivata na delovna mesta in družbo kot celoto. To nas postavlja pred vprašanja, kako se prilagoditi in izkoristiti prednosti tehnološkega napredka, hkrati pa zagotoviti pravičnost in dostojne pogoje za vse udeležence. Pravo in ekonomija morata slediti tehničnim inovacijam, jih odgovorno izkoriščati in 5 zagotavljati jasne smernice ter regulativne okvire za uporabo umetne inteligence in digitalnih tehnologij. Naloga mladih je, da se v sodelovanju z našimi mentorji in strokovnjaki poglobimo v te teme in razvijemo razumevanje njihovega vpliva na družbo, ekonomijo in pravo. Prav zato sta zbornik in posvetovanje izjemno pomembna, saj predstavljata izstopajoče pri- spevke študentov, ki so se poglobili v te tematike in prinašata nove vpoglede ter rešitve. Pomembno je, da mladi pridobivamo znanja, da bomo lahko razumeli in oblikovali usmeritve za prihodnost, ki temeljijo na etičnem ravnanju, inovacijah ter trajnostnem razvoju. Študentsko posvetovanje Digitalna ekonomija in pravo 2023 omogoča pove- zovanje in izmenjavo idej, spoznavanje raznolikih pogledov ter gradnjo mostov med akademsko skupnostjo ter ekonomsko in pravno stroko. Le s sodelovanjem lahko dol- goročno nastajajo smernice za uspešno vključitev umetne inteligence in digitalnih teh- nologij v našo družbo. Čestitam avtorjem prispevkov, ki so zbrani v tem zborniku, in se zahvaljujem vsem sodelujočim za njihovo predanost in strokovnost. Verjamem, da bodo razprave plodne, iskrive in usmerjene v prihodnost, ki bo odgovorno in trajnostno izkoriščala potencial umetne inteligence in digitalnih tehnologij. Nomi Hrast, dipl. ekon. (UN), prorektorica za študentska vprašanja, Univerza v Mariboru 6 PROGRAM Pozdravni nagovor podpredsednika Društva ekonomistov Maribor 10.00–10.02 Dr. Dejan Romih, Ekonomsko-poslovna fakulteta Univerze v Mariboru Pozdravni nagovor prodekana za raziskovalno dejavnost Ekonomsko-po- 10.03–10.04 slovne fakultete Univerze v Mariboru Dr. Borut Milfelner, Ekonomsko-poslovna fakulteta Univerze v Mariboru Pozdravni nagovor prodekanice za študentska vprašanja Ekonomsko-po- 10.05–10.06 slovne fakultete Univerze v Mariboru Pina Slaček, Ekonomsko-poslovna fakulteta Univerze v Mariboru Pozdravni nagovor prodekanice za študentska vprašanja Pravne fakultete 10.06–10.08 Univerze v Mariboru Asja Lešnik, Pravna fakulteta Univerze v Mariboru VABLJENO PREDAVANJE 10.08–10.29 UMETNA INTELIGENCA IN DIGITALNO OGLAŠEVANJE Jelena Jeknić, Outbrain Inc. 10.30–10.39 Vprašanja in odgovori 10.40–10.49 Odmor Kako zagotoviti učinkovito varstvo pravic otrok pri digitalnem oglaševanju Tina Tajnik, Ekonomsko-poslovna fakulteta Univerze v Mariboru 10.50–10.59 Dr. Borut Milfelner, Ekonomsko-poslovna fakulteta Univerze v Mariboru Dr. Andreja Primec, Ekonomsko-poslovna fakulteta Univerze v Mariboru in Fa- kulteta za management Univerze na Primorskem Varstvo osebnih podatkov in zasebnosti v dobi umetne inteligence 11.00–11.09 Zoran Dimović, Pravna fakulteta Univerze v Mariboru Analiza kazalcev digitalne konkurenčnosti za Slovenijo 11.10–11.19 Tine Merhar, Ekonomsko-poslovna fakulteta Univerze v Mariboru Nejc Fir, Ekonomsko-poslovna fakulteta Univerze v Mariboru 11.20–11.39 Vprašanja in odgovori 7 Izzivi digitalne preobrazbe izobraževanja v Sloveniji 11.40–11.49 Astrid Cep, Pravna fakulteta Univerze v Mariboru Dr. Katja Drnovšek, Pravna fakulteta Univerze v Mariboru Reforma civilnih sodnih postopkov v digitalni dobi 11.50–11.59 Dr. Tjaša Ivanc, Pravna fakulteta Univerze v Mariboru Asja Lešnik, Pravna fakulteta Univerze v Mariboru Pravni izzivi uporabe klepetalnega robota ChatGPT Gal Pastirk, Pravna fakulteta Univerze v Mariboru 12.00–12.09 Dr. Andreja Primec, Ekonomsko-poslovna fakulteta Univerze v Mariboru in Fa- kulteta za management Univerze na Primorskem 12.10–12.29 Vprašanja in odgovori Uporabnost klepetalnega robota ChatGPT pri raziskovanju na področju prava 12.30–12.39 Iza Beširević, Pravna fakulteta Univerze v Mariboru Kristjan Zahrastnik, Pravna fakulteta Univerze v Mariboru Uporaba klepetalnega robota ChatGPT med študenti ekonomije in tehnike 12.40–12.49 Dorotea Pittner, Ekonomsko-poslovna fakulteta Univerze v Mariboru Dr. Dejan Romih, Ekonomsko-poslovna fakulteta Univerze v Mariboru 12.50–13.10 Vprašanja in odgovori Promocija zelene energije in naložb v digitalni dobi: predstavitev projektne naloge ŠI:UM (NOO) Nik Berčnik, Ekonomsko-poslovna fakulteta Univerze v Mariboru Nejc Buzeti, Ekonomsko-poslovna fakulteta Univerze v Mariboru Mia Filipič, Ekonomsko-poslovna fakulteta Univerze v Mariboru 13.10–13.19 Rene Mohar, Ekonomsko-poslovna fakulteta Univerze v Mariboru Jakob Polegek, Fakulteta za elektrotehniko, računalništvo in informatiko Uni- verze v Mariboru Jure Špital, Fakulteta za elektrotehniko, računalništvo in informatiko Univerze v Mariboru 8 Alen Višnar, Fakulteta za elektrotehniko, računalništvo in informatiko Univerze v Mariboru Petra Zelič, Ekonomsko-poslovna fakulteta Univerze v Mariboru Dr. Žan Jan Oplotnik, Ekonomsko-poslovna fakulteta Univerze v Mariboru Dr. Andreja Primec, Ekonomsko-poslovna fakulteta Univerze v Mariboru in Fa- kulteta za management Univerze na Primorskem Dr. Dejan Romih, Ekonomsko-poslovna fakulteta Univerze v Mariboru 13.20–13.39 Vprašanja in odgovori 9 KAZALO Kako zagotoviti učinkovito varstvo pravic otrok pri digitalnem oglaševanju ............................ 6 Varstvo osebnih podatkov in zasebnosti v dobi umetne inteligence ......................................20 Analiza kazalcev digitalne konkurenčnosti za Slovenijo ........................................................46 Digitalna preobrazba izobraževanja v Sloveniji .....................................................................65 Reforma civilnih sodnih postopkov v digitalni dobi ................................................................76 Pravni izzivi uporabe klepetalnega robota ChatGPT .............................................................89 Uporabnost klepetalnega robota ChatGPT pri raziskovanju na področju prava .................. 105 Uporaba klepetalnega robota ChatGPT med študenti ekonomije in tehnike ....................... 125 10 KAKO ZAGOTOVITI UČINKOVITO VARSTVO PRAVIC OTROK PRI DIGITALNEM OGLAŠEVANJU Tina Tajnik, mag. ekon. in posl. ved Študent, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija tina.hanjze@student.um.si Dr. Borut Milfelner, univ. dipl. ekon. Redni profesor, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija borut.milfelner@um.si Dr. Andreja Primec, univ. dipl. prav. Izredna profesorica, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija andreja.primec@um.si Povzetek: Digitalno oglaševanje je komunikacija, ki za pridobitev potencialnih odjemalcev uporablja digitalne kanale. Del tega je tudi oglaševanje otrokom. Otroci so posebno občutljiva skupina odjemalcev, ki nima dovolj razvitega kritičnega mišljenja za razumsko sprejemanje in vrednotenje oglasov. Posledično so otroci za oglaševalce lahka »tarča«, poleg tega pa z oglaševanjem v zgodnjem otroštvu vplivajo na oblikovanje njihove miselnosti in nakupnih navad v odraslem obdobju. Tako je treba pravice otrok pri spletnem oglaševanju zaščititi z ustreznim pravnim okvirom. V prispevku obravnavamo oglaševanje otrokom v digitalnem okolju in njihov kognitivni razvoj v povezavi z razumevanjem oglaševanja. Pregledali smo pravice otrok v digitalnem okolju in predstavili pravne vire zaščite otrok pred zlorabami v ogla- ševanju. Predstavljeni so rezultati raziskave s področja pravic otrok in digitalnega oglaševanja, s katero smo ugotavljali, kako lahko pravice otrok v digitalnem oglaševanju najučinkoviteje zavarujemo. Ugotovili smo, da k temu največ prispevata digitalna pismenost staršev in otrok ter da obstajajo določene razlike med stopnjo izobrazbe (staršev in otrok) in digitalno pismenostjo. Ključne besede: digitalno oglaševanje, digitalna pismenost, etičnost oglaševanja otrokom, varstvo pravic otrok, zakonitost oglaševanja otrokom 6 1 Uvod Podjetja z oglaševanjem svojih izdelkov, storitev ali blagovnih znamk želijo doseči svoj eko- nomski cilj (Jančič & Žabkar, 2013, str. 34). V zadnji četrtini stoletja sta se poslovanje in poslovno okolje zelo spreminjala, še posebej s pojavom marketinga na spletu. Z razvojem digi- talne tehnologije (pametni telefoni in naprave, internet stvari …) se je preoblikovalo tudi življenje odjemalcev, kot tudi proces ter strategije marketinga podjetij. Spremenile so se strategije marketinga in razvilo se je digitalno oglaševanje (Kannan & Li, 2017, str. 25). Digitalno ogla- ševanje je komunikacija, ki se uporablja za promocijo izdelkov in storitev, doseganje želenih odjemalcev ter ohranitev in pridobitev potencialnih odjemalcev z uporabo digitalnih kanalov (Yasmin idr., 2015, str. 69). Oglaševanje otrokom je del digitalnega oglaševanja in del otrokovega življenja (Nelson, 2018, str. 169). Otroci oglaševalcem ne predstavljajo zgolj primarnega trga, ampak tudi sekundarni in prihodnji trg. Pomembno področje, na katerem se otrokove pravice zaradi uporabe interneta konfigurirajo na novo, je digitalno oglaševanje. V spletna okolja, kjer otroci igrajo igre ter komunicirajo in iščejo informacije, so prodrle oglaševalske igre in prilagojeno ter integrirano oglaševanje. Vprašljivo je osebno znanje otroka o oglaševanju, ogla- ševalske tehnike in taktike, ki so jih deležni, sposobnost njegove moralne presoje in ocenitve oglasa ter sposobnost uravnave čustev ob zaznavi oglasa. Ob vseh spremembah, ki jih s seboj prinaša digitalno oglaševanje, se pri varstvu ter pravicah otrok postavljajo pod vprašaj pravica otrok do razvoja, do zasebnosti, do izobraževanja in svobodnega mišljenja ter pravica otrok pred gospodarskim izkoriščanjem (Verdoodt, 2019, str. 456). Na ravni Evropske unije oglaše- vanje, namenjeno otrokom, pravno ureja pravo Evropske unije. Na podlagi prava Evropske unije so države članice oblikovale nacionalno zakonodajo, ki jim predstavlja pravni okvir pri regulaciji oglaševanja otrokom. V raziskavi smo proučili vlogo otrokovih pravic v digitalnem oglaševanju. Temeljni problem, na katerega se bomo osredotočili, je povezava med oglaševalsko pismenostjo otrok in pravicami, ki jih ščitijo v okolju digitalnega oglaševanja. 2 Pregled literature V nadaljevanju podajamo pregled relevantne literature s področja raziskovanja. Povzeli smo spoznanja drugih avtorjev in njihovih raziskovalnih del in tako bolje pojasnili obravnavano tematiko s področja digitalnega oglaševanja otrokom. Pregledali smo tako slovensko kot tudi tujo znanstveno ter strokovno literaturo in zakonodajo. 7 2.1 Značilnosti in vpliv digitalnega oglaševanja otrokom Oglaševalci uporabljajo različne tehnike oglaševanja v digitalnih medijih, namenjenih otrokom. Otroci imajo zelo radi ponavljajoče se stvari – tako je ena izmed tehnik oglaševanja otrokom ponavljanje istega komercialnega sporočila znova in znova. V oglaševanju organizacije za spodbujanje nakupnih odločitev uporabljajo priljubljene animirane like. Prav tako so značilnosti oglaševanja otrokom avdiovizualne značilnosti produkcije (akcija, zvočni učinki, glasba). Osnovnošolske otroke pritegnejo podpore znanih osebnosti. Priljubljeni igralci, športniki ali glasbeniki, ki so prikazani/upodobljeni, kako uporabljajo oglaševani izdelek in ga odobravajo. Oglaševalci radi uporabljajo tudi umeščanje izdelka v programske vsebine. Primer tega je znan animirani lik, ki jé določene sladkarije ali pije sladke pijače. V zadnjih letih so ena izmed zna- čilnosti digitalnega oglaševanja postale tudi oglasne videoigre. Te vsebujejo prikrita, kot tudi odkrita, oglaševalska sporočila. Ena od tehnik oglaševanja otrokom je tudi spletni »avatar«. Virtualna oblika robota, ki je programiran tako, da se lahko otrok oz. obiskovalec spletnega mesta z njim pogovarja. Oglaševalci s tem želijo povečati zanimanje za spletno mesto in pro- dajni izdelek ali storitev. Študije oglaševanja digitalnih medijev (tako splet kot televizija) otrokom so pokazale, da je 75 % vseh oglaševalskih sporočil oglaševanje hitre prehrane, sladkarij in sladkih pijač (Calvert, 2008, str. 209). Oglaševanje vpliva na otroke, da se sčasoma razvijejo v odjemalce in se tudi naučijo vedenja odjemalcev. Digitalno oglaševanje lahko vpliva na otroke in njihovo soustvarjanje nakupnih vzorcev v družini. Lahko pa oglaševanje vpliva na vedenje otrok. Le-to je odvisno od starosti otroka, njegovega kognitivnega razvoja in količine izpostavljenosti oglaševalskim vsebinam (Calvert, 2008, str. 210). Pavlin (2009, str. 25) navaja vpliv zaznanih oglasov na razvoj otroka kot odjemalca v petih fazah: opazovanje, zahtevanje, samostojno izbiranje izdelka, kupovanje s starši, samostojno nakupovanje. Eden izmed velikih vplivov oglaševanja so blagovne znamke, ki so del sodobnega otroštva. Pomembnost blagovnim znamkam doda otrokom še socialno okolje, ki je hkrati pomemben dejavnik razvoja potrošniške družbe (Šramová, 2017). Izpostaviti velja tudi vpliv digitalnega oglaševanja hrane neprimernega profila. Oglaševanje hrane predstavlja od 11 do 29 % vseh oglasov, od tega jih je od 53 do 87 % oglasov za ne-zdrava živila, ki vsebujejo visoko vsebnost nezaželenih hranil. Oglaševanje hrane ima vse večji vpliv na prehranjevalne navade otrok in izbiro njihove hrane, ki pa je lahko ključnega pomena v njihovem razvoju ter lahko močno vpliva na vseživljenjsko zdravje (Boyland & Whalen, 2015, str. 331–334). 8 2.2 Kognitivni razvoj otrok in oglaševanje Kritičnost do oglaševanja otrokom izhaja iz razumevanja otrokovega spoznavnega razvoja, iz razvojno-psihološkega vidika. Piagetova teorija spoznavnega razvoja govori o oblikovanju otrokovih spoznanj o svetu preko dejavnega delovanja nanj. Tako Piagetova (1977, povzeto po Cherry, 2022), kot tudi poznejše razlage o spoznavni kompetentnosti otrok, izhaja iz teze, da je usmeritev po osmišljanju izkušenj glavna smernica spoznavnega razvoja (Zupančič & Marjanovič Umek, 2020, str. 40–45). Piaget je razvoj razdelil na štiri stopnje, po katerih otroci napredujejo z intelektualnim razvojem: − senzomotorna stopnja (od rojstva do drugega leta); − predoperativna stopnja (od drugega do sedmega leta); − konkretno operativna stopnja (od sedmega do enajstega leta); − stopnja formalnih operacij, ki traja od enajstega leta in skozi odraslost. Piagetova teorija prav tako trdi, da otroci v senzomotorni in predoperativni stopnji še ne razu-mejo namenov oglaševanja ter da je mogoče, da oglaševalec odjemalca zavaja (Calvert, 2008, str. 214). Razlikujejo zgolj oglas od določenega programa/vsebine. Le-to razlikujejo po tem, da so oglasna sporočila krajša, medtem ko je program daljši. Prav tako razlikujejo slog med pro-gramom in oglasom (Gradišek, 2011, str. 74). Pozneje se na področju razvojne psihologije pojavljajo še druge teorije kognitivnega razvoja otrok z vidika razumevanja oglaševanja, vendar je teorijam skupno to, da imajo predšolski otroci ne glede na okoliščine težave pri razlikovanju med oglaševalsko in programsko vsebino digitalnega medija (Moses & Baldwin, 2005b, str. 215). 2.3 Pravice otrok v oglaševanju Ob vseh spremembah v digitalnem oglaševanju je pomembno področje tudi ureditev in varstvo pravic otrok pred gospodarskim izkoriščanjem. Ob tem velja omeniti dva mednarodna pravna vira, ki zagotavljata varstvo otrokovih pravic: Konvencija o otrokovih pravicah in Kodeks med- narodne trgovinske zbornice. Konvencija o otrokovih pravicah je v skladu z 8. členom Ustave Republike Slovenije (Gojkovi, 2011, str. 230). Medtem pa Kodeks mednarodne trgovinske zbornice nima pravne veljave (je del samoregulative), vendar ima velik vpliv na oblikovanje drugih pravnih aktov. Listina Evropske unije o temeljnih pravicah v 24. členu opredeljuje pravice otrok in tako vklju- čuje pravice in varstvo otrok pred negativnimi vplivi oglaševalske industrije. Evropska komisija 9 želi zvišati stopnjo zaščite otrok tudi v digitalnem prostoru in hkrati ohraniti njihovo pravico do dostopa digitalnih tehnologij in svetovnega spleta za socialni, izobraževalni in kulturni namen. To je pokazala z Direktivo o avdiovizualnih medijskih storitvah. Usmerjanje tržnega komunici- ranja na ravni Evropske unije ureja tudi Evropska zveza za oglaševalske standarde (v nada- ljevanju EASA). Članica EASA je postala tudi Slovenija, in sicer z registracijo Slovenskega oglaševalskega združenja (SOZ) leta 1994 (SOZ, 2015). Pravni vir Slovenskega oglaševalskega združenja je Slovenski oglaševalski kodeks, ki je namenjen presoji oglaševanja. Poleg samoregulacije, del katere je SOZ, pravice in varstvo otrok ureja Republika Slovenija s svojo zakonodajo. Zakon o varstvu potrošnikov (ZVPot-1) tako ureja pravice odjemalcev pri različnih oblikah marketinga izdelkov in storitev. V 40. členu zakon opredeljuje varstvo otrok pred ogla- ševanjem. Poleg ZVPot-1 velja omeniti še Zakon o medijih (ZMed), ki v svojem 49. členu opre- deljuje oglase, ki so namenjeni otrokom, ali oglase, kjer nastopajo otroci. Poleg pravne regu- lative in samoregulative v digitalnem oglaševanju gre na tem mestu omeniti tudi splošno uredbo o varstvu podatkov – General Data Protection Regulation. Ta je del Zakona o varstvu osebnih podatkov (ZVOP-2), ki v 8. členu opredeljuje pogoje za privolitev otroka v povezavi s storitvami informacijske družbe. Aktualne spremembe sta in še bosta prinesli Uredba (EU) 2022/1925 Evropskega parlamenta in Sveta z dne 14. septembra 2022 o tekmovalnih in pravičnih trgih v digitalnem sektorju in spremembi direktiv (EU) 2019/1937 in (EU) 2020/1828 (akt o digitalnih trgih) ter Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev in spremembi Direktive 2000/31/ES (Akt o digitalnih storitvah), ki sta bili sprejeti v sklopu direktiv o civilni odgovornosti, umetni inteligenci ter digitalnih storitvah. Akta v svoji vsebini digitalnim uporabnikom zagotavljata zaščito njihovih temeljnih pravic ter omogočata svobodno in pošteno konkurenco na digitalnem trgu, kar bo po- membno vplivalo na položaj odjemalcev na spletu (Weingerl, 2022, str. 10). Natančneje bo akt o digitalnih storitvah uporabnikom med drugim omogočal več nadzora nad in informacij o vse- bini, ki se jim prikazuje (priporoča) na spletu. Imeli bodo možnost izključitve profiliranja, medtem ko bo ciljano oglaševanje mladoletnih oseb prepovedano. 3 Metode Pri izdelavi teoretičnega dela smo uporabili kvalitativni pristop. Pri pregledu relevantne literature smo uporabili metodo deskripcije, s pomočjo katere smo opisali obstoječe stanje na na- šem raziskovalnem področju. Prav tako smo uporabili metodo kompilacije in komparacije ter induktivno in deduktivno sklepanje. Z zgoraj navedenimi metodami smo povzemali spoznanja drugih avtorjev in njihovih raziskovalnih del in tako bolje pojasnili obravnavano tematiko. Pregledali smo tako slovensko kot tudi tujo znanstveno in strokovno literaturo ter zakonodajo. Do 10 literature smo dostopali s pomočjo domačih in tujih baz podatkov. V empiričnem delu smo podatke pridobili z metodo spraševanja, natančneje s pomočjo spletnega vprašalnika. Kvanti-tativni podatki so mnenja ter stališča anketirancev. V drugem delu vprašalnika so anketiranci odgovarjali na tematsko relevantna vprašanja našega raziskovalnega problema. Vprašalnik je sestavljen iz več opisnih in številskih spremenljivk (merjenih na osnovi kategoričnih in interval-nih lestvic). Spremenljivke v tabeli 1 so kategorične, medtem ko so v naslednjih tabelah (Tabela 2, Tabela 3 in Tabela 4) spremenljivke intervalne. Po zbranih podatkih vprašalnika smo podatke obdelali s pomočjo programske opreme SPSS. 4 Rezultati V nadaljevanju predstavljamo rezultate s področja raziskovanja. V prvem delu so predstavljeni demografski podatki udeležencev raziskave, nato so predstavljeni rezultati po posameznih vprašanjih oziroma rezultati ocenjevanih lestvic. 4.1 Demografski podatki vzorca V vzorec je bilo vključenih 112 udeležencev, od tega 90 žensk, kar je predstavljalo večino, oziroma 80,4 % vzorca. Udeleženci so bili starejši od 21 let, pri čemer je bilo največ starih med 31 in 40 let, sledili so stari med 21 in 30 let ter stari med 41 in 50 let. Udeleženci so poročali o različni starosti njihovih otrok. Večina (f = 47; 42,0 %) jih je imela predšolskega otroka, starega do 5 let, sledili so tisti s starejšim šolskim otrokom, starim med 11 in 15 let (f = 36; 32,1 %), najmanj pa je bilo tistih z mlajšim šolskim otrokom, starim med 6 in 10 let (f = 29; 25,9 %). Udeleženci so v večini (f = 61; 54,5 %) prihajali iz nemestnega naselja (pod 3000 prebivalcev), ostali (f = 51; 45,5 %) pa so prihajali iz mestnega naselja (nad 3000 prebivalcev). Udeleženci so se razlikovali tudi v stopnji dosežene izobrazbe – največ je bilo tistih z doseženo visokošolsko univerzitetno izobrazbo ter tistih z zaključeno srednješolsko izobrazbo. 4.2 Analiza rezultatov raziskovanja V spodnji tabeli prikazujemo rezultate posameznih vprašanj, ki se nanašajo na spremljanje otrokove uporabe digitalne tehnologije. Iz tabele 1 je razvidno, da je večina staršev poročala, da je ob otrokovi uporabi digitalne tehnologije že opazila oglaševalske vsebine. Manj je bilo tistih, ki tega niso opazili oz. tega sploh niso vedeli. Skoraj vsi udeleženci so poročali, da njihovi otroci nakupov brez njihove vednosti preko digitalnih medijev še niso opravili, manj jih je bilo 11 mnenja, da so to že naredili, zgolj eden pa o tem ni imel znanja. Podoben trend je bilo opaziti pri igranju spletnih oglasnih iger, pri čemer je večina poročala, da njihovi otroci tega še niso igrali, nekaj je bilo tistih, katerih otroci so to že počeli, najmanj pa tistih, ki o tem niso imeli znanja. Tabela 1: Spremljanje otrokove uporabe digitalne tehnologije f – število respondentov % – odstotek respondentov Ali ste že kdaj opazili oglaševalske vsebine ob otrokovi uporabi digitalne tehnologije? Da 92 82,1 % Ne 10 8,9 % Ne vem 10 8,9 % Ali je vaš otrok pri uporabi digitalnih medijev opravil kakšen nakup brez vaše vednosti? Da 7 6,3 % Ne 104 92,9 % Ne vem 1 0,9 % Ali je vaš otrok že kdaj igral spletno oglasno igro? Da 27 24,1 % Ne 76 67,9 % Ne vem 9 8,0 % Vir: Lastni izračun. Preverjali smo tudi, v kakšni meri lahko oglasne igre in oglaševanje, ki so usmerjeni na otroke, vplivajo na nakupne odločitve staršev oz. na želje otroka po nakupu. Večina je bila menja, da v zelo majhni meri. Zanimala nas je tudi pozitivna naravnanost do oglaševalskih vsebin. Ude- leženci so bili mnenja, da imajo najbolj pozitivni odnos do oglaševalskih vsebin starejši šolski otroci, stari med 11 in 15 let, manjši delež je pozitiven odnos do oglaševalskih vsebin pripisoval mlajšim šolskim otrokom, starim med 6 in 10 let, najmanjši delež pa predšolskim otrokom, starim 5 let ali manj. Uporabo digitalnih medijev (Tabela 2) so udeleženci ocenjevali s pomočjo šestih postavk, ki so se nanašale na časovno omejitev, čustvene odzive otrok, njihovo razumevanje ter ločevanje med realnostjo in virtualnostjo ter njihovo dovzetnost za oglaševalske vsebine. V spodnji tabeli je razvidno, da so se udeleženci v največji meri strinjali s postavko o omejevanju časa uporabe digitalnih medijev. Večina staršev je poročala o časovnem omejevanju uporabe digitalnih medijev njihovih otrok, kar potrjujeta tudi statistično značilna Shapiro–Wilkova vrednost in 12 koeficient asimetrije, ki kaže, da je porazdelitev asimetrična v levo oz. da je večina udeležencev težila k strinjanju s trditvijo. Podoben trend strinjanja je mogoče razbrati tudi pri postavkah čustvenega odzivanja otroka, natančneje otrokovega nestrinjanja s časovno omejitvijo uporabe digitalnih medijev ter njegovega spreminjanja razpoloženja ob uporabi le-teh. Povzamemo lahko, da starši svojim otrokom v večini omejujejo čas uporabe digitalnih medijev, s čimer se njihovi otroci pogosto ne strinjajo. Starši prav tako opazujejo, da pri otrocih ob uporabi digitalnih medijev prihaja do sprememb v razpoloženju. Dojemajo jih kot srednje dovzetne za oglaševalske vsebine, hkrati pa menijo, da otroci v večini dobro razlikujejo med realnostjo ter vsebinami, s katerimi se srečajo v virtualnem okolju, niso pa povsem prepričani, ali uspejo razlikovati med realnostjo in oglaševanjem. Tabela 2: Opisna statistika sklopa trditev uporabe digitalnih medijev Min Max M SD Asm. Spl. S–W Otroku omejujem čas uporabe digitalnih 2,00 5,00 4,37 0,77 – 1,10 0,75 0,75* medijev. Ob uporabi digitalnih medijev sem že opa- 1,00 5,00 3,81 1,05 – 0,94 0,54 0,85* zil spremembo razpoloženja pri otroku. Otrok se pogosto ne strinja s časovno 1,00 5,00 3,74 1,05 – 0,81 0,15 0,86* omejitvijo uporabe digitalnih medijev. Moj otrok razume in loči realni ter virtualni 1,00 5,00 3,58 1,07 – 0,62 – 0,20 0,88* svet, v katerega vstopa. Moj otrok je dovzeten za oglaševalske vse- 1,00 5,00 3,21 1,03 – 0,52 – 0,27 0,88* bine. Moj otrok razume in loči med oglaševanjem 1,00 5,00 3,18 1,16 – 0,36 – 0,67 0,90* in realnostjo. Opombe: Asm. = koeficient asimetrije. Spl. = koeficient sploščenosti. S-W = Shapiro-Wilkova vrednost. a = lestvica, izračunana kot povprečje postavk »Moj otrok razume in loči realni ter virtualni svet, v katerega vstopa.« in »Moj otrok razume in loči med oglaševanjem in realnostjo.« SEAsm.= 0,23. SESpl. = 0,45. * p < 0,05. Vir: Lastni izračun. Sklop trditev (Tabela 3), ki se je nanašal na varovanje otrok v digitalnem okolju, so udeleženci ocenjevali s pomočjo devetih postavk, ki so se nanašale na seznanjenost z nevarnostmi, za- ščito, načinom varovanja pravic in kršenjem pravic otrok v digitalnem okolju. Iz spodnje tabele 3 lahko vidimo, da so starši svojo digitalno pismenost v povprečju ocenili kot boljšo od digitalne pismenosti njihovih otrok. Najbolj so se strinjali s postavko o iskanju informacij o varni uporabi spleta ter bili mnenja, da znajo relativno dobro primerjati različne spletne strani za odločitev o resničnosti informacij. Odgovori so težili k strinjanju, kar potrjujejo tudi koeficienti asimetrije. 13 Nekoliko nekonsistentni pa so bili v odgovarjanju na postavke obvladovanja filtrov in neželenega oglaševanja, a so kljub temu v splošnem bili mnenja, da to dobro obvladujejo. Povza- memo lahko, da se starši v splošnem dobro zavedajo nevarnosti digitalnega okolja in skušajo svoje otroke pred njim zaščititi (med drugim tudi z uporabo varnostnih nastavitev, ki ščitijo otroke pred neprimernimi vsebinami na spletu). S pravicami so srednje dobro seznanjeni in v sklopu tega menijo, da so le-te delno kršene, ter poudarjajo, da hkrati niti niso ustrezno varovane. Tabela 3: Opisna statistika sklopa trditev varovanja otrok v digitalnem okolju Min Max M SD Asm. Spl. S-W Seznanjen sem z nevarnostmi, ki lahko do- letijo mojega otroka ob uporabi digitalnih 2,00 5,00 4,14 0,73 – 0,65 0,42 0,81* medijev. Otroka ustrezno ščitim/nadzorujem ob upo- 2,00 5,00 4,09 0,8 – 0,59 – 0,11 0,83* rabi digitalnih medijev. Uporabljam varnostne nastavitve, ki ščitijo otroke pred neprimernimi vsebinami na 1,00 5,00 3,66 1,26 – 0,64 – 0,68 0,86* spletu. Z oglaševanjem otrokom se pogosto kršijo 1,00 5,00 3,53 0,95 –0,21 –0,31 0,89* otrokove pravice. Iskal sem že informacije o vplivu digitalnih 1,00 5,00 3,30 1,12 – 0,29 – 0,71 0,91* medijev na otroke. Seznanjen sem s pravicami otrok v digital- 1,00 5,00 3,21 1,12 – 0,20 – 0,53 0,91* nem okolju. Pravice mojega otroka v digitalnem okolju 1,00 5,00 2,49 1,22 0,46 –0,76 0,89* so že bile kršene. Menim, da so pravice otrok v digitalnih me- 1,00 5,00 2,44 0,87 0,45 0,29 0,87* dijih ustrezno varovane. Pravice otrok v digitalnem oglaševanju so 1,00 5,00 2,29 0,86 0,18 – 0,21 0,87* ustrezno varovane. Opombe: Asm. = koeficient asimetrije. Spl. = koeficient sploščenosti. S-W = Shapiro-Wilkova vrednost. SEAsm.= 0,23. SESpl. = 0,45. * p < 0,05. Vir: Lastni izračun. Digitalno pismenost (Tabela 4) so udeleženci ocenjevali s pomočjo desetih trditev, ki so se nanašale na njihovo digitalno pismenost, torej digitalno pismenost staršev ter digitalno pismenost njihovih otrok. V spodnji tabeli lahko vidimo rezultate opisne statistike sklopa trditev o digitalni pismenosti. 14 Tabela 4: Opisna statistika sklopa trditev digitalne pismenosti Min Max M SD Asm. Spl. S-W Znam poiskati informacije o varni upo- 1,00 5,00 4,12 0,89 –1,25 1,97 0,79* rabi spleta. Znam primerjati različne spletne strani 1,00 5,00 3,88 0,95 –0,84 0,2 0,83* za odločitev o resničnosti informacij. Digitalna pismenost staršaa. 1,50 5,00 3,72 0,79 –0,45 –0,15 0,97* Znam preprečiti neželeno oglaševanje. 1,00 5,00 3,45 1,07 –0,35 –0,63 0,90* Znam spremeniti lastnosti filtrov na 1,00 5,00 3,43 1,18 –0,49 –0,71 0,88* spletu. Moj otrok zna poiskati informacije o 1,00 5,00 2,44 1,22 0,37 –1,00 0,88* varni uporabi spleta. Moj otrok zna primerjati različne spletne strani za odločitev o resnično- 1,00 5,00 2,32 1,13 0,40 –0,82 0,88* sti informacij. Moj otrok zna preprečiti neželeno ogla- 1,00 5,00 2,28 1,13 0,46 –0,77 0,87* ševanje. Moj otrok je spretnejši z digitalnimi me- 1,00 5,00 2,27 1,22 0,49 –1,06 0,85* diji kot jaz. Digitalna pismenost otrokab. 1,00 4,83 2,27 0,96 0,30 –0,74 0,94* Moj otrok zna spremeniti lastnosti fil- 1,00 5,00 2,17 1,18 0,72 –0,44 0,85* trov na spletu. Moj otrok ve o internetu več kot jaz. 1,00 5,00 2,14 1,22 0,81 –0,49 0,82* Opombe: Asm. = koeficient asimetrije. Spl. = koeficient sploščenosti. S-W = Shapiro-Wilkova vrednost. a = lestvica, izračunana kot povprečje postavk »Znam poiskati informacije o varni uporabi spleta.«, »Znam primerjati različne spletne strani za odločitev o resničnosti informacij.«, »Znam preprečiti neželeno oglaševanje.« in »Znam spremeniti lastnosti filtrov na spletu.« (glej Priloge). B = lestvica, izračunana kot povprečje postavk »Moj otrok zna poiskati informacije o varni uporabi spleta.«, »Moj otrok zna primerjati različne spletne strani za odločitev o resničnosti informacij.«, »Moj otrok zna preprečiti neželeno oglaševanje.«, »Moj otrok zna spremeniti lastnosti filtrov na spletu.«, »Moj otrok je spretnejši z digitalnimi mediji kot jaz.« in »Moj otrok ve o internetu več kot jaz.« (glej Priloge). SEAsm.= 0,23. SESpl. = 0,45. * p < ,05. Vir: Lastni izračun. Starši so svojo digitalno pismenost v povprečju ocenili kot boljšo od digitalne pismenosti njihovih otrok. Najbolj so se strinjali s postavko o iskanju informacij o varni uporabi spleta ter bili 15 mnenja, da znajo relativno dobro primerjati različne spletne strani za odločitev o resničnosti informacij. Odgovori so težili k strinjanju, kar potrjujejo tudi koeficienti asimetrije. Nekoliko nekonsistentni pa so bili v odgovarjanju na postavke obvladovanja filtrov in neželenega oglaše- vanja, a so kljub temu v splošnem bili mnenja, da to dobro obvladujejo. Slabšo digitalno pismenost pa so pripisovali svojim otrokom. Povzamemo lahko, da starši v splošnem menijo, da je njihova digitalna pismenost ustrezna in boljša v primerjavi z digitalno pismenostjo njihovih otrok, ki nimajo dovolj znanja in kompetenc za ustrezno obvladovanje digitalnih vsebin. 5 Razprava Z digitalno tehnologijo lahko povežemo pojme, kot so interaktivnost, zmanjšanje časovne in prostorske omejitve, informiranost, kot tudi filtriranost informacij. Digitalna tehnologija je del življenja današnjih otrok. Prav tako je del njihovega življenja tudi oglaševanje. Otroci v različ- nem starostnem obdobju drugače dojemajo oglase. Ob oglaševanju in ranljivi starostni skupini, kot so otroci, se velikokrat pojavijo vprašanja primernosti in etičnosti oglasov ter zaščite in pravic otrok v digitalnem oglaševanju. Pravna pravila v EU in na svetovni ravni postavljajo različne starostne meje, do katere ščitijo otroke. Države članice nimajo enotne uredbe oglaševanja, ampak je oglaševanje otrokom predmet različnih ravni nadzora v EU. Vse države članice EU so hkrati pridružene tudi EASA in imajo urejeno samoregulativo na nacionalni ravni. Vendar je to zgolj ohlapen okvir, kar se lahko vidi po različnih pravilih oglaševanja otrokom v državah članicah. Tako je na primer ogla- ševanje otrokom na Švedskem popolnoma prepovedano do 12. leta starosti (Olsen, 2007, str. 440). Velika Britanija na drugi strani opredeljuje otroka do starosti 16 let in s tem sovpada tudi zaščita otrok pri oglaševanju (The Committees of Advertising Practice, 2010, str. 4). Te in podobne razlike oglaševalski industriji povzročajo težave. Ugotovili smo, da so digitalne naprave del otrokovega vsakdana, vendar starši uporabo digi- talnih naprav omejujejo. Otroci se s to omejitvijo ne nujno strinjajo. Omejitve in daljša uporaba vplivajo na otrokovo razpoloženje in lahko izzovejo negativen čustven odziv. Starši skušajo otroke v digitalnem okolju obvarovati z varnostnimi nastavitvami in filtri za zaščito otrok pred neželenimi vsebinami. S pravicami v digitalnem oglaševanju so starši srednje dobro seznanjeni. Menimo, da bi bilo dobro poznavanje pravic otrok v digitalnem okolju in posledično pre- poznavanje morebitne kršitve. Starši so svojo digitalno pismenost ocenjevali kot dobro in boljšo v primerjavi z njihovimi otroki. Digitalno pismenost otrok so povezovali s starostjo, kar se nam 16 je zdelo logično – torej da otrok z razvojem in pridobivanjem znanja nadgrajuje tudi svoje kompetence digitalne pismenosti. Z uporabo digitalnih naprav so otroci deležni digitalnega oglaševanja. Otroke so starši ocenili kot srednje dovzetne za oglaševalske vsebine. Starši so v večini mnenja, da je pozitiven odnos odvisen od starosti otrok, pri čemer so ocenili, da imajo najbolj pozitivni odnos do oglaševalskih vsebin starejši šolski otroci, stari med 11 in 15 let. Slednje smo povezali z vrstniško socializacijo in naklonjenostjo vrstniške družbe blagovnim znamkam. V svoji raziskavi smo zaznali določene razlike v uporabi in razumevanju digitalnega oglaševa- nja med starostnimi skupinami otrok. Smiselno bi bilo vključiti in raziskati vpliv še kakšnih dejavnikov na otroke, kot so zaposleni v vzgojno-varstvenih zavodih za predšolske otroke ter zaposleni na šolah za šolske otroke. Vzgojitelji in vzgojiteljice ter učitelji in učiteljice z otroki preživijo dobršen del dneva in imajo na vpliv digitalne tehnologije ter posledično digitalnega oglaševanja svoj vpogled. Za nadaljnjo raziskavo bi bilo zanimivo raziskati še njihovo zaznavo vpliva ter medsebojno primerjati zaznavo vpliva pri predšolskih otrocih ter zaznavo vpliva pri šolskih otrocih. Prav tako bi bilo zanimivo spremeniti merilni instrument in raziskavo nadaljevati z opazovanjem otrok. 6 Sklep Digitalizacija je močno spremenila naša življenja v preteklih desetletjih. Nedvomno bo del na- šega življenja tudi v prihodnosti. Digitalna tehnologija je postala nepogrešljivi del našega vsakdana, del digitalne tehnologije pa so tudi oglasi. Oglase srečuje celotna družina, tudi otroci. Organizacije so za svojo konkurenčnost na trgu primorane razumeti nakupne odločitve in na- vade odjemalcev v digitalnem okolju, del katerega so tudi otroci. V svoji raziskavi smo zaznali določene razlike med starostnimi skupinami otrok in njihovem razumevanju oglaševalske vsebine. Prav tako smo zaznali, da starši skušajo skrbeti za nadzor in varnost otrok ob uporabi digitalne tehnologije. Digitalna tehnologija ni nujno vedno sporna ali predstavlja grožnje. Velikokrat nam digitalna tehnologija olajša in pomaga v našem življenju. Z digitalno tehnologijo smo priča pojavu inter-aktivnosti in dostopnosti informacij ter zmanjšanju časovne in prostorske omejenosti. Na podlagi naših ugotovitev lahko trdimo, da so kljub postavljanju varovanja pravic otrok v digitalnem okolju na visoko raven pravne in samoregulacijske zaščite starši in odgovorni odrasli še vedno tisti, ki lahko naredijo največ za zaščito svojih otrok. 17 Literatura 1. Boyland, E. J., & Whalen, R. (2015). Food advertising to children and its effects on diet: Review of recent prevalence and impact data. Pediatric Diabetes, 16(5), str. 331–337. https://doi.org/10.1111/pedi.12278 2. Calvert, S. L. (2008). Children as consumers: Advertising and marketing. Future Child, 18(1), 205. https://doi.org/10.1353/foc.0.0001 3. Cherry, K. (2022). Piaget's 4 stages of cognitive development explained. Verywell Mind. Dotdash Media. https://www.verywellmind.com/piagets-stages-of-cognitive-development-2795457 4. Committee on Communications. (2006). Children, adolescents, and advertising. Pediatrics, 118(6), 2563–2569. https://doi.org/10.1542/peds.2006-2698 5. Gojkovi, V. (2011). Oglaševanje, etika, zakonodaja in mlajša populacija. V Zbornik 8. festivala raziskovanja ekonomije in managementa (227–233). https://www.fm-kp.si/zalozba/ISBN/978-961-266- 123-6/prispevki/025.pdf 6. Jančič, Z. & Žabkar, V. (2013). Oglaševanje. Fakulteta za družbene vede, Založba FDV. 7. Kannan, P. K., & Li, H. Alice. (2017). Digital marketing: A framework, review and research agenda. International Journal of Research in Marketing, 34(1), 22–45. https://doi.org/10.1016/j.ijr- esmar.2016.11.006 8. Moses, L. J., & Baldwin, D. A. (2005). What can the study of cognitive development reveal about children’s ability to appreciate and cope with advertising? Journal of Public Policy and Marketing, 24(2), 186–201. https://doi.org/10.1509/jppm.2005.24.2.186 9. Nelson, M. R. (2016). Developing persuasion knowledge by teaching advertising literacy in primary school. Journal of Advertising, 45(2), 169–182. https://doi.org/10.1080/00913367.2015.1107871 10. Olsen, L. (2007). Children and advertising – some perspective on the relevant legal arguments. https://www.scandinavianlaw.se/pdf/50-29.pdf 11. Pavlin, K. F. (2009). Otrok se razvija v potrošnika v predšolskem obdobju. Vzgojiteljica: revija za dobro prakso v vrtcih, 11(3), 24–27 12. SOZ. (2015). Statut slovenske oglaševalske zbornice. https://www.soz.si/o_nas/zgodovina_soz_statut 13. Šramová, B. (2017). Children’s consumer behavior. consumer behavior – practice oriented perspectives. https://doi.org/10.5772/intechopen.69190 14. Verdoodt, V. (2019). The role of children’s rights in regulating digital advertising. The International Journal of Children’s Rights, 27(3), 455–481. https://doi.org/10.1163/15718182-02703002 15. Weingerl, P., & Šuta Ž. (2022). Izzivi in novosti na področju varstva pravic potrošnikov in krožnega gospodarstva v EU. V Weingerl, P. (ured.), Pravna ureditev varstva potrošnikov. Maribor: Univerzitetna založba Univerze v Mariboru. https://doi.org/10.18690/um.pf.9.2022 16. Yasmin, A., Tasneem, S., & Fatema, K. (2015). Effectiveness of digital marketing in the challenging age: An empirical study. The International Journal of Management Science and Business Administration, 1(5), 69–80. https://doi.org/10.18775/ijmsba.1849-5664-5419.2014.15.1006 18 17. ZMed. (2001). Zakon o medijih. Uradni list RS, 110/06 18. Zupančič, M., & Marjanovič Umek, L. (2020). Razvojna psihologija. Ljubljana: Znanstvena založba Filozofske fakultete Univerze v Ljubljani 19. ZVOP-2. (2022). Zakon o varstvu osebnih podatkov. Uradni list RS, 163/22 20. ZVPot-1. (2022). Zakon o varstvu potrošnikov. Uradni list RS, 130/22 19 VARSTVO OSEBNIH PODATKOV IN ZASEBNOSTI V DOBI UMETNE INTELIGENCE Mag. Zoran Dimović, univ. dipl. prav. Doktorski kandidat, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija Hella Saturnus Slovenija d.o.o., Ljubljana zoran.dimovic@student.um.si, zoran.dimovic@hella.com Povzetek: Bliskovit razvoj digitalne tehnologije, v katero uvrščamo tudi umetno inteligenco, s seboj prinaša veliko pravnih izzivov in dilem. Čeprav imata UI in razvoj s tem povezanih novih tehnologij veliko prednosti, s seboj prinašata tudi slabosti, ki jih je treba rešiti že na samem začetku. Umetna inteligenca predstavlja potencial naprednih in izboljšanih storitev v vseh gospodarskih sektorjih, pri tem pa, če ne pride do sprememb pristopa k varstvu podatkov in zasebnosti, tudi vrsto pravnih in etičnih dilem in iskanje ravnovesja med tehnološkim napredkom ter temeljnimi pravicami do zasebnosti in varstva osebnih podatkov iz naslova temeljnih pravic EU. Prispevek se zaradi prej navedenih dilem osredotoča na skladnost implementacije določil umetne inteligence z zakonodajo o varstvu podatkov, obenem pa predlaga nekatere spremembe in njuno izboljšavo, predvsem če želimo zaščititi svojo zasebnost. Prispevek izpostavlja tudi ostale izzive, ki jih predstavlja razvoj umetne inteligence, obenem pa poudarja minimiza-cijo preobsežne zakonodaje ter se z argumentacijo poskuša izogniti ustvarjanju nepotrebnih birokratskih ovir pri uporabi umetne inteligence. Ključne besede: soglasje, temeljne pravice, varstvo osebnih podatkov, umetna inteligenca, zasebnost 20 1 Uvod Bliskovit razvoj digitalne tehnologije, vključno z napredkom umetne inteligence (UI),1 prinaša s seboj številne pravne izzive in dileme (Skorobogatov, 2023, str. 4). UI in s tem povezane nove tehnologije imajo velik potencial za izboljšanje različnih sektorjev, kot so avtonomni avtomobili,2 internet stvari,3 avtomatizirano sodno odločanje ter med drugim tudi napredne diag- nostične metode v zdravstvu. Kljub temu pa se pojavljajo tudi slabosti, ki jih je treba že v zgod-nji fazi rešiti. Treba pa je poudariti, da imajo zakonodajalci že s formulacijo izraza umetne inteligence različne norme in poglede bodisi s presplošno opredelitvijo, ki dopušča široko polje razlage, bodisi med eksaktno opredelitvijo, ki velja v danem trenutku napredka in bi sčasoma zastarela. Osnova delovanja UI temelji na obdelavi velike količine osebnih podatkov, ki so zbrani na raz- lične načine. Ti podatki so bistveni za nevronske mreže, ki UI omogočajo, da sprejema inteli- gentne (celo lastne) odločitve, posledično pa so iz njih izpeljani algoritmi, strojno in globoko učenje ter obdelava govora in pisave ključni elementi UI. Umetna inteligenca predstavlja na-predno tehnologijo, ki lahko prinese izboljšane storitve v vseh gospodarskih sektorjih, vendar se bodo, če ne pride do prilagoditve pravnega okvira varstva podatkov in zasebnosti, pojavile pravne in etične dileme ter bo treba najti ravnovesje med tehnološkim napredkom ter temelj- nimi pravicami do zasebnosti in varstva osebnih podatkov, kot jih določata 7. in 8. člen Listine 1 Umetna inteligenca je sposobnost stroja, da izkazuje človeške lastnosti, kot so sposobnost razmišljanja, učenja, načrtovanja in ustvarjanja. Tehničnim sistemom omogoča zaznavanje okolja, obdelavo prejetih informacij in reševanje težav v skladu z določenim ciljem. Računalnik sprejme predhodno pripravljene podatke ali pa jih samodejno pridobi, jih obdela in se nato ustrezno odzove. Sistemi, ki temeljijo na umetni inteligenci, imajo zmožnost samostojnega prilagajanja svojega vedenja v določeni meri na podlagi analize učinkov svojih prejšnjih dejanj. 2 So vozila, ki so zmožna zaznavati svojo okolico in se peljati brez človeškega nadzora. Avtonomni avtomobili imajo različna tipala (npr. radar, sonar, GPS, merilnik razdalje in vztrajnostne merilne enote), ki jih nadzorni sistem zbira in razlaga tako, da krmili vozilo po poti ob upoštevanju prometne signaliza-cije. Po standardu SAE J3016 obstaja 5 ravni avtonomnosti, pri čemer je ničta mišljena kot informativno pomagalo vozniku, peta raven pa popolna avtonomija avtomobila. Povzeto po https://sl.wikipe- dia.org/wiki/Samovoze%C4%8Di_avtomobil [dostop 10. maj 2023]. 3 Je razširitev internetnih povezav v smislu povezav med različnimi »pametnimi« napravami, da medsebojno komunicirajo po različnih protokolih in si izmenjujejo podatke. 21 EU o temeljnih pravicah (LEUTP).4 V današnjem času so podatki premoženje (Fornasier, 2022, str. 335), medtem ko osebni podatki predstavljajo digitalni portfelj posameznika. V dobi umetne inteligence je zato varstvo osebnih podatkov postalo ključna tema, ki zahteva posebno pozornost in jasne ukrepe za zagotavljanje zasebnosti uporabnikov. UI temelji, kot že rečeno, na obdelavi velikih količin podatkov, ki jih zbirajo različne platforme in naprave ter se uporabljajo za izvajanje kompleksnih algoritmov in strojnega učenja. Tako je ključnega pomena, da se osebni podatki uporabljajo na etičen, odgovoren in zakonit način. Osebni podatki, kot so imena, naslovi, finančni podatki, energetski in telekomunikacijski podatki, zdravstvene informacije in podobno, so dragoceni in občutljivi. Uporabniki te podatke prenašajo prek različnih platform, storitev in naprav, pri čemer pogosto niso popolnoma ozaveščeni o tem, kako se njihovi podatki zbirajo, shranjujejo, obdelujejo in delijo. V tem kontekstu je pomembno, da imajo uporabniki nadzor nad svojimi osebnimi podatki ter da so ustrezno obveščeni o tem, kako se bodo ti uporabljali. Ko uporabniki zaupajo svoje podatke UI-sistemom, pričakujejo, da bodo ti podatki ustrezno zaščiteni in uporabljeni samo v skladu z njihovimi pričakovanji. Kršitev varstva osebnih podatkov lahko privede do morebitne zlorabe ter vodi do izgube zaupanja in ugleda podjetij ter organizacij, ki te podatke obdelujejo. Poleg tega se v dobi UI pojavljajo tudi etična vprašanja. Uporaba osebnih podatkov za različne namene, kot so ciljno oglaševanje, profiliranje in odločanje na podlagi avtomatiziranih sistemov, odpira možnost kršitve zasebno- sti in diskriminacijo. Tako je nujno, da se tudi etična načela vgradijo v razvoj in uporabo UI, da se zagotovi, da se podatki uporabljajo na način, ki spoštuje temeljne pravice in svoboščine posameznikov. Poleg zakonodajnih okvirov, kot je Splošna uredba o varstvu podatkov (GDPR)5 v Evropski uniji, je ključno tudi ozaveščanje in izobraževanje uporabnikov o njihovih pravicah in pomenu varstva osebnih podatkov. Uporabniki morajo biti sposobni sprejemati informirane odločitve o tem, katerim storitvam in platformam zaupajo svoje podatke ter kako želijo, da se njihovi po- datki uporabljajo. 4 Listina Evropske unije o temeljnih pravicah. UL 2010/C 83/02, C 83/392, z dne 30. marca 2010. 5 Uredba (EU) 2016/679 Evropskega parlamenta in sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in prostem pretoku takih podatkov ter razveljavitvi Direktive 95/46ES. UL OJ L 119/1. 22 Prispevek se zaradi navedenega osredotoča na skladnost implementacije UI z zakonodajo o varstvu podatkov GDPR ter na določenih mestih posledično ZVOP-2,6 obenem pa predlaga nekatere spremembe in izboljšave, predvsem z namenom zaščite zasebnosti. Izpostavljene so ključne določbe GDPR, ki so še posebej pomembne za razvoj in uporabo UI, v tej povezavi tudi v odnosu do temeljnih načel zasebnosti in osebnih podatkov, obdelave podatkov ter vloge upravljavca podatkov. Poleg tega bo obravnavan odnos UI do pravnih načel, kot so pravičnost, omejitev namena uporabe podatkov, uporaba samo potrebne količine osebnih podatkov ter transparentnost in transparentne obdelave podatkov. Poseben poudarek bo namenjen tudi nadzoru nad uporabo podatkov in upravljanju algoritmov osebnih podatkov. Izpostavljeni bodo tudi drugi pravni izzivi, ki jih prinaša razvoj UI, hkrati pa bo poudarjena potreba po minimizaciji preobsežne zakonodaje in izogibanju nepotrebnim birokratskim oviram pri uporabi UI. Med pravnimi izzivi so obravnavani prehod iz obveznega soglasja uporabnika v podatkovno skrbništvo, sistemsko obvladovanje informacijskih tveganj, osredotočenost na uporabo zbranih po- datkov, zakonodajni okvir zaradi neupravičene uporabe osebnih podatkov in kršitve zasebnosti ter izpeljana odškodninska odgovornost iz načel obligacij. Na koncu je pomembno opozoriti, da varstvo osebnih podatkov in zaščita zasebnosti uporab- nikov ne smeta biti omejujoča dejavnika za napredek UI. Prav nasprotno, ustrezno varstvo osebnih podatkov in zasebnosti spodbuja zaupanje uporabnikov ter spodbuja inovacije in razvoj UI, saj bodo uporabniki bolj naklonjeni sodelovanju in deljenju podatkov, če bodo imeli zagotovila o varnem in odgovornem ravnanju s temi. 2 Metode Uporabljena je kombinacija ustaljenih znanstvenoraziskovalnih metod, značilnih za področje prava (Zelenika, 2006; Pavčnik, 2004; Freeman, 2001; McConvil e, 2007; Dore, 2007) pri čemer je mišljena predvsem normativno-dogmatična metoda kot izhodišče preučevanja trenutne pravne ureditve varstva osebnih podatkov in zasebnosti s poudarkom na umetni inteli- genci na splošni ravni v povezavi z določili varstva osebnih podatkov in zasebnosti, vsekakor ob primerni uporabi metode deskripcije. Nadalje je uporabljena aksiološka metoda z namenom analize trenutno veljavne pravne ureditve preko obstoječih pravnih mej (out of the box), pri- merjalno-pravna metoda pa je uporabljena deloma v okviru razvojnega vidika, kjer poskuša ponuditi rešitve znotraj obstoječega pravnega okvira, deloma pa je uporabljena (v kombinaciji z aksiološko metodo) za presojo primernosti tega pravnega okvira. Kot končni element je 6 Ur. l. RS, št. 163/22. 23 izvedena kritična analiza predlaganih rešitev ter prospektivna normativna metoda za napovedovanje prihodnjih razvojnih smernic in izzivov v zvezi z varstvom osebnih podatkov in zaseb- nosti v dobi umetne inteligence. 3 Zakonodaja o varstvu osebnih podatkov v EU Varstvo osebnih podatkov je specifična evropska inovacija, ki je bila različno sprejeta zunaj EU skupnosti. K ureditvi so predvsem prispevale Smernice OECD o varstvu zasebnosti in čez- mejni izmenjavi osebnih podatkov iz leta 1980,7 konvencija o zaščiti posameznikov v razmerju do avtomatske obdelave podatkov iz leta 19818 ter Smernice UN glede ureditve računalniških zbirk osebnih podatkov iz leta 1990 (Tene, 2010, str. 1–8). Takšna ureditev izhaja iz zgodovinskega konteksta nastanka mednarodnega sodelovanja EU. V tem kontekstu sta bila odločilna dva dejavnika – prvič, bliskovit tehnološki razvoj in mednarodni izzivi, ki jih ta prinaša, predvsem v smislu vzpostavitve notranjega trga, ter drugič, potreba po medsebojni izmenjavi in prenosu osebnih podatkov znotraj EU ter reševanje potrošniških sporov v različnih pravnih ureditvah držav članic. Kljub nadaljnjemu tehnološkemu napredku je zgradba varstva osebnih podatkov ostala preprosta (de Hert, 2012, str. 130–142). Pojem osebnega podatka izhaja iz določila, da je to kateri koli podatek, ki se nanaša na posa- meznika, ne glede na obliko, v kateri je izražen, pri čemer je to mišljeno predvsem v smislu določljivosti posameznika, na katerega se ti podatki nanašajo. Pri tem vir in oblika podatka nista tako pomembna kot kontekst vsebine podatka. Varstvo osebnih podatkov je kompleksno vprašanje, ki se tradicionalno povezuje s konceptom varstva zasebnosti v okviru obdelave osebnih podatkov, vendar sta, vsaj v skladu z zakono- dajo EU, varstvo zasebnosti in varstvo osebnih podatkov različni, a dopolnjujoči se temeljni pravici. To stališče je omogočilo, da je varstvo osebnih podatkov prevladalo nad drugačnimi interesi in tej pravici dalo pravno zaščito, s katero ni mogoče ekonomsko trgovati (Borghi, 2013, str. 142). Ključno vlogo je varstvo osebnih podatkov doživelo s sprejetjem Lizbonske pogodbe,9 39. člen Pogodbe o Evropski uniji (PEU)10 ter 16. člen Pogodbe o delovanju Evropske unije 7 https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0188 8 Convention for the protection of individuals with regard to automatic processing of personal data, Council of Europe, ETS no. 108, 1981. 9 UL C 306/01 z dne 26. oktobra 2002, str. 47–390 10 UL C 326/15 z dne 26. oktobra 2002, str. 1–412 24 (PDEU) pa vsebujeta posebni določbi v zvezi z varstvom osebnih podatkov, pri čemer 39. člen govori o določitvi pravil o varstvu fizičnih oseb pri obdelavi osebnih podatkov, 16. člen PDEU pa o varstvu osebnih podatkov v splošnem pomenu ter razlagi temeljnih načel. Zakonodajal- cem oba izpostavljena člena nalagata obveznost, da vzpostavijo jasen in določen pravni okvir za varstvo osebnih podatkov, pri čemer je v Republiki Sloveniji trenutno v veljavi ZVOP-2. Poleg tega je Lizbonska pogodba vzpostavila zavezujoči pravni status LEUTP in zagotovila posebne določbe v zvezi s pravnim pomenom Evropske konvencije o človekovih pravicah (EKČP).11 Ta konvencija v 8. členu opredeljuje varstvo osebnih podatkov in varstvo zasebnosti ter tako, da ima vsakdo pravico do spoštovanja njegovega zasebnega in družinskega življenja, doma in dopisovanja, pri čemer se oblast v to ne sme vmešavati, razen če je to nujno potrebno na podlagi zakona ali državne oziroma javne varnosti. V povezavi z mehanizmi umetne inteligence je mogoče povleči vzporednice z mehanizmi GDPR v smislu zaščite osebnih podatkov in zasebnosti, kot jih določa Ustava RS12 (URS) v 35. in 38. členu. V Republiki Sloveniji veljata dva pravna akta, ki imata ključno vlogo pri varstvu osebnih podatkov. Prva je GDPR, medtem ko je druga še vedno veljavna Direktiva 2002/58/ES o obdelavi osebnih podatkov in varstvu zasebnosti na področju elektronskih komunikacij (Di- rektiva o e-zasebnosti).13 GDPR kot tak predstavlja najpomembnejši zakonodajni dosežek EU, ki ureja varstvo osebnih podatkov ter določa splošna pravila in zahteve za zbiranje, obdelavo, shranjevanje, prenos in varovanje osebnih podatkov, vključno z obdelavo s pomočjo umetne inteligence, pri čemer se uredba GDPR uporablja neposredno v vseh državah članicah EU na podlagi 3. člena PDEU. Po drugi strani je Direktiva o e-zasebnosti lex specialis napram uredbi GDPR, uporabnost obeh pa temelji na treh pomembnih pravnih kategorijah – prvič, na tistih, ki se nanašajo na prenašanje informacij in obdelavo podatkov, drugič, na tistih, ki se nanašajo na privolitev in soglasje uporabnika, in tretjič, na vse ostale omejitve, načela in obveznosti, ki so substancirano navedene in opredeljene. V povezavi z umetno inteligenco oziroma avtomatsko obdelavo podatkov je poleg zgoraj na- vedenih treba omeniti še Direktivo o varstvu fizičnih oseb pri obdelavi osebnih podatkov s strani organov Skupnosti in o prostem pretoku takih podatkov (Direktiva 2018/1725),14 ki se nanaša na varstvo zasebnosti in varstvo osebnih podatkov v elektronskih komunikacijah in v 11 Rim, 4.11.1950. 12 Ur. l. RS, št. 33/91 in nadalje. 13 UL L 241/2009. z dne 12. julija 2002, str. 0037–0047. 14 UL L 295/39 z dne 23. oktobra 2018, str. 0001–004. 25 9. členu vključuje tudi obdelavo osebnih podatkov s pomočjo umetne inteligence v okviru elektronskih komunikacij. Nadalje pa je treba izpostaviti še Direktivo o avtorski in sorodnih pravicah v digitalnem enotnem trgu (Direktiva 2019/790),15 ki se osredotoča na vprašanja avtorskih pravic v digitalnem okolju (Reda & Selinger & Servatius, 2020, str. 49) vključno z uporabo umetne inteligence za obdelavo avtorsko zaščitenih vsebin, ki vsebujejo osebne podatke, pri čemer Direktiva v 17. členu opredeljuje avtomatsko obdelavo ogromnih količin osebnih podatkov. Kot prvi poskus regulacije umetne inteligence je Evropska komisija (EK) 21. aprila 2021 obja- vila predlog Akta o umetni inteligenci (AUI),16 s katerim želi zagotoviti varnost sistemov umetne inteligence na notranjem trgu EU v povezavi s spoštovanjem zakonodaje o temeljnih pravicah in vrednotah. Temelji na podlagi sorazmernega pristopa, temelječega na stopnji tveganja, pri čemer je na vrhu (torej prepovedano) oddaljeno biometrično prepoznavanje17 (kot npr. Kočevar & drugi, 2020). Pri tem je mišljena uporaba umetnointeligenčnih sistemov za množični nadzor oziroma t. i. točkovanje državljanov EU, kot je npr. Kitajski sistem socialnih kreditov.18 Za visoko tvegane aplikacije AUI (kot je npr. umetna inteligenca v zdravstvu) določa posebne pravne zahteve v smislu obveščanja ljudi, da so v interakciji s sistemom umetne inteligence, pri čemer bodo v primeru »deepfake« ponaredkov (Westerlung, 2019, str. 39–49) morali biti ti posnetki ustrezno označeni. Ostale aplikacije, ki ne predstavljajo nobene stopnje tveganja, pa bodo ostale izven regulativnih okvirov in bodo v celoti dovoljene. Poleg že naštetih glavnih pravnih podlag obstajajo tudi smernice, mnenja in smernice Evrop- skega nadzornika za varstvo podatkov (EDPS) v skladu z določili 70. člena GDPR19 in Evrop- skega odbora za varstvo podatkov20 ter druge smernice, ki zagotavljajo podrobnejša pojasnila in usmeritve glede varstva osebnih podatkov v povezavi z umetno inteligenco. 15 OJ L 130/92. 16 COM(2021) 206 final. 17 https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations- trustworthy-artificial-intelligence 18 Uvedla ga je kitajska vlada z namenom spremljanja in nadzorovanja obnašanja prebivalcev Kitajske, posameznike pa rangira glede na njihovo stanje in cilja na idejo, da je zaupanje veličastno, kršitev zaupanja pa sramotno. To pomeni, da bodo določljivi posamezniki ob kršenju imeli prepoved uporabe letal in vlakov, omejevanje hitrosti interneta, izključevanje otrok posameznikov iz najboljših šol in podobno. 19 https://edpb.europa.eu/our-work-tools/consistency-findings/opinions_sl?page=16 20 Je neodvisen evropski organ in krovna organizacija, ki združuje nacionalne organe za varstvo podatkov držav Evropskega gospodarskega prostora in EDPS. Zagotavlja, da se GDPR ter Direktiva o preprečevanju, odkrivanju in preiskovanju kaznivih dejanj uporabljata dosledno. 26 4 Umetna inteligenca in varstvo osebnih podatkov Številne umetnointeligenčne aplikacije obdelujejo osebne podatke. Po eni strani lahko zbiranje osebnih podatkov prispeva k večanju podatkovne baze, ki se nadalje uporablja za usposabljanje sistemov strojnega učenja, predvsem v smislu nadgradnje algoritmov UI. Po drugi strani pa se lahko takšni modeli uporabijo za zlorabo osebnih podatkov, in sicer tako, da se na pod- lagi zbranih podatkov posameznikov ti segmentirajo na večje skupine s skupnimi interesi ali skupnimi vrednotami ali da se na podlagi zbranih podatkov posameznika iz različnih virov predvidijo navade posameznika, njegove vrednote – v bistvu njegovo celotno zasebnost in življenjski slog, posledično vsakdanjik posameznika. Zahvaljujoč umetni inteligenci je mogoče vse vrste osebnih podatkov uporabiti za analizo, napovedovanje ter sprejemanje osnovnih ali kompleksnih odločitev o posamezniku (npr. kreditna sposobnost), kar predstavlja izjemno dra- gocen digitalni portfelj posameznika. Zlasti UI omogoča avtomatizirano odločanje tudi na po- dročjih, ki zahtevajo zapletene odločitve, ki temeljijo na več dejavnikih in merilih, ki niso vnaprej določena. V mnogih primerih avtomatizirane napovedi in odločitve niso le cenejše, ampak tudi natančnejše in bolj nepristranske kot človeške, saj se sistemi umetne inteligence izognejo ti- pičnim zmotam človeške psihologije, po drugi strani pa so podvrženi strogemu nadzoru. Ven- dar so lahko algoritemske odločitve tudi napačne ali diskriminatorne, če temeljijo na pristranskosti izdelovalca algoritma, in strojno učenje na takšnih algoritmih privede do novih diskrimi-natornih odločitev. In čeprav so algoritemske ocene posameznika dokaj točne in nepristranske, lahko negativno vplivajo na posameznika, predvsem v smislu množičnega nadzora, manipu- lacije s temi podatki ter vrednotenja posameznikov. Kljub temu ima obdelava velike količine osebnih podatkov o posameznikih in njihovih interakcijah, ki temelji na umetni inteligenci, po eni strani velik družben pomen, lahko po drugi strani pride do njihove zlorabe. Kot primarni dokument sicer izpostavljam uredbo GDPR, vendar umetna inteligenca kot pojem ni izrecno omenjen in opredeljen v uredbi, čeprav so številne določbe in načela uredbe po- membne za področje umetne inteligence. Vendar je prav zaradi napredka sistemov UI GDPR postavljena pred izziv in morebitne spremembe,21 čeprav manjše, predvsem zaradi novih al- goritmičnih načinov obdelave osebnih podatkov. V konkretnem primeru prihaja do trenj med tradicionalnimi načeli varstva zasebnosti in osebnih podatkov (omejitev namena, minimizacija obsega, obdelave občutljivih podatkov, avtomatizirane odločbe) oziroma popolno prevlado umetne inteligence na podlagi obdelave ogromne baze osebnih podatkov. 21 EPRS. (2020). PE 641.530. 27 Tako bi vsakršna obdelava osebnih podatkov morala biti zakonita in poštena. Načini zbiranja, uporabe, pregledovanja ali obdelave ter obseg obdelave ali prihodnje obdelave osebnih podatkov, ki se nanašajo na posameznike, bi morali za posameznike biti pregledni. Pri tem je treba upoštevati načelo preglednosti, ki zahteva, da so vse informacije in sporočila, ki se na-našajo na obdelavo teh osebnih podatkov, lahko dostopni in razumljivi ter izraženi v jasnem in preprostem jeziku. To načelo zadeva zlasti informacije za posameznike, na katere se nanašajo osebni podatki, istovetnost upravljavca in namen obdelave ter dodatne informacije za zagoto- vitev poštene in pregledne obdelave glede zadevnih posameznikov in njihovo pravico do pri- dobitve potrditve in sporočila o obdelavi osebnih podatkov v zvezi z njimi.22 Pomembno določilo izhaja iz 4. točke GDPR, ki govori o tem, da obdelava osebnih podatkov predstavlja ključen vidik sodobnega informacijskega okolja ter mora biti oblikovana tako, da služi ljudem. Pri tem je treba upoštevati, da temeljna pravica do varstva osebnih podatkov ni absolutna pravica in je omejena z drugimi pravicami. Načelo sorazmernosti zahteva, da se ta pravica obravnava glede na njeno vlogo v družbi ter da je sorazmerna z drugimi temeljnimi pravicami in jim ne povzroča škode.23 V okviru tega treba upoštevati tudi preostale temeljne pravice, seveda ob upoštevanju svoboščin in načel, ki jih priznava LEUTP. Mednje sodijo spoš- tovanje zasebnega in družinskega življenja, stanovanja in komunikacij, svoboda misli, vesti in vere, svoboda izražanja in obveščanja, svoboda gospodarske pobude, pravica do učinkovitega pravnega sredstva in nepristranskega sodišča ter kulturna, verska in jezikovna raznolikost. Vloga umetne inteligence pri zbiranju, obdelavi in uporabi osebnih podatkov ima tudi pravne vidike, ki so ključni za zagotavljanje varstva posameznikov in skladnosti z relevantnimi prav- nimi okviri (Brundage & ostali, 2018, str. 40). Kot primarno je treba poudariti načelo preglednosti iz 58. točke uvodnih pojasnil GDPR, ki zahteva, da so vse informacije, ki se nanašajo na javnost ali posameznika, na katerega se nanašajo osebni podatki, lahko dostopne in lahko razumljive ter izražene v jasnem in preprostem jeziku. To je še zlasti pomembno v primerih, kadar posameznik, na katerega se nanašajo osebni podatki, zaradi velikega števila akterjev in tehnološke kompleksnosti težko ve in razume, ali se zbirajo osebni podatki, povezani z njim, ter kdo jih zbira in v kakšen namen, kot je to v primeru spletnega oglaševanja. Ker imajo otroci posebno varstvo, bi morale vse informacije, ki se nanašajo na otroke, biti predstavljene tako, da jih otrok zlahka razume. 22 39. člen GDPR. 23 Prav tam. 28 Nadalje je treba tudi izpostaviti t. i. »pravico do pozabe« ter pravico do popravka osebnih podatkov, opredeljenih v 65. členu GDPR, kadar hramba takšnih podatkov krši določila GDPR, pravo Unije ali pravo države članice, ki velja za upravljavca podatkov. 65. člen GDPR nadalje govori o tem, da ima posameznik pravico, da se njegovi osebni podatki izbrišejo in se ne ob- delujejo več, če niso več potrebni ali zadostni namenu, za katerega so bili zbrani.24 Prav tako velja, da ima posameznik možnost preklica privolitve ali ugovora zoper obdelavo njegovih osebnih podatkov, tako na podlagi lastne odločitve, kakor kadar obdelava njegovih osebnih podatkov ni v skladu z uredbo GDPR. Ta možnost in pravica sta izjemno pomembni, kadar je posameznik dal svoje soglasje kot otrok in se ni v celoti zavedal tveganj, ki so povezana z obdelavo teh podatkov. Slednje ne velja le za primere, kadar bi bila nadaljnja hramba osebnih podatkov zakonita, če je to potrebno za uresničevanje pravice do svobode izražanja, izvajanje ali obrambo pravnih zahtevkov in podobno. Pri tem bi se pravica do izbrisa oz. pozabe morala razširiti tako, da bi upravljavec, ki je osebne podatke objavil, obvestil ostale podredne uprav-ljavce osebnih podatkov, da je posameznik zahteval izbris svojih osebnih podatkov ter da ta zahteva pomeni izbris vseh povezav do teh osebnih podatkov ali njihovih digitalnih kopij. Ena pomembnejših metodoloških pravnih pristopov, ki se uporablja v kontekstu umetne inteli- gence in obdelave osebnih podatkov, je načelo privolitve. Zahteva se, da posameznik, preden sistemi UI obdelajo njegove osebne podatke, poda privolitev. To vključuje jasno in razumljivo obveščanje posameznikov o namenu obdelave podatkov, njihovih pravicah ter možnosti umika privolitve. Pravna načela zahtevajo, da je privolitev prostovoljna, specifična, informirana in nedvoumna izjava posameznika. Poleg tega se pravna načela, kot sta načelo omejitve namena in načelo minimalnosti, uporabljajo za zagotavljanje zakonitega, poštenega in preglednega ravnanja z osebnimi podatki v kontekstu UI. To pomeni, da lahko sistemi UI zbirajo in obdelujejo le tiste podatke, ki so potrebni za dosego določenega namena obdelave, ter da se podatki ne smejo uporabljati v druge namene, razen če je pridobljena ustrezna privolitev ali obstaja druga pravna podlaga za obdelavo. Pravna načela zahtevajo tudi ohranjanje podatkov v obliki, ki omogoča identifikacijo posameznikov, le toliko časa, kot je potrebno za dosego namena obdelave. Pri že naštetem je pomembno tudi upoštevati pravno načelo transparentnosti. To pomeni, da morajo biti posamezniki ustrezno obveščeni o obdelavi njihovih osebnih podatkov, vključno s podatki o vrsti podatkov, namenu obdelave, obdelovalcih podatkov ter njihovih pravicah v zvezi 24 Prav tam. 29 s podatki. Pravna načela zahtevajo, da so te informacije posameznikom na voljo na jasen, razumljiv in dostopen način, običajno v obliki izjave o zasebnosti ali politiki varovanja podatkov. Pravne metodologije, kot sta načelo odgovornosti in načelo varstva podatkov, so ključnega pomena za zagotavljanje skladnosti z zakonodajo. Organizacije, ki uporabljajo sisteme UI za obdelavo osebnih podatkov, morajo prevzeti odgovornost za skladnost s pravnimi zahtevami ter zagotoviti ustrezne ukrepe za varstvo podatkov. To vključuje izvajanje primernih tehničnih in organizacijskih ukrepov za preprečevanje nepooblaščenega dostopa, izgube, spreminjanja ali razkritja podatkov. Pravna načela zahtevajo tudi vodenje evidence obdelav podatkov, izva- janje ocen učinkov na zasebnost in sodelovanje s pristojnimi nadzornimi organi v primeru kr- šitev podatkov. Poleg uporabe pravnih metodologij je pomembno upoštevati tudi etične vidike pri razvoju in uporabi sistemov UI. To vključuje etično zbiranje (Stahl, 2021, str. 35–53) in obdelavo osebnih podatkov, preprečevanje pristranskosti algoritmov, transparentnost delovanja sistemov, zagotavljanje upravičenih pravic posameznikov ter odgovorno uporabo umetne inteligence pri ob- delavi osebnih podatkov. Pri tem je treba poudariti, da je pravna ureditev ključna za varstvo osebnih podatkov v kontekstu uporabe umetne inteligence. Pravne metodologije, kot so načelo privolitve, omejitev na- mena, minimalnost, transparentnost, odgovornost in varstvo podatkov, igrajo pomembno vlogo pri zagotavljanju varnosti, zasebnosti in poštenega ravnanja z osebnimi podatki v okviru sistemov UI (Coeckelbergh, 2019, str. 31–34). V nadaljevanju so predstavljene tudi povezave so- glasja kot bistvenega pravnega načela in imetniške pravice posameznika do veljavnih zako- nodajnih aktov s področja varstva osebnih podatkov v povezavi z usmeritvami na področju umetne inteligence. 4.1 Soglasje posameznika Kot je že predhodno navedeno, evropska zakonodaja obravnava soglasje uporabnika z več pravnimi sredstvi. LEUTP določa, da je soglasje pravna podlaga za obdelavo osebnih podat- kov, ki temelji na odločitvi uporabnika, na katerega se osebni podatki nanašajo. Sekundarna zakonodaja pa postavlja zahteve in omejitve za soglasje, namenjene preprečevanju zlorab in izkoriščanja ranljivosti uporabnikov, na katere se osebni podatki nanašajo. Kljub pomembnosti teh zahtev in omejitev pa slednje doslej niso zadostovale za zagotovitev poštenosti soglasja uporabnikov ali preprečevanje množičnega zbiranja osebnih podatkov. 30 GDPR npr. določa, da mora biti soglasje prostovoljno in specifično za vsak posamezni primer. Prav tako mora uporabnik biti obveščen pred jasno izjavo ali izvedbo katerega koli drugega konkretnega dejanja. Kljub temu pa GDPR ne opredeljuje popolnoma jasno pojma svobode privolitve v primerih, ko je zahtevana privolitev kot pogoj za določeno storitev ali ko je storitev odvisna od privolitve v obdelavo osebnih podatkov, zlasti za namene npr. ciljnega oglaševanja. GDPR ne izključuje izrecno prisilne izbire v takšnih primerih, kar pomeni, da je skoraj vedno za dostop do spletnih storitev potrebno soglasje. To uporabnike spodbuja, da privolijo, hkrati pa otežuje uveljavljanje pravice do preklica soglasja ali ugovora zoper obdelavo osebnih podatkov. Tudi predlog Uredbe o e-zasebnosti zahteva soglasje uporabnikov za uporabo piškot- kov, vendar ta določba ne omejuje zbiranja in izkoriščanja osebnih podatkov, ker uporabniki pogosto nimajo ustrezne informacije o zbiranju podatkov in ne morejo oceniti zapletenosti za- htev, zlasti ker jim primanjkuje pravnega znanja in časa ter potrebujejo nemoten dostop do spleta. Poleg tega se soglasje uporabnika nanaša tudi na sporni člen v Direktivi o digitalni vsebini 2019/770,25 ki določa, da se ta zakon uporablja tudi za pogodbe, kjer je nasprotna storitev sestavljena iz osebnih podatkov uporabnikov. To sporno določilo v tej direktivi temelji na predpostavki, da so osebni podatki že postali tržno blago. Kljub temu da so ti pogoji strožji v Aktu o digitalnih storitvah in Aktu o digitalnih trgih, ki predvsem omejujeta prenos zbranih osebnih podatkov z osnovne platforme na druge sekundarne platforme. Razdrobljenost veljavne zakonodaje pa pomeni tudi ranljivost sistemov umetne inteligence, ki ta načela uporablja. 4.2 Soglasje v odnosu do Listine Evropske unije o temeljnih pravicah Soglasje uporabnika, na katerega se nanašajo osebni podatki, je jasno opredeljeno v drugem odstavku 8. člena EKČP (Evropske konvencije o varstvu človekovih pravic), ki zahteva, da se osebni podatki obdelujejo pošteno in na podlagi privolitve uporabnika ali druge ustrezne za- konske podlage. Potreba po pravni podlagi za vsako posamezno obdelavo osebnih podatkov izhaja iz priznavanja varstva osebnih podatkov kot temeljne pravice, ki se nanaša na celotni proces obdelave podatkov, ne samo na varstvo podatkov. To načelo pomeni, da je obdelava osebnih podatkov prepovedana, če ni izpolnjen nobeden od določenih pogojev: 25 UL L 136/1 z dne 20. maja 2019, str. 1–27. 31 − Obdelava mora temeljiti na svobodni izbiri uporabnika, na katerega se nanašajo osebni podatki, kar pomeni, da se uporabnik prostovoljno odloči za določeno obdelavo (glej točke od b) do f) 6. člena GDPR). − Obdelava mora temeljiti na nujnosti namena, ki upravičuje poseg v temeljno pravico uporabnika. Soglasje uporabnika, ki ga ta daje za namene uporabe algoritmov umetne inteligence, na pri- mer za ciljno oglaševanje, je eden najpogosteje zahtevanih načinov pridobitve privolitve za nadaljnjo obdelavo osebnih podatkov. Takšna obdelava ne vpliva samo na nadaljnje nakupne odločitve, temveč tudi na prikazovanje javnega mnenja, izvajanje javnih anket in politične razprave. Trenutni model dostopa do informacijskih spletnih mest zahteva soglasje, kar uporab- nike pogosto prisili v dajanje privolitve in s tem širjenje njihovih osebnih podatkov. To lahko na eni strani privede do splošnega nadzora, na drugi strani pa uporabnike izpostavi manipulaci-jam pri sprejemanju odločitev, ki jih morda ne bi sprejeli v nasprotnem primeru. Vse te zbrane podatke je mogoče nato prodati na trgu podatkov, kjer lahko dosežejo astronomske vrednosti. 4.3 Soglasje uporabnika v odnosu do uredbe GDPR Soglasje oziroma privolitev uporabnika je jasno opredeljena v 11. točki 4. člena GDPR, kjer je opisano kot vsaka prostovoljna, izrecna, informirana in nedvoumna izjava volje posameznika, na katerega se nanašajo osebni podatki, s katero ta izjavi oziroma z jasnim pritrdilnim dejanjem izrazi soglasje za obdelavo osebnih podatkov, ki se nanašajo nanj. Ta opredelitev velja tudi v primerih ciljnega oglaševanja. Ključno vprašanje pa je, ali in pod kakšnimi pogoji je uporabnik privolil v zbiranje njegovih osebnih podatkov za komercialne namene in ali to soglasje izpolnjuje vse zakonske zahteve. Opredelitev soglasja, podana v GDPR, je zato dopolnjena z ne- katerimi uvodnimi pojasnili. Zahteva po informiranosti je posebna zahteva, ki se nanaša na obseg in vrsto informacij, ki morajo biti na voljo posamezniku. V skladu z 42. točko uvodnih pojasnil GDPR mora posame- znik, na katerega se nanašajo osebni podatki, biti obveščen o identiteti upravljavca podatkov in namenu obdelave osebnih podatkov. Tudi 32. točka uvodnih pojasnil navaja, da bi moralo soglasje zajemati vse načine obdelave osebnih podatkov. Načelo informiranosti, povezano s transparentnostjo, pomeni, da so uporabniki, na katere se nanašajo osebni podatki, obveščeni samo takrat, ko imajo možnost v celoti spoznati specifičnosti obdelave svojih osebnih podat- kov. Informacije morajo zato biti izčrpne, natančne, jasne in razumljive, kar izhaja tudi iz 58. 32 točke uvodnih pojasnil GDPR, ki se nanaša na spletno oglaševanje. Načelo transparentnosti zahteva, da so vse informacije, naslovljene na širšo skupino ali posameznika, na katerega se nanašajo osebni podatki, jedrnate, dostopne in razumljive ter da se uporablja jasen in preprost jezikovni slog in, če je primerno, tudi vizualni prikaz. Vendar ta transparentnost izgubi pomen, ko se podatki posredujejo tretjim osebam, ne da bi uporabnik poznal identiteto teh oseb in način obdelave njihovih osebnih podatkov. Ko uporabnik na primer prebere pravilnik o zasebnosti katere koli aplikacije, lahko ugotovi, da tretje osebe, ki bodo obdelovale njegove osebne podatke, niso navedene poimensko. Poleg tega se lahko ti podatki izmenjujejo s tretjimi part-nerji in tako naprej. Uporabnik nima vpogleda v to, kako in kam se prenašajo njegovi osebni podatki ter kako se uporabljajo. Preprosta spletna transakcija lahko vključuje na stotine tretjih oseb, katerih politika obdelave podatkov in pridobivanja soglasja uporabniku ni znana. Čeprav to ni izrecno navedeno v GDPR, lahko trdim, da bi morali principi transparentnosti in informi- ranosti zajemati tudi informacije o vseh nadaljnjih obdelavah in prenosih osebnih podatkov ter posebej opozoriti posameznika na morebitna tveganja, če ta poda soglasje. Ta ideja je izra- žena tudi v 20. točki uvodnih pojasnil predlagane Uredbe o e-zasebnosti, ki pravi: »Ponudniki storitev morajo sprejeti ustrezne ukrepe za zagotovitev varnosti svojih storitev, če je treba, skupaj s ponudnikom omrežja, in obvestiti naročnike o vseh posebnih tveganjih kršitev varnosti omrežja. Takšna tveganja so zlasti možna pri elektronskih komunikacijskih storitvah v odprtem omrežju, kot je internet ali analogna mobilna telefonija. Za naročnike in uporabnike takšnih storitev je zlasti pomembno, da jih njihov ponudnik storitve v celoti seznani z obstoječimi varnostnimi tveganji, ki so zunaj obsega ponudnikovih možnih sredstev za ukrepanje. Ponudniki storitev, ki ponujajo javno dostopne elektronske komunikacijske storitve prek interneta, morajo uporabnike in naročnike obvestiti o ukrepih, ki jih lahko sprejmejo za zagotovitev varnosti sporočil, na primer z uporabo posebnih vrst programske opreme ali tehnologij šifriranja. Zahteva po obveščanju naročnikov o posebnih varnostnih tveganjih ponudnika storitve ne razrešuje njegove obveznosti, da na svoje stroške sprejme ustrezne in takojšnje ukrepe za odpravo vsakršnih novih, nepredvidenih varnostnih tveganj in spet vzpostavi običajno raven varnosti storitve. Zagotovitev podatkov o varnostnih tveganjih za naročnika mora biti brezplačna, razen mo- rebitnih nominalnih stroškov, ki jih naročnik lahko utrpi pri sprejemanju ali zbiranju podatkov, na primer z nalaganjem sporočila, poslanega po elektronski pošti. Varnost se ocenjuje v skladu s 17. členom GDPR. 32. točka uvodnih pojasnil GDPR predstavlja idejo o celovitosti in razdrobljenosti informacij. Ta ideja se nanaša na zahtevo, da privolitev zajema vse vrste obdelave osebnih podatkov, ki se izvajajo z istim ali enakim namenom. V primeru večnamenske obdelave je treba pridobiti soglasje za vse namene. V praksi se uporabnike pogosto prosi za splošno soglasje za 33 obdelavo njihovih osebnih podatkov v komercialne namene ali namene prilagojene vsebine. Vendar je ta zahteva po razdrobljenosti omejena v primeru znanstvenih raziskav. 33. točka uvodnih pojasnil GDPR izrecno dovoljuje pridobitev privolitve le za določena znanstvenorazi-skovalna področja ob upoštevanju priznanih etičnih standardov znanstvenega raziskovanja. 42. točka uvodnih pojasnil se osredotoča na prostovoljno privolitev. Poudarja, da je prosto- voljna privolitev mogoča le, če ima posameznik, na katerega se osebni podatki nanašajo, na voljo ustrezne možnosti privolitve in če zavrnitev privolitve ne povzroči škode. Privolitev se ne šteje za prostovoljno, če posameznik nima dejanske ali prostovoljne izbire ali če ne more umakniti soglasja brez škode. V zvezi s to točko se sklicuje tudi na Direktivo Sveta 93/13/EGS, ki obravnava nedovoljene pogodbene pogoje. Zahteva, da izjavo privolitve vnaprej pripravi upravljavec in mora ta poudarjati jasnost in nedvoumnost informacij. Izjava o privolitvi mora biti razumljiva in lahko dostopna ter napisana v jasnem in preprostem jeziku, pri čemer ne sme vsebovati nedovoljenih pogojev. Kar zadeva zahtevo, da je privolitev izražena s pritrdilnim dejanjem, je sodišče obravnavalo to vprašanje v primeru C-673/17 (točke 57–58).26 Sodišče je ugotovilo, da privolitev ne vključuje opustitve. Izjava volje, ki se nanaša na obdelavo določenih podatkov, mora biti »posebna« v smislu, da se nanaša izključno na to obdelavo in je ni mogoče izpeljati iz izjave volje, ki ima drugačen cilj. Poleg tega privolitev ni veljavna v skladu s členom 2(h) Direktive 95/46/ES27 in členom 5(3) Direktive 2002/5828 v povezavi s členom 2(h) Direktive 95/46, če se shranjevanje podatkov ali dostop do podatkov, shranjenih v terminalni opremi uporabnika spletnega mesta, dovoli s predhodno označenim potrditvenim poljem, ki ga je ponudnik storitve že vnaprej ozna- čil, in bi moral uporabnik, da zavrne svojo privolitev, odznačiti to polje. GDPR daje pomemben poudarek konceptu »oblikovanja profilov« ali profiliranja. Slednje se nanaša na avtomatizirano obdelavo osebnih podatkov, ki se uporablja za ocenjevanje določe- nih osebnih vidikov posameznika. To lahko vključuje analizo ali predvidevanje uspešnosti pri delu, ekonomskega položaja, zdravja, osebnega okusa, interesov, zanesljivosti, vedenja, lo- kacije ali gibanja posameznika, kot je opredeljeno v 2. točki 4. člena GDPR. Profiliranje se uporablja za razvrščanje ljudi v skupine, ki imajo skupne značilnosti in vzorce vedenja. Ta 26 Sodišče EU, Bundesverband der Verbraucherzentralen und Verbraucherverbände – Verbraucherzentrale Bundesverband eV proti Planet49 GmbH, št. C-673/17, 30. november 2017. 27 UL L 281 z dne 24. oktobra 1995, str. 1–42 28 UL L 201 z dne 12. julija 2002, str. 0037–0047. 34 praksa omogoča ciljno oglaševanje ali vedenjsko oglaševanje, saj so osebni podatki segmen-tiranih posameznikov že na voljo, analizirani, obdelani in pripravljeni za namene trženja. Kot je že omenjeno zgoraj, je privolitev uporabnika ena od šestih pravnih podlag za zakonito obdelavo osebnih podatkov v skladu s 6. členom GDPR. Obdelava osebnih podatkov je zako- nita, če je izpolnjen vsaj eden od določenih pogojev. Glavni pogoj je, da posameznik, na kate- rega se nanašajo osebni podatki, poda privolitev za obdelavo svojih osebnih podatkov v enega ali več določenih namenov. Ta zahteva izhaja iz 2. odstavka 8. člena LEUTP, kjer je privolitev izrecno navedena kot pravna podlaga za zakonito obdelavo osebnih podatkov. Soglasje je tudi omenjeno v 4. odstavku 6. člena GDPR, ki določa pogoje, pod katerimi se lahko osebni podatki obdelujejo v druge namene, za katere uporabnik ni podal soglasja. Sprememba namena pri- volitve je dovoljena le, če je združljiva s prvotnim namenom privolitve. GDPR prav tako določa obveznost obveščanja uporabnikov o možnosti preklica privolitve, kot je določeno v 2. odstavku 13. člena. Ko obdelava temelji na točki (a) 6(1). člena ali točki (a) 9(2). člena, ima posameznik pravico, da kadar koli prekliče svojo privolitev, pri čemer preklic ne vpliva na zakonitost obdelave podatkov, izvedene na podlagi privolitve pred njenim prekli-cem.29 To pomeni, da imajo uporabniki možnost umakniti svoje soglasje. Vendar uporabniki na splošno niso dovolj ozaveščeni o tej možnosti, saj ne preberejo pravilnikov o zasebnosti. Soglasje kot pravna norma je opredeljeno tudi v točki 34/3 Akta o umetni inteligenci, kjer pravi, da se soglasje lahko prenese na podizvajalca ali odvisno družbo, vendar le v primeru, če ponudnik s tem soglaša. Osebni podatki v razmerju do umetne inteligence pa so opredeljeni v 54. členu AUI z uporabo vseh pravnih načel iz uredbe GDPR. 4.4 Soglasje v odnosu do Uredbe o e-zasebnosti Soglasje, predvsem glede obdelave osebnih podatkov, je omenjeno na več mestih v prihajajoči Uredbi o e-zasebnosti, ki bo nadomestila Direktivo o e-zasebnosti 2002/58/ES. Prvič, soglasje je zahtevano v 1. odstavku 5. člena, kjer je potrebno soglasje za poslušanje, prisluškovanje, shranjevanje ali na druge načine prestrezanje ali nadzorovanje komunikacije (sporočil) in povezanih prometnih podatkov. V drugem odstavku istega člena je določeno, da prvi odstavek ne vpliva na zakonito zapisovanje in snemanje, če se to izvaja v okviru zakonite 29 Prav tam. 35 poslovne prakse z namenom zagotavljanja dokaza o tržni transakciji ali drugi komunikaciji. Ta določba je pomembna, saj obravnava predvsem piškotke in druge načine identifikacije ter sle-denja uporabnikov s spodbujanjem njihovih spletnih dejavnosti. Praksa, ki temelji na teh do- ločbah, je paradigmatičen primer mehanizma soglasja, vendar je njihova implementacija pov- zročila, da so uporabniki preobremenjeni z ogromnim številom zahtev za soglasje, pri čemer pa mnogi soglasje podajo pasivno, ne da bi se zavedali vsebine zahteve. V povezavi s piškotki je treba omeniti tudi 25. točko uvodnih izjav, ki določa, da so takšne naprave, kot so piškotki, lahko zakonito in uporabno orodje, na primer za ocenjevanje učinkovitosti oblikovanja spletnih strani in oglaševanja ter za preverjanje identitete uporabnikov v spletnih transakcijah. Uporabo teh naprav je treba dovoliti, če so namenjene zakoniti uporabi, kot je olajšanje ponudbe storitev informacijske družbe, seveda ob upoštevanju jasnih in natančnih informacij, ki jih uporabniki prejmejo v skladu z direktivo 95/46/ES o namenu piškotkov ali podobnih naprav, in sicer da so seznanjeni s podatki, ki se namestijo na njihovo terminalno opremo. Uporabnikom mora biti dana možnost, da zavrnejo shranjevanje piškotkov ali podobnih naprav na svoji opremi. To je še posebej pomembno, ko imajo uporabniki, ki niso prvotni uporabniki terminalne opreme, dostop do te opreme in s tem do vseh podatkov, ki vsebujejo občutljive zasebne informacije shranjene na njej. Podatki o uporabi različnih naprav, ki se lahko namestijo na uporabnikovo terminalno opremo, in pravica do zavrnitve teh naprav se lahko ponudijo samo enkrat med isto povezavo in se nanašajo tudi na morebitno nadaljnjo uporabo na podlagi teh naprav pri poz- nejših povezavah. Načini posredovanja informacij, zagotavljanje pravice do zavrnitve ali za- hteve za soglasje morajo biti čim bolj prijazni do uporabnika. Dostop do posebne vsebine na spletišču se lahko še vedno pogojno zagotovi z zavednim sprejetjem piškotkov ali podobnih naprav, če se te uporabljajo za zakonite namene. Drugič, soglasje je zahtevano tudi v 3. od- stavku 6. člena kot pogoj za neposredno tržno komuniciranje ponudnikov javno dostopnih elek- tronskih komunikacijskih storitev. Tretjič, soglasje je zahtevano v 1. odstavku 9. člena kot pogoj za zbiranje neanonimnih lokacijskih podatkov. Četrtič, soglasje je zahtevano v 3. odstavku 12. člena kot pogoj za uporabo podatkov v naročniškem imeniku brez iskanja kontaktov, čeprav imajo uporabniki možnost umakniti svoje podatke iz takšnih imenikov. In nazadnje, soglasje je zahtevano v 13. členu kot pogoj za sprejemanje nenaročenih avtomatiziranih klicev in komu- nikacijskih sistemov za neposredno trženje, pri čemer imajo uporabniki možnost, da zavrnejo takšne nenaročene klice. Namen predvidene Uredbe o e-zasebnosti je dopolniti določbe GDPR v zvezi z elektronsko komunikacijo in obdelavo podatkov ter nadgraditi pojmovanje in zahteve glede soglasja, kot jih opredeljuje uredba GDPR tudi v povezavi z avtomatsko obdelavo podatkov. 36 5 Tveganja in izzivi v zvezi z varstvom osebnih podatkov pri uporabi umetne inteligence Uporaba umetne inteligence (UI) prinaša številna tveganja in izzive v zvezi z varstvom osebnih podatkov (Skorobogatov, 2023, str. 4). Nekatera ključna tveganja in izzivi vključujejo pridobivanje osebnih podatkov, med katere sodijo tudi občutljivi podatki, ki jih UI lahko uporabi na način, ki ni v skladu z določili GDPR ali ZVOP-2. Med nadaljnja tveganja spada tudi nepoobla- ščen dostop, saj če sistemi UI niso ustrezno zavarovani pred nepooblaščenim dostopom, lahko zlonamerni uporabniki te občutljive ali ostale osebne podatke uporabijo v različne namene. Poudariti je treba tudi transparentnost in razumljivost odločitev, ki jih UI sprejema z avtomati-ziranim sistemom, in te odločitve lahko imajo negativne posledice na posameznike, pri čemer so lahko algoritmi v celoti nepregledni, neponovljivi in netransparentni, kar posameznikom ote- žuje razumevanje tega, na kakšen način je odločitev UI sprejeta in kakšne so dejanske pravice posameznikov v povezavi s temi odločitvami. Enako tudi velja za diskriminacijo, saj če so po- datki, na podlagi katerih je UI naučen sprejemati odločitve, pristranski, se lahko le-ta prenese na končne algoritme in odločitve sistemov UI. Tveganje zlorabe osebnih podatkov je mogoče zaslediti tudi v smislu povezovanja podatkovnih baz podatkov, kar lahko privede do dodatne izpostavljenosti osebnih podatkov. Povezovanje podatkov brez ustreznih varnostnih ukrepov in ukrepov zaščite zasebnosti lahko privede do neželenega razkrivanja osebnih podatkov ter obenem povečuje tveganje identifikacije posameznika, na katerega se ti podatki nanašajo. Dodatne izzive prinaša ponovna uporaba osebnih podatkov ali uporaba podatkov, ki so javno dostopni na spletu. Kot primer lahko navedem programsko orodje Clearview.AI, ki iz različnih spletnih virov pridobiva podatke o posameznikih in ustvarja obsežno bazo podatkov o več kot treh milijardah posameznikov. Z uporabo naprednih algoritmov UI omogoča hitro prepoznava- nje identitete posameznika na podlagi katere koli fotografije. Trenutno to orodje uporabljajo nekateri organi pregona in večje organizacije, v prihodnosti pa se pričakuje razširitev njegove uporabe. Tudi tu se pojavljajo tveganja, podobna tistim pri varstvu osebnih podatkov. Pomembno je razjasniti pravno podlago za ponovno uporabo javno dostopnih osebnih podatkov ter zagotoviti transparentnost delovanja orodja, zlasti pri sprejemanju odločitev, ko UI na podlagi fotografije prepozna posameznika. Prav tako je pomembno zagotoviti možnost ugovora zoper odločitve, ki jih sprejme UI. Hkrati pa je treba najti ravnotežje z legitimnimi interesi, kot so znanstveni napredek, gospodarska rast in večja uporabnost novih informacijskih orodij. Pri regulaciji umetne inteligence bi zato bilo smiselno uporabiti nekatere mehanizme, ki jih določa uredba GDPR. Ti mehanizmi vključujejo zakonitost obdelave podatkov, možnost 37 uveljavljanja nekaterih pravic ter možnost ugovora zoper odločitve, ki so v celoti posledica UI. Še posebej pomembna je možnost ugovora oziroma vključevanja človeškega odločevalca, zlasti v kontekstu kazenskega prava. Za zdaj ni razloga za strah, da bi algoritmi UI v celoti nadomestili sodnike. Nekateri avtorji predlagajo hibridne rešitve, kjer UI pripravi oceno, na primer verjetnost ponovitve kaznivega dejanja, in človeški sodnik nato na podlagi lastne presoje sprejme končno odločitev. 5.1 Podatkovno skrbništvo V zadnjem času se v pravnem okviru varstva osebnih podatkov pojavlja prehod s tradicional- nega koncepta pridobivanja soglasja uporabnika za obdelavo osebnih podatkov na koncept podatkovnega skrbništva. Ta prehod je odraz premika v razumevanju in urejanju odgovornosti za obdelavo osebnih podatkov ter poudarja večje poudarjanje transparentnosti, odgovornosti in zaupanja v postopkih zbiranja, obdelave in uporabe osebnih podatkov. Koncept podatkov- nega skrbništva temelji na ideji, da je posameznik lastnik svojih osebnih podatkov, medtem ko je organizacija, ki obdeluje te podatke, skrbnik teh podatkov in nosi določene odgovornosti za njihovo varnost in zasebnost. Namesto da bi organizacija pridobila zgolj soglasje uporabnika, se zdaj poudarja, da organizacija skrbi za osebne podatke v imenu posameznika v skladu z določbami zakonodaje o varstvu podatkov. Prehod na podatkovno skrbništvo prinaša večje zahteve po transparentnosti, kot je obveznost organizacij, da posameznikom zagotovijo natančne informacije o tem, kako se njihovi podatki zbirajo, obdelujejo in uporabljajo. Poleg tega organizacije nosijo odgovornost za varovanje podatkov ter zagotavljanje varnosti in zasebnosti podatkov v skladu z zakonodajo. Prav tako se poudarja potreba po vzpostavitvi jasnih in preglednih pravil glede hrambe podatkov, dostopa do podatkov ter obdelave podatkov le za določene namene, ki so skladni z zakonodajo o var- stvu podatkov. Pravne podlage za podatkovno skrbništvo so v obstoječih zakonodajnih instrumentih o varstvu podatkov, predvsem v GDPR, ki določa obveznosti skrbnikov podatkov, vključno z zahtevami po transparentnosti, varnosti podatkov, spoštovanju pravic posameznikov ter izvajanju ustrez- nih tehničnih in organizacijskih ukrepov za varstvo podatkov. V prihodnosti je mogoče priča- kovati, da se bo koncept podatkovnega skrbništva še naprej razvijal in krepil v okviru pravnih regulativ, ki bodo naslovile posebnosti in izzive umetne inteligence ter drugih tehnologij pri obdelavi osebnih podatkov. 38 5.2 Informacijska tveganja Uporaba UI prinaša tudi številna informacijska tveganja v zvezi z osebnimi podatki. Ključna tveganja vključujejo zlorabo osebnih podatkov, saj UI omogoča obdelavo velikega obsega po- datkov, kar povečuje tveganje zlorabe osebnih podatkov, kot so nepooblaščen dostop, kraja identitete, profiliranje in diskriminacija. Drugič, pride lahko do nezanesljivosti algoritmov, saj lahko napake ali pristranskost v algoritmih UI vodi do nepravičnih ali napačnih odločitev, kar lahko ima resne posledice na različnih področjih, vključno z zaposlovanjem, kreditiranjem, zdravstvenim varstvom in kazenskim preganjanjem. Tretjič, varnost podatkov je lahko pomanjkljiva, saj zbiranje in shranjevanje obsežnih podatkov za delovanje UI zahteva ustrezne var- nostne ukrepe, in če je varnost pomanjkljiva, lahko to vodi do nepooblaščenega dostopa ter izgube ali kraje podatkov, kar lahko posameznikom povzroči nepopravljivo škodo. Ostala tve- ganja so povezana s pomanjkljivo zasebnostjo v smislu nadzorovanja ali profiliranja, nedovo- ljene kombinacije podatkov, ki lahko identificirajo posameznika, kot zadnje pa obstaja tudi tveganje zaradi pomanjkljive odgovornosti za napake ali zlorabe. Obvladovanje teh tveganj zahteva razvoj in izvajanje ustrezne zakonodaje, katere okviri vklju- čujejo zahteve glede transparentnosti, privolitve, varnosti podatkov, pravic posameznikov in odgovornosti organizacij. Poleg tega je pomembno izvajati nadzor nad uporabo UI ter redne preglede in ocene učinka na varstvo podatkov. 5.3 Osredotočenost na uporabo zbranih podatkov Pri varstvu osebnih podatkov sta osredotočenost na uporabo zbranih podatkov in uporaba umetne inteligence ključnega pomena. Za zagotavljanje varstva podatkov je treba upoštevati naslednje vidike: − Namensko zbiranje podatkov: Pri zbiranju in obdelavi podatkov je ključno upoštevati načelo namenskega zbiranja. To pomeni, da se podatki zbirajo in uporabljajo samo za določen namen, ki je bil jasno in izčrpno določen ob pridobivanju soglasja posame- znika. − Skladnost z zakonodajo in etičnimi smernicami: Umetna inteligenca omogoča obsežno analizo in uporabo podatkov v različne namene. Pri tem je pomembno zagotoviti, da se uporaba umetne inteligence izvaja v skladu z zakonodajo o varstvu podatkov ter etičnimi smernicami. 39 − Pravni utemeljen razlog in soglasje: Organizacije, ki uporabljajo umetno inteligenco, morajo imeti pravno utemeljen razlog za obdelavo osebnih podatkov in pridobiti ustrezno soglasje posameznikov. Zagotoviti je treba, da so podatki, uporabljeni za tre- niranje algoritmov umetne inteligence, anonimizirani in zaščiteni pred nepooblaščenim dostopom. − Minimizacija podatkov: Pomembno je upoštevati načelo minimizacije podatkov, kar po- meni, da se zbirajo samo tisti podatki, ki so resnično potrebni za dosego določenega namena. Nepotreben obseg zbiranja podatkov povečuje tveganje za kršitev zasebnosti posameznikov in možnost zlorabe podatkov. Zagotavljanje varstva osebnih podatkov pri uporabi umetne inteligence zahteva skladnost z zakonodajo in etičnimi smernicami ter ustrezne ukrepe za varovanje podatkov. S tem se omo- goča zaupanje posameznikov in zmanjšuje tveganja za kršitve zasebnosti. Vgrajeno in pri-vzeto varstvo podatkov je opredeljeno tudi v 25. členu GDPR, ki med drugim določa tudi psev- donimizacijo podatkov, ki so oblikovani za učinkovito izvajanje načel varstva podatkov. 5.4 Odškodninska odgovornost neupravičene uporabe podatkov Vprašanje odškodninske odgovornosti v zvezi z uporabo umetne inteligence je kompleksno in zahteva temeljito analizo. Pri določanju odškodninske odgovornosti je treba upoštevati več dejavnikov: − Samostojnost umetne inteligence: Pomemben dejavnik je, ali je umetna inteligenca sa- mostojna in deluje avtonomno ali pa deluje pod nadzorom človeka. V primeru samo- stojne umetne inteligence se lahko postavi vprašanje, ali je pravno odgovorna za mo- rebitno škodo ali napake ali pa je odgovornost na strani lastnika, operaterja ali razvi- jalca sistema umetne inteligence. − Obstoj pravnega okvira: V nekaterih primerih že obstajajo pravni okviri, ki obravnavajo odgovornost za napake izdelka ali storitve. Če pride do škode zaradi napake ali pomanjkljivosti v sistemu umetne inteligence, bi lahko lastnik, operater ali razvijalec pre- vzel odgovornost za nastalo škodo. − Nadzor, vzdrževanje in skrbnost: Pomembno je upoštevati vprašanje nadzora, vzdrže- vanja in skrbnosti pri uporabi umetne inteligence. Če lastnik ali operater umetne inteli- gence ne izvaja ustrezne skrbnosti pri njeni uporabi, kar vodi do škode, bi lahko bili pravno odgovoren za nastalo škodo. 40 − Pravni okviri in posebni predpisi: Vprašanje odškodninske odgovornosti pri umetni inteligenci zahteva prilagodljivost pravnih okvirov za odražanje hitrega napredovanja teh- nologije. V nekaterih jurisdikcijah so se že začeli razvijati posebni predpisi, ki obravna- vajo odgovornost umetne inteligence. Pri odločanju o odškodninski odgovornosti v primeru umetne inteligence je pomembno upoš- tevati veljavne zakone, sodno prakso in morebitne posebne predpise v določeni državi ali na gospodarskem območju. Pravni okviri za odškodninsko odgovornost za umetno inteligenco so še vedno v razvoju in se lahko razlikujejo med različnimi državami članicami, čeprav iz 85. člena GDPR izhajajo določila glede kršitve varstva osebnih podatkov. Tako je 28. septembra 2022 EK predstavila Predlog direktive o prilagoditvi pravil o nepogodbeni civilni odgovornosti umetne inteligence,30 znan kot Direktiva o odgovornosti na področju umetne inteligence. Ta predvidena reforma EU ima dvojno vlogo, saj vključuje tudi spremembe obstoječe Direktive 85/374 o odgovornosti za proizvode z napako. Oba predloga direktiv sta zasnovana tako, da vzpostavita učinkovit sistem uveljavljanja odškodninske odgovornosti na področju umetne in- teligence, pri čemer se prvi predlog osredotoča na krivdno odgovornost, drugi pa na nekrivdno produktno odgovornost, pri obeh pa gre za zaščito oškodovancev z enako ravnjo pravnega varstva kot v primeru brez sistemov UI. Uporabljena so različna orodja, ki so v zakonodajah držav članic na voljo za zmanjšanje do- kaznega bremena.31 Ta predlog direktive ciljno usmerjeno in sorazmerno zmanjšuje dokazno breme z uporabo »razkritja dokazov« in »izpodbojnih domnev«.32 30 COM(2022) 496 final. 31 Če na primer samovozeči avtomobil trči v pešca, tožnik ve, da je bil zaradi trka poškodovan. Toda težko, če sploh, bo dokazal, kaj je povzročilo trk. Ali je šlo za okvaro v avtomobilskem algoritmu za zaznavanje pešcev, programsko napako, ki je nastala, ker lastnik avtomobila ni prenesel posodobitve, vdor v sisteme avtomobila ali napako voznika? Kot ugotavlja Evropska komisija, imajo oškodovanci zelo visoke vnaprejšnje stroške in se soočajo z bistveno daljšimi sodnimi postopki v primerjavi s primeri, ki ne vključujejo umetne inteligence... 32 Podobno je urejeno tudi v predlogu nove direktive o odgovornosti za proizvode z napako (COM(2022) 495 final). 41 6 Sklep Glede na zgoraj obrazloženo se v dobi hitrega napredka umetne inteligence postavlja vpraša- nje, kako zagotoviti ustrezno varstvo osebnih podatkov. UI omogoča zbiranje, obdelavo in upo- rabo velike količine podatkov, kar pa lahko prinaša tudi tveganja za zasebnost posameznikov. Čeprav je težko najti ravnotežje med zaščito posameznikov pri obdelavi njihovih osebnih po- datkov ter bliskovitim napredkom UI, je kot prva in najpomembnejša rešitev vzpostavitev jasne zakonodaje, ki ureja zbiranje, obdelavo in uporabo osebnih podatkov v povezavi z UI. Nadalje sta pomembna transparentnost in obveščanje posameznikov o postopkih obdelave njihovih podatkov, predvsem o tem, kateri podatki se zbirajo, kako se jih obdeluje in za kakšne namene se uporabljajo. Pomembna rešitev bi bila tudi vgrajena zasebnost (privacy by design), kar po- meni, da se zasebnost posameznikov upošteva že v fazi načrtovanja sistemov UI (Cavoukian, 2010, str. 1–5). To vključuje uporabo varnih privzetih nastavitev, omejevanje obsega zbiranja osebnih podatkov ter zagotavljanje anonimizacije ali šifriranja podatkov. Tudi varnost podatkov kot takšna je nujna za zagotavljanje varstva osebnih podatkov v pove- zavi z UI. To vključuje uporabo ustrezne varnostne infrastrukture, kot so šifriranje podatkov, nadzor dostopa, zaščita pred vdori in redno varnostno preverjanje sistemov. Če izhajamo iz zgornjih načel, pridejo v poštev zelo enostavne vertikalne pravne rešitve, ki se lahko vgradijo v obstoječi zakonodajni okvir na ravni EU, prav tako tudi na ravni držav članic. Ena od teh možnih rešitev je omejitev dostopa do osebnih podatkov, pri čemer je uporaba načela najmanjšega privilegija (least privilege) zelo enostavna, a zelo pomembna rešitev (Jero, 2021, str. 1–13), saj se uporabnikom in sistemom dodelijo le tista dovoljenja, ki so potrebna za opravljanje specifičnih nalog, prav tako pa se omeji dostop do preostalih podatkov, ki jih ne potrebujejo za svoje delo. Naslednja učinkovita rešitev je segmentacija podatkov, pri čemer se ti razdelijo oziroma segmentirajo na manjše skupine podatkov, predvsem glede na njihovo občutljivost in potrebo po dostopu. Vsaki skupini se nato dodelijo ustrezne stopnje dostopa, kar omogoča tudi boljši nadzor nad tem, kdo dejansko dostopa do posameznih skupin podat- kov. V povezavi z obema učinkovitima rešitvama je treba uporabiti mehanizme avtentikacije in avtorizacije, pri čemer se uporabijo močna gesla, večfaktorske avtentikacije ter dodeljevanje vlog in posledično pravic dostopa. Tudi močno šifriranje podatkov, tako v mirovanju kot pri prenosu, zagotavlja, da so podatki varni in nedostopni za nepooblašče osebe ali sisteme. Z vsemi temi elementi lahko bistveno pripomoremo k večji stopnji varstva zasebnosti in osebnih podatkov. 42 Dokaj preprosta pravna rešitev je tudi anonimizacija osebnih podatkov, pri kateri se s poseb- nim procesom odstranijo identifikacijski elementi iz podatkov, kar prepreči ali zelo oteži povezavo podatkov z določljivim posameznikom. GDPR npr. določa, da anonimizirani podatki niso več obravnavani kot osebni podatki, če se identifikacija posameznika ne more več razumno izvesti. Slednje pomeni, da se pravila GDPR ne uporabljajo za anonimizirane podatke, kar olajša njihovo uporabo v kontekstu UI. Vendar je pri anonimizaciji treba upoštevati več dejavnikov, med katerimi je med pomembnejšimi šifriranje, ki poskrbi, da so podatki zakodirani in nedostopni brez ustreznega ključa, kar pa predstavlja večjo stopnjo varnosti. Ta preprosta rešitev pa lahko postane brezpredmetna, predvsem v smislu hitrega napredka UI in posledično tolikšnega napredka, da bodo napredne metode UI in algoritmi analize podatkov omogočali razkritje identitete posameznika. V povezavi z že navedenim bi bilo treba mestoma dopolniti obstoječo zakonodajo o varstvu osebnih podatkov, osnovani na zgoraj navedenih konceptih in poenostavljenih rešitvah. Ven- dar je primarno treba vzpostaviti jasno in celovito opredelitev UI, saj v različnih zakonih, ured-bah in smernicah obstajajo različne opredelitve in definicije. Predlagani Akt o umetni inteligenci zajema ogromno področje, od računalniških metod, namenjenih opravljanju določenih nalog, do različnih algoritmov, ki temeljijo na strojnem učenju na podlagi vnaprej znanih pravil. Temeljno vodilo pri implementaciji UI v temeljne zakone o varstvu osebnih podatkov je zasle- dovanje pravnih norm, ki bi bile dovolj prožne, da bi zajele tudi nadaljnji razvoj umetne inteligence (Urbas, 2022, str. 8–10) ob upoštevanju specifičnih rešitev po različnih sektorjih, saj se sistemi UI uporabljajo v nekaterih sektorjih bolj kot v drugih (npr. energetika, informatika, zdrav-stvo), pri čemer ti sektorji tudi bolj potrebujejo osebne podatke za svoje delovanje. Tako bi bilo mogoče doseči uravnoteženo rešitev med podrobno opredelitvijo, ki bi ob bliskovitem napredku UI zastarela, ter nejasno opredelitvijo, ki bi dopuščala široko polje razlage in posledično arbitrarne odločitve, s čimer pa bi prišli na področje kršenja drugih temeljnih pravic posameznikov in temeljnih vrednot, na katerih je zasnovana EU. V zaključku lahko rečem, da je zagotavljanje varstva osebnih podatkov v dobi umetne inteli- gence ključnega pomena. Z jasno zakonodajo, transparentnostjo, vgrajeno zasebnostjo, opre- delitvijo namenov obdelave podatkov, pravicami posameznikov, varnostjo podatkov ter ozave- ščanjem in izobraževanjem lahko dosežemo ustrezno varstvo podatkov in ohranimo zasebnost posameznikov tudi v kontekstu UI. 43 Literatura 1. Borghi, M. (2013). Online data processing consent under EU law: a theoretical framework and empirical evidence from the UK. International Journal of Law and Information Technology, 109–153. http://dx.doi.org/10.2139/ssrn.2358921 2. Brundage, M. & others. (2018). The malicius use of artificial intelligence: Forecasting, prevention, and mitigation. Oxford university press. https://doi.org/10.48550/arXiv.1802.07228 3. Cavoukian, A. (2010). Privacy by design: The definitive workshop. Springer publishing. https://doi.org/10.1007/s12394-010-0062-y 4. Coeckelbergh, M. (2019). Artificial inteligence issues and regulatory challeges. Technology and regulation. 31–34. https://doi.org/10.26116/techreg.2019.003 5. De Hert, P. (2012). The proposed data protection regulation replacing Directive 95/46/EC: A sound system for the protection of individuals. Computer law & Security review. 130–142. https://dx.doi.org/10.2139/ssrn.3447095 6. Dore, I. I. (2007). The epistemological foundations of law. Carolina Academic Press. Druham 7. European Parliamentary Research Service EPRS. (2020). The impact of the General data protection regulation (GDPR) on artificial intelligence. STOA. PE 641.530. 8. Fornasier, M. (2022). Artificial intelligence and democratic rule of law. 13(3), 351–369, Unisinos publishing. https://dialnet.unirioja.es/descarga/articulo/8635830.pdf 9. Freeman, M.D.A. (2001). Lloyd's introduction to jurisprudence. Thomson Sweet & Maxwell. London. 10. Jero, S. & others. (2021). Practical principle of least privilege for secure embedded systems. https://www.sjero.net/pubs/2021_RTAS_Patina.pdf 11. McConville, M., Chui W. H. (ur.). (2007). Research methods for law. Edinburgh University Press. Edinburgh. 12. Pavčnik, M. (2004). Argumentacija v pravu: Od življenjskega primera do pravne odločitve. Pravna fakulteta in Cankarjeva založba. Ljubljana. 13. Reda, J., Selinger, J. & Servatius, M. (2020). Article 17 of the Directive on Copyright in the Digital Single Market: A fundamental rights assesment. Gesellschaft fur Freiheitsrechte. https://freiheit- srechte.org/uploads/publications/Demokratie/Article17_Fundamental_Rights-Ge- sellschaft_fuer_Freiheitsrechte_2020_Projekt_Control_C.pdf 14. Skorobogatov, A. V., & Krasnov, A. V. (2023). Law nature of artificial intelligence. Problems of Information Society, 14(1), 3–13. http://doi.org/10.25045/jpis.v14.i1.01 15. Stahl, B.C. (2021). Ethical issues of AI. V Artificial intelligence for a better future, an ecosystem perspective on the ethics of AI and emerging digital technologies. 35–53. https://doi.org/10.1007/978-3-030-69978-9_4 16. Tene, O. (2010). Privacy: The new generations. International Data Privacy Law, https://ssrn.com/ab- stract=1710688 17. Urbas, T. (2022). Ali bo regulacija umetne inteligence odprla Pandorino skrinjico?. Pravna praksa, št. 39–40, 8–10. https://www.iusinfo.si/literatura/L010Y2022V39-40P8-10N1/ 44 18. Westerlund, M. (2019). The emergence of deepfake technology: A review. Technology Innovation Management Review, 9(11), 39–49. https://www.proquest.com/docview/2329154005 19. Zelenika, R. (2006). Metodologija i tehnologija izrade znanstvenog i stručnog djela. Sveučilište u Rijeci. Rijeka. 45 ANALIZA KAZALCEV DIGITALNE KONKURENČNOSTI ZA SLOVENIJO Tine Merhar Študent, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija tine.merhar@student.um.si Nejc Fir, mag. ekon. in posl. ved Asistent, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija nejc.fir@um.si Povzetek: V času pandemije covida-19 je z vzpostavitvijo Sklada za okrevanje in odpornost med državami Evropske unije prevladal politični konsenz glede nujnosti pospešitve procesa digitalizacije kot enega izmed ključnih dejavnikov dinamike nadaljnjega gospodarskega razvoja. Indeks digitalnega gospodarstva in družbe (DESI), odražajoč digitalno konkurenčnost države, za Slovenijo beleži nadpovprečno vrednost v primerjavi s povprečjem držav Evropske unije. V prispevku bomo preučili komponente indeksa DESI in ostale kazalce digitalizacije za Slovenijo ter jih primerjali s povprečjem držav Evropske unije in najuspešnejšimi državami pri posameznih kazalcih. Kljub vrednosti kompozitnega indeksa DESI za Slovenijo, ki presega povprečje držav Evropske unije, lahko pri posameznih komponentah indeksa DESI in ostalih izbranih kazalcih digitalne konkurenčnosti zaznamo podpovprečne vrednosti v primerjavi s povprečjem držav Evropske unije. Identificirani kazalci odsevajo področja digitalizacije, na katerih Slovenija izkazuje razvojno vrzel in potrebo po dodatnih ukrepih ekonomske politike za povečanje digitalne konkurenčnosti. Ključne besede: digitalizacija, digitalna konkurenčnost, Slovenija, razvojni potenciali, indeks DESI 46 1 Uvod Človeštvo je bilo skozi zgodovino zaznamovano z mnogimi tehnološkimi revolucijami, ki so vplivale na delovanje družbe in gospodarstva. Proces digitalizacije, kot je tehnološka revolu- cija, je večji zagon doživel na začetku 21. stoletja, ki je bilo zaznamovano z intenzivnim procesom širjenja uporabe digitalnih dobrin in storitev (Rindfleisch, 2020). Države Evropske unije so prepoznale pomen digitalizacije pri trajnostnem, odpornem in vključujočem družbenoekonom-skem razvoju, s katerim ustrezno naslovimo izzive prihodnosti ter priložnosti za gospodarski razvoj. Za spodbujanje digitalnega prehoda je v okviru Sklada za okrevanje in odpornost drža- vam na voljo najmanj 20 % celotnih razpoložljivih sredstev sklada (EIB, 2023). Del omenjenih sredstev je namenjen Sloveniji, zaradi česar nas je v okviru raziskave zanimalo njeno stanje digitalne konkurenčnosti v primerjavi s povprečjem držav Evropske unije in posa- meznimi vodilnimi državami. Skozi raziskavo smo predstavili empirična dognanja vpliva digi- talizacije na ekonomijo in opravili pregled komponent indeksa DESI ter ostalih izbranih kazal- cev digitalne konkurenčnosti za Slovenijo, kjer smo primerjali kazalce na sektorski ravni. V kvantitativnem delu raziskave smo z Wardovo metodo združili države v skupine glede na digi- talno konkurenčnost, da smo lahko pridobili pregled nad skupnimi lastnostmi med državami. Raziskava je temeljila na statični analizi s proučevanjem zadnjih razpoložljivih podatkov iz leta 2022. Pri analizi kazalcev digitalne konkurenčnosti smo uporabili tako deskriptivno kot tudi komparativno metodo, medtem ko je pregled empirične literature temeljil na metodi kompilacije. 2 Pomen digitalizacije za ekonomijo, gospodarsko rast in produktivnost Digitalni prehod za nosilce ekonomske politike predstavlja izziv, in sicer kako tehnološke spremembe izkoristiti za dvig produktivnosti in pospešitev gospodarske rasti ter ustrezno nasloviti strukturne spremembe na trgu dela (Morandini idr., 2020). Kot ključen dejavnik gospodarske rasti se je izkazalo povečanje digitalnega človeškega kapitala, ki se nanaša na razvoj spretnosti in znanja, potrebnega za delovanje v digitalnem gospodarstvu (World Bank, 2019). Imple- mentacija novih digitalnih tehnologij, ki delno nadomestijo potrebo po človeški delovni sili in povzročijo dvig produktivnosti, lahko ob elastičnem povpraševanju po proizvodih vpliva na pospešitev stopnje rasti zaposlovanja v gospodarstvu (Bessen, 2018). Glede na ugotovitve Mure in Donatha (2023) je bilo na vzorcu držav EU-28 zaznati pozitivno povezavo med investicijami v digitalizacijo in gospodarsko rastjo, kar avtorja dodatno potrjujeta z uporabo indeksa DESI kot neodvisne spremenljivke v njunem ekonometričnem modelu. ECB (2018) poudarja, da 47 proces digitalizacije za gospodarstvo predstavlja pozitiven ponudbeni šok z učinkom na pove- čanje obsega potencialnega proizvoda preko povečanja skupne faktorske produktivnosti. Di- gitalizacija vpliva na spremembe relativnih cenovnih razmerij in delitev dela med proizvodnimi dejavniki, kar povzroča spremembo konkurenčnosti položaja podjetij na trgu. Acemoglu (2002) po drugi strani navaja, da vpeljava novih tehnologij zmanjšuje vrednost ob- stoječega znanja in spretnosti nizko usposobljene delovne sile, zaradi česar ima ta manj koristi od tehnoloških izboljšav kot visoko usposobljena delovna sila. Avtor prav tako opozarja, da so lahko pozitivni učinki na stopnjo zaposlenosti, zaradi večje produktivnosti kapitala in visoko usposobljene delovne sile z nizko stopnjo mejne nagnjenosti k potrošnji, omejeni ali odprav-ljeni. Opisani učinki so posledica izgube delovnih mest nizko usposobljene delovne sile z vi- soko stopnjo mejne nagnjenosti k potrošnji. Spreminjajoči se trg dela od iskalcev zaposlitve zahteva nova digitalna znanja, kar v primeru vzpostavitve večjih strukturnih neskladij med povpraševanjem po delovni sili z naprednimi digitalnimi znanji in ponudbo dela z neustreznimi digitalnimi znanji vodi do pojava strukturne brezposelnosti in povečanja deleža neaktivnega prebivalstva (Morandini idr., 2020). Posamezniki z višjo usposobljenostjo imajo več možnosti za ohranitev zaposlitve in prilagodi- tev spremenjenim razmeram na trgu dela (Bechichi idr., 2018). Podobno ugotavlja ECB (2018), in sicer da so delovna mesta z nizko in srednje visokimi zahtevami po usposobljenosti delovne sile bolj podvržena digitalizaciji kot pa delovna mesta z zahtevano visoko usposobljenostjo delovne sile. Pomanjkanje naprednih digitalnih znanj, ki so del digitalnega človeškega kapitala, med delovno silo na trgu dela lahko deluje zavirajoče pri realizaciji investicij v tehnoloških sektorjih z veliko dodano vrednostjo na zaposlenega in vpliva na upočasnitev procesa širjenja ter prevzemanja novih tehnologij v gospodarstvu. Omenjeni dejavnik ima negativne učinke na bo-dočo stopnjo gospodarske rasti in stopnjo rasti produktivnosti (Andrew idr., 2018). Brynjolfsson idr. (2017) razvoj digitalnih tehnologij povezujejo s povečanjem količine neoprijemljivega digitalnega kapitala, katerega vpliv na rast produktivnosti uradne statistike ne zajemajo v celoti. Mnoge storitve, ki jih ponuja internet, so brezplačne, kar nakazuje na potrebo po spremembi pristopa k izvajanju meritev ekonomske aktivnosti. Brodny in Tutak (2022) ugotavljata, da za države Vzhodne Evrope, kamor uvrščata Slovenijo, obstaja močna povezava med višino indeksa digitalizacije za srednje velika podjetja in višino BDP na prebivalca, medtem ko je ta šibkejša pri indeksu digitalizacije velikih podjetij. Avtorja prav tako poudarjata, da je od višine izdatkov za raziskave in razvoj odvisna stopnja digitalizacije, ki je višja v visoko konkurenčnih in inovativnih državah. Razlike v hitrosti prevzemanja 48 digitalnih tehnologij med posameznimi državami EU in na sektorski ravni lahko privedejo do povečanja ali nastanka vrzeli v produktivnosti, zaradi česar je potreben koordiniran pristop na ravni EU (Mura & Donath, 2023). Koncentracija digitalnih tehnologij na urbanih območjih vpliva na pojav neizkoriščenega potenciala za gospodarsko rast ob širitvi digitalnih tehnologij na ru-ralna območja (Gal idr., 2019). 3 Metodologija merjenja digitalne konkurenčnosti Indeks digitalnega gospodarstva in družbe (DESI) zajema kazalnike digitalne konkurenčnosti držav Evropske unije in spremlja njihov napredek. Sestavljen je iz štirih osnovnih komponent z naslednjimi utežmi: človeški kapital (w1 = 0,25), povezljivost (w2 = 0,25), integracija digitalnih tehnologij (w3 = 0,25) in digitalne javne storitve (w4 = 0,25). Navedene komponente v nadaljevanju delimo na podkomponente. Človeški kapital delimo na spletne uporabniške spretnosti (w11 = 0,5) in napredna znanja in spretnosti ter razvoj (w12 = 0,5). Povezljivost delimo na uporabo fiksnih širokopasovnih povezav (w21 = 0,25), pokritost s fiksno širokopasovno povezavo (w22 = 0,25), mobilno širokopasovno povezavo (w23 = 0,4) in cenovni indeks širokopa- sovnih povezav (w24 = 0,1). Integracijo digitalnih tehnologij delimo na digitalno intenzivnost (w31 = 0,15), digitalne tehnologije za podjetja (w32 = 0,70) in e-poslovanje (w33 = 0,15). Digitalne javne storitve sestavlja digitalna javna uprava (w4 = 1). Večina posameznih indikatorjev znotraj podkomponent ima enake uteži z izjemo indikatorjev, ki merijo specifične digitalne cilje Evropske komisije v okviru programa Digitalni kompas 2030. V sklopu človeškega kapitala sta to indikator posameznikov z najmanj osnovnimi digitalnimi spretnostmi in indikator IKT-strokovnjakov ter IKT-strokovnjakinj. V sklopu povezljivosti je to indikator pokritosti z omrežjem 5G in pokritosti s fiksnim širokopasovnim internetom. V sklopu integracije digitalnih tehnologij so to indikator malih in srednje velikih podjetij z osnovno ravnjo digitalne intenzivnosti, indikator umetne inteligence, indikator storitev v oblaku in indikator tehnologij masovnih podatkov. V sklopu digitalnih javnih storitev je to indikator digitalnih javnih storitev za državljane in podjetja. Omenjeni indikatorji imajo podvojene uteži napram ostalim indikatorjem znotraj posamezne podkomponente, odražajoč njihovo izrazitejšo vlogo pri zasledovanju digitalnih ciljev Evropske komisije do leta 2030 (Evropska komisija, 2022). Izračun posameznih komponent indeksa DESI poteka z uporabo metode tehtanih aritmetičnih sredin. Uteži v indeksu DESI so določene arbitrarno, kar pomeni, da je izbira uteži opravljena na podlagi predhodne analize doseganja ciljev digitalne konkurenčnosti. Ustrezna izbira uteži pripomore k smiselnosti indeksa in aplikativnosti za politične odločevalce ter nakazuje na 49 potrebo po spremljanju zanesljivosti interpretacije vrednosti indeksa. Metodologija zbiranja podatkov Eurostata za podatkovno bazo Način pridobivanja informacijsko-komunikacijskih spret- nosti temelji na vzpostavitvi reprezentativnega vzorca vključene skupine prebivalstva, med 16. in 74. letom starosti, in sicer za vsako državo članico Evropske unije. Vzorci se pridobivajo na letni ravni iz nacionalnih statističnih uradov (ibid.). 4 Analiza indeksa DESI V analizi digitalne konkurenčnosti Slovenije na podlagi Indeksa digitalne konkurenčnosti (DESI) bomo uporabili t. i. »top-down« pristop. Slednje pomeni, da bomo najprej obravnavali agregatne oziroma skupne vrednosti kompozitnega indeksa, nato se bomo lotili preučevanja posameznih komponent indeksa in posebno pozornost namenili kazalcem, ki sestavljajo kom- ponenti človeškega kapitala in integracije digitalnih tehnologij. Pri preučevanju bomo posebej izpostavili tri najuspešnejše oziroma vodilne države na posameznih področjih digitalizacije in primerjali položaj Slovenije s temi državami in povprečjem Evropske unije. Slika 1 prikazuje vrednosti kompozitnega indeksa DESI in sestavo indeksa po komponentah v letu 2022 za vodilne tri države na področju digitalne konkurenčnosti, Slovenijo in povprečje Evropske unije. Ugotovimo lahko, da je najbolj digitalno konkurenčna država Finska z vrednostjo indeksa 69,6. V skupino treh najuspešnejših držav po vrednosti Indeksa digitalne konkurenčnosti sodita tudi Danska z 69,3 in Nizozemska s 66,4. Slovenija dosega nadpovprečno vrednost indeksa v pri- merjavi z državami Evropske unije, saj njena vrednost indeksa znaša 53,4, kar je za 1,1 indek- sne točke več od povprečja Evropske unije. Vrednost indeksa DESI uvršča Slovenijo na 11. mesto med državami Evropske unije. Vendar je razkorak med najuspešnejšimi državami na področju digitalne konkurenčnosti in Slovenijo relativno velik, saj Slovenija zaostaja za najbolj digitalno konkurenčno Finsko za 16,2 indeksne točke (Evropska komisija, 2023). 50 Slika 1: Vrednosti kompozitnega indeksa DESI in njegova sestava v letu 2022 za vodilne tri dr- žave, Slovenijo in povprečje Evropske unije 80 70 e 60 k 50 toč ne 40 sek 30 ndi 20 10 0 Finska Danska Nizozemska Slovenija EU Človeški kapital Povezljivost Integracija digitalnih tehnologij Digitalne javne storitve Vir podatkov: Evropska komisija (2023). V nadaljevanju bomo preučili komponente indeksa DESI in po posameznih komponentah ter njenih kazalcih identificirali morebitna področja, kjer obstaja občutna vrzel med Slovenijo in najuspešnejšimi državami Evropske unije. Najprej se bomo osredotočili na komponento člove- škega kapitala, ki je za leto 2022 prikazan na sliki 2. Slovenija se z vrednostjo komponente človeškega kapitala 44,3 uvršča pod povprečje Evropske unije, in sicer za 1,5 indeksne točke. Glede na komponento človeškega kapitala izstopa Finska, ki dosega vrednost 71,4 in je za 27,1 indeksne točke uspešnejša od Slovenije. Finski sledita Nizozemska in Irska z vrednost- nima 63,1 in 62,4, kar predstavlja relativno veliko odstopanje Slovenije, ki za tretjeuvrščeno Irsko znaša 18,4 indeksne točke. Zaostajanje za povprečjem Evropske unije je prisotno pri kazalcu spletne uporabniške spretnosti, saj je vrednost tega kazalca za Slovenijo za 2,3 indeksne točke pod povprečjem Evropske unije. Pri spletnih uporabniških spretnostih je zaosta- janje Slovenije za najuspešnejšo Finsko večje, saj vrzel znaša 35,3 indeksne točke. Pri napre- dnih znanjih in spretnostih ter razvoju je Slovenija relativno uspešnejša kot pri prvem obravna-vanem kazalcu, saj presega povprečje Evropske unije za 0,8 indeksne točke, kljub temu pa beleži zaostanek za vodilno Finsko, ki znaša 11,6 indeksne točke (Evropska komisija, 2023). 51 Slika 2: Vrednosti komponente človeškega kapitala v letu 2022 za vodilne tri države, Slovenijo in povprečje Evropske unije 80 70 60 ek 50 toč ne 40 sek 30 ndi 20 10 0 Finska Nizozemska Irska EU Slovenija Spletne uporabniške spretnosti Napredna znanja in spretnosti ter razvoj Vir podatkov: Evropska komisija (2023). Na sliki 3 si lahko ogledamo vrednosti indeksne komponente povezljivosti. Najuspešnejša dr- žava na področju povezljivosti je Danska, ki ima največjo prednost pred ostalimi državami pri kazalcu mobilne širokopasovne povezave. Slovenija se glede na komponento povezljivosti z vrednostjo 59,9 nahaja malenkost pod povprečjem Evropske unije, pri čemer je razlika pod 0,1 indeksne točke. Kazalca prevzema fiksne širokopasovne povezave in mobilne širokopasovne povezave izkazujeta relativno zaostajanje za povprečjem Evropske unije, ki znaša 1,8 in 1,5 indeksne točke. Podobno velja tudi pri primerjavi z najuspešnejšimi državami na področju po- vezljivosti, saj je ob že omenjenima kazalcema med Slovenijo in najuspešnejšimi državami vrzel, ki presega 3,5 indeksne točke. Relativno največje zaostajanje beležimo pri kazalcu mo- bilne širokopasovne povezave, kjer Slovenija za Dansko zaostaja za 13,7 indeksne točke. Slednji kazalec prav tako prispeva relativno največ k skupni razliki med Slovenijo in Dansko, ki znaša 22,3 indeksne točke. Kazalec širokopasovnega cenovnega indeksa uvršča Slovenijo nad povprečje Evropske unije za 1,6 indeksne točke, kot tudi pred Dansko, Nizozemsko in Španijo, ki so pri komponenti povezljivosti najvišje uvrščene. Vendar slednje ne predstavlja bistvene primerjalne prednosti, saj so številne države, ki so se pridružile Evropski uniji po letu 2004, uvrščene pred Slovenijo (Evropska komisija, 2023). 52 Slika 3: Vrednosti komponente povezljivosti v letu 2022 za vodilne tri države, Slovenijo in povprečje Evropske unije 90 80 70 ek 60 toč 50 nes 40 ek 30 ndi 20 10 0 Danska Nizozemska Španija EU Slovenija Prevzem fiksne širokopasovne povezave Pokritost fiksne širokopasovne povezave Mobilna širokopasovna povezava Širokopasovni cenovni indeks Vir podatkov: Evropska komisija (2023). Tretja obravnavana komponenta indeksa DESI je integracija digitalnih tehnologij, prikazana na sliki 4. Najuspešnejša država je ponovno Finska, ki ima za 19,2 indeksne točke večjo vrednost omenjene komponente od Slovenije, ki znaša 39,8 indeksne točke. Slovenija z 39,8 indeksne točke pri omenjeni komponenti presega povprečje Evropske unije za 3,8 indeksne točke. Slo- venija presega povprečje Evropske unije pri vseh treh kazalcih integracije digitalnih tehnologij, pri čemer je to najizrazitejše pri kazalcu digitalnih tehnologij za podjetja, kjer Slovenija presega povprečje Evropske unije za 2,4 indeksne točke. Sledita kazalec e-poslovanje, kjer presega povprečje Evropske unije za 1,3 indeksne točke, in kazalec digitalne intenzivnosti, kjer presega povprečje Evropske unije za 0,1 indeksne točke. Vendar ko primerjamo vrednosti kazalcev za Slovenijo z najuspešnejšo Finsko, lahko ugotovimo, da je relativno največja vrzel prisotna pri digitalnih tehnologijah za podjetja, kjer Slovenija zaostaja za 14,8 indeksne točke. Pri digitalni intenzivnosti znaša zaostajanje Slovenije za Finsko 5 indeksnih točk, medtem ko pri e-poslovanju Slovenija dosega za 0,5 indeksne točke večjo vrednost kazalca od Finske (Evropska komisija, 2023). 53 Slika 4: Vrednosti komponente integracije digitalnih tehnologij v letu 2022 za vodilne tri države, Slovenijo in povprečje Evropske unije 70 60 50 čketo 40 ksne 30 edin 20 10 0 Finska Danska Švedska Slovenija EU Digitalna intenzivnost Digitalne tehnologije za podjetja e-poslovanje Vir podatkov: Evropska komisija (2023). Zadnja obravnavana komponenta indeksa DESI je komponenta digitalnih javnih storitev, ki je predstavljena z enotnim istoimenskim kazalcem in je prikazana na sliki 1. Na področju digital- nih javnih storitev je najuspešnejša Estonija z vrednostjo kazalca 22,8, ki ji z razliko, manjšo od 1,5 indeksne točke, sledita Finska in Malta. Slovenija z vrednostjo kazalca 17,4 presega povprečje Evropske unije za 0,5 indeksne točke in zaostaja za najuspešnejšo Estonijo za 5,4 indeksne točke (Evropska komisija, 2023). 5 Digitalna intenzivnost Pomemben pokazatelj integracije digitalnih tehnologij predstavlja kazalec digitalne intenzivnosti oziroma stopnje digitalizacije, saj lahko podjetja z uporabo digitalnih storitev izboljšajo kakovost svojega blaga in storitev ter povečajo svojo konkurenčnost (Eurostat, 2021). Digitalna intenzivnost se meri z indeksom digitalne intenzivnosti, sestavljenim iz 12 kazalcev, ki merijo uporabo digitalnih tehnologij v podjetjih. Delitev podjetij glede na raven digitalne intenzivnosti je narejena na osnovi točkovanja s kazalci1, pri čemer so podjetja razvrščena na naslednji 1 Kazalci, ki se merijo v indeksu digitalne intenzivnosti, so naslednji (SURS, 2022): dostop do interneta za službene namene ima več kot polovica zaposlenih in samozaposlenih v podjetju; podjetje zaposluje strokovnjake za IKT; največja pogodbeno zagotovljena hitrost prenosa najhitrejše fiksne internetne povezave podjetja je vsaj 30 Mbit/s; podjetje izvaja sestanke na daljavo; podjetje obvešča zaposlene in samozaposlene o njihovih obveznostih v zvezi z varno uporabo IKT-podjetja; podjetje je zaposlenim in samozaposlenim ponudilo izobraževanje za izpopolnitev ali pridobitev veščin (znanj) v prejšnjem letu; 54 način. Podjetja, ki dosežejo od 0 do 3 točke, so uvrščena med zelo nizko digitalno intenzivna podjetja, vrednosti točk od 4 do 6 podjetja uvrstijo med nizko digitalno intenzivna podjetja, od 7 do 9 doseženih točk pomeni visoko digitalno intenzivnost v posameznih podjetjih, vrednosti od 10 do 12 točk pa predstavljajo najvišjo raven digitalne intenzivnosti, ki se imenuje zelo visoka digitalna intenzivnost podjetij (Eurostat, 2022). Slovenija je leta 2022 med podjetji z 10 ali več zaposlenimi imela naslednjo strukturo indeksa digitalne intenzivnosti: 32 % zelo nizka, 35 % nizka, 28 % visoka in 5 % zelo visoka digitalna intenzivnost (SURS, 2022). Digitalno intenzivnost je smiselno proučevati po gospodarskih dejavnostih zaradi specifičnosti uporabe digitalne tehnologije v posamezni gospodarski dejavnosti, zato lahko s proučevanjem deleža podjetij z visoko in zelo visoko digitalno intenzivnostjo v posamezni gospodarski dejavnosti naredimo primerjavo sektorjev med državami. Osredotočanje na visoko in zelo visoko digitalno intenzivna podjetja nam omogoča identifikacijo vrzeli v digitalni intenzivnosti posamezne gospodarske dejavnosti v primerjavi z najuspešnejšimi pri uporabi digitalnih tehnologij v poslovnih procesih. Primerjava posameznih gospodarskih dejavnosti po klasifikaciji Nace Rev. 2 je prikazana na sliki 5, kjer je predstavljen delež visoko digitalno intenzivnih podjetij z 10 ali več zaposlenimi leta 2022. Pri vsaki posamezni gospodarski dejavnosti najprej predstavljamo državo z najve- čjim deležem visoko digitalno intenzivnih podjetij, sledi predstavitev za Slovenijo in povprečja Evropske unije. V sektorju J (informacijske in komunikacijske dejavnosti) je prisotna relativno največja zgoščenost držav okrog povprečja Evropske unije in v tej gospodarski dejavnosti vse države dosegajo največje deleže visoko digitalno intenzivnih podjetij. Slednje je mogoče po- vezati z značilnostmi te gospodarske dejavnosti, pri čemer Slovenija v sektorju J dosega 5. mesto med državami Evropske unije glede na delež visoko digitalno intenzivnih podjetij. Slo- venija v primerjavi s povprečjem držav Evropske unije dosega nadpovprečne deleže visoko digitalno intenzivnih podjetij v gospodarskih dejavnostih C (predelovalna dejavnost), DE (oskrba z električno energijo, plinom in paro ter vodo, ravnanje z odplakami in saniranje okolja), podjetje uporablja vsaj tri varnostne ukrepe ali postopke; podjetje ima dokument(e) o varnostnih ukrepih, praksah ali postopkih za varno uporabo IKT oz. ima vzpostavljeno politiko varovanja informacij; zaposleni in samozaposleni imajo oddaljeni dostop do elektronske pošte, dokumentov podjetja, poslovnih aplikacij ali programske opreme podjetja; podjetje uporablja robote (industrijske ali storitvene); podjetje je več kot 1 % svojega prihodka v prejšnjem letu ustvarilo s prodajo prek računalniških omrežij – spletnih strani ali računalniške izmenjave podatkov (RIP); podjetje je več kot 1 % svojega prihodka v prejšnjem letu ustvarilo s prodajo na spletnih straneh in spletna prodaja končnim potrošnikom (B2C) je pomenila več kot 10 % vrednosti spletne prodaje. 55 G (trgovina, vzdrževanje in popravila motornih vozil), I (gostinstvo), J in N (druge raznovrstne poslovne dejavnosti). V gospodarski dejavnosti DE se Slovenija uvršča na 3. mesto v Evropski uniji po deležu visoko digitalno intenzivnih podjetij, pri čemer znaša zaostanek za najvišje uvr- ščeno Finsko zgolj 0,8 o. t. Relativno visoko uvrstitev v primerjavi s povprečjem držav Evrop- ske unije dosega Slovenija tudi v gospodarski dejavnosti G, saj se nahaja na 5. mestu po deležu visoko digitalno intenzivnih podjetij. V gospodarskih dejavnostih C, I in N, kjer v primerjavi s povprečjem držav Evropske unije dosegamo nadpovprečne vrednosti, Slovenija izkazuje relativno visok zaostanek za državami z največjimi deleži visoko digitalno intenzivnih podjetij. Na drugi strani pa Slovenija v primerjavi s povprečjem držav Evropske unije dosega podpov- prečne deleže v gospodarskih dejavnostih F (gradbeništvo), H (promet in skladiščenje) in M (strokovne, znanstvene in tehnične dejavnosti). Med omenjenimi gospodarskimi dejavnostmi izstopa predvsem sektor F, v katerem imata od Slovenije manjši delež visoko digitalno inten- zivnih podjetij zgolj Bolgarija in Hrvaška, medtem ko ima najvišje uvrščena Švedska za 33,9 odstotne točke večji delež (Eurostat, 2023a). Slika 5: Delež visoko digitalno intenzivnih podjetij med vsemi podjetji v sektorjih po klasifikaciji Nace Rev. 2 v letu 2022 90 80 70 60 50 % 40 30 20 10 0 ak aj a aj a aj a aj ta aj a aj rg aj a aj a aj s i EU k i EU ks i EU ks i EU l i EU ks i EU u i EU k i EU k i EU d s n n n a n b n s n s e en n e d e d e en d e e n e n en v M Fi v e v e v v e v v v v o o o o m o Fi o Fi Šv e Slo Sl Šv Sl Šv Sl Slo Šv Sl sk Sl Sl Slo uL C DE F G H I J M N Vir podatkov: Eurostat (2023a). Zelo visoka digitalna intenzivnost predstavlja najvišjo raven uporabe digitalnih tehnologij v poslovnih procesih, zato nas zanima, kako so uspešne slovenske gospodarske dejavnosti na tem področju. Slika 6 prikazuje delež zelo visoko digitalno intenzivnih podjetij v posameznih 56 gospodarskih dejavnostih v skladu z delitvijo Nace Rev. 22 za leto 2022, pri čemer so analogno, kot na sliki 5, prikazane države z največjim deležem zelo visoko digitalno intenzivnih podjetij v posamezni gospodarski dejavnosti, Slovenija in povprečje Evropske unije. Opazimo lahko, da so pri obravnavi gospodarskih dejavnosti deleži zelo visoko digitalno intenzivnih podjetij relativno manjši kot pri visoko digitalno intenzivnih podjetjih, zato so tudi razlike med državami relativno manjše. Ugotavljamo, da je Slovenija imela relativno velik delež visoko digitalno intenzivnih podjetij v gospodarski dejavnosti DE, kar pa ne velja za delež zelo visoko digitalno intenzivnih podjetij, kjer je Slovenija v primerjavi s povprečjem držav Evropske unije podpovprečna in beleži relativno velik zaostanek za Švedsko, ki znaša 23,2 o. t. (Eurostat, 2023a). Pri analizi deležev zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v gospodarskih dejavnostih, kar prikazujemo na sliki 6, ugotavljamo, da Slovenija beleži relativno velik zaostanek v gospodarskih dejavnostih C, G in J za najuspešnejšo državo Evropske unije, kljub temu pa presega povprečje držav Evropske unije. V Sloveniji lahko med gospodarskimi dejavnostmi z nadpovprečnimi vrednostmi glede na povprečje držav Evropske unije dodatno naštejemo še gospodarski dejavnosti I in M. Gospodarska dejavnost M prav tako predstavlja edino gospo- darsko dejavnost, kjer je Slovenija izboljšala svoj položaj (iz podpovprečnega v nadpovprečni delež) v primerjavi s povprečjem držav Evropske unije pri primerjalni analizi vrednosti visoko in zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v gospodarskih dejavnostih. Med podpovprečnimi gospodarskimi dejavnostmi glede na povprečje držav Evropske unije lahko v Sloveniji zasledimo gospodarske dejavnosti DE, F, H in N. Gospodarska dejavnost N je tako kot gospodarska dejavnost M spremenila svoj položaj iz nadpovprečne v podpovprečno gospodarsko dejavnost glede na države Evropske unije, in sicer ob primerjavi visoke in zelo visoke digitalne intenzivnosti podjetij. Vidik najvišje ravni digitalne intenzivnosti je pomemben, saj omogoča identifikacijo vrzeli pri posameznih gospodarskih dejavnostih, kjer je zaostanek za povprečjem Evropske unije in tudi za najuspešnejšo državo največji (ibid.). 2 Prikazana delitev sektorjev po Nace Rev. 2. je sledeča (Braunsberger idr., 2010): C – predelovalna dejavnost; DE – oskrba z električno energijo, plinom in paro ter vodo, ravnanje z odplakami in saniranje okolja; F – gradbeništvo; G – trgovina, vzdrževanje in popravila motornih vozil; H – promet in skladiščenje; I – gostinstvo; J – informacijske in komunikacijske dejavnosti; M – strokovne, znanstvene in tehnične dejavnosti; N – druge raznovrstne poslovne dejavnosti. 57 Slika 6: Delež zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v sektorjih po klasifikaciji Nace Rev. 2 v letu 2022 30 25 20 % 15 10 5 0 a a a a a a a a a a a a a a a a a k ji k ji ji ji k ji k ji k ji ji k ji tal ji s EU s n EU g n EU s n EU s EU s n EU tvi n EU s n EU a EU en d e l e n e en n e L e e en v e v v v v v v v M v Dan o Be o Fi o Dan Fi o o Dan o Slo Šv Sl Sl Sl Slo Sl Sl Sl Slo C DE F G H I J M N Vir podatkov: Eurostat (2023a). 6 Strokovnjaki za informacijsko-komunikacijsko tehnologijo Eden izmed kazalcev digitalne konkurenčnosti je tudi delež strokovnjakov za informacijsko- komunikacijske tehnologije (v nadaljevanju: strokovnjakov za IKT) med zaposlenimi. V Slove- niji je po podatkih za leto 2022 zaposlenih 44,7 tisoč strokovnjakov za IKT in predstavljajo 4,5 odstotkov vseh zaposlenih, kar je za 0,1 odstotne točke manj od povprečja Evropske unije in za 4,1 odstotne točke manj od Švedske, ki ima največji delež strokovnjakov za IKT med zapo- slenimi v Evropski uniji (Eurostat, 2023b). Če se ozremo na delež strokovnjakov IKT med za- poslenimi v posamezni gospodarski dejavnosti po delitvi Nace Rev. 22 v letu 2022, ki je prika- zan na sliki 7, lahko ugotovimo, da ima več kot polovica slovenskih gospodarskih dejavnosti podpovprečen delež strokovnjakov za IKT med zaposlenimi v primerjavi s povprečjem držav Evropske unije. Med gospodarske dejavnosti s podpovprečnim deležem strokovnjakov za IKT med zaposlenimi v gospodarskih dejavnostih glede na povprečje držav Evropske unije so se uvrstile gospodarske dejavnosti F, H, I, M in N. Med zelo visoko digitalno intenzivnimi gospo- darskimi dejavnostmi, ki so podpovprečne glede na povprečje držav Evropske unije, lahko poleg gospodarske dejavnosti DE zasledimo še gospodarske dejavnosti F, H in N. Med gospodarskimi dejavnostmi z nadpovprečnim deležem strokovnjakov za IKT med zaposlenimi glede na povprečje držav Evropske unije uvrščamo gospodarske dejavnosti C, DE, G in J. Pri pre- gledu nadpovprečnih deležev zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v 58 gospodarskih dejavnostih glede na povprečje držav Evropske unije med slednje uvrščamo gospodarske dejavnosti C, G, I, J in M. Slednje lahko nakazuje na morebitno povezavo med deležem strokovnjakov za IKT med zaposlenimi v gospodarskih dejavnostih in digitalno kon- kurenčnostjo teh gospodarskih dejavnosti na področju zelo visoke digitalne intenzivnosti med podjetji. To ujemanje med opisanima kazalcema je prisotno pri gospodarskih dejavnostih C, F, G, J, H in N (Eurostat, 2023c). Slika 7: Delež strokovnjakov za IKT med zaposlenimi v sektorjih po klasifikaciji Nace Rev. 2 v letu 2022 100 90 80 70 60 % 50 40 30 20 10 0 a a a a a a a a r a a a a a a a a k ji j j j e j j j j j ta j EU k i k i k i i k i k i i i l i n EU n EU s n EU n EU s n EU s n EU g n EU a n EU Irs en rs e e e e j e e l e e v a Irs ž v v v Cip v v v v M v d o o Dan o o Pol o Dan o Be o o Slo a Sl Sl Sl Sl Sl Sl Sl Sl M C DE F G H I J M N Vir podatkov: Eurostat (2023c). Pri identifikaciji posameznih gospodarskih dejavnosti izstopa gospodarska dejavnost H, ki be- leži zaostanek za povprečjem držav Evropske unije pri deležu strokovnjakov za IKT v vrednosti 10,4 o. t. in predstavlja najmanjši delež med državami Evropske unije, gospodarska dejavnost F z drugim najmanjšim deležem med državami Evropske unije zaostaja za povprečjem držav Evropske unije za 5,2 o. t., prav tako je omembe vreden zaostanek gospodarske dejavnosti N v vrednosti 4 o. t. Če te deleže primerjamo z državo z največjim deležem strokovnjakov za IKT med zaposlenimi v omenjenih gospodarskih dejavnostih, lahko opazimo razliko, ki pri vseh presega 15 o. t. Gospodarska dejavnost J je za Slovenijo v primerjavi z ostalimi gospodarskimi dejavnostmi z 2,1 o. t. zaostanka najbližje Danski, državi z največjim deležem strokovnjakov za IKT med zaposlenimi v omenjeni gospodarski dejavnosti med vsemi državami Evropske unije (prav tam). 59 7 Združevanje držav v skupine glede na digitalno konkurenčnost Z obravnavanimi kazalci digitalne konkurenčnosti smo z določitvijo najuspešnejše države na posameznem področju pogosto zasledili ponavljajoče se države. Z uporabo statističnih metod je mogoče preveriti, ali se države razvrščajo v homogene skupine glede na svojo digitalno konkurenčnost. Takšno analizo nam omogoča metoda združevanja podatkov, ki z merilom podobnosti razvrsti enote v homogene skupine. Ena izmed takšnih metod je Wardova metoda, ki tvori skupine na osnovi minimiziranja variance znotraj skupin. Za prikaz drevesnega razvr- ščanja enot v skupine Wardova metoda z uporabo kvadrirane evklidske razdalje maksimira homogenost enot znotraj skupin (Bastič, 2006, str. 40–41). Zanimalo nas je, v katere homo- gene skupine se države Evropske unije razvrščajo glede vrednosti indeksa DESI. V analizi smo uporabili podatke 27 držav Evropske unije za leto 2022, pri čemer smo upoštevali komponente človeškega kapitala, integracije digitalnih tehnologij, povezljivosti in digitalnih javnih storitev (Evropska komisija, 2023). Pridobljene podatke smo obdelali s statističnim program-skim paketom SPSS 28.0, v katerem smo uporabili opisano Wardovo metodo. S slike 8 je razvidno, da lahko z Wardovo metodo razvrstimo izbrane države v štiri večje sku- pine. V prvo skupino držav uvrščamo Slovaško, Poljsko, Madžarsko, Bolgarijo, Grčijo in Ro- munijo. Države prve skupine se tako po komponentah indeksa DESI, kot tudi po posameznih kazalcih, uvrščajo na najnižja mesta in beležijo relativno veliko razliko do povprečja držav Evropske unije. V drugo skupino uvrščamo Portugalsko, Češko, Avstrijo, Slovenijo, Italijo, Ciper, Francijo, Nemčijo, Belgijo in Hrvaško. Omenjene države se ob pregledu komponent in- deksa DESI nahajajo okrog povprečja držav Evropske unije. Podobno razkrivajo posamezni kazalci znotraj obravnavanih komponent indeksa digitalne konkurenčnosti, saj so države druge skupine pri nekaterih kazalcih nadpovprečne in pri nekaterih kazalcih podpovprečne ter v vre- dnostih indeksa ne konkurirajo najuspešnejšim državam Evropske unije. V tretjo skupino uvrščamo Irsko, Luksemburg, Malto, Španijo, Litvo, Latvijo in Estonijo. Države iz tretje skupine so pri večini analiziranih komponent in kazalcev uvrščene nad povprečje držav Evropske unije in pogosto jih zasledimo med tremi najuspešnejšimi državami pri posameznih kazalcih. Četrta skupina držav je sestavljena iz vodilnih držav v Evropski uniji na področju digitalizacije. Mednje uvrščamo Dansko, Nizozemsko, Finsko in Švedsko. Pri analizi digitalne konkurenčnosti so države četrte skupine najpogosteje predstavljene kot najuspešnejše države pri posameznih komponentah in kazalcih digitalne konkurenčnosti. S praksami, ki jih te države izvajajo na področju digitalizacije, predstavljajo zgled preostalim državam Evropske unije. 60 Razvrstitev držav v omenjene štiri skupine prikazujemo v tabeli 1, njihove povprečne vrednosti glede na posamezno komponento indeksa DESI pa si lahko ogledamo v tabeli 2. Slika 8: Dendrogram združevanja držav v skupine glede na digitalno konkurenčnost po Wardovi metodi Opomba: Izvirni izpis iz SPSS 28.0. Tabela 1: Članstvo držav v skupinah glede na digitalno konkurenčnost po Wardovi metodi Skupina 1 Skupina 2 Skupina 3 Skupina 4 – Bolgarija – Avstrija – Estonija – Danska – Grčija – Belgija – Irska – Finska – Madžarska – Ciper – Latvija – Nizozemska – Poljska – Češka – Litva – Švedska – Romunija – Francija – Luksemburg – Slovaška – Hrvaška – Malta – Italija – Španija – Nemčija – Portugalska – Slovenija Vir: Lastni izračun. 61 Tabela 2: Povprečne vrednosti komponent indeksa DESI glede na razvrščene skupine po Wardovi metodi Skupina 1 Skupina 2 Skupina 3 Skupina 4 Človeški kapital 9,30 11,51 13,17 15,98 Povezljivost 12,89 14,00 13,84 16,75 Integracija digitalnih tehnologij 5,40 9,47 9,45 14,09 Digitalne javne storitve 11,56 15,98 21,00 21,07 Vir podatkov: Evropska komisija (2023), lastni izračun. 8 Sklep Proces digitalizacije v pomembni meri vpliva na pospešitev gospodarske rasti in rasti produk- tivnosti. Omenjeno povezavo lahko dosegamo z investicijami v digitalizacijo in povečevanjem digitalnega človeškega kapitala. Digitalno konkurenčnost lahko merimo z indeksom DESI, ki je sestavljen iz komponent človeškega kapitala, integracije digitalnih tehnologij, povezljivosti in digitalnih javnih storitev. Slovenija v proučevanem letu 2022 v primerjavi s povprečjem držav Evropske unije beleži nadpovprečno vrednost kompozitnega indeksa DESI, vendar izkazuje relativno velik zaostanek za vodilnimi državami na področju digitalne konkurenčnosti. Pri pro- učevanju posameznih komponent indeksa DESI lahko zaznamo področja, kot sta človeški ka- pital in povezljivost, kjer Slovenija dosega vrednosti pod povprečjem držav Evropske unije. Odstopanje Slovenije od povprečja držav Evropske unije izkazuje kazalec digitalne intenziv- nosti za proučevane gospodarske dejavnosti, saj večina slovenskih nadpovprečnih sektorjev ni bistveno presegala povprečja držav Evropske unije in je beležila relativno velik zaostanek za državami z največjim deležem digitalno intenzivnih podjetij v proučevanih gospodarskih de- javnostih. Pri kazalcu, ki prikazuje delež visoko digitalno intenzivnih podjetij med vsemi podjetji v sektorjih, je Slovenija beležila šest nadpovprečnih in tri podpovprečne gospodarske dejavnosti glede na povprečje držav Evropske unije. Pri kazalcu, ki prikazuje delež zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v gospodarskih dejavnostih, je Slovenija izkazo- vala pet nadpovprečnih in štiri podpovprečne gospodarske dejavnosti glede na povprečje dr- žav Evropske unije. Analiza deleža strokovnjakov za IKT med zaposlenimi v gospodarskih dejavnostih razkriva, da so zgolj štiri gospodarske dejavnosti takšne, kjer je Slovenija beležila relativno večji delež strokovnjakov za IKT med zaposlenimi v primerjavi s povprečjem držav Evropske unije, medtem ko je pet gospodarskih dejavnosti izkazovalo podpovprečno vrednost omenjenega kazalca glede na povprečje držav Evropske unije. Pri relativni primerjavi kazalca 62 deleža zelo visoko digitalno intenzivnih podjetij med vsemi podjetji v gospodarskih dejavnostih in kazalca deleža strokovnjakov za IKT med zaposlenimi ugotovimo, da pri šestih od devetih proučevanih gospodarskih dejavnosti obstaja pozitivna povezava med omenjenima kazal- cema. Odkrita povezava nakazuje na pomen zaposlovanja strokovnjakov za IKT v gospodar- skih dejavnostih, kjer obstaja potreba po dvigu stopnje digitalizacije na raven zelo visoke digitalne intenzivnosti. V kvantitativnem delu analize je Wardova metoda združevanja podatkov v skupine razdelila države Evropske unije v štiri skupine. Slovenija se skladno z vrednostmi obravnavanih kazal- cev digitalne konkurenčnosti uvršča v skupino držav, ki se glede na vrednosti komponent in- deksa DESI gibljejo okrog povprečja Evropske unije. Omenjena skupina držav glede na obrav- navane kazalce digitalne konkurenčnosti ni konkurenčna vodilnim državam v Evropski uniji. Analiza je razkrila komponente indeksa DESI in sektorje, v katerih Slovenija beleži relativno največjo vrzel pri digitalni konkurenčnosti glede na povprečje in najuspešnejše države Evrop- ske unije. Identificiranim področjem in sektorjem je treba pri sprejemanju ukrepov za spodbu- janje digitalnega prehoda nameniti posebno pozornost, da bi se Slovenija uspela približati vo- dilnim državam Evropske unije na področju digitalizacije. Literatura 1. Acemoglu, D. (2002). Technical change, inequality, and the labour market . Journal of Economic Literature, 40(1), 7–72. https://doi.org/10.1257/0022051026976 2. Andrew, D., Nicoletti, G., & Timiliotis, C. (2018). Digital technology diffusion: A matter of capabilities, incentives or both? OECD Economics Department Working Papers, 1476. https://doi.org/10.1787/18151973 3. Bastič, M. (2006). Metode raziskovanja. Univerza v Mariboru Ekonomsko-poslovna fakulteta. 4. Bechichi, N., Grundke, R., Jamet, S., & Squicciarini, M. (2018). Moving between jobs: An analysis of occupation distances and skill needs. OECD Science, Technology and Innovation Policy Papers, 52. https://doi.org/10.1787/23074957 5. Bessen, J. (2018). AI and the jobs: The role of demand. NBER Working Paper No. 24235. NBER. https://doi.org/10.2139/ssrn.3078715 6. Braunsberger, F., Hlavaty, M., Schlamberger, N., & Stevanovič, S. (2010). Standardna klasifikacija dejavnosti 2008. SURS. https://www.stat.si/doc/pub/skd.pdf 7. Brodny, J., & Tutak, M. (2022). The level of digitization of small, medium and large enterprises in the Central and Eastern European countries and its relationship with economic parameters. Journal of Open Innovation: Technology, Market, and Complexity, 8(3), 113. http://doi.org/10.3390/jo- itmc8030113 63 8. Brynjolfsson, E., Rock, D., & Syverson, C. (2017). Artificial intelligence and the modern productivity paradox: A clash of expectations and statistics. NBER Working Paper Series, No. 24001. NBER. https://doi.org/10.3386/w24001 9. ECB. (2018). Update on economic, financial and monetary developments. ECB Economic Bulletin, Issue 7. ECB. https://www.ecb.europa.eu/pub/pdf/ecbu/eb202207.en.pdf 10. EIB. (2023). Recovery and resilience facility and financial instruments. EIB. https://www.eib.org/en/products/mandates-partnerships/rrf/index.htm 11. Eurostat. (2021). How digitalised are EU's enterprises? Eurostat. https://ec.europa.eu/euro- stat/web/products-eurostat-news/-/ddn-20211029-1 12. Eurostat. (2022). How digitalised are EU's enterprises? Eurostat. https://ec.europa.eu/euro- stat/web/products-eurostat-news/-/ddn-20220826-1 13. Eurostat. (2023a). Digital intensity by NACE Rev.2. Eurostat. https://ec.europa.eu/eurostat/data- browser/view/ISOC_E_DIIN2/default/table?lang=en 14. Eurostat. (2023b). Employed ICT specialists – total. Eurostat. https://ec.europa.eu/eurostat/data- browser/view/ISOC_SKS_ITSPT__custom_6439005/default/table?lang=en 15. Eurostat. (2023c). Enterprises that employ ICT specialists by NACE Rev.2 activity. Eurostat. https://ec.europa.eu/eurostat/data- browser/view/ISOC_SKE_ITSPEN2__custom_5774645/default/table 16. Evropska komisija. (2022). Digital Economy and Society Index (DESI) 2022: Methodological Note. Evropska komisija. https://ec.europa.eu/newsroom/dae/redirection/document/88557 17. Evropska komisija. (2023). Digital Economy and Society Index, by main dimensions of the DESI. Evropska komisija. https://digital-agenda-data.eu/datasets/desi/#download 18. Gal, P., Nicoletti, G., Renault, T., Sorbe, S., & Timiliotis, C. (2019). Digitalisation and productivity: In search of the holy grail – Firm-level empirical evidence from EU countries. OECD Economics Department Working Papers, No. 1533. OECD. https://doi.org/10.1787/18151973 19. Morandini, M., Thum-Thysen, A., & Vandeplas, A. (2020). Facing the digital transformation: Are digital skills enough? European Economy, Economic Brief 054. Evropska komisija. https://doi.org/10.2765/846577 20. Mura, P., & Donath, L. (2023). Digitalisation and economic growth in the European Union. Electronics, 12(7), 1718. https://doi.org/10.3390/electronics12071718 21. Rindfleisch, A. (2020). The second digital revolution. Marketing Letters, 31, 13–17. https://doi.org/10.1007/s11002-019-09509-4 22. SURS (2022). Digitalno preobrazbo poslovanja podjetij ovira pomanjkanje ustreznega kadra ali znanja. SURS. https://www.stat.si/StatWeb/News/Index/10766 23. World Bank. (2019). World Development Report 2019: The changing nature of work. World Bank. https://doi.org/10.1596/978-1-4648-1328-3 64 DIGITALNA PREOBRAZBA IZOBRAŽEVANJA V SLOVENIJI Astrid Cep, mag. prav. Doktorska študentka, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija astrid.cep@student.um.si Dr. Katja Drnovšek, univ. dipl. prav. in dipl. medjez. št. – ang. in dipl. fil. Docentka, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija katja.drnovsek@um.si Povzetek: Učinkovito uresničevanje pravice do izobraževanja predstavlja v digitalni dobi številne izzive. Današnji učinki digitalizacije se namreč pokažejo že v nekaj letih namesto v nekaj desetletjih, kot je to veljalo nekoč. Digitalno okolje nas obdaja praktično na vsakem koraku, med najbolj izpostavljenimi skupinami pa so tudi otroci. Za slednje velja, da so njihova najzgodnejša leta življenja na področju izobra- ževanja najbolj plodovita in zaradi tega ključnega pomena za nadaljnji razvoj. Bistveni del tako predstavlja predvsem osnovnošolsko izobraževanje, ki posamezniku omogoča uresničevanje pravice do izobraževanja in je hkrati ustavna obveza. Na podlagi številnih mednarodnih pravnih aktov in smernic implementacije pravice do izobraževanja se tudi Republika Slovenija sooča s prilagoditvijo izobraževalnih programov digitalnemu okolju. V prispevku bodo analizirani izzivi digitalne preobrazbe izobraževanja v slovenskem šolskem sistemu ter rešitve, kot jih predvidevata tudi Akcijski načrt digitalnega izobraževanja 2021–2027 in Digitalna Slovenija 2030. Prenovo oziroma prilagoditev pa bo posledično na tem področju nedvomno potrebovala tudi zakonodaja, ki bo v prispevku kritično ovrednotena. Ključne besede: digitalizacija, digitalno okolje, izobraževanje, osnovnošolsko izobraževanje, zakonodaja 65 1 Uvod Pospešena digitalizacija, do katere so privedle izjemne tehnološke inovacije v zadnjih deset- letjih, sodobno družbo postavlja pred številne pereče izzive. Čeprav gre zasluge za relativno blaginjo in udobje, v katerem živijo trenutne generacije, brez dvoma pripisati tudi razvoju digitalnih orodij, tovrstni napredek hkrati spremljajo pogosto nepredvidljive težave, ki se odražajo v pretresih na področju ekonomskih, družinskih, osebnih, pa tudi pravnih razmerij. Zaradi dej-stva, da pravo običajno naslavlja družbene probleme šele tedaj, ko se njihovi negativni vplivi že pokažejo v vsakdanjem življenju, se posledice hitrega razvoja kažejo tudi v pomanjkljivi, neučinkoviti ali zastareli pravni ureditvi na številnih kritičnih področjih. Med področji, kjer je učinkovita pravna zaščita pred negativnimi posledicami digitalizacije še posebej pomembna, je zagotovo uresničevanje pravice do izobraževanja, saj so med najbolj izpostavljenimi in hkrati ranljivimi skupinami prav otroci. Tega se zavedajo tudi deležniki v Republiki Sloveniji (v nadaljevanju RS), ki se na podlagi številnih mednarodnih pravnih aktov in smernic soočajo s prila- goditvijo izobraževalnih programov digitalnemu okolju. Članek bo v okviru obravnave vprašanj, ki se pri tem odpirajo, izpostavil pomen pravice do izobraževanja v pravnem sistemu RS, na- slovil združljivost obstoječe zakonodaje z digitalno preobrazbo na področju izobraževanja ter na podlagi analize najpomembnejših mednarodnih in nacionalnih programskih aktov ovrednotil ustreznost obstoječih in načrtovanih rešitev. 2 Pomen pravice do izobraževanja v RS Pravica do izobraževanja predstavlja temeljno in univerzalno pravico. Določajo in urejajo jo številni mednarodni pravni akti; vsaka država je ratificirala vsaj enega izmed njih, zaradi česar je pravica do izobraževanja priznana praktično po vsem svetu (UNESCO, 2023). S pomočjo uresničevanja pravice do izobraževanja se udejstvujejo tudi številne druge pravice, zaradi česar sta pravna ureditev in kakovostno izvajanje izobraževanja ključnega pomena za posameznikov nadaljnji življenjski razvoj (Lundy, 2017, str. 364). Kot članico mednarodne skupnosti tudi RS zavezujejo številni mednarodni pravni akti, ki dolo- čajo pravico do izobraževanja, med drugim Konvencija o otrokovih pravicah (KOP, 1990), Kon- vencija proti diskriminaciji v izobraževanju (KPDI, 1964), Listina Evropske unije o temeljnih pravicah (LEUTP, 2000) in Protokol št. 1 k Evropski konvenciji o varstvu človekovih pravic (P1EKČP, 1952). Pomembnost pravice do izobraževanja v RS pa se kaže tudi z 66 zagotavljanjem izobrazbe1 in šolanja na ustavni ravni. Ustava RS (URS, 1991) namreč v 57. členu določa, da je izobraževanje svobodno, osnovnošolsko izobraževanje pa obvezno in fi- nancirano iz javnih sredstev. Ob tem v skladu s tretjim odstavkom 57. člena URS država ustvarja možnosti, da lahko državljani pridobijo ustrezno izobrazbo. Poleg splošne določbe se URS posebej opredeljuje še do izobraževanja v zvezi s pravicami invalidov v 52. členu, pravi- cami in dolžnostmi staršev v 54. členu ter posebnimi pravicami avtohtone italijanske in mad- žarske narodne skupnosti v Sloveniji v 64. členu. Država torej nosi pozitivno obveznost zagotavljanja možnosti uresničevanja pravice do izobra- ževanja, da je ta spoštovana, izpolnjevana in zaščitena oziroma varovana. Ker pa je kot ob- vezno zagotovljeno zgolj osnovnošolsko izobraževanje, je bistveno, da se le-to izvaja na naj- višji možni stopnji učinkovitosti. Osnovnošolska izobrazba tako rekoč predstavlja potni list za življenje, otrokom pa nudi možnost vključevanja v razne aktivnosti, spoštovanje, udejstvovanje in izpolnjevanje ambicij. Zaradi svojega namena mora biti osnovnošolska izobrazba dostopna vsem in tako brezplačna za vsakogar (Kraljić, 2021, str. 30). 3 Združljivost veljavne nacionalne zakonodaje z digitalno preobrazbo izobraževanja Edino obvezno stopnjo izobraževanja v RS tako predstavlja osnovnošolsko izobraževanje, ki ga ureja Zakon o osnovni šoli (ZOsn, 2006). Slednji v 2. členu med cilje izobraževanja uvršča tudi zagotavljanje kakovostne splošne izobrazbe vsemu prebivalstvu. Ob tem se postavi vpra- šanje, ali kakovostna izobrazba vsebuje tudi znanje o digitalni pismenosti oziroma izobraževa- nje v digitalnem okolju glede na to, da živimo v t. i. digitalni dobi. ZOsn v 5. členu določa pravico do izbire oblik izobraževanja, in sicer staršem omogoča pravico izbrati osnovnošolsko izobra- ževanje svojih otrok bodisi v javni ali zasebni šoli, bodisi kot izobraževanje na domu. Pri tem gre poudariti, da se zadnja navedena možnost ne nanaša na izobraževanje od doma in spremljanje pouka na daljavo, kot se je to izvajalo, na primer, v času epidemije. Gre za čisto posebno obliko izobraževanja, ki je natančneje urejena v VII. poglavju ZOsn (Izobraževanje na domu) 1 Poudariti je treba, da niti mednarodni pravni akti, niti URS, posamezniku ne zagotavljata pravice do izobrazbe, temveč se le ustvarja možnost za doseganje želene izobrazbe. Vsakdo ima pravico do izobraževanja, kar pa ne pomeni, da ima pravico do izobrazbe, slednje je namreč odvisno predvsem od posameznikovih zmožnosti. Na tem mestu gre izpostaviti problematiko slovenskega prevoda določb mednarodnih dokumentov, ki navajajo tako imenovano "right to education", pri čemer se lahko beseda "education" v slovenščino prevaja kot "izobrazba" ali kot "izobraževanje", vendar velja za pravilen prevod "pravica do izobraževanja" in ne "pravica do izobrazbe". 67 in nima nikakršne povezave z uporabo digitalnega okolja za namene izobraževanja. Hibri-dnega načina izobraževanja, pri katerem se pouk izvaja fizično v šoli, hkrati pa ga učenci spremljajo na daljavo, ZOsn ne predvideva. Uporaba digitalnega okolja oziroma izobraževanje o digitalnem okolju se predvideva zgolj v okviru enega predmeta, in sicer neobveznega izbirnega predmeta računalništva, ki se v skladu z drugim odstavkom 20.a člena ZOsn izvaja za učence 4., 5. in 6. razreda. Učni načrt tega predmeta (Krajnc et al., 2013) med splošnimi cilji med drugim navaja, da učenci pri predmetu spoznavajo temeljne koncepte računalništva, razvijajo algoritmični način razmišljanja in pri tem spoznavajo različne strategije reševanja problemov, spoznavajo omejitve človeških sposobnosti in umetne inteligence, predvsem pa se zavedajo omejitev računalniških tehnologij itd. Kljub pomembnosti teh znanj je treba poudariti, da si lahko učenec skladno s petim odstavkom 20.a člena ZOsn izbere največ dve uri pouka neobveznih predmetov tedensko. Z vidika načela nediskriminacije je vprašljiv tudi šesti odstavek 20.a člena ZOsn, ki določa, da se za učence v prilagojenem programu z nižjim izobrazbenim standardom ne izvaja pouk neobveznih izbirnih predmetov. Navedeno lahko pomeni, da slednji sploh nimajo stika s formalnim izobraževanjem o računalništvu, ki je sicer omogočeno otrokom, ki niso del prilagojenega programa. 4 Mednarodne smernice za prilagoditev zakonodaje digitalizaciji izobraževanja Otrokove pravice, ki vključujejo pravico do izobraževanja, so varovane v številnih pravnih aktih, v KOP pa so celo izrecno izpostavljene kot glavno vodilo za sprejem mednarodnega dokumenta. KOP, ki velja za prvi mednarodno zavezujoč akt, ki je izrecno pripoznal otrokove pra- vice, so sprejeli Združeni narodi 20. novembra 1989, do danes pa jo je podpisalo največ držav izmed vseh mednarodno priznanih aktov v vsej zgodovini, in sicer kar 196 držav, med njimi vse države članice EU. V mednarodnem pravu je začela veljati 2. septembra 1990 (Akhtar & Nyamutata, 2020, str. 86). H KOP je Odbor za otrokove pravice sprejel več splošnih komen- tarjev kot vodilo implementacije otrokovih pravic v nacionalne sisteme držav pogodbenic. Tako je 17. 4. 2001 sprejel Splošni komentar št. 1: Cilji izobraževanja h KOP (OZN, 2001) in pouda- ril, da otrokova pravica do izobraževanja predstavlja neposredno realizacijo otrokovega ozi- roma človekovega dostojanstva in njegovih pravic. Za vidik digitalne preobrazbe pa je pomemben Splošni komentar št. 25 k otrokovim pravicam v razmerju do digitalnega okolja (OZN, 2021), v katerem je poudarjen vpliv digitalnega okolja na različne vidike otrokovega življenja. Otrokove pravice morajo biti zato spoštovane, varovane 68 in uresničevane tudi v digitalnem okolju. Izpostavlja se tudi tematika nazadovanja in večanje razlik med tistimi, ki imajo dostop do digitalnega okolja oziroma je to vključeno v uresničevanje njihovih pravic, ter tistimi, ki takšnega dostopa nimajo (4. odstavek). Ob tem se vzbuja pomislek glede ureditve izobraževanja v RS ter zastavlja vprašanje, ali smo napram drugim drža- vam, ki v program osnovne šole v večji meri vključujejo digitalno okolje, sploh dovolj konku- renčni. Digitalno okolje lahko omogoča izboljšan dostop do izobraževanja oziroma izobraževalnih vse- bin in literature, okrepi sodelovanje med učenci in učitelji s povezavo na daljavo ter deluje kot podpora pri učenju in sodelovanju v obšolskih dejavnostih (99. odstavek). Države pogodbenice bi si zato morale prizadevati k razvoju tehnološke infrastrukture v šolah in drugod, od koder bi učenci lahko dostopali do učnih vsebin. Slednje pomeni zadostno opremljenost z računalniško opremo, stabilen dostop do spletnih vsebin, hkrati pa tudi primerno usposabljanje kadra v izo- braževalnih institucijah. Ob tem gre izpostaviti pomislek, da (ne)uporaba digitalnega okolja za namene izobraževanja ne bi smela ogrožati uresničevanja pravice do izobraževanja (101. odstavek). Omogočiti je treba dostop do izobraževanja na daljavo, bodisi za tiste, ki živijo v od-daljenih območjih, bodisi za tiste, ki so v kakršnihkoli ranljivih situacijah. Pri tem je treba zagotoviti tudi ustrezno infrastrukturo, vključno z dostopom do naprav, elektrike, izobraževalnega gradiva, strokovne podpore ter tudi ustrezne smernice za starše in skrbnike, da se lahko zagotavlja ustrezno izobraževanje (102. odstavek). Nujnega pomena je zagotavljanje znanja na področju digitalne pismenosti, saj je ta izrednega pomena za posameznikovo nadaljnjo uspe- šnost v družbi (Webb, 2017, str. 446). Splošni komentar št. 25 izpostavlja, da bi se otroci morali učiti in osvajati digitalno pismenost v šolah kot del učnega načrta, in sicer vse od predšolske ravni skozi vsa leta izobraževanja. Otrokom bi tako omogočili pridobivanje znanja varne in učinkovite uporabe digitalnega okolja za izobraževalne namene (104. odstavek). 5 Akcijski načrt Na mednarodne zahteve in smernice se je s sprejetjem nacionalnih programskih aktov odzvala tudi RS. Evropska komisija je leta 2020 sprejela Akcijski načrt za digitalizacijo izobraževanja (Evropska komisija, 2020), ki mu mora RS v skladu z načelom primarnosti prava EU ustrezno in učinkovito slediti. Posledično je tudi RS sprejela svoj nacionalni Akcijski načrt digitalnega izobraževanja 2021–2027 (MIZŠ, 2022), ki zajema šest področij, in sicer nacionalno koordina-cijo, spremembo programov in delovnih mest, ekosistem, didaktiko, izobraževanje in usposab- ljanje ter izobraževanje v izrednih okoliščinah. 69 ANDI definira digitalno izobraževanje kot izobraževanje v ustvarjalnem fizičnem in/ali virtualnem učnem okolju, v katerem se smiselno, varno in interaktivno uporablja digitalna tehnologija s ciljem dviga znanja in kompetenc vseh udeležencev izobraževanja. V sklopu nacionalne ko-ordinacije digitalnega izobraževanja je predvidena učinkovita vzpostavitev Centra za digitalno izobraževanje, ki ga usmerja Služba za digitalno izobraževanje na Ministrstvu za izobraževanje, znanost in šport, pa tudi nadgradnja središč na nekaterih javnih zavodih in določenih ekip za področje digitalizacije v izobraževalnih ustanovah. Didaktika digitalnega izobraževanja predvideva spoznanje dobrih praks ter načinov poučevanja in učenja, v zvezi s tem pa tudi nadaljnji razvoj in sintezo navedenega področja z znanstvenimi raziskavami. Obetajo se tudi spremembe izobraževalnih in študijskih programov, posledično tudi delovnih mest. Sprememba bo temeljila predvsem na vključitvi temeljnih vsebin računalništva in informatike, kar pomeni vključitev različnih vidikov digitalnega okolja v učni program. Na podlagi obrazloženega bo potrebno dodatno izobraževanje in seveda usposabljanje strokovnih delavcev, vodstva in drugih izobraževalcev ter vseživljenjsko učenje, kar v bistvu predstavlja četrto področje ANDI. Peto področje, ekosistem digitalnega izobraževanja, med drugim vključuje podpodročja, kot so infrastruktura, platforme, orodja in storitve, izobraževalne e-vsebine, zagotavljanje enakosti in enakih možnosti, vključenost staršev in drugih deležnikov, kibernetsko varnost in pravne podlage za pospeševanje digitalnega izobraževanja. Slednje so predvidene predvsem v smislu sprememb na področju pospeševanja digitalizacije izobraževanja, ob čemer bosta nasto- pila poenotenje in poenostavitev administrativnih in pravnih postopkov v šolstvu. Prilagoditi in modernizirati se bodo morali predpisi na področju evidenc, sprejeti pa bo treba tudi pravno podlago za zagotovitev zadostne digitalne opreme izobraževalnim ustanovam, seveda ob tež- nji zagotavljanja trajnosti rezultatov ANDI. Zadnje področje, protokoli za izobraževanje v po- sebnih okoliščinah, je namenjeno hitremu prehodu na poučevanje na daljavo. Predvsem gre za smernice in navodila za izvajanje pouka na daljavo v posebnih okoliščinah (na primer zapr- tje šol in poučevanje na daljavo v obdobju epidemije) za vse deležnike, torej otroke, učitelje, kot tudi starše. ANDI tako ne ponuja konkretnih rešitev za digitalizacijo izobraževanja, temveč gre za dinami- čen proces v smislu odprtega dialoga, kot je navedeno tudi v zaključnih besedah načrta. Pre- dlagane ukrepe bo zato treba šele uzakoniti in za zdaj ostajajo zgolj na programski ravni. 70 6 Digitalna Slovenija 2030 Dokument Digitalna Slovenija 2030 (v nadaljevanju DSI 2030) (Vlada RS, 2023) predstavlja krovno strategijo razvoja informacijske družbe do leta 2030. Ne osredotoča se zgolj na izobra- ževanje, temveč ureja najrazličnejša področja, ki zadevajo posameznika in družbo kot skup- nost. DSI 2030 je nadgradnja predhodnega dokumenta Digitalna Slovenija 2020 (v nadaljeva- nju DSI 2020) (Vlada RS, 2023), ki je bil izvršen s 55-odstotno uspešnostjo. Sprejetje DSI 2030 temelji na dokumentu Evropsko digitalno desetletje: digitalni cilji za leto 2030 (Evropska komisija, 2021a), ki ga je marca 2021 sprejela Evropska komisija, katere glavni cilj je predvsem izboljšanje znanja o digitalni pismenosti (Monteiro & Leite, 2021, str. 2). V skladu z DSI 2030 morajo učni načrti vsebovati izobraževanje na osnovi pridobivanja veščin digitalnih kompetenc, ki jih definira Zakon o spodbujanju digitalne vključenosti (ZSDV, 2022) v 3. členu, in sicer se digitalne kompetence nanašajo na sposobnost posameznika, da kompetentno in varno uporablja ter soustvarja digitalne tehnologije, rešitve in storitve. Nujnega pomena za zagotovitev konkurenčnosti in enakosti napram drugim državam je možnost pridobi- vanja digitalnih kompetenc znotraj javnega šolstva, kar vključuje tudi izobraževanje o računal-ništvu in informatiki, za potrebe navedenega pa tudi razna sofinanciranja izobraževalnih pro- gramov za socialno ogrožene. Hkrati bodo nujna tudi dodatna izobraževanja obstoječih izva- jalcev izobraževalnih programov in spodbujanje k izobraževanju novega kadra na področju računalništva. Prav tako bi tudi staršem morala biti dana možnost izobraževanja na področju digitalne pismenosti, s čimer bi lahko dodatno pripomogli k povečanju digitalne pismenosti prebivalstva (Balyer & Öz, 2018, str. 827). DSI 2030 predvideva uvedbo ukrepov, ki bodo povečali vpis v terciarni izobraževalni program in povečali ugled ter prepoznavnost stroke na področju informacijsko-komunikacijske tehnolo- gije (v nadaljevanju IKT) v družbi. Pri tem je treba poudariti, da ne gre zamenjevati pojmov IKT z informacijsko tehnologijo (v nadaljevanju IT). IKT namreč predstavlja skupek različnih naprav in tehnoloških storitev, kot tudi telekomunikacijskih storitev, ki omogočajo shranjevanje, obdelavo, prenos, priklic in sprejemanje informacij. IKT pravzaprav zajema tudi IT, s katerim pov- zročata številne spremembe na področju kulture, ekonomije, politike in izobraževanja (Mićić, 2017, str. 136). V okviru neformalnega izobraževanja vidi DSI 2030 priložnost izobraževanja za vsakogar, ki želi pridobiti znanje s področja digitalnih kompetenc. Predvsem se izpostavlja problematika zaostanka povprečne izobraženosti prebivalcev RS na področju osnovnega znanja o digitalnih 71 kompetencah v primerjavi s povprečjem EU. Pri tem ne gre za izoliran problem, saj se nazadovanja na področju digitalne pismenosti kažejo že v primerjavi med južnimi in vzhodnimi dr- žavami EU napram nordijskim državam EU (Zalite & Zvirtule, 2020, str. 297), kar vzbuja do- datno skrb in potrebo po vpeljevanju digitalizacije izobraževanja (Hunady et al., 2022, str. 41). V RS je bila za ta namen sprejeta Resolucija o nacionalnem programu izobraževanja odraslih (ReNPIO22-30, 2022), ki predvideva ukrepe za izboljšanje znanja digitalnih spretnosti pri od- raslih. DSI 2030 izpostavlja tudi določene že obravnavane prednosti in pomanjkljivosti, med drugim neobvezno izobraževanje vsebin računalništva in informatike v šolskem kurikulumu. Digitalno preobrazbo predvidevajo tudi številni pravni akti EU, med drugim predlog sklepa Evropskega parlamenta in Sveta o vzpostavitvi političnega programa »Pot v digitalno desetletje« do leta 2030 (Evropska komisija, 2021b), deklaracija Zelena in digitalna preobrazba EU (Evropska komisija, 2021c) in Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje (Evropska komisija, 2022). Slednja v Poglavju II: solidarnost in vključevanje opredeljuje tudi določbo o digitalnem izobraževanju ter digitalnem znanju in spretnostih, v skladu s katero ima vsakdo pravico do izobraževanja, usposabljanja in vseživljenjskega učenja ter bi moral imeti možnost pridobiti vsa osnovna in napredna digitalna znanja in spretnosti. Evropska komisija se je v nadaljevanju zavezala k spodbujanju in podpiranju prizadevanj za opremljanje vseh ustanov za izobraževanje in usposabljanje z digitalno povezljivostjo, infrastrukturo in orodji. Podpirala bo tudi prizadevanja, ki učečim ter učiteljem in učiteljicam omogočajo pridobivanje in izmenjavo vseh potrebnih digitalnih znanj in spretnosti ter kompetenc za aktivno udejstvovanje v gospodarstvu, družbi in demokratičnih procesih. Zaveza predpostavlja, da bo vsakomur dana možnost, da se z izpopolnjevanjem in preusposabljanjem prilagodi spremem- bam, ki jih prinaša digitalizacija dela. V nasprotnem primeru je lahko ogrožen funkcionalni vstop posameznika v digitalno družbo, kar lahko ima številne negativne posledice (Altaleb, Shatnawi & Rajnai, 2023, str. 151). 7 Sklep Pot digitalne preobrazbe izobraževanja v Sloveniji predstavlja dolgotrajen proces, pri katerem bodo potrebne številne prilagoditve oziroma nadgraditve pravnih predpisov. Analiza veljavnega pravnega okvira je izpostavila nekatere pomanjkljivosti in nedorečenosti, ki zavirajo digitalizacijo v osnovnem šolstvu (npr. že skoraj sramoten obseg digitalnih vsebin v učnem načrtu, še posebej za učence v prilagojenem programu), obstoječi mednarodni in nacionalni akti pa 72 še niso prešli s programskega nivoja na vzpostavljanje nujno potrebnih konkretnih rešitev za aktualne probleme. Ustrezna pravna ureditev področja izobraževanja v digitalnem okolju bo zahtevala celovit in sistematičen pristop, ki se bo moral sproti prilagajati tehnološkemu napredku. Vsekakor pa bi bilo treba v čim krajšem času uvesti vsaj najnujnejše ukrepe, začenši z uvedbo predmeta raču- nalništva kot obveznega predmeta učnega načrta v osnovni šoli, s čimer bo država v nadalje- vanju zagotovila možnost pridobivanja znanja digitalne pismenosti praktično vsakomur. Sled- nje bi morali omogočiti tudi otrokom s posebnimi potrebami, seveda ob upoštevanju njihovih zmožnosti. Navedeno bo mogoče šele, ko se bo spremenila zakonodaja in le za tiste, ki bodo takrat šele pričeli obiskovati osnovnošolsko izobraževanje. Smiselno se bo moral usposobiti tudi obstoječi in prihodnji izobraževalni kader, da bo zmožen posredovati kakovostno znanje o digitalnem okolju, kar pa je pogojeno tudi z ustrezno opremljenostjo izobraževalnih institucij, predvsem z zadostno količino računalnikov, tabličnih računalnikov, pametnih tabel, dobro spletno povezavo in podobnim. Za zmanjšanje prepada med digitalno pismenim in digitalno nepismenim prebivalstvom, katerega pretežni del predstavljajo predvsem starejši, bo potrebna vzpostavitev raznoraznih izobraževalnih programov, namenjenih odraslim. Razmisleka vredna je tudi uvedba možnosti hibridnih oblik izobraževanja, kot je hkratno izobraževanje na daljavo in fizično v šolah, zlasti za tiste posameznike, ki se ne morejo udeležiti izobraževanja v šolah. Digitalizacija izobraževanja je za uspešno prihodnost neizogibna in tudi nujna za zagotavljanje konkurenčnosti napram drugim državam. Hkrati je potrebna za zagotovitev enakih možnosti vsakemu posamezniku, ki bo stopal v širši svet, pravzaprav skoraj na vsakem področju. Učin- kovito delovanje RS in njenih državljanov v sodobnem mednarodnem okolju bo odvisno tudi od uspešnosti in hitrosti implementacije mednarodnih smernic v nacionalno zakonodajo na področju izobraževanja, pa tudi širše. Literatura 1. Akhtar, R. C. & Nyamutata, C. (2020). International child law (4th ed.), Routledge Taylor & Francis Group. 2. Altaleb, H., Shatnawi, M., & Rajnai, Z. (2023). Digital education: Governments' strategies, teaching tools in the European Union and a case study of digital transformation in Budapest. Interdisciplinary Description of Complex Systems. 21(2), 148–160. https://doi.org/10.7906/indecs.21.2.3 73 3. Balyer, A, Öz, Ö. (2018). Academicians’ views on digital transformation in education. International Online Journal of Education and Teaching, 5(4), 809–830. http://iojet.org/in- dex.php/IOJET/article/view/441/295 4. Evropska komisija. (2020). Akcijski načrt za digitalno izobraževanje (2021-2028). Pridobljeno 22. maja 2023 iz Evropski izobraževalni prostor: https://education.ec.europa.eu/sl/focus-topics/digital- education/action-plan 5. Evropska komisija. (2021a). Evropsko digitalno desetletje: digitalni cilji za leto 2030. Pridobljeno 23. maja 2023 iz EUR-Lex: https://eur-lex.europa.eu/legal- content/sl/TXT/?uri=CELEX%3A52021DC0118 6. Evropska komisija. (2021b). Predlog za odločitev EP in Sveta EU za ustanovitev političnega programa 2030 »Pot v digitalno desetletje«. Pridobljeno 24. maja 2023 iz Svet Evropske unije: https://data.consilium.europa.eu/doc/document/ST-11900-2021-INIT/en/pdf 7. Evropska komisija. (2021c). Zelena in digitalna preobrazba EU. Pridobljeno 24. maja 2023 iz GOV.PT: https://www.portugal.gov.pt/download- ficheiros/ficheiro.aspx?v=%3D%3DBQAAAB%2BLCAAAAAAABAAzNDQxMwMAT7AwdwUAAAA %3D 8. Evropska komisija. (2022). Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje. Pridobljeno 24. maja 2023 iz Oblikovanje digitalne prihodnosti Evrope: https://digital- strategy.ec.europa.eu/en/library/declaration-european-digital-rights-and-principles#Declaration 9. Hunady, J. et al. (2022). Digital transformation in European Union: North is leading, and South is lagging behind. International Journal of Information Systems and Project Management. 10(4). 39– 56. https://aisel.aisnet.org/ijispm/vol10/iss4/4 10. KOP. (1990). Konvencija proti diskriminaciji v izobraževanju. Uradni list SFRJ – Mednarodne pogodbe, št. 4/64; Uradni list RS – Mednarodne pogodbe, št. 15/92. 11. KPDI. (1964). Konvencija proti diskriminaciji v izobraževanju. Uradni list SFRJ – Mednarodne pogodbe, št. 4/64; Uradni list RS – Mednarodne pogodbe, št. 15/92. 12. Krajnc, R. et al. (2013). Učni načrt. Program osnovna šola. Računalništvo: neobvezni izbirni predmet. Ministrstvo za izobraževanje, znanost in šport: Zavod RS za šolstvo. https://www.gov.si/as- sets/ministrstva/MIZS/Dokumenti/Osnovna-sola/Ucni- nacrti/izbirni/Neobvezni/Racunalnistvo_izbirni_neobvezni.pdf?fbclid=IwAR29c3isUbo4--wV9MO- uXFgT8n-wNWhY74G6ydt9oVBN1uO9M8Kv5sZu6FU 13. Kraljić, S. (2021). Implementation and protection of the child's right to education. Šolsko polje, 33(3/4), 27–44. https://doi.org/10.32320/1581-6044.31(3-4)27-44 14. LEUTP. (2000). Listina Evropske unije o temeljnih pravicah. OJ C 326, 26. 10. 2012. 15. Lundy, L. et al. (2017). Children’s education rights, Global perspectives. V M. D. Ruck et al. (ur.), Handbook for Children's Rights: Global and multidisciplinary perspectives (str. 364–380). Routledge Taylor & Francis Group. 16. Mićić, L. (2017). Digital transformation and its influence on GDP. ECONOMICS, 5(2),135–147. https://doi.org/10.1515/eoik-2017-0028 74 17. MIZŠ. (2022). Akcijski načrt digitalnega izobraževanja (ANDI) 2021-2027. Pridobljeno 22. maja 2023 iz GOV.SI: https://www.gov.si/assets/ministrstva/MIZS/SDIG/JR-NOO-usposabljanja-303- 35/2022/Akcijski-nacrt-digitalnega-izobrazevanja-2021-2027.pdf 18. Monteiro, A. R., & Leite, C. (2021). Digital literacies in higher education: skills, uses, oppertunities and obstacles to digital transformation. Revista de Education a Distancia. 65(21), 1–20. https://doi.org/10.6018/red.438721 19. OZN (2001). Splošni komentar št. 1, Cilji izobraževanja. Pridobljeno 9. aprila 2023 iz Varuh človekovih pravic RS: https://www.varuh- rs.si/fileadmin/user_upload/PRAVNE_PODLAGE/Mednarodne_konvencije_- _OZN/Konvencija_o_otrokovih_pravicah/Komentarji_KOP/1__2001_.pdf 20. OZN. (2021). Splošni komentar št. 25 k otrokovim pravicam v razmerju do digitalnega okolja. Pridobljeno 14. maja 2023 iz Informacijski pooblaščenec RS: https://www.ip-rs.si/novice/splošni- komentar-odbora-za-otrokove-pravice-združenih-narodov-otrokove-pravice-v-digitalnem- okolju.https://docstore.ohchr.org/SelfServices/FilesHandler.ashx?enc=6QkG1d%2FPPRiCAqhKb7 yhsqIkirKQZLK2M58RF%2F5F0vEG%2BcAAx34gC78FwvnmZXGFUl9nJBDpKR1dfKekJxW2w9n NryRsgArkTJgKelqeZwK9WXzMkZRZd37nLN1bFc2t 21. P1EKČP. (1952). Zakon o ratifikaciji Konvencije o varstvu človekovih pravic in temeljnih svoboščin, spremenjene s protokoli št. 3, 5 in 8 ter dopolnjene s protokolom št. 2, ter njenih protokolov št. 1, 4, 6, 7, 9, 10 in 11. Uradni list RS – Mednarodne pogodbe, št. 7/94. 22. ReNPIO22-30. (2022). Resolucija o nacionalnem programu izobraževanja odraslih v Republiki Sloveniji za obdobje 2022–2030. Uradni list RS, št. 49/22. 23. UNESCO. (2023). Obveznosti in odgovornosti države v zvezi s pravico do izobraževanj a. Pridobljeno 5. maja 2023 iz UNESCO: https://www.unesco.org/en/right-education/state-obligations- responsibilities?hub=70224 24. URS. (1991). Ustava Republike Slovenije. Uradni list RS, št. 33/91-I, 42/97 – UZS68, 66/00 – UZ80, 24/03 – UZ3a, 47, 68, 69/04 – UZ14, 69/04 – UZ43, 69/04 – UZ50, 68/06 – UZ121,140,143, 47/13 – UZ148, 47/13 – UZ90,97,99, 75/16 – UZ70a in 92/21 – UZ62a. 25. Vlada RS. (2016). Digitalna Slovenija 2020. Pridobljeno 24. maja 2023 iz GOV.SI: https://www.gov.si/assets/ministrstva/MDP/DID/Strategija-razvoja-informacijske-druzbe-2020.pdf 26. Vlada RS. (2023). Digitalna Slovenija 2030. Pridobljeno 24. maja 2023 iz GOV.SI: https://www.gov.si/assets/ministrstva/MDP/Dokumenti/Digitalna-Slovenija-2030.pdf 27. Webb, M. et al. (2017). Computer science in K-12 school curricula of the 21st century: Why, what and when?. Educ Inf Technol, 22, 445–468. https://doi.org/10.1007/s10639-016-9493-x 28. Zalite, G. G., & Zvirbule, A. (2020). Digital readiness and competitiveness of the EU higher education institutions: The COVID-19 pandemic impact. Emerging Science Journal. 4(4). 297–304. 29. ZOsn. (2006). Zakon o osnovni šoli. Uradni list RS, št. 81/06 – uradno prečiščeno besedilo, 102/07, 107/10, 87/11, 40/12 – ZUJF, 63/13 in 46/16 – ZOFVI-K. 30. ZSDV. (2022). Zakon o spodbujanju digitalne vključenosti. Uradni list RS, št. 35/22 in 40/23. 75 REFORMA CIVILNIH SODNIH POSTOPKOV V DIGITALNI DOBI Dr. Tjaša Ivanc, univ. dipl. prav. Redna profesorica, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija tjasa.ivanc@um.si Asja Lešnik, dipl. prav. (UN) Študentka, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija asja.lesnik@student.um.si Povzetek: Evropska komisija je izdala sporočilo, v katerem navaja, da pregled stanja pravosodja Evropske unije in zemljevid kažeta, da bi lahko številna področja pravosodja imela koristi od nadaljnje digitalizacije. Kljub potrebam po hitrem razvoju digitalnih rešitev, le-teh ne smejo avtoritativno vsiljevati tehniki, temveč jih je treba uvesti ob upoštevanju pravic strank do sodnega varstva: pravice do zaslišanja in drugih temeljnih pravic, kot so pravica do zasebnosti, varstva podatkov in pravica do pravnega sredstva. Civilno pravosodje v Sloveniji le postopoma prehaja na elektronsko poslovanje, kljub temu da so zagotovljene zakonske podlage. Elektron- sko poslovanje v civilnih sodnih postopkih pomeni predvsem vlaganje elektronskih vlog, elek- tronski spis, elektronsko vročanje sodnih pisanj in elektronsko komuniciranje med subjekti po- stopka, izvedba narokov s pomočjo videokonferenc in elektronski dokazi. Tudi evropski zako- nodajalec sledi trendom digitalizacije na področju čezmejnih civilnih zadev ter si prizadeva za izboljšanje spletnega dostopa do postopkovnih informacij in spodbuja uporabo dinamičnih obrazcev, ki so na voljo na evropskem portalu e-pravosodje. Slovensko sodstvo je v posameznih sodnih postopkih že vzpostavilo celovito elektronsko poslovanje, vendar so, kljub temu da zakonodaja omogoča elektronsko poslovanje v vseh civilnih sodnih postopkih, zaenkrat informacijski sistemi vzpostavljeni le za področja insolventnosti, izvršilnih postopkov, sodnega registra in elektronske zemljiške knjige. Ključne besede: civilni postopek, digitalizacija, elektronsko poslovanje, elektronski dokaz, evropsko civilno procesno pravo 76 1 Uvod Pravdni postopek je proces, ki združuje medsebojno komunikacijo med procesnimi subjekti – sodiščem na eni strani ter strankami, zastopniki in drugimi udeleženci (izvedenci, zainteresira-nimi tretjimi osebami) na drugi strani. Tovrstne dejavnosti urejajo postopkovne določbe, ki temeljijo na temeljnih načelih in zahtevah civilnega postopka. Nepogrešljiv del pravdnega po- stopka mora biti tudi dobro vzpostavljena komunikacija, s katero se lahko med postopkom spodbuja medsebojno razumevanje sporne zadeve med sodiščem in strankami. Komunikacija in postopkovna dejanja morajo biti učinkovita in primerna za sodišče in stranke, vpletene v konkretnem postopku. Izboljšanje tega področja je lahko eden najpomembnejših korakov za dosego učinkovitosti pravosodja. Povečanje učinkovitosti in preglednosti postopkov sta dve očitni prednosti uporabe elektronskih tehnologij v civilnih postopkih. Sistemi elektronskega poslovanja z dokumenti, elektronski spisi in druge elektronske možnosti avtomatiziranega postopka prispevajo k racionalizaciji postopkov in prinašajo pozitivne spremembe glede proce- snega »vhoda in izhoda« (Harsági, 2012, str. 125). Eden največjih izzivov sodnega sistema v današnjem globaliziranem svetu je uvedba e-pravo- sodja. Dodani »e« uvaja uporabo informacijsko-komunikacijskih tehnologij (IKT). V evropskem prostoru je e-pravosodje politika, katere namen je izboljšati in posodobiti sojenje na dveh področjih sodnih postopkov. Na eni strani so sodni postopki, ki se izvajajo v okviru nacionalnih sodnih pristojnosti (Council of Europe, 2022), na drugi pa čezmejni sodni spori. Izzivi, s katerimi se soočajo zadeve s čezmejnimi elementi, kot so jezikovne težave, oddaljeni in neznani pravni sistemi, ter dokazi, ki se nahajajo v drugi državi članici1, pa je mogoče olajšati z ustrezno uporabo IKT. Uvajanje tehnološke podpore v poslovanje sodišč se je začelo v drugi polovici osemdesetih let prejšnjega stoletja z razvojem pravnega informacijskega sistema. Na začetku devetdesetih let 1 Kadar je treba dokaze (zaslišanje izvedencev, prič, zapisnik ogleda) pridobiti iz druge države, se postopek njihovega pridobivanja zaplete. Uporaba IKT lahko odpravi ovire, ki jih povzroča fizična razdalja med izvajanjem dokazov in sodečim sodnikom. Uredba (EU) 2020/1783 Evropskega parlamenta in Sveta z dne 25. novembra 2020 o sodelovanju med sodišči držav članic pri pridobivanju dokazov v civilnih ali gospodarskih zadevah določa procesna pravila, ki olajšajo pridobivanje dokazov v drugi dr- žavi članici. Uredba spodbuja uporabo komunikacijske tehnologije pri izvajanju dokazov, zlasti preko videokonference in telekonference. Obstajajo tudi drugi instrumenti EU, ki vključujejo določbe o dokazih. V skladu z Uredbo (ES) št. 861/2007, ki je vzpostavila evropski postopek v sporih majhne vrednosti, lahko sodišče dovoli pridobivanje dokazov prek videokonference ali drugih sredstev IKT. 77 se je začel tudi razvoj prvih elektronskih vpisnikov, predvsem na pravnih področjih, obreme-njenih s sodnimi zaostanki, zaradi spoznanja, da lahko elektronsko poslovanje bistveno pri- speva k učinkovitemu poslovanju sodišč (Brezovar, 2022, str. 887). Elektronsko poslovanje v civilnih sodnih postopkih pomeni predvsem vlaganje elektronskih vlog, elektronski spis, elek- tronsko vročanje sodnih pisanj in elektronsko komuniciranje med subjekti postopka, izvedbo narokov s pomočjo videokonferenc in elektronske dokaze. V nadaljevanju bomo predstavili stanje informatizacije civilnega pravosodja, še posebej možnosti trenutnega e-poslovanja v pravdnem postopku, s poudarkom na nenehnem spreminjanju zakonodaje na tem področju. Slednje je zagotovo eden izmed dejavnikov, ki pripomorejo k učinkovitejšemu delovanju na področju informatizacije sodnih postopkov. 2 Veljavna ureditev elektronskega poslovanja civilnega pravosodja v Sloveniji V slovenskem pravosodju je IKT tradicionalno v domeni Vrhovnega sodišča Slovenije. Upo- raba IKT v pravosodnem sistemu sega v leto 1986, ko je oddelek za spremljanje sodne prakse vrhovnega sodišča začel zbirati sodno prakso in zagotovil prvo zbirko podatkov (Strojin, 2013, str. 162). Nadalje pa je bil, kot izpostavlja Strojin (Strojin, 2013, str. 163), najpomembnejši organizacijski razvoj Center za informatiko (CIF), ki od leta 1996 v luči prilagajanja novim potrebam skrbi za izvajanje enotne tehnološke podpore poslovanja sodišč ter za pravni informa- cijski sistem sodišč (70. člen Zakona o sodiščih). Strategijo razvoja informacijske podpore v poslovanju sodišč sprejme Svet uporabnikov za informatizacijo sodišč2 na podlagi predhodnega mnenja ministrstva, pristojnega za zagotavljanje elektronskih storitev javne uprave, na predlog direktorja CIF pri Vrhovnem sodišču RS (5. odst. 70. člena). Pravno podlago za elektronsko poslovanje civilnega pravosodja v Republiki Sloveniji najdemo v Zakonu o pravdnem postopku (v nadaljevanju ZPP), ki v 7. odst. 105.b člena določa, da minister, pristojen za pravosodje, predpiše pogoje in način vložitve vlog v elektronski obliki, obliko zapisa vloge v elektronski obliki ter organizacijo in delovanje informacijskega sistema sodstva. Na podlagi te določbe je bil sprejet Pravilnik o elektronskem poslovanju v civilnih sodnih postopkih in v kazenskem postopku (v nadaljevanju Pravilnik), ki ureja vlaganje 2 Svet (sestavljen iz vodij služb za informatiko posameznih sodišč, predsednika vrhovnega sodišča, sodnika, ki je določen za vodenje CIF-a, direktorja CIF-a, predstavnikov sodnega sveta, državnega se-kretarja ministrstva in direktorja direktorata, pristojnega za informatiko javne uprave), ki se ukvarja z zunanjo organizacijo informatizacije sodnih postopkov, omogoča širok vpliv sodišč in državnih institucij na sodelovanje pri oblikovanju vsebin tehnološke podpore sodnih postopkov (Horvat, 2013, str. 1156). 78 elektronskih vlog, elektronsko vročanje in opravljanje drugih elektronskih opravil v pravdnem postopku in drugih civilnih postopkih ter v kazenskem postopku. Leta 2007 je stopila v veljavo sprememba ZPP (ZPP-C), katere cilj je bil izboljšati učinkovitost delovanja civilnega sodstva in uvesti zakonsko podlago za elektronsko civilno pravdo. Ta novela je omogočila avdio in video snemanje narokov ter vodenje sodnih zapisnikov v elektronski obliki, vodenje sodnih spisov in izdajo sodb v elektronski obliki. Na področju vročanja elektronskih vlog in prilog pisanj je novela omogočila dostavo z elektronsko pošto po varni elektronski poti. Novela je izenačila pisno in e-obliko, in sicer je določila, da se, kjer ZPP določa pisno obliko, šteje, da je elektronska oblika enakovredna pisni, če so podatki v elektronski obliki primerni za obdelavo na sodi- šču, dosegljivi in primerni za poznejšo uporabo (16.a člen ZPP), vendar zakon ni podal defini- cije, kaj se šteje kot podatki, ki so primerni za poznejšo uporabo. Naslednja novela ZPP (ZPP- D) je med drugim uvedla možnost uporabe videokonference. Zadnja obsežnejša sprememba ZPP (ZPP-E) je uvedla spremembe na področju e-vlog, pravila glede e-časovnih žigov pri e- vlogah, nove možnosti za vodenje e-zapisnikov ter obsežnejšo ureditev e-vročanja. Novela ZPP-E je nadgradila možnosti e-vročanja in omogočila vročanje po varni e-poti za določene kvalificirane osebe. 2.1 Vlaganje elektronskih vlog Elektronska vloga je v 2. odst. 105.b člena ZPP opredeljena kot vloga, ki je v elektronski obliki in je podpisana z elektronskim podpisom, ki je enakovreden lastnoročnemu podpisu. Z izrazom vloga po ZPP so mišljeni tožba, odgovor na tožbo, pravno sredstvo in druge izjave ter predlogi ali sporočila, ki se vlagajo zunaj obravnave. Pravilnik v 1. odst. 5. člena opredeljuje izraz elektronska vloga kot elektronski dokument z vsebino vloge stranke in drugih udeležencev v civil- nem sodnem postopku. Pravilnik glede vlaganja elektronskih vlog v civilnih sodnih postopkih in kazenskem postopku predpisuje: 1. organizacijo in delovanje informacijskega sistema sodstva (v nadaljevanju e-sodstvo), 2. pogoje in način vložitve vlog v elektronski obliki oziroma po elektronski poti in 3. obliko zapisa vloge v elektronski obliki (2. odst. 1. člena Pravilnika). Trenutno neomejeno elektronsko vlaganje vlog (npr. elektronsko oddajanje tožb, pritožb ipd.) v pravdnih postopkih še ni možno. Kljub temu pa ZPP že dopušča možnost, da se vloga vloži na predpisanem ali drugače pripravljenem obrazcu. Za obrazce v elektronski obliki se ne glede 79 na določbe drugih predpisov zahteva popolnoma enaka vsebina kot za obrazce, predpisane le v fizični obliki3. Sodišča lahko po sodnem redu uporabljajo telefon, telegraf in telefaks, po izrecni določbi 100.a člena sodnega reda pa lahko sodišča poslujejo tudi z drugimi sodobnimi sredstvi telekomunikacij in informacijske tehnologije. Strankam je omogočeno elektronsko ko- municiranje s sodišči, vendar le v okviru možnosti, ki jih omogoča informacijski portal e-Sod- stvo. 2.1.1 Pogoji in način vložitve vlog v elektronski obliki oziroma po elektronski poti Elektronsko vlogo prek portala e-sodstvo lahko uporabniki vložijo tako, da na portalu e-sodstvo izberejo ustrezno e-opravilo za vložitev elektronske vloge in v ustrezna polja zaslonskega obrazca vnesejo podatke o standardiziranem delu besedila vloge. Nato nestandardizirani del besedila elektronske vloge oblikujejo kot poseben elektronski dokument, ki ga podpišejo z var- nim elektronskim podpisom in priložijo izbranemu e-opravilu. Informacijski sistem e-sodstvo mora zagotoviti, da se vsaka prejeta elektronska vloga opremi s časovnim žigom časa prejema elektronske vloge in da se uporabniku posreduje elektronsko potrdilo o času prejema elektron- ske vloge (1. in 3. odst. 23. člena in 6. odst. 25. člena Pravilnika). Poudariti je treba, da vlaganje v elektronski obliki pomeni zgolj vlaganje vlog na zgoraj opisani način in ne pomeni, da se vloga lahko zgolj pošlje na elektronski naslov sodišča, kot včasih zmotno interpretirajo stranke v postopku (VDSS Sklep Psp 217/2019 z dne 5. 9. 2019; VSC Sklep I Cp 492/2021 z dne 13. 1. 2022). 2.1.2 Oblika zapisa vloge v elektronski obliki Elektronska vloga je sestavljena iz standardiziranega dela besedila elektronske vloge in ne- standardiziranega dela besedila elektronske vloge, ki jo uporabnik podpiše s svojim varnim elektronskim podpisom. Nestandardizirani del besedila elektronske vloge, ki je izvorno 3 Takšna možnost že obstaja za vložitev predlogov za izvršbo na podlagi verodostojnih listin (COVL), zemljiškoknjižne predloge in dejanja v stečajnem postopku. Zahteva pa se, da je prijavitelj pred vložitvijo predloga vključen v varnostno shemo kot zunanji kvalificirani uporabnik, ki mora imeti varen elektronski predal za vročanje pisanj v civilnem sodnem postopku in veljavno kvalificirano potrdilo, ki je povezano z davčno številko. 80 sestavljen kot pisni dokument, in prilogo, ki je pisna listina, mora uporabnik pretvoriti v elektronski dokument tako, da jo skenira (3. odst. 25. člena in 1. odst. 24. člena Pravilnika). Kljub obstoječi pravni podlagi (zakoni in podzakonski akti), ki se nanaša na vse civilne in gospodarske postopke, je trenutno na spletu oziroma elektronski poti mogoče začeti le postopke, zajete v portalu e-sodstvo: v izvršilnih postopkih je možno vlagati predloge za izvršbo in druge vloge v elektronski obliki ter izdajati in vročati sodna pisanja v elektronski obliki, možno je vlagati vloge in izdajati odločbe v postopkih zaradi insolventnosti ter vlagati zemljiškoknjižne predloge in izdajati odločbe v zemljiškoknjižnem postopku. Pri tem je treba povedati, da je zemljiškoknjižni postopek mogoče sprožiti izključno po spletu, saj Zakon o zemljiški knjigi (v nadaljevanju ZZK-1) v 1. odst. 125.a člena določa, da mora biti zemljiškoknjižni predlog vložen elektronsko in s tem torej določa obvezno elektronsko vlaganje pisanj. Za ostale postopke, pri katerih je mogoče sprožiti postopke tudi elektronsko, pa zakonodaja še vedno dopušča tudi vlaganje vlog v fizični oziroma papirnati obliki. 2.2 Elektronski spis Elektronski spis (v nadaljevanju e-spis) je spis v zadevi posameznega sodnega postopka, ki se vodi elektronsko (2. odst. 6. člena Pravilnika). V informacijskem sistemu e-sodstvo gre za samostojno horizontalno storitev, ki v okviru posamezne zadeve omogoča različne načine pri- kaza listin, shranjenih v elektronski obliki. V elektronskem spisu so tako vsa elektronska sodna pisanja in elektronske vloge, ki pripadajo določeni zadevi, kot tudi elektronski dokumenti, ki jih je sodišče prejelo v fizični obliki in jih naknadno pretvorilo v elektronsko obliko. V prvi fazi je elektronski spis namenjen sodnikom ter strokovnim sodelavcem in sodniškim pomočnikom (Brezovar, 2022, str. 887). Pravila glede vodenja e-spisa, ki se uporabljajo v civilnih sodnih postopkih in kazenskem po- stopku, v katerih se po zakonu ali drugem predpisu vodi e-spis, so opredeljena v Pravilniku. Ta v 27. členu določa, da se elektronski spis vodi tako, da se v centralni informatizirani bazi e-spisa hranijo: 1. vse elektronske vloge in elektronske priloge, ki so vložene v posamezni zadevi; 2. vsa elektronska sodna pisanja, ki jih je izdalo sodišče v tej zadevi, in 3. elektronske vročilnice in v elektronsko obliko pretvorjene pisne vročilnice v zvezi z vsemi vročitvami v tej zadevi. 81 Vse navedene elektronske listine so opremljene z metapodatki za posamezno civilno zadevo in se vodijo v centralni informatizirani zbirki podatkov (2. odst. 27. člena Pravilnika). V ZPP ni podrobnejših pravil o uporabi e-spisov v civilnem postopku. ZPP sicer vsebuje ureditev vpogleda v spise, po kateri lahko stranke v informacijski sistem vpogledajo in kopirajo elektronski spis sodišča v elektronski obliki, za kar morajo stranke izkazati svojo istovetnost (150. člen ZPP). Stranke imajo pravico v informacijskem sistemu spremljati potek posameznega postopka (3. odst. 150. člena ZPP). Področje, na katerem je v celoti vzpostavljen e-spis, je izvršilni postopek. Vse elektronske vloge, ki jih stranke v okviru izvršilnega postopka vložijo v elektronski obliki, so vidne v elektronskem spisu (izvršilni oddelki uporabljajo aplikacijo I-vpisnik). Prav tako so v tej aplikaciji vidna vsa pisanja sodišč: sklepi, odredbe, dopisi. Leta 2016 je bila uvedena digitalizacija (tj. skeniranje) vseh pisnih vlog v izvršilnih zadevah, kar pomeni, da so vse vloge strank od leta 2016 vidne v aplikaciji I-vpisnik, torej v elektronskem spisu (Ekart, 2017, str. 283). 2.3 Elektronsko vročanje sodnih pisanj Eden od načinov vročanja, ki jih v 132. členu določa ZPP, je vročanje pisanj po varni elektronski poti. Stranka lahko sodišču sporoči, da želi vročitev pisanj po varni elektronski poti v varen elektronski predal ali na naslov za vročanje po varni elektronski poti, registriran v informacijskem sistemu sodstva, katerega naslov navede v vlogi4. Navedeni naslov je enakovreden na- slovu prebivališča oziroma sedežu stranke. Če stranka pisanje vloži v elektronski obliki, se šteje, dokler ne sporoči drugače, da želi vročanje po varni elektronski poti. Ne glede na to pa se državnim organom, odvetnikom, notarjem, izvršiteljem, stečajnim upraviteljem in drugim osebam, za katere tako določa zakon, vedno vroča po varni elektronski poti. Organi in te osebe morajo v informacijskem sistemu sodstva registrirati svoj varni elektronski predal ali naslov za vročanje po varni elektronski poti. Nadalje ZPP v 139. členu določa čas vročanja, in sicer se v fizični obliki vroča podnevi od 6. do 22. ure, po elektronski poti pa 24 ur na dan. 4 Če stranka v vlogi navede e-naslov, to še ne pomeni, da soglaša z elektronsko vročitvijo. Stranka se mora s tovrstno storitvijo izrecno strinjati. 82 141.a člen ZPP določa, da se vročitev pisanja v elektronski obliki lahko opravi z vročitvijo pisanja v fizični obliki ali po varni elektronski poti. V fizični obliki se vročitev opravi skladno z določbami, ki urejajo vročanje pisanj v fizični obliki. Po varni elektronski poti pa se vročitev pisanja opravi prek informacijskega sistema sodstva neposredno na naslov za vročanje, ki je registriran v informacijskem sistemu sodstva, ali v varni elektronski predal s posredovanjem pravne ali fizične osebe, ki opravlja vročanje pisanj po varni elektronski poti kot registrirano dejavnost in pridobi dovoljenje ministra, pristojnega za pravosodje, če izpolnjuje tehnične pogoje, ki jih določi minister, pristojen za pravosodje. Naslovnik se z vsebino pisanja, poslanega po varni elektronski poti, seznani in ga prevzame tako, da se pred prevzemom na predpisani način identificira, elektronsko podpiše vročilnico in jo tako podpisano vrne pošiljatelju po varni elektronski poti. Šteje se, da se je naslovnik seznanil in prevzel vsa pisanja, ki se v varnem elektronskem predalu ali na naslovu za vročanje, ki je registriran v informacijskem sistemu sodstva, nahajajo v trenutku, ko je prevzel pisanje. Vročitev velja za opravljeno z dnem, ko naslovnik prevzame elektronsko pisanje. Če pisanja ne prevzame v 15 dneh, velja vročitev za opravljeno s potekom tega roka. Varno elektronsko pot, tehnične pogoje za pridobitev dovoljenja za varno elektronsko vročanje in višino nadomestila za posredovanje pri vročanju pisanj v varni elektronski predal natančneje določa Pravilnik. 2.4 Elektronsko komuniciranje med subjekti postopka Večina komuniciranja med odvetniki in strankami danes poteka po elektronski pošti oziroma telefonu, prav tako komunikacija med odvetniki nasprotnih strank v večini poteka po elektronski ali (v redkih primerih) navadni pošti. Komunikacija strank s sodišči v celoti poteka po tradicionalnih poteh. Za sedanje postopke je sicer značilna sinhronost – stranke, sodnik, izvedenci in priče morajo npr. ves čas usklajevati datume prisotnosti in razpoložljivosti. Spletni postopki pa so lahko vsaj do neke mere asinhroni in bi lahko znatno olajšali in pospešili sodne postopke. Vsaka stranka bi lahko v elektronski spis naložila svojo vlogo v določenem časovnem obdobju in naložili bi se lahko videoposnetki izjav prič. Druga stranka bi bila avtomatično opozorjena na nove doku-mente v spisu in bi se lahko na to odzvala v določenem časovnem okviru, ne glede na to, kje bi se tedaj nahajala. Tudi izvedenci bi lahko svoja pisna mnenja naložili v spis, sproti pregle-dovali pripombe na ta mnenja, jih dopolnjevali in odgovarjali na postavljena vprašanja (Pensa, 83 2020, str. 3). S tem bi torej znatno olajšali in pospešili komunikacijo med subjekti postopka, ki terja precej časa že s tem, ko se iz pisarne v pisarno in na sodišče ter s sodišča nazaj prena- šajo kupi papirja, ki bi v digitalnem okolju lahko mnogo hitreje dosegli želeni subjekt postopka in želeni cilj. 2.5 Izvedba narokov s pomočjo videokonferenc Videokonferenca je tehnična možnost, ki jo je prinesel tehnološki razvoj. Že pravo EU daje možnost uporabe videokonference za pridobivanje dokazov v civilnih in gospodarskih zade- vah, in sicer Uredba (EU) 2020/1783 o sodelovanju med sodišči držav članic pri pridobivanju dokazov v civilnih ali gospodarskih zadevah v 20. členu določa možnost neposrednega prido- bivanja dokazov prek videokonference ali druge tehnologije komuniciranja na daljavo za pri- mere, pri katerih je treba pridobiti dokaze z zaslišanjem osebe, ki se nahaja v drugi državi članici, pri čemer sodišče zaprosi za neposredno pridobivanje dokazov. V teh primerih lahko sodišče pridobi dokaze z uporabo videokonference ali druge tehnologije komuniciranja na da- ljavo, če je takšna tehnologija sodišču na voljo in sodišče šteje, da je uporaba takšne tehnologije ustrezna glede na posebne okoliščine zadeve. Pravno podlago za izvedbo videokonference v slovenskem pravnem sistemu daje ZPP v 114.a členu, ki določa, da lahko s soglasjem strank sodišče strankam in njihovim pooblaščencem dovoli, da se v času naroka nahajajo na drugem mestu in tam opravljajo procesna dejanja, če je zagotovljen zvočni in slikovni prenos iz kraja, v katerem se opravlja narok, v kraj oziroma kraje, v katerem oziroma v katerih se nahaja oziroma se nahajajo stranke in pooblaščenci ter obratno (videokonferenca). Pod temi pogoji lahko sodišče odloči, da se izvede tudi dokaz z ogledom, listinami, zaslišanjem strank in prič ter dokaz z izvedencem. Zaradi varovanja načela neposrednosti in kontradiktornosti mora sodišče v primerih, ko se posluži tehničnih možnosti za zaslišanje na daljavo, okoliščine tehtati še posebej pazljivo in skrbno ter se zanesljivo prepričati, da zaslišana oseba na drugi strani zveze razume vprašanja oziroma jih ima možnost razumeti. Prav tako je sodišče po najboljših močeh dolžno zagotoviti, da se povezava vzpostavi čim bolj zanesljivo in, če je le mogoče, z vidnim stikom preko video povezave (VSL Sklep I Cp 1623/2020 z dne 24. 9. 2020). Videokonferenca namreč posega v eno od temeljnih načel civilnega postopka, tj. načelo neposrednosti, saj omejuje zaznavanje osebe, ki jo slišimo, ali predmeta, ki ga pregledujemo. Kljub lažjemu in preprostejšemu načinu izvedbe dokazov ali narokov s pomočjo videokonference se morajo sodišča zavedati teh 84 pomanjkljivosti in se, če menijo, da je to primernejše, odločiti, da določene dokaze vseeno izvedejo fizično in ne s pomočjo videokonference (Zahrastnik, Baghrizabehi, 2022, str. 63). 2.6 Elektronski dokazi Elektronski dokaz je »vsakršna informacija z dokazno vrednostjo, ki je bodisi shranjena bodisi posredovana v digitalni obliki« (Whitcomb, 2022). To so npr. elektronska sporočila, SMS-sporočila, digitalne fotografije, objave v družbenih medijih, računalniško ustvarjeni podatki in zapisi itd. V primerjavi z dokazi v papirni obliki so elektronski dokazi sicer enostavno spremenjeni (Ivanc, 2015, str. 42). Pojem elektronski dokaz v slovenski zakonodaji ni definiran, so pa elektronski dokazi izrecno priznani kot enakovredni fizičnim. ZPP namreč v 16.a členu določa, da kjer zakon določa pisno obliko, se šteje, da je elektronska enakovredna pisni, če so podatki v elektronski obliki primerni za obdelavo na sodišču, dosegljivi in primerni za poznejšo uporabo. V 2. odst. istega člena pa ZPP izrecno določa, da se podatkom v elektronski obliki ne sme odreči dokazne vrednosti zgolj zato, ker so v elektronski obliki. Bistvena podlaga za dokazno vrednost elektronskih dokumen- tov je Zakon o elektronskem poslovanju in elektronskem podpisu (v nadaljevanju ZEPEP), ki prepoveduje kakršno koli diskriminacijo glede elektronske oblike in določa, da se podatkom v elektronski obliki ne sme odreči veljavnosti ali dokazne vrednosti zgolj zato, ker so v elektronski obliki (4. člen ZEPEP). V ZPP vrste dokaznih sredstev niso taksativno naštete, zato se lahko v postopku uporabijo tudi nove vrste elektronskih dokazov. Vprašanje pa je, pod katera pravila klasičnih vrst dokaznih sredstev bi lahko kategorizirali določene elektronske dokaze, bodisi kot predmet uporabe pravil ogleda ali pravil za listine. Zaradi nasprotujoče si narave elektronskih dokazov je nemogoče vse kategorizirati kot isto dokazno sredstvo. 3 Razprava V zadnjih letih je računalnik postal središče skorajda vseh področij našega življenja, tudi prava. Že pravni predpisi, njihovi čistopisi in stanje na kateri koli dan v preteklosti so dostopni na spletu, prav tako tudi sodna praksa in zemljiška knjiga. Komunikacija s sodišči in delo s sodnimi spisi pa se skorajda nista spremenila (razen v določenih postopkih, ki so že v celoti digitalizi-rani). Odvetniki še vedno na sodišča po pošti pošiljajo velike količine papirja, prav tako jim ga v njihove pisarne pošiljajo sodišča in odvetniki nasprotnih strank. V svetu, ki je vsak dan bolj 85 digitaliziran, tako pravniki še vedno pretežno ostajamo zavezani tradiciji. Možnosti, ki jih za povečanje učinkovitosti odvetniškega in sodnega dela ponuja moderna tehnologija, so številne. Že digitalizacija vseh pisnih vlog in spletna dostopnost celotnih sodnih spisov bi v odvetniškem in sodniškem delu lahko pomenili pravo revolucijo (Pensa, 2020, str. 3). Digitalizacija v pravu torej močno zamuja, kljub temu da je informacijsko-telekomunikacijska tehnologija, ki zadošča za elektronsko poslovanje, danes večini ljudem povsem dostopna (Podpečan, 2020, str. 1206) in da so zagotovljene pravne podlage za elektronsko poslovanje v civilnih sodnih postopkih. Digitalizacijo dodatno omejujejo tudi sodišča, ki v postopkih, kjer elektronsko vlaganje vlog ni izrecno predpisano, zavračajo elektronsko vložene vloge iz razloga formalne po- manjkljivosti (Podpečan, 2020, str. 1206)5. Tudi sicer iz sodne prakse izhaja, da slovenska sodišča ozko razlagajo tehnične zahteve za elektronsko poslovanje s sodišči (Sklep VSL II Ip 1474/2019 z dne 11. 9. 2019), kar še dodatno omejuje digitalizacijo. Ob vsem tem je treba poudariti, da je treba pravno ureditev nenehno prilagajati in nadgrajevati, da se pravno orga- nizirano lahko izkoristijo vse priložnosti informacijske dobe (Rijavec, 2018, str. 4). Poudariti je treba tudi, da stranke pogosto komunicirajo s sodiščem po elektronski pošti. Tako se na primer vloge z opravičili in/ali predlogi za preložitev naroka pošljejo po elektronski pošti sodišču s prošnjo, naj sodnik tako prošnjo preuči in o njej odloči. Menimo, da kljub vse večji informatizaciji pravdnega postopka takšna praksa ni pravilna, predvsem iz razloga, ker v takih primerih ni mogoče preveriti identitete strank oziroma ugotoviti, ali je elektronsko sporočilo dejansko poslala stranka ali pa ga je poslal nekdo drug (npr. nasprotna stranka). Uporaba sodobnih komunikacijskih sredstev, kot so videokonferenčna zaslišanja, posnetki na družbenih omrežjih ipd., izpostavlja problematiko, ki bi jo bilo v prihodnosti vsekakor treba obravnavati. Posebej je treba zagotavljati varstvo zasebnosti in v tem pogledu ustavno varovane kategorije pravic. V vsakem primeru naj sodnik presodi, ali je šlo za protipraven poseg v zasebnost. Sodniki se pogosto srečujejo z izzivom, ali so elektronski podatki, ki služijo kot dokaz, verodostojni. Najpogosteje uporabljeno dokazno sredstvo v slovenskem pravdnem postopku je zaslišanje priče, po drugi strani pa veljajo priče tudi za najbolj nezanesljive dokaze. Sodnik presoja številne dejavnike, ki vplivajo na zanesljivost prič, najbolj zaupanja vreden na- čin preverjanja zanesljivosti priče pa je ustno zaslišanje, ki omogoča tudi vpogled v govorico telesa priče. Poleg tega bi lahko zaslišanje priče na daljavo prek videokonference sodnikom 5 Sodišče je npr. v zadevi VDSS Sklep Psp 188/2019 z dne 22. 8. 2019 razložilo, da čeprav ZPP predvideva vlaganje vlog v elektronski obliki, ta možnost (razen za področja insolventnosti, izvršilne postopke, vodenje sodnega registra ter zemljiškoknjižne zadeve) zaenkrat ni operacionalizirana. 86 predstavljalo težave pri ocenjevanju izjav v smislu pridobivanja splošnega vtisa o priči, ki pa lahko izostane zaradi fiksnega snemanja priče. Sodniki so zato v civilnem postopku običajno zelo konservativni, ko gre za vprašanje uporabe videokonference. 4 Sklep V slovenskem pravnem sistemu imamo zagotovljene pravne podlage za elektronsko poslova- nje v vseh civilnih postopkih. Vlaganje elektronskih vlog, elektronsko vročanje in opravljanje drugih elektronskih opravil v civilnih postopkih ureja Pravilnik o elektronskem poslovanju v civilnih sodnih postopkih in kazenskem postopku. Preko informacijskega sistema in portala e- sodstvo je mogoče vložiti elektronske vloge, ki so sestavljene iz standardiziranega dela (obrazca) in nestrandardiziranega dela (ki je izvorno pisni dokument). Te so nato vidne v elektronskem spisu. Prav tako je mogoče preko e-sodstva elektronsko vročiti sodna pisanja stran- kam postopka. Kljub obstoječi pravni podlagi za celovito elektronsko poslovanje v vseh civilnih postopkih je informacijski sistem e-sodstvo zaenkrat vzpostavljen le za področja insolventnosti, izvršilnih postopkov, sodnega registra in elektronske zemljiške knjige, v ostalih postopkih pa komunikacija med subjekti postopka še vedno poteka po tradicionalnih poteh. Literatura 1. Brezovar, R. (2022). Digitalizacija slovenskega sodstva danes ter izzivi in rešitve za jutri. Podjetje in delo, 48(6–7), 887 – 892. 2. Ekart, A. (2017). Poslovanje izvršilnega oddelka, ki prehaja na elektronsko poslovanje. Pravosodni Bilten, 38(1), 283–295. https://cip.gov.si/pravosodni-bilten/ 3. Council of Europe. (2022). European judicial systems CEPEJ Evaluation Report 2022 Evaluation cycle (2020 data). https://www.coe.int/en/web/cepej/special-file-report-european-judicial-systems- cepej-evaluation-report-2022-evaluation-cycle-2020-data- ?p_p_id=56_INSTANCE_Pec933yX8xS5&p_p_lifecycle=0&p_p_state=normal&p_p_mode=view& p_p_col_id=column-4&p_p_col_pos=1&p_p_col_count=2 4. Harsági, V. (2012). Digital technology and the character of civil procedure. In M. Kengyel and Z. Nemessányi (Eds.), Electronic technology and civil Procedure: New paths to justice from around the world. Ius Gentium: Comparative Perspectives on Law and Justice. https://doi.org/10.1007/978-94- 007-4072-3 5. Horvat, V. (2013). Rešitve za e-sodstvo, ki bo v pomoč, ne v breme: (pogled sodnika). Podjetje in delo, 39(6–7), 1152–1166. 87 6. Ivanc, T. (2015). Evidence in civil law – Slovenia. Institute for Local Self-Government and Public Procurement. http://library.oapen.org/handle/20.500.12657/31993 7. Morgan Whitcomb, C. (2022). Historic perspective of digital evidence: A forensic scientists view. International Journal of Digital Evidence, 1(1). : https://www.utica.edu/academic/institutes/ecii/publi- cations/articles/9C4E695B-0B78-1059-34324 02909E27BB4.pdf 8. Pensa, P. (2020). O spremembah v odvetniškem poklicu. Odvetnik, 22(1), 3–4. http://www.odv- zb.si/upload/revija/Revija%20Odvetnik%202020/ODVETNIK%20st-94.pdf 9. Podpečan, M. (2020). Digitalizacija – med specialnim in splošnim pravnim urejanjem. 46, 1206– 1215. http://www.dlib.si/details/URN:NBN:SI:doc-Y9CRDTY3 10. Rijavec, V. (2018). Leto 2018 – nove priložnosti za pravo in pravnike. Pravna Praksa, 37(1), 3–4. 11. Strojin, G. (2013). The central department for enforcement on the basis of authentic documents in Slovenia. In F. Contini and G. F. Lanzara (Eds.), Building Interoperability for European Civil Proceedings Online. CLUEB. 12. Zahrastnik, K., & Baghrizabehi, D. (2022). Videoconferencing in times of the pandemic and beyond: Addressing open issues of videoconferencing in cross-border civil proceedings in the EU. Balkan Social Science Review, 19, 47–68. https://doi.org/10.46763/BSSR2219047z 88 PRAVNI IZZIVI UPORABE KLEPETALNEGA ROBOTA ChatGPT Gal Pastirk Študent, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija gal.pastirk@student.um.si Dr. Andreja Primec, univ. dipl. prav. Izredna profesorica, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija andreja.primec@um.si Povzetek: Prispevek v središče postavlja pravne izzive klepetalnega robota ChatGPT. Pregled literature naslavlja nekaj osnovnih pojmov, ki se tičejo klepetalnega robota ChatGPT. V nadaljevanju je izpostavljen razvoj umetne inteligence in vpliv na pravo ter oblikovanje pravnih besedil s pomočjo klepetalnih robotov. V rezultatih raziskave so predstavljene ugotovitve o varstvu podatkov pri uporabi klepetalnega robota ChatGPT, posebej je poudarjen primer italijanske agencije za varstvo podatkov. V razpravi prispevek izpostavi tudi mogoče posledice prekomer-nega zanašanja na umetno inteligenco. Osrednji poudarki prispevka predstavljajo vpliv klepe- talnega robota ChatGPT na pravo in obratno. Ključne besede: GDPR, klepetalni robot ChatGPT, pravni izziv, umetna inteligenca, varstvo podatkov 89 1 Uvod V zadnjih mesecih je veliko zanimanje širše javnosti pritegnil moderen klepetalni robot ChatGPT, ki ga upravlja umetna inteligenca. V nekaj sekundah je sposoben napisati besedilo na poljubno temo, ki se po kakovosti lahko primerja s človekovim pisanjem, marsikdaj pa ga tudi preseže. Klepetalni robot ChatGPT je v zadnjih mesecih nase opozoril v slogu svetovno znanih zvezdnikov. O njem je slišati v pogovorih v krogih prijateljev, na drugi strani pa se o njem organizirajo razprave na znanstvenih konferencah. Ob bliskovitem razvoju so se številna vprašanja iz umetne inteligence omejila na klepetalni robot ChatGPT. Tako v nadaljevanju izpostavljamo morebitne pravne dileme, ki so se že pojavile. Prihodnji razvoj prava bo tesno prepleten z novimi spoznanji o umetni inteligenci, na katere mora pravo pravočasno odgovarjati. Zaradi naglega znanstvenega in tehnološkega razvoja bodo hitri odzivi prava na spremembe neizogibno potrebni. Četudi je še prezgodaj za celovito oceno vseh možnih učinkov klepetalnega robota ChatGPT, vključno s pravnega vidika, so ne- katere zadeve takoj sprožile številna zakonodajna in etična vprašanja. 2 Pregled literature V tem poglavju je podan pregled literature o klepetalnem robotu ChatGPT in njegovem vplivu na razvoj umetne inteligence pri pomoči uporabniku – v obliki klepetalnih robotov, oblikovalcev pravnih besedil in pravnih pomočnikov. Poleg razvoja, vplivov in uporabnosti klepetalnega robota ChatGPT so pregledani tudi njegovi pravni vidiki. 2.1 Vpliv klepetalnega robota ChatGPT na razvoj klepetalnih robotov Konec novembra 2022 je OpenAI izdal klepetalnega robota ChatGPT. Danes ima že več kot 100 milijonov uporabnikov. Zastavljajo mu raznovrstna vprašanja, prav tako zna pisati pesmi, govore, sporočila, članke, pravzaprav vse, kar si lahko zamislimo. Tehnološka podjetja po svetu razvijajo številna orodja in klepetalne robote, ki delujejo z umetno inteligenco in so zelo priljubljeni. Ob tem hitrem razvoju so posebno zaskrbljujoča vprašanja, povezana s kratenjem pravice do zasebnosti ter širjenjem predsodkov in dezinformacij. 90 Največja tekma v razvoju umetne inteligence se trenutno odvija med Evropo, Kitajsko in ZDA. Kitajska bo v kratkem ponudila svojo različico klepetalnega robota, ki predstavlja konkurenco klepetalnemu robotu ChatGPT. Tekmujejo tako države kot tehnološka podjetja (Milinković, 2023). Bing, Microsoftov iskalnik, in Bard, Googlov iskalnik (ki še ni na voljo v Sloveniji), sta nedavno razširila ponudbo. Omeniti velja tudi novo orodje Amazon Bedrock, ki je bilo javnosti predstavljeno aprila in omogoča gradnjo lastnih uporabniških vmesnikov aplikacij (Dinevski, 2023). Strokovnjaki pri tem opozarjajo predvsem na netransparenten razvoj in morebitne zlorabe (Robnik Šikonja, Zupan, Ule, & Krašovec, 2023). 2.2 Kaj je klepetalni robot ChatGPT in kako deluje? Na tem mestu bo za razumevanje in nadaljno razpravo pojasnjeno, kaj sploh je klepetalni robot ChatGPT. Gre za ime enega izmed jezikovnih modelov GPT (Generative Pre-trained Trans- former), ki ga je razvilo podjetje OpenAI. 30. novembra 2022 je podjetje tudi uradno izdalo klepetalnega robota ChatGPT. Ta predstavlja sodoben model umetne inteligence, ki temelji na arhitekturi Transformer in je bil usposobljen na velikih količinah besedilnih podatkov (Perlman, 2023). Prednost klepetalnega robota je, da nam omogoča dokaj hitro komunikacijo s sistemom prek besedilnih vnosov. Hkrati pa je dodatno sposoben slediti kontekstu pogovora, ki se prilagaja želenim potrebam, kar ustvarja bolj interaktiven dialog. Velika odlika sistema je tudi komunikacija v različnih jezikih ter odgovarjanje na številna zahtevna vprašanja s področja različnih tematik. Podatke, ki jih shranjuje klepetalni robot ChatGPT, je mogoče uporabiti za generiranje odgo- vorov na pogovore in poizvedbe ter za oblikovanje virtualnih pomočnikov, ki lahko hitro odgo- vorijo na potrebe strank. OpenAI je ustvaril izjemno aplikacijo UI z združitvijo tehnik nadzorovanega in okrepitvenega učenja, kar klepetalnemu robotu omogoča, da ustvarja odgovore kot človek in se pogovarja (Grobelnik, 2023). Pri razvoju modela klepetalnega robota ChatGPT so njegovi snovalci uporabili kombinacijo nadzorovanega in spodbujevanega učenja. Za usposabljanje modela so zbrali pozive, ki so predstavljali vprašanja ali zahteve uporabnikov. Posamična vprašanja so pripravili ljudje, 91 imenovani označevalci, medtem ko so druga zbirali iz dejanskih interakcij z uporabniki preko OpenAI API-ja. Označevalci so pomagali tako, da so ob vsakem pozivu napisali pričakovane odgovore. Združili so podatke in jih uporabili za učenje modela, da bi se ChatGPT naučil ustrezno odgovarjati na različne pozive. Na ta način so z uporabo podatkov ustvarili model, imenovan model nadzorovane politike, ki temelji na teh zapisanih odgovorih. Ta se uporablja za generiranje odgovorov na podlagi vhodnih pozivov. Kljub vsemu pa je pomembno izposta- viti, da klepetalni robot ChatGPT ni brez svojih omejitev. Trenutno robot ne pozna podatkov in dogodkov, ki so se zgodili po septembru 2021. Kot zna klepetalni robot ChatGPT sam pojasniti, je sistem zasnovan na umetni inteligenci, pri čemer ima lahko težave pri razumevanju zaple- tenih kontekstov, težave pri pravilni interpretaciji vprašanj in pri generiranju natančnih odgovorov. Prav tako je treba biti pozoren na morebitne etične in pravne vidike uporabe takšnih sistemov ter paziti, da se prepreči širjenje zavajajočih ali nepravilnih informacij (Hillemann, 2023). Zadnja sprememba na področju klepetalnega robota ChatGPT je bila četrta različica GPT4, ki je bila izdana 14. marca 2023. Gre za naprednejšo različico jezikovnega modela umetne inte- ligence, ki vključuje še večje število podatkov in dela manj napak (Grobelnik, 2023). 2.3 Pravo umetne inteligence pred pojavom klepetalnega robota ChatGPT V pravu je umetna inteligenca že dokaj prisotna. Čas, ko so pravniki preživljali večino delovnih dni med knjigami, analizirajoč relevantne podatke, se zaključuje. Že dalj časa se tudi v pravu uporabljajo avtomatizirane elektronske baze pravnih virov, ki so delo precej olajšale in spre-menile. V zadnjih letih se stremi k uporabi umetne inteligence v pravu, ki se uporablja pri pregledu ogromne količine pogodb in drugih pravnih dokumentov. Tako lahko pravnik v krajšem času in z manjšimi stroški sestavi boljši izdelek ali pa mu umetna inteligenca pomaga pri skrbnem pregledu, da stranko seznani z vsemi morebitnimi tveganji v pogodbah (Pastirk, 2022). Časovno precej zamudna opravila v pravnih sporih so razčlenjevanje strukture, pomena in relevantnih informacij iz obsežnega nabora dokumentov, ki se pojavijo med odkrivanjem dokazov. Umetna inteligenca bo izrazito pospešila ta proces in delo bo opravljeno v nekaj sekun- dah, medtem ko bi brez pomoči umetne inteligence za delo porabili tedne. Primer lahko vidimo pri pripravi vlog za vložitev na sodišču. S pomočjo umetne inteligence se osnutek pravnega dokumenta lahko pripravi zelo hitro. Prispevek pravnika bo še vedno potreben za pripravo končnega osnutka, vendar bo postopek z uporabo novih orodij veliko hitrejši (Villasenor, 2023). V nekaterih državah se sodišča in drugi pravosodni deležniki poslužujejo orodij umetne inteli- gence za izboljšanje različnih vidikov pravosodnega sistema. Ta orodja omogočajo analiziranje 92 podatkov, iskanje precedensov, ugotavljanje enotne sodne prakse ter urejanje besedil, kar prispeva k učinkovitejšim in hitrejšim sodnim postopkom. V kazenskih postopkih se na primer uporaba orodij umetne inteligence kaže v predlaganju in argumentiranju odločitev sodnika. V primeru obsodilne sodbe lahko takšna orodja predlagajo dolžino zaporne kazni in podajo sta- tistične podatke o možnosti povratništva obdolženca. S tem sodnikom nudijo pomoč pri ute- meljevanju odločitev in izbiranju ustrezne sankcije (Cerar, 2023). Prav z vidika pravne pred- vidljivosti je lahko umetna inteligenca sodnikom v precejšnjo pomoč, saj lahko podobne stvari podobno obravnavajo. Za pravično sojenje je pomembna tudi enotna sodna praksa, ki po-večuje zaupanje v pravo. Vendar nekaterih človeških lastnosti, kot je na primer občutek pra- vičnosti, algoritmi ne morejo povzeti (Pastirk, 2022). Namesto tega pa lahko umetna inteligenca vodi analize med sojenjem. Tako lahko sproti pomaga oblikovati ustrezna vprašanja, ki se postavljajo pričam. Ta zmožnost omogoča učinkovitejše izluščevanje bistvenih podatkov, kar odvetniku pomaga pri identifikaciji ključnih poudarkov primera (Villasenor, 2023). Danes na področju prava, kakor na drugih področjih, dostopamo do številnih podatkov prepro- steje in hitreje kakor kadar koli prej. Del pravnega sklepanja namreč že sedaj opravijo raču- nalniki. Prav klepetalni robot ChatGPT pa je ta proces še dodatno pospešil in ga v vsakdanji rabi približal pravnikom. 2.4 Vloga klepetalnega robota ChatGPT pri oblikovanju pravnih besedil in njegove ome- jitve Klepetalni robot ChatGPT deluje na osnovi velike količine tekstovnih podatkov (besed), vključno s pravnimi besedili. Pozna torej osnovna načela prava in lahko odgovarja na pravna vprašanja. Kljub temu pa je pomembno upoštevati, da klepetalni robot ChatGPT ni pravni stro- kovnjak in ne more nadomestiti strokovnega pravnega svetovanja. Njegove odgovore je treba jemati kot informativne in izobraževalne, vendar pa ni primerno, da se uporabljajo za spreje- manje pomembnih pravnih odločitev. Odgovor, ki ga je sam podal klepetalni robot ChatGPT, je pravilna ocena njegovega obstoječega znanja prava. Problematično je, da lahko klepetalni robot ChatGPT ustvari tudi napačne odgovore. Ta »ha- lucinacija«, kot jo imenujejo nekateri znanstveniki, je nevarna, če nam poda povsem napačen odgovor na pravno vprašanje, ki smo ga zastavili (Hillemann, 2023). 93 Klepetalni robot ChatGPT je bil ustvarjen predvsem kot splošno orodje za različna področja zanimanja in različne spektre znanj. V prihodnosti je seveda mogoče pričakovati, da se bo klepetalni robot ChatGPT za specifična vprašanja izboljšal in postal pri odgovarjanju na zastavljena vprašanja še bolj točen in bo delal manj napak. Najbrž se bodo za specifična področja razvili sistemi, podobni klepetalnemu robotu ChatGPT, ki bodo specializirani in prilagojeni posameznim panogam. Tako bodo različni modeli ponujali razbremenitve za arhitekte, zdravnike, računalničarje, pravnike in mnoga druga področja. 2.5 Prvi pravni pomočnik CoCounsel Tehnologija, podobna klepetalnemu robotu ChatGPT, je zbudila zanimanje tudi med odvetniki in drugimi pravnimi strokovnjaki. Potencial naprednih robotov, ki bi pomagali in dopolnjevali delo, je ustvaril samostojne sisteme, specializirane za področje prava. Prvi veliki jezikovni model na področju pravne tehnologije je 1. marca predstavilo podjetje Ca-setext1. Gre za pravnega pomočnika, imenovanega CoCounsel, ki deluje s pomočjo umetne inteligence. CoCounsel deluje s pomočjo tehnologije OpenAI, podjetja, ki je ustvarilo klepetalnega robota ChatGPT. Uporabnikom omogoča sestavo pravnih dokumentov, analizo njihovih pisanj in pomoč pri raziskovanju pravnih področij (Villasenor, 2023). CoCounsel se lahko v nekaj sekundah odzove na navodila v naravnem jeziku ter bere, razume in piše na podiplomski ravni. CoCounsel avtomatizira kritična, časovno intenzivna pravna opravila in zagotavlja delo vrhunske kakovosti hitreje in natančneje, kot bi lahko to počel človek. Pravni strokovnjaki bodo tako lahko uporabljali CoCounsel za pomoč pri široki paleti zamudnih opravil, vključno s pre-gledom dokumentov, pravnim raziskovanjem ter revizijo in pripravo pogodb, kar jim bo dalo več časa za osredotočanje na vidike pravnega poklica, ki jih ni mogoče opraviti s pomočjo napredne tehnologije. Casetext ponuja različico orodja, ki naj bi po njihovih zagotovilih deloval zanesljivo in dovolj varno za uporabo pri pravnih strokovnjakih (Polson & Shenkman, 2023). 1 CaseText je pravno tehnološko podjetje, ki je že od leta 2013 vodilo inovacije na področju pravne umetne inteligence. Pravnikom in drugim uporabnikom omogoča dostop do obsežne zbirke sodnih primerov in drugih pravnih virov. S pomočjo naprednih algoritmov in umetne inteligence pomaga uporabniku iskati, analizirati in razumeti pravne primere ter zakonodajo na učinkovitejši način. Poleg iskanja primerov ponuja tudi funkcionalnosti, kot so povzetki primerov, analizo pravnega jezika in sodelovalno delo med pravniki. 94 3 Metode Raziskava je bila razdeljena na štiri dele, ki sledijo logični členitvi prispevka in se med seboj povezujejo ter dopolnjujejo. V prvem delu je bila uporabljena predvsem metoda deskripcije, ki omogoča bralcu, da pridobi širše razumevanje predmeta raziskave. Pri uporabi metode des- kripcije je prispevek tematsko oblikovan tako, da obravnava različne pojme v posamičnih pod- poglavjih. V drugem delu raziskave je uporabljena komparativna metoda, kjer se primerja varstvo oseb- nih podatkov klepetalnega robota ChatGPT z nivojem varstva po evropski zakonodaji. Na ta način je bilo mogoče oceniti obstoječe stanje klepetalnega robota ChatGPT. Prav tako pa je bilo z uporabo komparativne metode mogoče zaznati pomanjkljivosti in napake. V tretjem in četrtem delu raziskave sta bili uporabljeni metoda analize in metoda deskripcije. S postopkom analize podatkov gre za sistematično proučitev nekaterih pomembnih odločitev organov, ki so presojali pomanjkljivosti klepetalnega robota. Skozi celotno raziskavo se vse omenjene metode prepletajo. Zgoraj je bilo zgolj poudarjeno, katere metode so v določenih delih raziskave še dodatno izpostavljene. 4 Rezultati V tem poglavju so podani rezultati raziskave o klepetalnem robotu ChatGPT, ki se nanašajo na njegovo zbiranje in varstvo podatkov, primerjano z evropsko zakonodajo. Izpostavljena je tudi kršitev pri varstvu osebnih podatkov (v primeru italijanske agencije za varstvo podatkov, ki je opozorila nanje) in ostali morebitni pomisleki pri uporabi klepetalnega robota ChatGPT. 4.1 Zbiranje podatkov pri delovanju klepetalnega robota ChatGPT Klepetalni robot ChatGPT svojih podatkov v pogovoru z nami ne izbira sproti s spleta. Svoje informacije črpa iz velike baze besedil, iz katerih se je usposabljal in jih uporabljal za ustvarjanje odgovorov. Uporablja torej podatke, ki jih že pozna, vzete iz ogromne zbirke besedil (po- datkov), kot so strokovna besedila, romani in pesmi. Veliko osebnih podatkov ljudi, o katerih 95 se pogosto govori na spletu, je vključenih v njegov že obstoječi nabor podatkov. Delovanje klepetalnega robota ChatGPT je tako posledica metode strojnega učenja, ki se najprej usposobi za nalogo, bogato s podatki. Za oblikovanje odgovorov na podlagi zbranih podatkov se uporablja naravno jezikovno procesiranje2, zaradi česar je skoraj nemogoče odstraniti vse sledi osebnih podatkov posameznika (Hilemann, 2023). Jezikovni modeli za boljše delovanje potrebujejo čim večje baze (vstopnih) podatkov, iz katerih se učijo. V bistvu gre za statistično usmerjene modele, ki analizirajo in na podlagi svojega pregleda naredijo napovedi za najverjetnejše in zato najprimernejše besedilne odgovore. Večji ko je njihov dostop do podatkov, natančnejše napovedi lahko naredijo (Mustac, 2023). Gre za učenje vzorcev v podatkih, ki jih nato uporabijo za ustvarjanje novih podatkov. Preprosto re- čeno: jezikovni model se nauči pisati tako, da obdela ogromno besedil. Sprocesira jih z meto- dami tako imenovanega strojnega učenja in nevronskih mrež. Dodana vrednost teh metod je, da z njimi lahko odkrijemo zakonitosti, ki se jih prej nismo zavedali (Dinevski, 2023). Posledica tega je znatno tveganje zmanjšane zasebnosti za posameznike, katerih podatki so morda vključeni v nize za usposabljanje. Podatki, ki so bili uporabljeni pri učenju generativne umetne inteligence3, se lahko shranjujejo. Model si lahko zapomni podatke, četudi so zapisani samo enkrat v nizu za usposabljanje. Ne- varnost predstavljajo podatki, ki so odstranjeni z interneta, kljub temu pa še vedno obstajajo in modelu služijo kot nenamenski arhiv za odstranjene podatke. Sporno je predvsem dejstvo, da je izvzetje specifičnih podatkov iz obstoječih modelov nemogoče, razen če so modeli že pred- hodno zasnovani za to možnost. Posledično je to dejstvo v nasprotju z načelom omejitve shra- njevanja in pravico do pozabe, dvema temeljnima načeloma varstva osebnih podatkov. Še bolj zaskrbljujoče je dejstvo, da za to pomanjkljivost ni zadovoljive rešitve. Čeprav so bili skozi leta predlagani in razviti potencialni načini za odstranitev določenih podatkov, noben od njih, iz 2 Naravno jezikovno procesiranje (NLP) je veja umetne inteligence, ki se ukvarja z uporabo računalniških metod za analizo, razumevanje in generiranje človeškega jezika. S pomočjo NLP računalniki pridobivajo sposobnost razumevanja in obdelave besedil ter omogočajo avtomatizacijo jezikovnih nalog, kot so pre-vajanje, povzemanje besedil, analiza sentimenta itd. NLP ima široko paleto uporab, od virtualnih asi-stentov do družbenih medijev, in ima potencial za izboljšanje komunikacije med človekom in računalnikom. 3 Generativna umetna inteligenca je vrsta umetne inteligence, ki računalnikom omogoča ustvarjanje originalne vsebine, podobne tisti, ki bi jo ustvaril človek. To omogoča z učenjem iz velike količine podatkov, nato pa uporabi to znanje za ustvarjanje novega, originalnega izdelka, kot so besedilo, slike, videoposnetki ali celo glasba. 96 različnih razlogov, do zdaj ni uspel popolnoma zadostiti standardom, ki jih določa GDPR. Vključno s pomembnim dejstvom, da je usposabljanje velikih modelov zelo drago in da »veliki igralci« (Amazon, Google, Meta, Microsoft) niso posebej motivirani za ponovno usposabljanje svojih modelov brez določenih podatkovnih točk (Mustac, 2023). Kljub temu da je tehnologija nova, pravila zakonodaje o varstvu podatkov ostajajo enaka. GDPR postavlja jasen zakonodajni okvir za podjetja, ki so ga dolžna še naprej spoštovati. 4.2 Ali klepetalni robot ChatGPT deluje skladno z evropsko zakonodajo o varstvu po- datkov? Zaradi tesne povezave med klepetalnim robotom ChatGPT in varstvom osebnih podatkov je potreba po skladnosti z evropsko zakonodajo še toliko večja. Obdelava osebnih podatkov, ki jih hrani klepetalni robot ChatGPT, sproža številne pravne pomisleke, predvsem z vidika za- sebnosti podatkov. Vprašanje uporabe osebnih podatkov in neavtorizirane uporabe le-teh je eno ključnih neznank pri pojavu klepetalnega robota ChatGPT. Leta 2016 je Evropska unija sprejela Splošno uredbo o varstvu podatkov (GDPR), ki je začela veljati maja 2018. Ta uredba določa način uporabe osebnih podatkov državljanov EU le znotraj striktno določenih zakonskih mej, (Marshall, 2023). Pomembno pravilo GDPR določa, da se le-ta uporablja v primeru, kadar podjetje s sedežem v EU obdeluje osebne podatke ne glede na to, kje poteka dejanska obdelava podatkov. Prav tako pa uredba velja za podjetja s sedežem zunaj EU, kadar ta obdelujejo osebne podatke državljanov EU, na primer ko jim ponujajo blago ali storitve, ali spremljajo vedenjske navade posameznikov v EU (Portal Your Europe, 2022). Prisotnost ameriške družbe OpenAI LP v EU je trenutno še zelo nejasna, saj ni znano, ali je družba v EU ustanovila svojo podružnico ali hčerinsko družbo. Družba je resda imenovala svojega predstavnika, odvetniško pisarno na Irskem, ki pa ni odgovorna za skladnost poslovanja. Zaradi položaja družbe, ki ima sedež v tretji državi, so možnosti izvajanja pristojnosti zoper tako družbo omejene, predvsem v smislu izvršitve odločitev (Sironič, 2023). Podjetja, ki uporabljajo generativno umetno inteligenco in želijo delovati znotraj EU, se morajo zavedati kom- pleksnosti zbiranja in obdelave podatkov, saj je le-to lahko v nasprotju z GDPR. 97 Regulatorji zasebnosti so organi, zadolženi za nadzor in varstvo zasebnosti ter varstva osebnih podatkov. Ti skrbijo za skladnost z GDPR, vključno s pravili o zbiranju podatkov in zaščiti uporabnikov pred samodejnim odločanjem. Podjetja, kot je OpenAI, morajo imeti pravno podlago za zbiranje in uporabo osebnih podatkov, biti morajo pregledna glede uporabe podatkov ljudi, skrbeti za točnost osebnih podatkov in dati ljudem pravico do popravka (Marshall , 2023). Tako kot drugi tehnologiji je tudi orodjem za klepetanje z umetno inteligenco prepovedano zbiranje in shranjevanje občutljivih osebnih podatkov, kot so etnična pripadnost, vera in zdravje, in morajo podatke obdelovati pregledno. GDPR daje posameznikom pravico zahtevati iz- bris svojih osebnih podatkov in pravico do ugovora zoper uporabo njihovih osebnih podatkov (Lacapra, Krishnakumar & Kaur, 2023). Pravica do izbrisa oziroma pravica do pozabe omogoča posamezniku, da zahteva izbris svojih osebnih podatkov, ki jih obdelujejo upravljavci podatkov. V svojem temelju gre za preplet pra- vice do zasebnosti in pravice do dostojanstva. Izbris lahko posameznik uveljavlja v primerih, ko podatki niso več potrebni za prvotne namene obdelave, ko posameznik prekliče soglasje za obdelavo podatkov, če je obdelava temeljila na zakonitih interesih in ni pretehtanih razlogov za nadaljnjo obdelavo, kadar je obdelava potekala nezakonito ali če zakonska obveznost nalaga izbris podatkov. Upravljavec podatkov ima dolžnost, brez nepotrebnega odlašanja, izbri- sati podatke, razen če obstaja pravna obveznost ali legitimni razlogi za nadaljnjo obdelavo, na primer za pravne zahtevke. Pravica do pozabe daje posameznikom večji nadzor nad njihovimi osebnimi podatki in zagotavlja, da lahko zahteva izbris, kadar ni več zakonitih podlag za na- daljnjo obdelavo in hranjenje podatkov (Prelesnik, 2021). Za vsako zbiranje in obdelovanje podatkov, ki ni skladno s pravili GDPR, lahko podjetje odgo- varja z globo. Kazen za določene kršitve določb GDPR je lahko visoka. Globa lahko znaša do 20 milijonov evrov oziroma 4 % globalnega prometa podjetja. Organ za varstvo podatkov lahko naloži še druge popravljalne ukrepe, denimo prepoved obdelovanja osebnih podatkov (Portal Your Europe, 2022). Evropska unija je svoje zaupanje gradila na zaščiti osebnih podatkov svojih državljanov. Tega zaupanja pa sedaj ne sme zapraviti s pomanjkanjem normiranja novih igralcev na trgu, kot je klepetalni robot ChatGPT. 98 4.3 Kršitve osebnih podatkov zaradi uporabe klepetalnega robota ChatGPT – primer Ita-lije Skrb glede zasebnosti uporabnikov je podjetje OpenAI doživelo, ko je 20. marca prišlo do za- časnega umika klepetalnega robota ChatGPT s spleta zaradi razkritja napak, ki so nekaterim uporabnikom omogočale ogled naslovov tem iz zgodovine pogovorov drugih uporabnikov. Še resnejša napaka pa je nekaterim uporabnikom omogočala, da so videli ime in priimek drugega aktivnega uporabnika, elektronski naslov, naslov za plačilo, (samo) zadnje štiri številke kre- ditne kartice ter datum njenega poteka, je zapisal OpenAI v objavi na blogu (Thorbecke, 2023). Garante,4 italijanska agencija za varstvo podatkov, je nastalo situacijo izkoristila in pričela z oceno skladnosti OpenAI z GDPR, še posebej glede obdelave osebnih podatkov s klepetalnim robotom ChatGPT. V medijih se je tako konec marca pojavila novica, da je Garante blokirala klepetalnega robota ChatGPT zaradi skrbi, da podjetje OpeanAI krši GDPR. Odločitev je v Italiji povzročila začasno omejitev obdelave podatkov italijanskih uporabnikov pri OpenAI. Za- časno odločbo, ki jo je izdal organ, so v podjetju OpenAI bili primorani izpolniti do 30. aprila 2023, dodatni zahtevi pa do konca maja 2023 (Muià, 2023). Na italijanski agenciji so pojasnili, da po njihovem v aplikaciji klepetalnega robota ChatGPT niso bile zagotovljene informacije, zahtevane v skladu s 13. členom GDPR (informacije, ki se zagotovijo, kadar se osebni podatki pridobijo od posameznika, na katerega se nanašajo osebni podatki) in 14. členom GDPR (in- formacije, ki jih je treba zagotoviti, kadar osebni podatki niso bili pridobljeni od posameznika, na katerega se ti nanašajo) (Barcelo, in drugi, 2023). Do kršitve je prišlo predvsem s podatki, ki so zajemali pogovore in plačilne podatke uporabnikov. Italijanski organ je bil mnenja, da ni bilo pravne podlage, ki bi upravičevala množično zbiranje in shranjevanje osebnih podatkov za namene usposabljanja algoritmov, na katerih temelji delovanje klepetalnega robota. Drugi večji očitek podjetju OpenAI pa je zadeval starost uporabnikov, ki ga klepetalni robot ni mogel preveriti (Zorloni, 2023). Poleg tega je Garante izpostavila kršitev načel v zvezi z obdelavo osebnih podatkov. Izrecno 5. člena GDPR, ki v točki d) navaja, da morajo biti osebni podatki točni in, kadar je to potrebno, posodobljeni. Izpostavila je tudi, da je treba sprejeti vse razumne ukrepe za zagotovitev, da se 4 Garante (Garante per la protezione dei dati personali) je v Italiji institucija za varstvo podatkov, pristojna za spremljanje in uveljavljanje pravic posameznikov glede varstva osebnih podatkov ter za nadzor skladnosti s predpisi o varstvu podatkov, vključno z GDPR. Gre za nadzorni organ za varstvo podatkov v državi. 99 netočni osebni podatki brez odlašanja izbrišejo ali popravijo ob upoštevanju namenov, za katere se obdelujejo. Na koncu je agencija izpostavila, da pravna podlaga, na podlagi katere je OpenAI zbiral in obdeloval osebne podatke za namen usposabljanja osnovnih algoritmov, ni bila zadostna in dovolj jasno določena (Barcelo idr., 2023). Po mesecu blokade pa je klepetalni robot ChatGPT v Italiji ponovno dovoljen. Podjetje je na- mreč naredilo več izboljšav svojih storitev. Sedaj na svoji spletni strani objavlja informacije o tem, kako zbira in uporablja podatke uporabnikov. V podjetju so tudi pojasnili, na kakšen način je potekala obdelava. Hkrati so poudarili, da imajo vsi posamezniki pravico nasprotovati takšni obdelavi. Za uporabnike, ki ne želijo, da se njihovi osebni podatki uporabljajo, je oblikovan obrazec za zavrnitev. Tako lahko zahtevajo izbris svojih osebnih podatkov, če menijo, da so napačni. V obvestilu o zasebnosti je podjetje navedlo, da se bodo osebni podatki zainteresira- nih oseb obdelovali za usposabljanje algoritmov samo v primeru, če niso nasprotovali tak- šnemu početju, in da se bo takšna obdelava izvajala na podlagi zakonske podlage (Muià, 2023). OpenAI zagotavlja večjo preglednost politike osebnih podatkov tudi s posodobitvijo pra-vilnika o zasebnosti, ki je sedaj bolj viden med postopkom prijave. Prav tako je OpenAI začel deliti več informacij o tem, kako podatki uporabnikov izboljšujejo učinkovitost modela (Hines, 2023). Podjetje je v Italiji uvedlo orodje, s katerim preverja starost uporabnikov, ko ti vstopajo v sistem. Obenem je klepetalni robot ChatGPT zdaj bogatejši za nastavitve zasebnosti, ki vsem uporabnikom omogočajo izklop beleženja zgodovine klepeta, kar onemogoča uporabo teh podatkov za dodatno usposabljanje umetne inteligence (STA, 2023). Zaradi izpolnitve zahtev je agencija Garante zato omogočila ponovno vrnitev klepetalnega ro- bota ChatGPT med italijanske uporabnike. Kljub temu je organ upal, da bo podjetje v prihodnjih tednih izpolnilo tudi drugi dve zahtevi, za kateri je OpenAI dobilo rok do konca maja. Tukaj govorimo zlasti o vzpostavitvi sistema za preverjanje starosti uporabnikov in uvedbi komunikacijske kampanje, namenjene seznanitvi vseh ljudi s celotno zgodbo in možnostjo nasproto- vanja uporabi njihovih podatkov za šolanje algoritmov (Muià, 2023). Odločno postopanje italijanske agencije Garante je mogoče oceniti kot pozitivno, saj je prineslo nekatere potrebne spremembe za uporabnike klepetalnega robota ChatGPT. Obenem se na ta način ustvarja potreben pritisk na Evropski parlament, da pospeši svoja regulativna priza- devanja v zvezi z umetno inteligenco. Na drugi strani podjetje OpenAI ni poskusilo razveljaviti začasne prepovedi pred sodiščem. Izbrali so konstruktivnejšo pot in obravnavali pomisleke agencije. Rezultat tega je bolje reguliran klepetalni robot ChatGPT za uporabnike. 100 4.4 Drugi pomisleki o varstvu podatkov pri uporabi klepetalnega robota ChatGPT Že marca je Urad informacijskega pooblaščenca (ICO5) Združenega kraljestva opozoril podje- tja, ki uvajajo in razvijajo generativne sisteme umetne inteligence, naj zagotovijo, da je zaščita podatkov o strankah osrednjega pomena v njihovih načrtih. ICO je objavil seznam osmih vpra- šanj6, ki bi jih morala podjetja upoštevati, preden vključijo generativno umetno inteligenco v delovne procese, ki vključujejo podatke strank (Gooding, 2023). Objavili so tudi marca poso-dobljene, obsežne Smernice za umetno inteligenco. Te bodo dolžne upoštevati vse organiza- cije, ki razvijajo in uporabljajo umetno inteligenco (Almond, 2023). Sredi aprila je francoski organ za varstvo podatkov (CNIL7) začel postopek pregleda petih pri- tožb v zvezi s klepetalnim robotom ChatGPT. Prav tako je tudi španska Agencija za varstvo podatkov (AEPD8) obvestila javnost, da je na lastno pobudo začela preiskavo istega podjetja zaradi možnih kršitev predpisov o varstvu podatkov. Evropski odbor za varstvo podatkov je ustanovil delovno skupino za spodbujanje sodelovanja in izmenjavo informacij o možnih izvr- šilnih ukrepih, ki jih izvajajo organi za varstvo podatkov. Delovna skupina bo preverjala skladnost storitev klepetalnega robota ChatGPT z GDPR. Iz tega bi lahko sledila podlaga za pra- vila zasebnosti v zvezi z umetno inteligenco (Blocman, 2023). Podjetja so postala zelo pozorna na delovanje klepetalnega robota ChatGPT in na način, kako ga njihovi zaposleni uporabljajo. V številnih podjetjih so začeli z uvajanjem omejitev ali prepovedi uporabe. Med ta sodijo tudi Amazon in Verizon Communications, ki imajo pomisleke v zvezi s klepetalnim robotom ChatGPT (Horowitz, 2023). Pravniki imajo pomisleke o vnešenih informacijah, za katere ni moč vedeti, kako se bodo upo- rabljale in ali so še zmeraj varovane poslovne skrivnosti podjetja. Številna podjetja so izrazila zanimanje za klepetalni robot ChatGPT in oblikovala politike, ki zaposelnim prepovedujejo vnašanje podatkov o podjetju (Coyer, 2023). Negotovost varovanja zasebnosti in občutljivih 5 ICO (Information Commissioner's Office) je neodvisni organ Združenega kraljestva, ustanovljen za zaščito pravice do informacij. 6 Vprašanja so dostopna na njihovi uradni strani v članku: https://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2023/04/generative-ai-eight-questions-that-developers-and-users-need-to-ask/ 7 CNIL (Commission Nationale de l'Informatique et des Libertés) je neodvisni organ za varstvo podatkov, odgovoren za izvajanje zakonodaje o varstvu podatkov v Franciji. 8 AEPD (Agencia Española de Protección de Datos) je španska agencija za varstvo podatkov, odgovorna za izvajanje zakonodaje o varstvu podatkov v državi, vključno z GDPR. 101 informacij je trenutno najbolje reševati tako, da se v klepetalne robote ne vnaša informacij, ki jih ne želimo deliti z drugimi (Thorbecke, 2023). 5 Razprava Razvoj klepetalnega robota ChatGPT in njegova množična uporaba sta sprožila zavedanje, da se umetna inteligenca (pre)hitro razvija in s seboj prinaša številne dileme. Pomembno je, da se v njihovo razreševanje pristopa interdisciplinarno, kar zahteva aktivno sodelovanje strokovnjakov s številnih področij. Ključna pravna vprašanja, ki zadevajo tako klepetalni robot ChatGPT kot umetno inteligenco nasploh, so poleg že prej izpostavljenega varstva podatkov še izguba zasebnosti, diskrimina- cija, kibernetska varnost in pristranskost. V primeru, ko se program umetne inteligence uči od človeka, ki je že prej odločal pristransko, bo to velika pomanjkljivost umetne inteligence. Zapleteno je tudi vprašanje odgovornosti. Ne vemo, kdo je odgovoren za napačne in družbi škod- ljive odgovore klepetalnega robota ChatGPT. V tovrstnih primerih tudi niso določeni načini in oblike pravnega varstva. Pomembna misel, na katero kljub vse zmogljivejši tehnologiji in umetni inteligenci ne smemo pozabiti, je, da vse to9 zmoremo ljudje tudi sami (Cerar, 2023). Bojazen, ki nastaja z uporabo klepetalnih robotov in drugih sistemov umetne inteligence, je tudi pešanje umskih sposobnosti človeka, če se bo vedno pogosteje ali celo izključno začel zanašati na »znanje« robota. Krat- koročno so rešitve lahko celo boljše, vendar lahko njihova dolgoročna uporaba vpliva na mi- selno plitkost posameznika. 6 Sklep S pojavom napredne tehnologije klepetalnega robota ChatGPT so se odprla številna vprašanja in pomisleki. Središče tega prispevka predstavljajo izzivi na področju prava, ki jih je vzpodbudil klepetalni robot ChatGPT. Razvoj prava bo v prihodnje tesno prepleten z novimi spoznanji umetne inteligence. Slednja bo postavljala tudi številne nove pravne izzive, katerih del je 9 Odgovore na zastavljena vprašanja (pojasnilo avtorjev). 102 naslovljen v zgornjem prispevku. Pravo bo moralo nanje odgovoriti in biti pripravljeno na številne spremembe, ki se bodo dogajale bolj pospešeno kot do sedaj. Literatura 1. Almond, S. (2023, 3. april). Generative AI: eight questions that developers and users need to ask. Information Commissioner's Office (ICO). https://ico.org.uk/about-the-ico/media-centre/news-and- blogs/2023/04/generative-ai-eight-questions-that-developers-and-users-need-to-ask/ 2. Barcelo, R., McClelland, T. S., Mechelli, S., Perray, R., Arzuaga, P., & Maisnier-Boché , L. (2023, 21. april). ChatGPT: a GDPR-ready path forward? McDermott Will & Emery. https://www.mwe.com/insights/chatgpt-a-gdpr-ready-path-forward/ 3. Blocman, A. (2023, 13. april). ChatGPT scrutinised by data protection agencies. IRIS Merlin. https://merlin.obs.coe.int/article/9758 4. Cerar, M. (2023, 13. februar). ChatGPT in ljubezen z roboti. IUS-INFO. https://www.iusinfo.si/me- dijsko-sredisce/novica/17/304030 5. Coyer, C. (2023, 15. februar). ChatGPT’s cyberrisks are just coming into focus. Law.com. https://www.law.com/legaltechnews/2023/02/15/use-with-caution-chatgpts-cyberrisks-are-just-co- ming-into-focus/ 6. Dinevski, D. (2023, 6. maj). Bliskovit razvoj umetne inteligence. Večer. https://vecer.com/v-so- boto/bliskovit-razvoj-umetne-inteligence-10332178 7. Gooding, M. (2023, 6. april). UK ICO offers advice on generative AI as more European countries mull ChatGPT bans. Tech Monitor. https://techmonitor.ai/technology/ai-and-automation/chatgpt-uk- ico-generative-ai 8. Grobelnik, M. (2023, 20. marec). ChatGPT dobro simulira pametnega sogovornika, a besedil ne razume, zato se v njih izgubi. Aktualna tema. (R. Markič, spraševalec) 9. Hillemann, D. (2023, 29. januar). Does ChatGPT comply with EU-GDPR regulations? Investigating the right to be forgotten. Medium. https://dhillemann.medium.com/does-chatgpt-comply-with-eu- gdpr-regulations-investigating-the-right-to-be-forgotten-fc97bb321d3a 10. Hines, K. (2023, 29. april). ChatGPT ban lifted: OpenAI complies with Italian privacy regulations as EU AI Act moves forward. Search Engine Journal. https://www.searchenginejournal.com/chatgpt- ban-lifted-eu-ai-act-progress/485679/ 11. Horowitz, J. (2023, 22. februar). JPMorgan restricts employee use of ChatGPT. CNN. https://edi- tion.cnn.com/2023/02/22/tech/jpmorgan-chatgpt-employees/index.html 12. Lacapra, E., Krishnakumar, A., & Kaur, G. (2023). Data protection in AI chatting: Does ChatGPT comply with GDPR standards? Cointelegraph. https://cointelegraph.com/learn/data-protection-in-ai- chatting-does-chatgpt0comply-with-gdpr-standards 13. Marshall , B. (2023, 10. april). Lost in AI. Medium. https://medium.com/@brandeismarshall/lost-in- ai-c1ef95a23947 103 14. Milinković, H. (2023, 3. maj). Tekma v razvoju umetne inteligence. RTV 365. https://365.rtvslo.si/arhiv/odmevi/174955027 15. Muià, P. P. (2023, 5. maj). Chat GPT si conforma alle richieste del Garante privacy. Diritto. www.diritto.it/chat-gpt-conforma-richieste-garante-privacy/ 16. Mustac, T. (2023, 13. april). An elephant never forgets and neither does ChatGPT. JD Supra. https://www.jdsupra.com/legalnews/an-elephant-never-forgets-and-neither-7307484/ 17. Pastirk, G. (2022). Vpliv razvoja umetne inteligence na človeka in pravo. V A. Primec, & D. Romih, Izzivi digitalne preobrazbe (str. 33–45). Maribor, Slovenija: Univerzitetna založba Univerze v Mariboru. 18. Perlman, A. (2023, april). The implications of ChatGPT for legal services and society. Harvard.edu. https://clp.law.harvard.edu/knowledge-hub/magazine/issues/generative-ai-in-the-legal-pro- fession/the-implications-of-chatgpt-for-legal-services-and-society/ 19. Polson, J. M., & Shenkman, E. (2023, 14. marec). Casetext’s CoCounsel is Powered by OpenAI’s GPT-4. Fisherphillips. https://www.fisherphillips.com/news-insights/fisher-phillips-launches-cocoun- sel-casetexts-transformative-ai-legal-assistant-tool.html 20. Portal Your Europe. (2022, 6. julij). Varstvo podatkov v okviru splošne uredbe o varstvu podatkov. Europa.eu. https://europa.eu/youreurope/business/dealing-with-customers/data-protection/data- protection-gdpr/index_sl.htm 21. Prelesnik, M. (2021, 20. december). Pravica do pozabe in zbris podatkov s spleta. IUS-INFO. https://www.iusinfo.si/medijsko-sredisce/v-srediscu/290613 22. Robnik Šikonja, M., Zupan, B., Ule, A., & Krašovec, P. (2023, 25. april). Je ChatGPT človeka odvrgel na smetišče zgodovine? RTV 365. https://365.rtvslo.si/arhiv/intelekta/174953024 23. Sironič, M. (2023, 14. april). Prepoved obdelave OP. IP-RS. https://www.ip-rs.si/mnenja-zvop- 2/prepoved-obdelave-op-1682318090 24. STA. (2023, 28. april). ChatGTP je po blokadi znova na voljo italijanskim uporabnikom. N1 SLO. https://n1info.si/novice/svet/chatgtp-je-po-blokadi-znova-na-voljo-italijanskim-uporabnikom/ 25. Thorbecke, C. (2023, 6. april). Don’t tell anything to a chatbot you want to keep private. CNN. https://edition.cnn.com/2023/04/06/tech/chatgpt-ai-privacy-concerns/index.html 26. Villasenor, J. (2023, 20. marec). How AI will revolutionize the practice of law. Brookings. https://www.brookings.edu/blog/techtank/2023/03/20/how-ai-will-revolutionize-the-practice-of-law/ 27. Zorloni, L. (2023, 31. marec). Il Garante della privacy blocca ChatGPT in Italia. Wired. https://www.wired.it/article/chatgpt-blocco-italia-garante-privacy/ 104 UPORABNOST KLEPETALNEGA ROBOTA ChatGPT PRI RAZISKOVANJU NA PODROČJU PRAVA Iza Beširević, dipl. prav. (UN) Študentka, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija iza.besirevic@student.um.si Kristjan Zahrastnik, mag. prava Asistent, Univerza v Mariboru, Pravna fakulteta, Maribor, Slovenija kristjan.zahrastnik@um.si Povzetek: Klepetalni robot ChatGPT je orodje umetne inteligence, ki bo pomembno vplivalo na različne sfere družbenega življenja in poklice. Odgovori, ki jih podaja, so lahko potencialno uporabni tudi na področju prava. Namen prispevka je ovrednotiti (pravno) pravilnost in relevantnost odgovorov klepetalnega robota ChatGPT na postavljena vprašanja z različnih pravnih področij v luči slovenskega prava. Predmet raziskave je klepetalni robot ChatGPT-3.5, uporabljena pa je metoda tekstovne analize ob upoštevanju slovenske pravne dogmatike ter lastne raziskave zastavljenih vpra- šanj. Na podlagi analize odgovorov klepetalnega robota ChatGPT lahko izpostaviva naslednjih sedem ugotovitev: Klepetalni robot ChatGPT 1. občasno uporablja določbe neveljavnih zakonov (prvo, četrto in peto vprašanje), 2. konstantno navaja napačno pravno podlago ali pa slednje sploh ne navede (prvo, drugo, tretje, četrto, peto in šesto vprašanje), 3. ni sposoben povsem pravilno odgovoriti na vprašanje, ki zahteva zgolj iskanje pravilne pravne norme in njeno povzemanje (prvo, tretje in peto vprašanje), 4. prav tako ni sposoben povsem pravilno odgovoriti na vprašanje, ki zahteva kombiniranje dveh ali več odstavkov ali členov zakonov (drugo in četrto vprašanje), 5. ni sposoben izvesti lažjih praktičnih nalog, ki zahtevajo subsumpcijo pravnega pravila na dejansko stanje, kot je izračun odpravnine (drugo vprašanje), 6. ni uporaben za iskanje sodne prakse, saj si izmisli obstoj sodne odločbe, njeno vsebino in njene podatke ter jo navaja kot resnično (sedmo, osmo in deveto vprašanje) in 7. podaja povsem napačne ali zgolj delno pravilne odgovore (od prvega do osmega vprašanja). V skladu s tem lahko skleneva, da je klepetalni robot ChatGPT (trenutno) za področje slovenskega prava manj uporaben. Nadalje, ugotavljava, da je klepetalni robot ChatGPT sicer priročen za uvid v neko pravno vprašanje, ni pa orodje, na katerega bi se lahko zanesli in slepo uporabili njegov odgovor. Vseeno pa je treba izpostaviti, da ugotovljene pomanjkljivosti klepetalnega robota ChatGPT zgolj odražajo trenutno (nam brezplačno dostopno) fazo njegovega razvoja. Zaradi hitrega napredovanja industrije umetne inteligence gre v prihodnosti pričakovati vse pravilnejše in natančnejše odgovore klepetalnega robota ChatGPT in s tem večjo uporabnost le-tega. Ključne besede: iskanje pravnih rešitev, iskanje sodne prakse, klepetalni robot ChatGPT, slovensko pravo, umetna inteligenca 105 1 Uvod Klepetalni robot ChatGPT je zmogljivo orodje za obdelavo naravnega jezika, ki temelji na teh- nologiji umetne inteligence. Omogoča izjemno realistične in človeški komunikaciji podobne od- govore. Klepetalni robot ChatGPT bo imel vpliv na različna področja družbenega življenja in poklice. Njegovi odgovori pa so lahko potencialno uporabni tudi na področju (raziskovanja) prava, zato sva si zastavila cilj, da raziščeva naslednje znanstveno vprašanje: kakšna je uporabnost klepetalnega robota ChatGPT pri raziskovanju pravnih vprašanj z različnih področij slovenskega prava. Namen prispevka je torej ovrednotiti (pravno) pravilnost in relevantnost odgovorov klepetalnega robota ChatGPT na postavljena vprašanja z različnih pravnih področij v luči slovenskega prava. Prispevek je razdeljen na več poglavij. Prvo od teh je poglavje »pregled literature«, ki prikazuje, da zadevna tematika še ni bila obravnavana v okviru pravne znanosti. Temu sledi poglavje »metoda«, ki pojasnjuje uporabljeno metodo. Poglavje »rezultati« prikazuje pogovor med avtorjema in klepetalnim robotom ChatGPT – od tod so razvidna vpra- šanja, ki sva jih postavila in točni odgovori klepetalnega robota ChatGPT (torej rezultati). Sledi poglavje »razprava«, v katerem avtorja ovrednotiva pravilnost podanih odgovorov s pomočjo metode tekstovne analize in ob upoštevanju slovenske pravne dogmatike ter lastne raziskave zastavljenih vprašanj. Zadnje poglavje je sklep, ki prikazuje uvodni uvid v (trenutno) uporab- nost klepetalnega robota ChatGPT na področju analize slovenskega prava. 2 Pregled literature Kljub temu da je klepetalni robot ChatGPT relativno kratek čas dostopen javnosti, je kar hitro postal predmet različnih raziskav in člankov. V literaturi se veliko razpravlja o klepetalnem robotu ChatGPT v povezavi z njegovim potencialnim vplivom na akademske in znanstvene raz- iskave ter prispevke (Qasem, 2023). Pri tem se avtorji pogosteje raje osredotočijo na konkretno vedo oz. znanost in tako raziskujejo uporabnosti klepetalnega robota ChatGPT na področju npr. medicine (Corsello & Santangelo, 2023), fizike (Lund, Wang, Mannuru, Nie, Shimray & Wang, 2023), ekonomije (Cao & Zhai, 2023), marketinga (Peres, Schreier, Schweidel & Sorescu, 2023), poučevanja in pedagogike (Okonkwo & Ade-Ibijola, 2021) itd. Raziskuje se tudi potencial klepetalnega robota ChatGPT kot »objekta za razmišljanje«, ki spodbuja kritično miš- ljenje in raziskovanje (Rodrigues, Marco & P dos Santos, 2023). Obravnavana je bila tudi uspešnost klepetalnega robota ChatGPT na standardiziranih sprejemnih izpitih v Združenem kraljestvu, pri čemer se članek omejuje na sprejemne izpite naravoslovnih fakultet (Giannos & Delardas, 2023). Seveda se v literaturi raziskuje tudi vpliv uporabe klepetalnega robota 106 ChatGPT na pravno znanost (Perlman, 2022; Ajevski, Barker, Gilbert, Hardie & Ryan, 2023). Perlman, ki se osredotoča na ameriško pravo, prikazuje uporabo klepetalnega robota ChatGPT in morebitne posledice njegove uporabe na pravne storitve in družbo na splošno, hkrati pa poudarja nepopolnost in problematičnost odgovorov klepetalnega robota ChatGPT pri ustvarjanju pravnih besedil (npr. besedilo pogodbe, besedilo pritožbe, besedilo oporoke itd.). Perlman je pri klepetalnem robotu ChatGPT iskal pomoč pri pripravi na sodno obravnavo, zato so njegovi ukazi klepetalnemu robotu ChatGPT bolj praktični, npr.: »predlagaj argumente za vlogo/tožbo« ali »pomagaj z raziskavo dejanskega stanja zadeve« (Perlman, 2022). Perl- man torej, za razliko od naju, ni postavljal abstraktnih pravnih vprašanj, temveč praktična, prav tako se je osredotočil na ameriško pravo, midva pa na slovensko pravo. Nadalje se v pravni literaturi raziskujejo tudi posledice uporabe klepetalnega robota ChatGPT za pravno izobraže- vanje in pravno prakso ter razpravlja o novih metodah vključitve umetne inteligence v pouče- vanje na pravnih fakultetah (Ajevski, Barker, Gilbert, Hardie, & Ryan, 2023). V literaturi so obravnavani tudi drugi pravni vidiki uporabe klepetalnega robota ChatGPT, npr. vprašanja, povezana s pravom intelektualne lastnine, oz. problematika plagiatorstva (Strowel, 2023), pro- blematika zasebnosti (Agapito, 2023), nuja po oblikovanju učinkovitega pravnega okvira za umetno inteligenco (Sarel, 2023) itd. Ugotavljava, da obstaja veliko literature, ki obravnava uporabnost klepetalnega robota ChatGPT v okviru različnih znanosti (vključno s pravom), kljub temu pa tema zadevnega članka – uporabnost klepetalnega robota ChatGPT pri raziskovanju v slovenskem pravu – še ni bila obravnavana v okviru pravne znanosti. Članek se omejuje na slovensko pravo, za katerega je na spletu dostopnih bistveno manj zadetkov v primerjavi z npr. ameriškim pravom. Prav zato, ker se je klepetalni robot ChatGPT učil iz zadetkov, dostopnih na spletu (do leta 2021), se postavlja vprašanje, ali je klepetalni robot ChatGPT uporaben tudi na področju raziskovanja slovenskega prava, za katerega je imel dostopnih bistveno manj zadetkov za učenje kot pri drugih večjih nacionalnih pravnih ureditvah. 3 Metoda Metodološko je prispevek zasnovan iz vnaprej oblikovanega nabora pravnih vprašanj v slo- venskem jeziku (ki se nanašajo na slovensko pravo), ki sva jih (vsako posebej) zastavila kle- petalnemu robotu ChatGPT. Vprašanja se nanašajo na delovno pravo, korporacijsko pravo, prevzemno pravo ter pravo intelektualne lastnine. Izbrana vprašanja so različnih zahtevnosti in so usmerjena v iskanje konkretnega pravnega odgovora. Lažja vprašanja zahtevajo zgolj osnovno razbiranje veljavnega pravnega predpisa in relevantnega pravnega pravila ter njegovo (nezahtevno oz. očitno) povzemanje. To so 1., 3. in 6. vprašanje. Vprašanja težje 107 narave zahtevajo povezovanje več pravnih norm, določeno tolmačenje norme ali pravnega termina ali subsumpcijo pravne norme na dejansko stanje. To so 2., 4., 5., in 7. vprašanje. 8. in 9. vprašanje sta zgolj dodatni podvprašanji na odgovor, ki ga je klepetalni robot ChatGPT podal na 7. vprašanje. Prejete odgovore klepetalnega robota ChatGPT sva shranila in nato kvalitativno ovrednotila pravno pravilnost (relevantnost) le-teh z uporabo metode tekstovne analize ob upoštevanju slovenske pravne dogmatike ter lastne raziskave zastavljenih vprašanj. 4 Rezultati Na 1. vprašanje »Ali delavcu, ki mu je s pretekom časa prenehala pogodba o zaposlitvi za določen čas, pripada odpravnina (po slovenskem pravu)?« je klepetalni robot ChatGPT odgo- voril: »V skladu s slovenskim pravom delavcu, katerega pogodba o zaposlitvi za določen čas se preneha s pretekom časa, praviloma ne pripada odpravnina. Odpravnina je običajno povezana s primeri odpovedi pogodbe o zaposlitvi iz poslovnih razlogov ali razloga nesposobnosti delavca. Pogodbe o zaposlitvi za določen čas se sklepajo za predhodno določen čas ali za določeno opravilo, pri čemer se zaposlitev samodejno preneha ob izteku časa ali opravila. Ob izteku pogodbe o zaposlitvi za določen čas ni razloga za odpoved s strani delodajalca ali pravno utemeljenega razloga za prenehanje delovnega razmerja, zato odpravnina ni predvidena. Vendar pa je vedno priporočljivo preveriti kolektivne pogodbe, pogodbe o zaposlitvi ali interne akte delodajalca, saj se v teh dokumentih lahko določajo posebni pogoji glede odpravnin v primeru prenehanja pogodbe o zaposlitvi za določen čas. Vsekakor pa je priporočljivo posvetovati se s pravnim strokovnjakom ali sindikatom, ki bo lahko podal ustrezno pravno svetovanje glede vaših pravic in morebitnih odpravnin v primeru prenehanja pogodbe o zaposlitvi za določen čas v vašem konkretnem primeru.« (OpenAI, 2023a). Na 2. vprašanje »Kakšna odpravnina po slovenskem pravu pripada delavcu, ki mu je deloda- jalec odpovedal pogodbo o zaposlitvi iz poslovnih razlogov in je delal pri tem delodajalcu dve leti?« je klepetalni robot ChatGPT odgovoril: »Po Zakonu o delovnih razmerjih (ZDR-1) ima delavec, ki mu je delodajalec odpovedal pogodbo o zaposlitvi iz poslovnih razlogov, pravico do odpravnine. Višina odpravnine je odvisna od dolžine delovne dobe pri delodajalcu in je določena v členih 112 in 113 ZDR-1. V primeru dveh let delovne dobe pri istem delodajalcu se višina odpravnine izračuna na naslednji način: Za prvo leto dela: 1/5 povprečne mesečne plače za vsak mesec zaposlitve. 108 Za drugo leto dela: 1/4 povprečne mesečne plače za vsak mesec zaposlitve. Povprečna mesečna plača se izračuna kot povprečje vseh plač, prejetih v zadnjih treh mesecih pred odpovedjo pogodbe o zaposlitvi. Pri tem se upoštevajo vsi prejemki, ki so določeni s kolektivno pogodbo, pogodbo o zaposlitvi ali z drugim aktom, kot je regres za letni dopust, božičnica, nagrade, dodatki in drugi prejemki. Praktični primer: Če je povprečna mesečna plača delavca 1.500 evrov, bi se odpravnina izračunala na naslednji način: Za prvo leto: (1/5 od 1.500 €) x 12 mesecev = 3.600 € Za drugo leto: (1/4 od 1.500 €) x 12 mesecev = 4.500 € Skupna višina odpravnine za delavca z dvema letoma delovne dobe pri istem delodajalcu bi znašala 8.100 €. Pomembno je opozoriti, da se konkretna višina odpravnine lahko razlikuje glede na morebitne kolektivne pogodbe, pogodbe o zaposlitvi ali interna pravila podjetja, ki določajo višjo odpravnino. Zato je vedno priporočljivo preveriti ustrezne zakonske vire in se posvetovati s pravnim strokovnjakom, da bi dobili natančne informacije o višini odpravnine v konkretnem primeru.« (OpenAI, 2023a). Na 3. vprašanje »Koliko mora znašati minimalni osnovni kapital delniške družbe in družbe z omejeno odgovornostjo po slovenskem pravu? Navedi pravno podlago.« je klepetalni robot ChatGPT odgovoril: »Po slovenskem pravu so zahtevani minimalni zneski osnovnega kapitala za delniško družbo (d.d.) in družbo z omejeno odgovornostjo (d.o.o.) naslednji: Delniška družba (d.d.): Minimalni zahtevani osnovni kapital za delniško družbo je 25.000 evrov, kot določa 179. člen Zakona o gospodarskih družbah (ZGD-1). Ta pravni predpis določa tudi druge vidike delovanja delniških družb v Sloveniji. Družba z omejeno odgovornostjo (d.o.o.): Minimalni zahtevani osnovni kapital za družbo z omejeno odgovornostjo je prav tako 25.000 evrov, v skladu z 179. členom Zakona o gospodarskih družbah (ZGD-1). Zakon o gospodarskih družbah (ZGD-1) je temeljni zakon, ki ureja področje gospodarskih družb v Sloveniji, vključno z delniškimi družbami in družbami z omejeno odgovornostjo. Vsebina o minimal-nem osnovnem kapitalu za omenjeni vrsti družb je določena v 179. členu ZGD-1. Pomembno je upoštevati, da so navedeni zneski minimalni zahtevani osnovni kapitali, ustanovitelji pa se lahko odločijo za višje vplačilo osnovnega kapitala, če menijo, da je to potrebno za poslovanje družbe.« (OpenAI, 2023b). Na 4. vprašanje »Kakšne prevzemne prage poznamo po slovenskem pravu?« je klepetalni robot ChatGPT odgovoril: 109 »Po slovenskem pravu obstajajo prevzemni pragi, ki jih je treba upoštevati pri prevzemu delnic dru- žbe. Prevzemni prag se nanaša na določen odstotek deleža v družbi, pri katerem je prevzemnik dolžan objaviti prevzemno ponudbo za odkup delnic drugim delničarjem. V Sloveniji so prevzemni pragi opredeljeni v Zakonu o prevzemih (ZPre-1). Glavni prevzemni pragi vključujejo: 25% prevzemni prag: prevzemnik, ki pridobi 25% delež v družbi z glasovalno pravico, je dolžan objaviti prevzemno ponudbo za odkup delnic drugim delničarjem. 33% prevzemni prag: če prevzemnik pridobi 33% delež v družbi z glasovalno pravico, je dolžan objaviti prevzemno ponudbo za odkup delnic drugim delničarjem. 50% prevzemni prag: prevzemnik, ki doseže ali preseže 50% delež v družbi z glasovalno pravico, pridobi obvladujoč položaj in ima dodatne obveznosti in pravice v skladu z Zakonom o prevzemih. Pomembno je, da se pri izvajanju prevzemov in upoštevanju prevzemnih pragov posvetujete s pravnim strokovnjakom ter se skrbno seznanite z določbami Zakona o prevzemih (ZPre-1), saj je ta zakon ključen pri urejanju prevzemov delnic v Sloveniji.« (OpenAI, 2023b). Na 5. vprašanje: »Navedi predpostavke patentibilnosti po slovenskem pravu.« je klepetalni robot ChatGPT odgovoril: »V skladu s slovenskim pravom obstaja nekaj ključnih predpostavk patentabilnosti, ki jih je treba izpolnjevati, da bi izum bil patentno varstvo. Te predpostavke so opredeljene v Zakonu o industrijski lastnini (ZIL-1) v Sloveniji. Tukaj je pregled osnovnih predpostavk: 1. Novost: Izum mora biti nov, kar pomeni, da ne sme biti del že obstoječega stanja tehnike. Izum se šteje za nov, če ni bil pred datumom vložitve patentne prijave objavljen ali uporabljen kjerkoli na svetu. 2. Inventivna stopnja: Izum mora izkazovati inventivno stopnjo ali korak, ki presega le rutinsko uporabo obstoječega znanja. To pomeni, da izum ne sme biti očitna sprememba obstoječega stanja tehnike. Ob upoštevanju stanja tehnike, ki je bilo dostopno javnosti pred datumom vložitve patentne prijave, mora izumati nekaj, kar ne izhaja na očiten način iz tega stanja tehnike. 3. Industrijska uporabnost: Izum mora biti industrijsko uporaben, kar pomeni, da mora biti izvedljiv in se lahko uporabi v industriji ali gospodarstvu. Izum mora imeti praktično vrednost in biti uporaben v praksi. 4. Neulovljiva ali izvirna ustvarjalnost: Izum mora izkazovati nekaj neulovljivega ali izvirnega, kar presega že obstoječe stanje tehnike. Izum ne sme biti očitna kombinacija že znanih elementov ali sprememba obstoječega stanja tehnike. Ti pogoji patentabilnosti so ključni za pridobitev patenta v skladu s slovenskim pravom. Pomembno je poudariti, da je pri presoji patentabilnosti vedno treba upoštevati specifične okoliščine in podrobnosti posameznega izuma. Zato je priporočljivo poiskati pravno svetovanje s strani strokovnjaka na področju intelektualne lastnine ali patentnega prava.« (OpenAI, 2023c). 110 Na 6. vprašanje »Kateri člen ZIL-1 ureja predpostavke patentibilnosti?« je klepetalni robot ChatGPT odgovoril: »Člen 8 ZIL-1 obravnava splošne pogoje za pridobitev patenta. V tem členu so navedene osnovne predpostavke, ki jih mora izum izpolnjevati, da bi bil patentno varstvo. To vključuje zahtevo po novosti (prvi odstavek), inventivni stopnji (drugi odstavek), industrijski uporabnosti (tretji odstavek) in neulovljivi ali izvirni ustvarjalnosti (četrti odstavek).« (OpenAI, 2023c). Želela sva izvedeti več podrobnosti o najbolj problematični predpostavki patentibilnosti, tj. predpostavki novosti, in preveriti njegovo poznavanje sodne prakse, zato sva postavila 7. »vprašanje« in mu ukazala: »Razloži več o novosti in pri tem uporabi slovensko sodno prakso.« Na to je klepetalni robot ChatGPT odgovoril: »Novost je ena izmed ključnih predpostavk patentabilnosti, ki zahteva, da izum ni del že obstoječega stanja tehnike. To pomeni, da mora biti izum neznan javnosti pred datumom vložitve patentne prijave. Glede na slovensko sodno prakso je bilo več primerov, ki so se ukvarjali z vprašanjem novosti. Pomemben primer je odločitev Vrhovnega sodišča Republike Slovenije št. II Ips 15/2014. V tem primeru je šlo za vprašanje, ali je izum nov glede na stanje tehnike, ki je bilo objavljeno v drugem jeziku. Vrhovno sodišče je potrdilo, da je za presojo novosti treba upoštevati vse informacije, ki so bile dostopne javnosti pred datumom vložitve patentne prijave. To vključuje tudi informacije, ki so bile objavljene v tujem jeziku, če so bile na voljo javnosti na način, ki omogoča dostop in razumevanje teh informacij. Prav tako je Vrhovno sodišče poudarilo, da morajo biti informacije o stanju tehnike objavljene na način, ki omogoča razumevanje izuma. Če so informacije v tujem jeziku, se mora upoštevati, ali je bila na voljo prevod ali drugače dostopen način razumevanja teh informacij. To pomeni, da se pri presoji novosti izuma po slovenski sodni praksi upošteva celotno stanje tehnike, ki je bilo na voljo javnosti pred datumom vložitve patentne prijave, ne glede na jezik objav. Ključno je, da so informacije na voljo javnosti na način, ki omogoča dostop in razumevanje teh informacij. Pri presoji novosti izuma se je vedno priporočljivo posvetovati s pravnim strokovnjakom na področju patentnega prava, ki bo lahko podal ustrezno pravno svetovanje ob upoštevanju specifičnih okoli- ščin in podrobnosti primera.« (OpenAI, 2023c). Na 8. vprašanje »S katerega dne je odločitev Vrhovnega sodišča Republike Slovenije št. II Ips 15/2014?« je klepetalni robot ChatGPT odgovoril: »Odločitev Vrhovnega sodišča Republike Slovenije s številko II Ips 15/2014 je bila izdana 17. aprila 2014.« (OpenAI, 2023c) 111 Ko sva klepetalni robot ChatGPT obvestila o tem, da v iskalniku sodne prakse ni mogoče najti navedene sodbe z navedenimi podatki o opravilni številki sodbe in datumom odločitve, je na to 9. »vprašanje« odgovoril: »Opravičujem se za zmedo. Na žalost nisem neposredno povezan s spletno bazo podatkov ali sodno prakso, zato nimam dostopa do specifičnih podatkov o datumih odločitev sodišč. Če potre-bujete natančne informacije o določeni sodni odločbi, vam svetujem, da se obrnete na pristojne vire, kot so spletna mesta sodišč ali pravne baze podatkov, ali pa se posvetujete s pravnim strokovnjakom, ki ima dostop do relevantnih informacij.« (OpenAI, 2023c). 5 Razprava Odgovor klepetalnega robota ChatGPT na 1. vprašanje glede odpravnine pri izteku pogodbe o zaposlitvi za določen čas je povsem napačen, kajti tak delavec ima pravico do odpravnine. To izrecno določa 3. odstavek 79. člena ZDR-1 – delavec, ki mu preneha pogodba o zaposlitvi za določen čas s potekom časa, za katerega je bila sklenjena, oz. ko je dogovorjeno delo opravljeno, ali s prenehanjem razloga, zaradi katerega je bila sklenjena, ima pravico do odpravnine. Pri tem ZDR-1 predvideva tudi nekaj izjem, in sicer pravice do odpravnine nima de- lavec v primeru prenehanja pogodbe o zaposlitvi za določen čas, če gre za nadomeščanje začasno odsotnega delavca, v primeru prenehanja pogodbe o zaposlitvi za določen čas za opravljanje sezonskega dela, ki traja manj kot tri mesece v koledarskem letu, ter v primeru prenehanja pogodbe o zaposlitvi za določen čas za opravljanje javnih del oz. prenehanja pogodbe o zaposlitvi za določen čas, ki je bila sklenjena zaradi vključitve v ukrepe aktivne politike zaposlovanja v skladu z zakonom (3. odstavek 79. člena ZDR-1). Najverjetneje je do napačnega odgovora prišlo zato, ker je klepetalni robot ChatGPT uporabil neveljaven zakon (tj. ZDR), kajti gre za pravico, ki jo je uvedel ZDR-1 leta 2013 (Kresal, 2016, str. 458). Velja omeniti, da se je v ZDR-1 prav z namenom, da bi se zmanjšala pogostost sklepanja pogodbe o zaposlitvi za določen čas v primerih, ko je očitno, da bi se lahko sklenila pogodba o zaposlitvi za nedoločen čas, določila pravica do odpravnine tudi v primeru prenehanja pogodbe o zaposlitvi za določen čas s potekom časa, tudi če je delavec zaposlen manj kot eno leto (Pisnik, 2017, str. 16). V skladu s tem ne drži trditev klepetalnega robota ChatGPT, da je odpravnina vezana le na odpoved pogodbe o zaposlitvi. Prav tako je posledično nesmi-selno sklicevanje, da je treba preveriti določbe kolektivne pogodbe, pogodbe o zaposlitvi ali 112 splošnih aktov delodajalca, saj pravico do odpravnine določa že ZDR-1 v 3. odstavku 79. člena, prav tako pa naštete pogodbe in akti lahko določijo le pravice, ki so za delavca ugodnejše, kot jih določa ta zakon (2. odstavek 9. člena in 3. odstavek 10. člena ZDR-1). Smiseln pa je napo-tek na posvet s pravnim strokovnjakom ali sindikatom. V odgovoru na 2. vprašanje je klepetalni robot ChatGPT sicer pravilno zapisal, da delavcu, ki mu je delodajalec odpovedal pogodbo o zaposlitvi iz poslovnih razlogov, pripada odpravnina, ni pa navedel pravilne pravne podlage za odgovor na vprašanje, hkrati pa ni dovolj natančno navedel, kakšna je osnova za izračun odpravnine. Prav tako ni uporabil pravilne formule za izračun odpravnine. Slednje kaže, da klepetalnemu robotu ChatGPT ni uspelo povezati dveh odstavkov zakonske določbe o odpravnini – 1. in 2. odstavka 108. člena ZDR-1 – in zato ni uspel pravilno odgovoriti na vprašanje. Odgovor na dano vprašanje ureja 108. člen ZDR-1, v skladu s katerim je osnova za izračun odpravnine povprečna mesečna plača, ki jo je prejel delavec ali ki bi jo prejel delavec, če bi delal, v zadnjih treh mesecih pred odpovedjo (1. odstavek 108. člena ZDR-1). V osnovo pa nikakor ne sodijo regres za letni dopust, božičnica, nagrade, dodatki in drugi prejemki, kakor to navaja klepetalni robot ChatGPT (glej 1. odstavek 108. člena ZDR-1; Kresal Šoltes, 2016, str. 636). Nadalje 2. odstavek tega člena jasno določa, da delavcu pripada odpravnina v višini: − 1/5 osnove za vsako leto dela pri delodajalcu, če je zaposlen pri delodajalcu več kot 1 leto do deset let, − 1/4 osnove za vsako leto dela pri delodajalcu, če je zaposlen pri delodajalcu več kot 10 let do 20 let, − 1/3 osnove za vsako leto dela pri delodajalcu, če je zaposlen pri delodajalcu več kot 20 let. V skladu z navedenim pripada delavcu, ki je pri delodajalcu zaposlen dve leti (in mu je bila odpovedana pogodba o zaposlitvi iz poslovnega razloga), odpravnina v višini 2 x 1/5 osnove (tj. povprečne mesečne plače, ki jo je prejel delavec ali ki bi jo prejel delavec, če bi delal, v zadnjih treh mesecih pred odpovedjo). To je bil odgovor (formula), ki se je pričakoval. Torej je formula za izračun odpravnine, ki jo je klepetalni robot ChatGPT uporabil, nepravilna, saj je odpravnino računal, kot da bi ta pripadala za vsak posamezni mesec, prav tako pa je za prvih 12 mesecev odpravnino računal po enačbi 1/5 od osnove, za drugih 12 mesecev pa po enačbi 113 1/4 od osnove. Odpravnina pri odpovedi pogodbe o zaposlitvi seveda ne pripada za posamezni mesec dela pri delodajalcu, ampak pripada po letih (2. odstavek 108. člena ZDR-1). Če pogledamo še praktični primer, ki ga je klepetalni robot ChatGPT podal, ugotovimo, da pri osnovi v višini 1.500 € delavcu pripada 2 x 1/5 od 1.500 €, kar je 600 € in niti približno 8.100 €, kot je to izračunal klepetalni robot ChatGPT. Nadalje je klepetalni robot ChatGPT delno pravilno odgovoril na 3. vprašanje glede višine mi- nimalnega osnovnega kapitala v delniški družbi (v nadaljevanju d. d.) in družbi z omejeno od- govornostjo (v nadaljevanju d. o. o.). Odgovor glede zneska najnižjega osnovnega kapitala v d. d. je pravilen (25.000 €), vendar je klepetalni robot ChatGPT pri tem navedel napačno pravno podlago, kajti najnižji znesek osnovnega kapitala d. d. določa 171. člen ZGD-1 in ne 179. člen. Klepetalni robot ChatGPT je nato navedel isto (napačno) pravno podlago in isti (na- pačen) znesek najnižjega osnovnega kapitala za d. o. o. Pravilni odgovor določa 1. odstavek 475. člena ZGD-1, po katerem mora osnovni kapital v d. o. o. znašati vsaj 7.500 €. Drži pa dodatek klepetalnega robota ChatGPT, da se ustanovitelji d. o. o., kot tudi ustanovitelji d. d., lahko odločijo za višji registrirani osnovni kapital (Ivanjko & Kocbek & Prelič, 2009, str. 465). Odgovor na 4. vprašanje je nepravilen. Drži pa navedba klepetalnega robota ChatGPT, da mora prevzemnik, ki doseže določen prevzemni prag, dati prevzemno ponudbo. Veljavni Zakon o prevzemih (v nadaljevanju ZPre-1) določa osnovni, dodatni in končni prevzemni prag. (Osnovni) prevzemni prag v ciljni družbi je tretjinski delež glasovalnih pravic v tej družbi (2. odstavek 7. člena ZPre-1). Nadalje 2. odstavek 12. člena ZPre-1 določa, da mora prevzemno ponudbo ponovno dati prevzemnik, ki je po končanem postopku uspešne prevzemne ponudbe pridobil 10-odstoten delež glasovalnih pravic – t. i. dodatni prevzemni prag. Obveznost ponov- nega dajanja prevzemne ponudbe preneha, ko prevzemnik z uspešno prevzemno ponudbo pridobi najmanj 75-odstoten delež vseh delnic ciljne družbe z glasovalno pravico – t. i. končni prevzemni prag (3. odstavek 12. člena ZPre-1). Glede na navedeno je odgovor klepetalnega robota ChatGPT, ki našteva 25-odstoten in 50-odstoten delež vseh delnic ciljne družbe, napa- čen. Prevzemni prag pri 25-odstotnem deležu vseh delnic ciljne družbe z glasovalno pravico je veljal do 2012 oz. konkretneje do novele ZPre-1D. S to novelo se je spremenila višina pre- vzemnega praga v ciljni družbi – namesto 25-odstotnega deleža se je določil bistveno višji prevzemni prag, tj. tretjinski delež glasovalnih pravic v ciljni družbi (Kavšek, 2012, str. 10). To kaže, da je klepetalni robot ChatGPT uporabil določbe zakona, ki ni več v veljavi, ob tem pa se je skliceval na veljavni ZPre-1. Klepetalni robot ChatGPT je pravilno navedel le prevzemni prag 33-odstotnih deležev vseh delnic ciljne družbe z glasovalno pravico (2. odstavek 7. člena 114 ZPre-1) ob tem, da je izpustil dodatni in končni prevzemni prag. Gre izpostaviti tudi, da se je klepetalni robot ChatGPT povsem izognil navedbi kakršne koli pravne podlage pri odgovoru na vprašanje. Klepetalni robot ChatGPT je v odgovoru na 5. vprašanje pravilno navedel, da predpostavke patentibilnosti ureja Zakon o industrijski lastnini (v nadaljevanju ZIL-1), kljub temu da ZIL-1 ne uporablja besede »patentibilnost«, še manj pa besedne zveze »prepdostavke patentibilnosti«. Ni pa pravilno odgovoril, kateri člen ZIL-1 ureja predpostavke patentibilnosti. Tako sva ga kar vprašala po tem in klepetalni robot ChatGPT je v odgovoru na to 6. vprašanje navedel »8. člen ZIL-1«. To ne drži – 8. člen ZIL-1 v bistvu ureja »tajnost in vpogled v prijave«, predpostavke patentibilnosti pa so urejene v 1. odstavku 10. člena ZIL-1 in v naslednjih členih. Ponovno je torej verjetno prišlo do tega, da je klepetalni robot ChatGPT uporabil neveljaven predpis, tj. Zakon o industrijski lastnini (ZIL), ki se sicer še uporablja pri določenih vprašanjih, vendar ne pri predpostavkah patentibilnosti (glej 143. člen ZIL-1). Neveljaven ZIL je res urejal predpostavke patentibilnosti v 8. členu, kot to zatrjuje klepetalni robot ChatGPT. Čeprav se je klepetalni robot ChatGPT v odgovoru skliceval na veljavni predpis (ZIL-1), je torej v bistvu uporabil določbo neveljavnega predpisa. Nadalje se je klepetalni robot ChatGPT osredotočil le na vsebinske predpostavke patentibilno- sti, procesnih predpostavk (vložitve pravilne patentne prijave, zadostnega razkritja izuma v prijavi, plačila pristojbin in drugega (Repas, 2007, str. 44) pa niti omenil ni. Poleg tega je le delno pravilno naštel vsebinske predpostavke patentibilnosti. Slednje so v skladu s 1. odstavkom 10. člena ZIL-1 navedene taksativno in kumulativno, in sicer: stvaritev mora biti izum, izum mora biti nov, izum mora biti na inventivni ravni in izum mora biti industrijsko uporabljiv (Repas, 2007, str. 44). Torej je klepetalni robot ChatGPT pravilno naštel le tri predpostavke: novost, inventivna raven in industrijska uporabljivost, pri tem pa izpustil predpostavko, da mora iti za izum (s slehernega področja tehnike). Hkrati je napačno navedel kot predpostavko »ne-ulovljiva ali izvirna ustvarjalnost«, kar je lahko posledica uporabe neveljavnega zakona (kajti 8. člen neveljavnega ZIL je kot predpostavko določal ustvarjalno delo). Lahko pa je do tega prišlo tudi zato, ker je klepetalni robot ChatGPT med predpostavke patentibilnosti klasičnega patenta po 10. členu ZIL-1 primešal še predpostavko za patent s skrajšanim trajanjem, v skladu s katero mora biti izum »pridobljen z ustvarjalnim delom« (saj se pri patentu s skrajšanim trajanjem ne zahteva tako visok prag inventivnosti kot pri klasičnem patentu, zato zadošča, da je izum dosežen z ustvarjalnim delom (Repas, 2007, str. 44). Najverjetneje torej klepetalni robot ChatGPT ne ločuje med predpostavkami patentibilnosti klasičnega patenta in patenta s skraj- šanim trajanjem. 115 Glede opisa posameznih predpostavk je mogoče zaključiti, da gre za zelo splošne opise, ki niso dovolj natančni. Za predpostavko »novost« drži navedba klepetalnega robota ChatGPT, da izum mora biti nov, kar pomeni, da ne sme biti del že obstoječega stanja tehnike (1. odsta- vek 12. člena ZIL-1). Nekoliko posplošen pa je drugi stavek klepetalnega robota ChatGPT: »Izum se šteje za nov, če ni bil pred datumom vložitve patentne prijave objavljen ali uporabljen kjerkoli na svetu.«, saj klepetalni robot ChatGPT ne upošteva izjeme po 13. členu ZIL-1, ki določa primere neškodljivega razkritja izuma. Prav tako pa bi bilo treba definirati termin »obstoječe stanje tehnike« (glej 2. in 3. odstavek 12. člena ZIL-1). Tudi predpostavka »inventiv- nost« je preveč na splošno opisana, sicer pa drži. Šteje se, da je izum na inventivni ravni, če za strokovnjaka predmet izuma očitno ne izhaja iz stanja tehnike (14. člen ZIL-1). Pomemben del, ki ga je klepetalni robot ChatGPT izpustil, je, da inventivnost oz. neočitnost izuma ocenjuje strokovnjak. Še najbolje je klepetalni robot ChatGPT definiral »industrijsko uporabljivost«, ki je v 15. členu ZIL-1 definirana tako: »Izum je industrijsko uporabljiv, če se predmet izuma lahko proizvede ali uporabi v katerikoli gospodarski dejavnosti, vključno s kmetijstvom.« Predpostavke, da mora iti za izum, pa klepetalni robot ChatGPT tako niti omenil ni, je pa res, da ZIL-1 le-te ne definira. Lahko zapišemo le, da imamo negativno definicijo izuma v 11. členu ZIL-1, ki navaja, kaj ne šteje za izum oz. kaj ne more biti predmet patentnega varstva, čeprav bi morebiti izpolnjevalo vse ostale predpostavke patentibilnosti. Pa vendar obstajajo druge opredelitve izuma, npr. Svetovna organizacija za intelektualno lastnino definira izum kot rešitev specifičnega problema na področju tehnologije (glej WIPO [n. d.]). Smiseln je dodatek klepetalnega robota ChatGPT, da je pri presoji patentibilnosti vedno treba upoštevati specifične okoliščine in podrobnosti posameznega izuma. Ni pa jasno, zakaj klepe- talni robot ChatGPT piše o štirih odstavkih 8. člena, ko niti neveljavni ZIL ni vseboval štiri odstavkov, ampak zgolj dva. Prav tako je zanimivo, da klepetalni robot ChatGPT, ki temelji na jezikovnem modelu GPT (angl. generative pre-training transformer) (OpenAI, 2022), na več mestih uporablja napačno besedo »patentabilnosti«. Klepetalni robot ChatGPT je v odgovoru na 7. in 8. vprašanje navedel odločitev Vrhovnega sodišča RS (v nadaljevanju: VSRS) št. II Ips 15/2014 z dne 17. aprila 2014. Treba je izpostaviti, da iskalnik sodne prakse ne najde sodbe VSRS s to opravilno številko z dne 17. aprila 2014. Obstaja 10 odločitev VSRS, ki imajo v opravilni številki zapis 15/2014, ena od teh ima celo opravilno številko »II Ips 15/2014«, vendar se niti ena od teh ne ukvarja s patentnim pravom (glej Sodna praksa [n. d.]a. ) Prav tako na dan 17. april 2014 ni mogoče najti niti ene odločitve VSRS, ki bi se nanašala na patentno pravo (glej Sodna praksa, [n. d.]b). Vendar ne gre zgolj 116 za zmoto v opravilni številki ali datumu odločitve ali instanci sodišča, temveč gre za povsem izmišljeno vsebino sodbe in podatke o tej sodbi, kajti niti ena izmed sodb višjih sodišč ali VSRS, ki obravnavajo novost kot predpostavko patentibilnosti, se ne ukvarja s podobnim vprašanjem, kot ga navaja klepetalni robot ChatGPT (tj. ali je izum nov glede na stanje tehnike, ki je objavljeno v drugem jeziku) (glej Pravno-informacijski sistem. [n. d.]a; Pravno-informacijski sistem. [n. d.]b). Sicer pa je na to vprašanje (tj. ali je izum nov glede na stanje tehnike, ki je objavljeno v drugem jeziku) mogoče odgovoriti pritrdilno. V skladu z načelom absolutne novosti se zahteva novost v svetovnem merilu (glej European Patent Office, [n. d.]), kar pomeni, da je informacija, če je kjer koli na svetu postala dostopna javnosti, postala del stanja tehnike ne glede na jezik, v katerem je ta informacija podana (Bently & Sherman, 2009, str. 466–477; Gates, 2014). Torej je zaključek klepetalnega robota ChatGPT: »To pomeni, da se pri presoji novosti izuma po slovenski sodni praksi upošteva celotno stanje tehnike, ki je bilo na voljo javnosti pred datumom vložitve patentne prijave, ne glede na jezik objav« pravilen, vendar se glede tega ni možno sklicevati na (navedeno – neobstoječo) sodno prakso. Iz zadnjega, tj. 9., odgovora klepetalnega robota ChatGPT pa je razvidno, da se tudi sam zaveda svojih omejitev – odgovoril je, da ni neposredno povezan s spletno bazo podatkov ali sodno prakso, zato nima dostopa do specifičnih podatkov sodnih odločb ali njihove vsebine. To pa pomeni, da klepetalni robot ChatGPT ni in ne more biti (zanesljiv) vir za iskanje sodne prakse, saj ni povezan z iskalnikom sodne prakse. Posledično ostaja klasično iskanje sodne prakse, kot smo ga poznali doslej, še vedno aktualno. 6 Sklep Odgovor na 1. vprašanje kaže, da klepetalni robot ChatGPT ne pozna določb osnovnih zako- nov, kot je ZDR-1, oz. da ni sposoben najti pravilne pravne podlage za odgovor. Vprašanje je bilo zastavljeno direktno in je nanj mogoče odgovoriti že na podlagi prepoznavanja pravilne določbe zakona, ki je jasna, vendar klepetalnemu robotu ChatGPT to ni uspelo. Klepetalni robot ChatGPT prav tako ni bil sposoben pravilno odgovoriti na 2. vprašanje, ki je nekoliko težje, saj vključuje povezovanje dveh odstavkov zakonske določbe o odpravnini – 1. in 2. odstavka 108. člena ZDR-1. Hkrati je bilo 2. vprašanje nekoliko bolj praktično, kar kaže, da klepetalni robot ChatGPT ni sposoben asistirati pri reševanju osnovnih praktičnih pravnih nalog (izračunati odpravnine) niti ni sposoben podati pravilnega splošnega odgovora na vpra- šanje (navesti pravilne formule za izračun odpravnine), saj je povsem nepravilno razbral 117 formulo za izračun odpravnine (ki je jasno navedena v 108. členu ZDR-1), se skliceval na napačno pravno podlago ter napačno navedel, kaj šteje za osnovo za izračun odpravnine. Tudi odgovor na 3. vprašanje kaže, da klepetalni robot ChatGPT ni sposoben najti pravilne pravne podlage glede minimalnih zneskov osnovnega kapitala v d. d. in d. o. o. Kljub napačni pravni podlagi mu je uspelo navesti pravilni minimalni znesek osnovnega kapitala za d. d., medtem ko mu za d. o. o. to ni uspelo. To ponovno prikazuje, da klepetalni robot ChatGPT ni sposoben odgovoriti na najenostavnejša vprašanja, zadevajoča slovensko pravo, četudi za- htevajo zgolj iskanje pravilne pravne podlage v zakonu in njeno povzemanje. Odgovor na 4. vprašanje kaže, da klepetalni robot ChatGPT ne ločuje med veljavnimi zakoni in zakoni, ki niso več v veljavi, kajti v odgovoru je uporabljal določbe veljavnega ZPre-1 in neveljavnega ZPre, pri čemer se je skliceval zgolj na veljavni predpis, tj. ZPre-1. Posledično je v odgovoru nastala mešanica prevzemnih pragov po prejšnji ureditvi in trenutni ureditvi. Hkrati se je klepetalni robot ChatGPT izognil navedbi kakršne koli pravne podlage za navedene prevzemne pragove. To kaže, da klepetalni robot ChatGPT ni sposoben odgovoriti na nekoliko težje vprašanje, ki zahteva povezovanje več različnih odstavkov in členov zakona (2. odstavek 7. člena ZPre-1 ter 2. in 3. odstavek 12. člena ZPre-1). Tudi odgovor klepetalnega robota ChatGPT na 5. in 6. vprašanje kaže, da ne ločuje med ve- ljavnimi in neveljavnimi predpisi in izmenično uporablja določbe obeh. Ponovno klepetalni ro- bot ChatGPT ni navedel pravilne pravne podlage. Prav tako je iz 5. vprašanja razvidno, da ne ločuje med različnimi vrstami patentov in je zato zamešal oz. združil predpostavke patentibil- nosti klasičnega patenta in patenta s skrajšanim trajanjem. Posledično ni sposoben pravilno našteti vseh predpostavk (niti vsebinskih niti procesnih). Opaziti je tudi, da klepetalni robot ChatGPT odgovore in razlago pravnih terminov posplošuje, kar je še posebej opazno pri opisu posameznih predpostavk. To je zelo nepriročno, saj je v pravu pomembno natančno izražanje, kajti pravni termini so predmet razlage sodišč in pravnih teoretikov. Nadalje so odgovori na 7., 8. in 9. vprašanje pokazali, da klepetalni robot ChatGPT nikakor ne more biti zanesljiv vir za iskanje sodne prakse, saj ni povezan z iskalnikom sodne prakse in tako ne zmore navesti pravilnih podatkov za identifikacijo sodne odločbe (npr. navedbo vrste sodišča, opravilne številke zadeve in datuma odločitve). Odgovori prikazujejo, da si je klepe- talni robot ChatGPT izmislil sodno prakso, ki pa je vsebinsko popolnoma ustrezala zastavlje- nemu vprašanju. Ni pa jasno, zakaj klepetalni robot ChatGPT že v prvi vrsti (pri odgovoru na 7. vprašanje) ni priznal, da ni zmožen navesti konkretne sodbe s pravilnimi podatki in vsebino. 118 Takšno nepremišljeno ravnanje klepetalnega robota ChatGPT (tj. navajanje neobstoječe sodne odločbe kot resnične) je namreč alarmantno in predstavlja grožnjo pravni varnosti. Na podlagi vsega navedenega lahko povzameva, da klepetalni robot ChatGPT 1. občasno uporablja določbe neveljavnih zakonov (1., 4. in 5. vprašanje), 2. konstantno navaja napačno pravno podlago ali pa slednje sploh ne navede (1., 2., 3., 4., 5. in 6. vprašanje), 3. ni sposoben povsem pravilno odgovoriti na vprašanje, ki zahteva zgolj iskanje pravilne pravne norme in njeno povzemanje (1., 3. in 5. vprašanje), 4. ni sposoben povsem pravilno odgovoriti na vpra- šanje, ki zahteva kombiniranje dveh ali več odstavkov ali členov zakonov (2. in 4. vprašanje), 5. ni sposoben izvesti lažjih praktičnih nalog, ki zahtevajo subsumpcijo pravnega pravila na dejansko stanje, kot je izračun odpravnine (2. vprašanje), 6. ni uporaben za iskanje sodne prakse, saj si izmisli obstoj sodne odločbe, njeno vsebino in njene podatke ter jo navaja kot resnično (7., 8. in 9. vprašanje) in 7. podaja povsem napačne ali zgolj delno pravilne odgovore (od 1. do 8. vprašanja). Glede na to lahko skleneva, da so odgovori klepetalnega robota ChatGPT (za zdaj) za področje slovenskega prava manj direktno uporabni. Vsak odgovor klepetalnega robota ChatGPT je treba temeljito preveriti, kar pomeni, da klepetalni robot ChatGPT prej podaljša čas iskanja odgovora kot ga skrajša. Ugotavljava, da je klepetalni robot ChatGPT sicer priročen za uvid v neko pravno vprašanje in lahko tudi predstavlja inspiracijo za nadaljnje raziskovanje, saj s svojimi odgovori odpre nova vprašanja ali vidike, ni pa pripo-moček, na katerega bi se lahko zanesli in slepo uporabili njegov odgovor v kakšnem (pravnem) besedilu – naj bo to pripravljalna vloga za sodišče, pravno mnenje, članek ali seminarska na- loga. Poleg vsega navedenega nevarnost uporabe klepetalnega robota ChatGPT preži v kršitvi pravnih določb. Konkretneje – pri raziskovanju bodo odgovori klepetalnega robota ChatGPT pogosto predstavljali kršitve avtorskih pravic. Pri generiranju besedila klepetalni robot ChatGPT izhaja iz baze podatkov, ki obsega številna avtorska dela. Pri tem klepetalni robot ChatGPT pogosto črpa vsebino avtorskih del brez citiranja uporabljenega dela. Slednje po- meni invaziven poseg v bistvo avtorskih pravic. Odnos klepetalnega robota ChatGPT do to- vrstnih kršitev pa je precej nonšalanten – kar se kaže v primerih, ko ga prosimo, naj nam zagotovi seznam virov in literature za besedilo, ki tvori odgovor na zastavljeno vprašanje, in so posamezni viri oz. literatura na tem seznamu izmišljeni in neobstoječi (Welborn, 2021). Za ustrezno uporabo klepetalnega robota ChatGPT je ključno, da smo seznanjeni s tem, ali lahko generirano vsebino sploh uporabimo. Uporabo avtorskih del ureja Zakon o avtorski in sorodnih pravicah (v nadaljevanju ZASP). Za uporabo tega zakona je treba identificirati, ali je 119 besedilo, ki ga generira klepetalni robot ChatGPT, avtorsko delo in kdo je avtor tega besedila. »Pogoji uporabe« klepetalnega robota ChatGPT ne vsebujejo določb, ki bi urejale avtorsko- pravne vidike besedila, ki ga je ustvaril klepetalni robot ChatGPT (OpenAI, [n. d.]c). Navkljub temu, da pogoji uporabe tega ne urejajo, je na podlagi 10. člena ZASP, ki določa, da je avtor fizična oseba, ki je ustvarila avtorsko delo, povsem jasno, da umetna inteligenca ne more biti avtor. V skladu z istoimensko določbo se za avtorja tudi ne morejo opredeliti pravne osebe, tj. npr. podjetje OpenAI, ki ponuja storitve klepetalnega robota ChatGPT. Pravne osebe so na- mreč lahko zgolj imetniki avtorskih pravic in ne avtorji. Za obravnavo besedila, generiranega s klepetalnim robotom ChatGPT, kot avtorskega dela, mora slednje izpolnjevati kvalifikatorne elemente za avtorsko delo: (1) stvaritev, (2) področje književnosti, znanosti in umetnosti, (3) duhovnost, (4) izraženost in (5) individualnost. Besedila klepetalnega robota ChatGPT bodo imela največ težav z izpolnjevanjem pogoja duhovnosti, kjer se zahteva, da gre za delo človeškega duha oz. duhovno stvaritev (Trampuž, 2000, str. 1283–1292). Četudi duhovnost razlagamo široko in jo pripišemo računalniškemu programu, trčimo ob oviro, ali lahko obstaja avtorsko delo brez avtorja (avtor je namreč lahko zgolj fizična oseba). Najbližje temu poznamo institut osirotelih del, kjer se za osirotelo delo šteje (avtorsko) delo, katerega avtorjev tudi po skrbnem iskanju ni bilo mogoče najti oz. opredeliti (50.b člen ZASP). Vendar imamo tudi v tem primeru opraviti z avtorjem oz. le-tega ni mogoče identificirati. Pri delu, ki ga ustvari klepetalni robot ChatGPT, pa že a priori nimamo avtorja. Dodelitev avtorskih pravic podjetju OpenAI nad odgovori, ki jih generira klepetalni robot ChatGPT, bi tako ustvarjalo oksimoron – ne moremo govoriti o stvaritvi avtorskega dela brez avtorja (14. člen ZASP). Četudi besedilo, ki ga generira klepetalni robot ChatGPT, ni opredeljeno kot avtorsko delo, to ni razlog, da bi lahko opustili ustrezno citiranje. Že akademska poštenost in korektnost nam zapovedujeta, da moramo ustrezno navajati tuje misli. Dodatno tudi »Politika deljenja in objave « klepetalnega robota ChatGPT zahteva ustrezno navedbo pri uporabi generiranega besedila (OpenAI, [n. d.]b). Prav tako bo treba razmisliti o integraciji besedil, generiranih s klepetalnimi roboti, med avtorska dela oz. o tem, da se klepetalnim robotom pripiše status avtorja. Omilitev pravila, da je avtor fizična oseba, poznajo denimo v Združenem kraljestvu, kjer je kot avtor definiran programer ali uporabnik umetne inteligence. Na ta način je generirano besedilo pred- met varstva avtorskega prava (Szwider, 2023). Treba pa je izpostaviti, da je v zadevnem članku bila predmet raziskovanja starejša verzija klepetalnega robota ChatGPT, tj. »GPT-3.5«, ki je manj natančna in sposobna v primerjavi z 120 novejšo verzijo »GPT-4«, ki je dostopna z naročnino (OpenAI, [n. d.]a). Novejša verzija »GPT4« med drugim dosega boljše rezultate pri zahtevnejših vprašanjih, ki se pojavljajo na pravni- škem državnem izpitu (t. i. bar exam) (Koetsier, 2023). Tako moramo poudariti, da so vse ugotovljene pomanjkljivosti klepetalnega robota ChatGPT zgolj prehodne in odražajo trenutno (nam brezplačno dostopno) fazo njegovega razvoja. S stalnim napredkom v industriji umetne inteligence je mogoče z gotovostjo pričakovati, da bodo vsaj nekatere pomanjkljivosti klepetalnega robota ChatGPT v prihodnosti odpravljene. Literatura 1. Agapito, J. J. (2023). User perceptions and privacy concerns related to using ChatGPT in conver-sational AI syste ms. SSRN. http://dx.doi.org/10.2139/ssrn.4440366 2. Ajevski, M., Barker, K., Gilbert, A., Hardie, L., & Ryan, F. (2023). ChatGPT and the future of legal education and practice. Law teacher. https://doi.org/10.1080/03069400.2023.2207426 3. Bently L., & Sherman B. (2009). Intel ectual property law. Oxford University Press. 4. Cao, Y., & Zhai, J. (2023). Bridging the gap – the impact of ChatGPT on financial research. Journal of Chinese economic and business studies, 21 (2), 177 – 191. https://doi.org/10.1080/14765284.2023.2212434 5. Corsello, A. & Santangelo, A. (2023). May artificial intel igence influence future pediatric research? The case of ChatGPT, 10(4), 757. Children. https://doi.org/10.3390/children10040757 6. European Patent Office. (n. d.). Basic principles. European Patent Office. https://new.epo.org/en/le- gal/guide-epc/2022/ga_c3_3_1.html 7. Gates, C. (2014, December). Patenting the life sciences at the European Patent Office. National Libery of Medicine. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4292089/ 8. Giannos, P., & Delardas, O. (2023). Performance of ChatGPT on UK standardized admission tests: Insights from the BMAT, TMUA, LNAT, and TSA examinations. JMIR medical education, 9, e47737-e47737. https://doi.org/10.2196/47737 9. Ivanjko, Š., Kocbek, M., & Prelič, S. (2009). Korporacijsko pravo: pravni položaj gospodarskih sub-jektov. GV založba. 10. Kavšek B. (2012). Sprememba obveznega prevzemnega praga – oživitev kapitalskega trga? . Pravna praksa, 31(18), 10 – 11. 11. Koetsier, J. (2023, March 14). GPT-4 beats 90% of lawyers trying to pass the bar. Forbes. https://www.forbes.com/sites/johnkoetsier/2023/03/14/gpt-4-beats-90-of-lawyers-trying-to-pass- the-bar/?sh=8f3a24830279 12. Kresal Šoltes, K. (2016). 108. člen. In N. Belopavlovič, B. Kresal, K. Kresal Šoltes, & D. Senčur Peček (Eds.), Zakon o delovnih razmerjih s komentarjem (pp. 633 – 643). GV Založba. 13. Kresal, B. (2016). 79. člen. In N. Belopavlovič, B. Kresal, K. Kresal Šoltes, & D. Senčur Peček (Eds.), Zakon o delovnih razmerjih s komentarjem (pp. 453 – 467). GV Založba. 121 14. Lund, B. D., Wang, T., Mannuru, N. R., Nie, B., Shimray, S., & Wang, Z. (2023). ChatGPT and a new academic reality: Artificial intel igence‐ written research papers and the ethics of the large language models in scholarly publishing. Journal of the Association for Information Science and Technology, 74/5, 570 – 581. https://doi.org/10.1002/asi.24750 15. Okonkwo, C. W., & Ade-Ibijola, A. (2021). Chatbots applications in education: A systematic review. Computers and Education: Artificial Intel igence, 2, 100033. https://doi.org/10.1016/j.caeai.2021.100033 16. OpenAI. (2022, January 27). Aligning language models to follow instructions. OpenAI. https://ope- nai.com/research/instruction-following 17. OpenAI. (2023). ChatGPT (May 10 version) [Large language model]. https://chat.openai.com/chat (Citirano kot: OpenAI, 2023a) 18. OpenAI. (2023). ChatGPT (May 11 version) [Large language model]. https://chat.openai.com/chat (Citirano kot: OpenAI, 2023b) 19. OpenAI. (2023). ChatGPT (May 5 version) [Large language model]. https://chat.openai.com/chat (Citirano kot: OpenAI, 2023c) 20. OpenAI. (n. d.). GPT-4 is OpenAI’s most advanced system, producing safer and more useful responses. OpenAI. https://openai.com/gpt-4. (Citirano kot: OpenAI (n. d.)a) 21. OpenAI. (n. d.). Sharing & publication policy. Open AI. https://openai.com/policies/sharing-publica- tion-policy (Citirano kot: OpenAI, (n. d.)b) 22. OpenAI. (n. d.). Terms of use. Open AI. https://openai.com/policies/terms-of-use (Citirano kot: OpenAI, (n. d.)c) 23. Peres, R., Schreier, M., Schweidel, D., & Sorescu, A. (2023). On ChatGPT and beyond: How generative artificial intelligence may affect research, teaching, and practice. International journal of research in marketing. Elsevier B.V., 40(2), 269 – 275. https://doi.org/10.1016/j.ijresmar.2023.03.001 24. Perlman, A. (2022). The implications of ChatGPT for legal services and society. SSRN. http://dx.doi.org/10.2139/ssrn.4294197 25. Pisnik, S. (2017). Odpravnina pri pogodbi o zaposlitvi za določen čas. Pravna praksa, 36 (10), 16. 26. Pravno informacijski sistem. (n. d.). Zakon o industrijski lastnini (ZIL). Služba Vlade RS za zakonodajo. http://www.pisrs.si/Pis.web/pregledPredpisaSodna- Praksa?id=ZAKO1668&loadAll=true&izbranClen=12 (Citirano kot: Pravno informacijski sistem. (n. d.)a) 27. Pravno informacijski sistem. (n. d.). Zakon o industrijski lastnini (ZIL). Služba Vlade RS za zakonodajo. http://www.pisrs.si/Pis.web/pregledPredpisaSodna- Praksa?id=ZAKO218&loadAll=true&izbranClen=9 (Citirano kot: Pravno informacijski sistem. (n. d.)b) 28. Qasem, F. (2023). ChatGPT in scientific and academic research: future fears and reassurances. Library hi tech news, 40 (3), 30 –32. https://doi.org/10.1108/LHTN-03-2023-0043 29. Repas, M. (2007). Pravo blagovnih in storitvenih znamk. GV založba. 30. Rodrigues V., Marco A., & P dos Santos, R. (2023). Enhancing STEM learning with ChatGPT and Bing Chat as objects-to-think-with: A case study. SSRN. http://dx.doi.org/10.2139/ssrn.4434060 122 31. Sarel, R. (2023). Restraining ChatGPT. UC Law SF Journal, Forthcoming. SSRN: https://ssrn.com/abstract=4354486 or http://dx.doi.org/10.2139/ssrn.4354486 32. Sodna praksa. (n. d.) . Javne informacije Slovenije, Vrhovno sodišče Republike Slovenije. https://www.sodnapraksa.si/?q=15%2F2014+&advanceSerch=1&data- base%5BSOVS%5D=SOVS&rowsPerPage=20&_submit=i%C5%A1%C4%8Di&doc_code=&task_ code=&source2=&us_decision=&ecli=&meet_dateFrom=&meet_dateTo=&se- nat_judge=&areas=&institutes=&core_text=&decision=&description=&connection2=&publication=# (Citirano kot: “Sodna praksa, (n. d.)a”) 33. Sodna praksa. (n. d.) . Javne informacije Slovenije, Vrhovno sodišče Republike Slovenije. https://www.sodnapraksa.si/?q=&advanceSerch=1&data- base%5BSOVS%5D=SOVS&rowsPerPage=20&_submit=i%C5%A1%C4%8Di&doc_code=&task_ code=&source2=&us_decision=&ecli=&meet_dateFrom=17.4.2014&meet_dateTo=17.4.2014&se- nat_judge=&areas=&institutes=&core_text=&decision=&description=&connection2=&publication=# (Citirano kot: “Sodna praksa, (n. d.)b”) 34. Strowel, A. (2023). ChatGPT and generative AI tools: Theft of intellectual labor? . IIC – International Review of Intel ectual Property and Competition Law, 54 (4), 491 – 494. https://doi.org/10.1007/s40319-023-01321-y 35. Szwider, J. (1. 5. 2023). Copyright has entered the chat … GPT. Bespoke. https://bespo- kelaw.com/copyright-has-entered-the-chat-gpt/ 36. Trampuž, M. (2000). Intelektualna lastnina: avtorska dela, ki nastanejo na univerzi. Podjetje in delo, 26 (6/7), 1283 – 1292. 37. Welborn, A. (9. 3. 2023). ChatGPT and fake citations. Duke University Libraries. https://blogs.li- brary.duke.edu/blog/2023/03/09/chatgpt-and-fake-citations/ 38. Zakon o avtorski in sorodnih pravicah (ZASP), Uradni list RS, št. 16/07 – uradno prečiščeno besedilo, 68/08, 110/13, 56/15, 63/16 – ZKUASP, 59/19 in 130/22. 39. Zakon o delovnih razmerjih (ZDR), Uradni list RS, št. 42/02, 79/06 – ZZZPB-F, 103/07, 45/08 – ZArbit in 21/13 – ZDR-1. 40. Zakon o delovnih razmerjih (ZDR-1), Uradni list RS, št. 21/13, 78/13 – popr., 47/15 – ZZSDT, 33/16 – PZ-F, 52/16, 15/17 – odl. US, 22/19 – ZPosS, 81/19, 203/20 – ZIUPOPDVE, 119/21 – ZČmIS-A, 202/21 – odl. US, 15/22 in 54/22 – ZUPŠ-1. 41. Zakon o gospodarskih družbah (ZGD-1), Uradni list RS, št. 65/09 – uradno prečiščeno besedilo, 33/11, 91/11, 32/12, 57/12, 44/13 – odl. US, 82/13, 55/15, 15/17, 22/19 – ZPosS, 158/20 – ZIntPK-C, 18/21 in 18/23 – ZDU-1O. 42. Zakon o industrijski lastnini (ZIL), Uradni list RS, št. 13/92, 27/93, 34/97 – odl. US, 75/97 in 45/01 – ZIL-1. 43. Zakon o industrijski lastnini (ZIL-1), Uradni list RS, št. 51/06 – uradno prečiščeno besedilo, 100/13 in 23/20. 44. Zakon o prevzemih (Zpre-1), Uradni list RS, št. 79/06, 67/07 – ZTFI, 1/08, 68/08, 35/11 – ORZPre75, 105/11 – odl. US, 10/12, 38/12, 56/13, 63/13 – ZS-K, 25/14 in 75/15. 45. Zakon o spremembah in dopolnitvah Zakona o prevzemih (ZPre-1D), Uradni list RS, št. 38/12. 123 124 UPORABA KLEPETALNEGA ROBOTA ChatGPT MED ŠTUDENTI EKONOMIJE IN TEHNIKE Dorotea Pittner, dipl. ekon. (UN) Študentka, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija dorotea.pittner@student.um.si Dr. Dejan Romih, univ. dipl. ekon. Predavatelj, Univerza v Mariboru, Ekonomsko-poslovna fakulteta, Maribor, Slovenija Društvo ekonomistov Maribor, Maribor, Slovenija dejan.romih@um.si, dejan.romih@demb.si Povzetek: V tem prispevku obravnavava uporabo klepetalnega robota ChatGPT med študenti ekonomije in tehnike. Podatke sva pridobila z anketiranjem študentov dveh fakultet Univerze v Mariboru, ki je potekalo od 16. aprila do 11. maja 2023. Rezultati anketiranja kažejo, da so študenti ekonomije in tehnike večinoma že uporabljali klepetalni robot ChatGPT, kar sva pričakovala glede na to, da gre za tehnologijo umetne inteligence, o kateri se veliko govori in piše. Ključne besede: klepetalni robot ChatGPT, nepridobitna organizacija OpenAI, študent ekonomije, študent tehnike, umetna inteligenca, tehnologija umetne inteligence 125 1 Uvod O umetni inteligenci ne govorijo in pišejo samo tehniki, ampak tudi ekonomisti in drugi strokovnjaki, mdr. tudi pravniki, psihologi in sociologi (Maslej idr., 2023). K temu je prispevala uvedba klepetalnega robota ChatGPT, za katero mnogi izmed njih menijo, da je mejnik v razvoju umetne inteligence (Peres idr., se tiska; United Nations Educational, Scientific and Cultural Organization, 2023). Po podatkih agencije Reuters je januarja 2023 klepetalni robot ChatGPT, ki ga je septembra 2022 uvedla nepridobitna organizacija OpenAI, uporabljalo že več kot 100 milijonov uporabni- kov, mdr. tudi študenti (Maslej idr., 2023, str. 80). Izkazalo se je, da je visoko šolstvo sprejem-ljivo za novosti na področju umetne inteligence (Crompton & Burke, 2023; United Nations Educational, Scientific and Cultural Organization, 2019, 2022, 2023a, 2023b). V tem prispevku podajava rezultate ankete o uporabi klepetalnega robota ChatGPT med študenti ekonomije in tehnike, ki sva jo izvajala od 16. aprila do 11. maja 2023 na Univerzi v Mariboru. Namen tega prispevka je ugotoviti, ali študenti ekonomije in tehnike uporabljajo klepetalni robot ChatGPT pri študiju ekonomije oz. tehnike, s čimer želiva pomagati oblikovalcem visokošolske politike pri sprejemanju ukrepov na tem področju. Izkazalo se je namreč, da ima uporaba umetne in- teligence v visokem šolstvu dobre in slabe strani (Crompton & Burke, 2023). Ta prispevek ima še pet poglavij. V poglavju 2 podajava pregled literature o uporabi klepetal- nega robota ChatGPT, v poglavju 3 metode raziskovanja, v poglavju 4 rezultate raziskovanja, v poglavju 5 razpravo o rezultatih raziskovanja in v poglavju 6 sklep, ki vsebuje priporočila za oblikovalce visokošolske politike na tem področju. 2 Pregled literature V tem poglavju podajava pregled literature o uporabi klepetalnega robota ChatGPT v visokem šolstvu, s čimer dopolnjujeva pregled literature o uporabi umetne inteligence v visokem šol- stvu, ki sta ga podali H. Crompton in D. Burke (2023). Ti sta ugotovili, da so avtorji dosedanjih raziskav na tem področju večinoma anketirali dodiplomske študente, kar pomeni, da se najina raziskava razlikuje od večine drugih tudi po tem, da sva anketirala do- in podiplomske študente. Kot je razvidno iz nadaljevanja, je klepetalni robot ChatGPT vsestransko uporaben, s čimer se strinjajo tudi študenti tehnike, ki jih je intervjuval Shoufan (2023). Ta je ugotovil, da anketiranci klepetalni robot ChatGPT večinoma uporabljajo pri delu in učenju, kar kažejo tudi rezultati 126 anketiranja članov drugih skupin (npr. študentov medicine in zdravstva). M. Sáiz-Manzanares idr. (2023) so ugotovili, da so podiplomski študenti zdravstva klepetalne robote, ki so jih razvili na fakulteti, uporabljali pogosteje kot dodiplomski študenti in da so bili z njimi tudi zadovoljnejši, kar morda kaže na vlogo in pomen strokovnega predznanja pri njihovi uporabi. C. K. Y. Chan in K. K. W. Lee (2023) pa sta ugotovili, da so študenti, ki so pripadniki mlajše generacije (tj. generacije Z), bolj naklonjeni uporabi tehnologije umetne inteligence (npr. klepetalnega robota ChatGPT) pri študiju kot njihovi učitelji, ki so pripadniki starejše generacije (tj. generacij X in Y). Ti namreč opozarjajo na previdno ravnanje z novo tehnologijo. 3 Metode V okviru raziskave sva uporabljala metodo (spletnega) anketiranja, ki so jo uporabljali tudi avtorji tujih raziskav s tega področja (gl. npr. Chan & Lee, 2023; Sáiz-Manzanares idr., 2023; Shoufan, 2023), pri čemer sva si pomagala z aplikacijo 1KA, ki je dostopna na https://1ka.ar- nes.si/. V okviru raziskave sva anketirala 286 študentov, in sicer 188 študentov Ekonomsko-poslovne fakultete Univerze v Mariboru (65 %) in 98 študentov Fakultete za elektrotehniko, računalništvo in informatiko Univerze v Mariboru (34 %). Od tega je bilo 116 moških (41 %) in 170 žensk (59 %). Povprečna starost anketirancev je bila 21 let. (Spletni) anketni vprašalnik, ki sva ga uporabljala pri (spletnem) anketiranju, je vseboval 15 vprašanj (gl. prilogo). Potek anketne metode dela je prikazan na sliki 1. Slika 1: Potek anketne metode dela Sestavljanje Testiranje Analiziranje (spletnega) (spletnega) (Spletno) rezultatov anketnega anketnega anketiranje (spletnega) vprašalnika vprašalnika anketiranja Vir: Lastni. 4 Rezultati Rezultati ankete kažejo, da je večina anketirancev že slišala za klepetalni robot ChatGPT (gl. sliko 2), kar sva pričakovala glede na to, da se v zadnjem času veliko govori in piše o neprido-bitni organizaciji OpenAI in klepetalnem robotu ChatGPT. 127 Slika 2: Ali ste že slišali za klepetalni robot ChatGPT? Študenti tehnike (n = 58) Študentke tehnike (n = 40) Študenti ekonomije (n = 58) Študentke ekonomije (n = 130) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Da. Ne. Vir: Lastni. Podatki (gl. sliko 2) kažejo, da je 96,6 % študentov tehnike že slišalo za klepetalni robot ChatGPT, kar je 8,7 odstotne točke več kot pri študentih ekonomije. To pomeni, da klepetalni robot ChatGPT zanje ni več neznanka. S slike 2 je razvidno tudi, da je tudi 95 % študentk tehnike že slišalo za klepetalni robot ChatGPT, kar je 24,2 odstotne točke več kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da je večina anketirancev, ki je že slišala za klepetalni robot ChatGPT, tega tudi že uporabljala. Slika 3: Ali ste že uporabljali klepetalni robot ChatGPT? Študenti tehnike (n = 56) Študentke tehnike (n = 38) Študenti ekonomije (n = 51) Študentke ekonomije (n = 92) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Da. Ne. Vir: Lastni. Podatki (gl. sliko 3) kažejo, da je 85,7 % študentov tehnike, ki so že slišali za ChatGPT, tega tudi že uporabljalo, kar je 9,2 odstotne točke več kot pri študentih ekonomije. To pomeni, da je večina anketirancev klepetalni robot ChatGPT že preizkusila, kar kaže na to, da se zanimajo za umetno inteligenco. S Slike 3 je razvidno tudi, da je tudi 86,8 % študentk tehnike, ki so že slišale za klepetalni robot ChatGPT, tega tudi že uporabljalo, kar je 35,7 odstotne točke več 128 kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da je večina anketirancev, ki so že uporabljali ChatGPT, tega uporabljalo doma (gl. tabelo 1). Tabela 1: Kje ste uporabljali klepetalni robot ChatGPT? Študenti tehnike Študentke tehnike Študenti ekonomije Študentke ekono- (n = 48) (n = 33) (n = 38) mije (n = 47) Doma. 95,8 % 93,9 % 97,4 % 97,9 % V službi. 27,1 % 18,2 % 18,4 % 27,7 % V gostinskem lo- 8,3 % 9,1 % 0,0 % 4,3 % kalu. Drugje. 29,2 % 21,2 % 44,7 % 21,3 % Vir: Lastni. Podatki (gl. tabelo 1) kažejo, da je 95,8 % študentov tehnike, ki so že uporabljali klepetalni robot ChatGPT, tega uporabljalo doma, kar je za 1,6 odstotne točke manj kot pri študentih ekonomije. To pomeni, da so ga uporabljali takrat, ko so imeli čas za to. Iz tabele 1 je prav tako razvidno, da je tudi 93,9 % študentk tehnike, ki so že uporabljale klepetalni robot ChatGPT, tega uporabljalo doma, kar je za 4 odstotne točke več kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da je večina anketirancev klepetalni robot ChatGPT uporabljala med pro- stim časom (gl. tabelo 2). Tabela 2: Kdaj ste uporabljali klepetalni robot ChatGPT? Študenti tehnike Študentke tehnike Študenti ekonomije Študentke ekono- (n = 48) (n = 33) (n = 38) mije (n = 47) Med predavanji. 27,1 % 24,2 % 28,9 % 21,3 % Med vajami. 45,8 % 36,4 % 36,8 % 27,7 % Med odmorom. 20,8 % 36,4 % 5,3 % 12,8 % Med delovnim ča- 25,0 % 18,2 % 18,4 % 29,8 % som. Med prostim ča- 91,7 % 84,8 % 92,1 % 83,0 % som. Vir: Lastni. Podatki (gl. tabelo 2) kažejo, da je 91,7 % študentov tehnike, ki so že uporabljali klepetalni robot ChatGPT, tega uporabljalo med prostim časom, kar je za 0,4 odstotne točke manj kot pri študentih ekonomije. Iz tabele 2 je prav tako razvidno, da je tudi 84,4 % študentk tehnike, ki 129 so že uporabljale klepetalni robot ChatGPT, tega uporabljalo med prostim časom, kar je za 1,8 odstotne točke več kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da večina štu- dentov tehnike in študentk ekonomije klepetalnega robota ChatGPT ni uporabljala niti redko niti pogosto, medtem ko ga je večina študentk tehnike in študentov ekonomije uporabljala po- gosto (gl. sliko 4). Slika 4: Kako pogosto ste uporabljali klepetalni robot ChatGPT? Študenti tehnike (n = 48) Študentke tehnike (n = 33) Študenti ekonomije (n = 38) Študentke ekonomije (n = 47) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Zelo redko. Redko. Niti redko niti pogosto. Pogosto. Zelo pogosto. Vir: Lastni. S slike 4 je razvidno, da 31,3 % študentov tehnike, ki so že uporabljali klepetalni robot ChatGPT, tega ni uporabljalo niti redko niti pogosto, kar je za 10,2 odstotne točke več kot pri študentih ekonomije, 27,1 % študentov tehnike pa ga je uporabljalo pogosto, kar je za 1,9 odstotne točke več kot pri študentih ekonomije. S slike 4 je razvidno tudi, da 27,3 % študentk tehnike, ki so že uporabljale klepetalni robot ChatGPT, tega ni uporabljalo niti redko niti pogosto, kar je za 11 odstotnih točk manj kot pri študentkah ekonomije, pogosto pa ga je uporabljalo 33,3 % študentk tehnike, kar je za 16,3 odstotne točke več kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da je večina anketirancev klepetalni robot ChatGPT uporabljala za pridobivanje idej in informacij (gl. tabelo 3). 130 Tabela 3: Za kaj ste uporabljali klepetalni robot ChatGPT? Študenti tehnike Študentke tehnike Študenti ekonomije Študentke (n = 48) (n = 33) (n = 38) ekonomije (n = 47) Za pridobivanje 64,6 % 72,7 % 71,1 % 78,7 % idej. Za pridobivanje 77,1 % 87,9 % 84,2 % 91,5 % informacij. Za izdelavo 33,3 % 21,2 % 44,7 % 27,7 % pisnega izdelka. Za učenje. 62,5 % 75,8 % 52,6 % 36,2 % Za zabavo. 47,9 % 42,4 % 68,4 % 38,3 % Vir: Lastni. Podatki (gl. tabelo 3) kažejo, da je 77,1 % študentov tehnike, ki so že uporabljali klepetalni robot ChatGPT, tega uporabljalo za pridobivanje informacij, kar je za 7,1 odstotne točke manj kot pri študentih ekonomije. Iz tabele 3 je prav tako razvidno, da je tudi 87,9 % študentk tehnike, ki so že uporabljale klepetalni robot ChatGPT, tega uporabljalo za pridobivanje informacij, kar je za 3,6 odstotne točke manj kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da večina anketirancev meni, da klepetalnega robota ChatGPT ne bi smeli uporabljati na pre- davanjih (gl. sliko 5). Slika 5: Ali bi morali klepetalni robot ChatGPT uporabljati na predavanjih? Študenti tehnike (n = 48) Študentke tehnike (n = 33) Študenti ekonomije (n = 39) Študentke ekonomije (n = 47) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Da. Ne. Vir: Lastni. Podatki (gl. sliko 5) kažejo, da 66,7 % študentov tehnike meni, da klepetalnega robota ChatGPT ne bi smeli uporabljati na predavanjih, kar je za 10,3 odstotne točke več kot pri študentih ekonomije. S slike 5 je prav tako razvidno, da tudi 63,6 % študentk tehnike meni, da 131 klepetalnega robota ChatGPT ne bi smeli uporabljati na predavanjih, kar je za 6,2 odstotne točke več kot pri študentkah ekonomije. Več kot polovica anketirancev meni, da klepetalnega robota ChatGPT ne bi smeli uporabljati niti na vajah (gl. sliko 6). Slika 6: Ali bi morali klepetalni robot ChatGPT uporabljati na vajah? Študenti tehnike (n = 48) Študentke tehnike (n = 33) Študenti ekonomije (n = 39) Študentke ekonomije (n = 47) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Da. Ne. Vir: Lastni. S slike 6 je razvidno, da 54,2 % študentov tehnike meni, da klepetalnega robota ChatGPT ne bi smeli uporabljati na vajah, kar je za 2,9 odstotne točke več kot pri študentih ekonomije. S slike 6 je prav tako razvidno, da tudi 54,5 % študentk tehnike meni, da klepetalnega robota ChatGPT ne bi smeli uporabljati na vajah, kar je za 5,6 odstotne točke več kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da se večina anketirancev strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način življenja (gl. sliko 7). 132 Slika 7: Klepetalni robot ChatGPT že spreminja način življenja. Študenti tehnike (n = 52) Študentke tehnike (n = 35) Študenti ekonomije (n = 49) Študentke ekonomije (n = 88) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Sploh se ne strinjam. Se ne strinjam. Niti se ne strinjam niti se strinjam. Strinjam se. Popolnoma se strinjam. Vir: Lastni. Podatki (gl. sliko 7) kažejo, da se 80,8 % študentov tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način življenja, kar je za 2,9 odstotne točke manj kot pri študentih ekonomije. S slike 7 je prav tako razvidno, da se tudi 65,7 % študentk tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način življenja, kar je za 11,6 odstotne točke manj kot pri študentkah ekonomije. Zanimivo je, da se noben študent ekonomije s trditvijo ne strinja ali sploh ne strinja. Rezultati ankete kažejo tudi, da se večina študentov (razen študentk ekonomije) strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način mišljenja (gl. sliko 8). Slika 8: Klepetalni robot ChatGPT že spreminja način mišljenja. Študenti tehnike (n = 52) Študentke tehnike (n = 35) Študenti ekonomije (n = 49) Študentke ekonomije (n = 88) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Sploh se ne strinjam. Se ne strinjam. Niti se ne strinjam niti se strinjam. Strinjam se. Popolnoma se strinjam. Vir: Lastni. 133 Podatki (gl. sliko 8) kažejo, da se 65,4 % študentov tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT spreminja način mišljenja, kar je za 4,2 odstotne točke več kot pri študentih ekonomije. S slike 8 je prav tako razvidno, da se tudi 48,6 % študentk tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT spreminja način mišljenja, kar je za 2,5 odstotne točke manj kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da se večina anketirancev strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja tudi način učenja (gl. sliko 9). Slika 9: Klepetalni robot ChatGPT že spreminja način učenja. Študenti tehnike (n = 52) Študentke tehnike (n = 35) Študenti ekonomije (n = 49) Študentke ekonomije (n = 88) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Sploh se ne strinjam. Se ne strinjam. Niti se ne strinjam niti se strinjam. Strinjam se. Popolnoma se strinjam. Vir: Lastni. Podatki kažejo (gl. sliko 9), da se 84,6 % študentov tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način učenja, kar je za 7 odstotnih točk več kot pri študentih ekonomije. S slike 9 je prav tako razvidno, da se tudi 80 % študentk tehnike strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način učenja, kar je za 3 odstotne točke manj kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da se večina anketirancev strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način (umskega) dela (gl. sliko 10). 134 Slika 10: Klepetalni robot ChatGPT že spreminja način (umskega) dela. Študenti tehnike (n = 52) Študentke tehnike (n = 35) Študenti ekonomije (n = 49) Študentke ekonomije (n = 88) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Sploh se ne strinjam. Se ne strinjam. Niti se ne strinjam niti se strinjam. Strinjam se. Popolnoma se strinjam. Vir: Lastni. S slike 10 je razvidno, da se 73,1 % študentov tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način (umskega) dela, kar je za 0,4 odstotne točke manj kot pri študentih ekonomije. S slike 10 je prav tako razvidno, da se tudi 62,9 % študentk tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način (umskega) dela, kar je za 13,2 odstotne točke manj kot pri študentkah ekonomije. Rezultati ankete kažejo tudi, da se manjšina anketirancev strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način zabave (gl. sliko 11). Slika 11: Klepetalni robot ChatGPT že spreminja način zabave. Študenti tehnike (n = 52) Študentke tehnike (n = 34) Študenti ekonomije (n = 49) Študentke ekonomije (n = 88) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Sploh se ne strinjam. Se ne strinjam. Niti se ne strinjam niti se strinjam. Strinjam se. Popolnoma se strinjam. Vir: Lastni. 135 S slike 11 je razvidno, da se 23,1 % študentov tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način zabave, kar je za 1,4 odstotne točke manj kot pri študentih ekonomije, ne strinja ali popolnoma ne strinja pa 48,1 % študentov tehnike, kar je za 5,2 odstotne točke več kot pri študentih ekonomije. S slike 11 je prav tako razvidno, da se tudi 20,6 % študentk tehnike strinja ali popolnoma strinja s trditvijo, da klepetalni robot ChatGPT že spreminja način zabave, kar je za 9 odstotnih točk manj kot pri študentkah ekonomije, ne strinja ali popolnoma ne strinja pa 44,1 % študentk tehnike, kar je za 7,7 odstotne točke več kot pri študentkah ekonomije. Tabela 4 vsebuje opisne statistike za vseh pet trditev in rezultate Kolmogorov-Smirnovega testa, iz katerih je razvidno, da spremenljivke ne sledijo normalni porazdelitvi. Namen te tabele je omogočiti širši vpogled v zadevo. 136 Tabela 4: Deskriptivne statistike za vseh pet trditev in rezultati Kolmogorov-Smirnovega testa Klepetalni ro-Klepetalni ro- Klepetalni ro- Klepetalni ro- Klepetalni ro- bot ChatGPT bot ChatGPT bot ChatGPT bot ChatGPT bot ChatGPT že spreminja že spreminja že spreminja že spreminja že spreminja način življe- način mišlje- način učenja. način (um- način zabave. nja. nja. skega) dela. N 225 225 225 225 224 Variacijski razmik 4 4 4 4 4 Minimum 1 1 1 1 1 Maksimum 5 5 5 5 5 Aritmetična 3,95 3,57 4,01 3,84 2,75 sredina Standardna Aritmetična sredina napaka ocene arit- 0,065 0,068 0,061 0,065 0,074 metične sre- dine Standardni odklon 0,981 1,024 0,914 0,973 1,111 Varianca 0,961 1,049 0,835 0,948 1,235 Koeficient –1,183 –0,577 –1,302 –1,080 0,143 asimetrije Koeficient asimetrije Standardna 0,162 0,162 0,162 0,162 0,163 napaka Koeficient 1,501 0,128 2,216 1,350 -0,677 Koeficient splošče- sploščenosti nosti Standardna 0,323 0,323 0,323 0,323 0,324 napaka 25 4,00 3,00 4,00 3,00 2,00 Percentili 50 4,00 4,00 4,00 4,00 3,00 75 5,00 4,00 5,00 4,00 4,00 Statistika 0,297 0,223 0,311 0,293 0,171 Kolmogorov-Smir- df 224 224 224 224 224 nov test Sig. < 0,001 < 0,001 < 0,001 < 0,001 < 0,001 Vir: Lastni. Rezultati ankete kažejo tudi, da večina anketirancev meni, da uporaba klepetalnega robota pri izdelavi pisnih izdelkov ni neetična (gl. sliko 12). 137 Slika 12: Ali je uporaba klepetalnega robota ChatGPT pri izdelavi pisnih izdelkov neetična? Študenti tehnike (n = 52) Študentke tehnike (n = 35) Študenti ekonomije (n = 49) Študentke ekonomije (n = 80) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Ne. Da, če avtor tega izrecno ne omeni. Da, tudi če avtor to izrecno omeni. Vir: Lastni. Podatki (gl. sliko 12) kažejo, da 46,2 % študentov tehnike meni, da uporaba klepetalnega ro- bota ChatGPT pri izdelavi pisnih izdelkov ni neetična, kar je za 4,8 odstotne točke manj kot pri študentih ekonomije. S slike 12 je razvidno tudi, da je ta delež najnižji pri študentkah tehnike (31,4 %). Te večinoma menijo, da je uporaba klepetalnega robota ChatGPT pri izdelavi pisnih izdelkov neetična, če avtor tega izrecno ne omeni. Na osnovi rezultatov anketiranja sva ugotovila profil povprečnega anketiranca. Zanj velja: − da se nagiba k uporabi klepetalnega robota ChatGPT doma; − da se nagiba k zmerni uporabi klepetalnega robota ChatGPT; − da se nagiba k uporabi klepetalnega robota ChatGPT med prostim časom; − da se nagiba k pridobivanju idej in informacij; − da se nagiba k stališču, da klepetalnega robota ChatGPT ne bi smeli uporabljati med predavanji; − da se nagiba k stališču, da klepetalnega robota ChatGPT ne bi smeli uporabljati med vajami; − da se nagiba k stališču, da uporaba klepetalnega robota ChatGPT pri izdelavi pisnih izdelkov ni neetična; − da se nagiba k stališču, da klepetalni robot ChatGPT že spreminja način življenja; − da se nagiba k stališču, da klepetalni robot ChatGPT že spreminja način mišljenja; − da se nagiba k stališču, da klepetalni robot ChatGPT že spreminja način učenja; − da se nagiba k stališču, da klepetalni robot ChatGPT že spreminja način dela. 138 5 Razprava Rezultati ankete kažejo, da bodo morali oblikovalci visokošolske politike več pozornosti posvetiti vprašanju etičnosti uporabe klepetalnega robota ChatGPT v visokem šolstvu, kar ugotav- ljajo tudi drugi (Eke, 2023). Začela se je namreč doba umetne inteligence, ki povzroča potrebo po reševanju vprašanja etičnosti uporabe umetne inteligence na vseh področjih družbenega življenja (United Nations Educational, Scientific and Cultural Organization, 2022; Zawacki-Ri- chter idr., 2019). Izkazalo se je, da klepetalni robot ChatGPT za študente ekonomije in tehnike, ki sva jih anketirala, ni neznanka. Uporabljajo ga namreč lahko za klepetanje, pisanje, preva-janje, programiranje, računanje, reševanje, učenje itd. Pričakujemo lahko, da se bo njegova uporaba med njimi še povečala, kar kliče po jasnih pravilih (Eke, 2023; Miao idr., 2021; United Nations Educational, Scientific and Cultural Organization, 2023a). Zanimivo je, da anketiranci večinoma menijo, da klepetalnega robota ChatGPT ne bi smeli uporabljati na predavanjih in vajah, kar naju je presenetilo. Pričakovala sva namreč, da bodo temu naklonjeni glede na to, da gre za tehnologijo umetne inteligence. Očitno je, da si študenti želijo, da bi jih še naprej poučevali ljudje, ne pa roboti. Po drugi strani pa so naklonjeni njegovi uporabi doma (tj. med prostim časom), npr. pri izdelavi pisnih izdelkov, kar povzroča potrebo po previdnosti (United Nations Educational, Scientific and Cultural Organization, 2022). 6 Sklep Raziskava, katere rezultate podajava v tem prispevku, daje vpogled v uporabo klepetalnega robota ChatGPT med študenti ekonomije in tehnike. Z anketo, ki sva jo izvedla med njimi, sva ugotovila, da ga ti večinoma že uporabljajo, kar naju ne preseneča glede na njegovo uporab- nost. Glede na to, da lahko pričakujemo, da se bo njegova uporaba med študenti še povečala, predlagava, da se raziskava izvede na večjem vzorcu in da se anketira tudi študente drugih ved (medicine, prava, zdravstva itd.). Oblikovalcem visokošolske politike priporočava: − da se zavzemajo za uvajanje in uporabljanje umetne inteligence v visokem šolstvu, − da se zavzemajo za pridobivanje znanj in veščin za uvajanje in uporabljanje umetne inteligence v visokem šolstvu, − da se zavzemajo za upoštevanje etičnih in moralnih načel pri uvajanju in uporabljanju umetne inteligence v visokem šolstvu, 139 − da se zavzemajo za sodelovanje med vsemi deležniki pri uvajanju in uporabljanju umetne inteligence v visokem šolstvu. Zahvala Zahvaljujeva se izr. prof. dr. Gregorju Polančiču s Fakultete za elektrotehniko, računalništvo in informatiko Univerze v Mariboru, prodekanici za študentska vprašanja Ekonomsko-poslovne fakultete Univerze v Mariboru Pini Slaček, prodekanici za študentska vprašanja Fakultete za elektrotehniko, računalništvo in informatiko Univerze v Mariboru Vasilki Saklamaevi ter tutor- jem študentom z obeh fakultet za pomoč pri izvedbi ankete o uporabi ChatGPT med študenti ekonomije in tehnike. Literatura 1. Chan, C. K. Y., & Lee, K. K. W. (2023). The AI generation gap: Are gen Z students more interested in adopting generative AI such as ChatGPT in teaching and learning than their gen X and Millenial generation teachers? Ithaca: Cornell University Library, arXiv.org. http://arxiv.org/abs/2305.02878 2. Crompton, H., & Burke, D. (2023). Artificial intelligence in higher education: the state of the field. International Journal of Educational Technology in Higher Education, 20. https://doi.org/10.1186/s41239-023-00392-8 3. Eke, D. O. (2023). ChatGPT and the rise of generative AI: Threat to academic integrity? Journal of Responsible Technology, 13, 100060. https://doi.org/10.1016/j.jrt.2023.100060 4. Maslej, N., Fattorini, L., Brynjolfsson, E., Etchemendy, J., Ligett, K., Lyons, T., Manyika, J., Ngo, H., Niebles, J. C., Parli, V., Shoham, S., Wald, R., Clark, R., & Perrault, R. (2023). The AI Index 2023 Annual Report. AI Index Steering Committee, Institute for Human-Centered AI, Stanford University. https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf 5. Miao, F., Holmes, W., Huang, R., & Zhang, H. (2021). AI and education: Guidance for policy-makers. United Nations Educational, Scientific and Cultural Organization. https://doi.org/10.54675/PCSP7350 6. Peres, R., Schreier, M., Schweidel, D., & Sorescu, A. (se tiska). On ChatGPT and beyond: How generative artificial intelligence may affect research, teaching, and practice. International Journal of Research in Marketing. https://doi.org/10.1016/j.ijresmar.2023.03.001 7. Sáiz-Manzanares, M., Marticorena-Sánchez, R., Martín-Antón, L. J., González Díez, I., & Almeida, L. (2023). Perceived satisfaction of university students with the use of chatbots as a tool for self-regulated learning. Heliyon, 9(1), e12843. https://doi.org/10.1016/j.heliyon.2023.e12843 140 8. Shoufan, A. (2023). Exploring students' perceptions of ChatGPT: Thematic analysis and follow-up survey. IEEE Access, 11, 38805–38818. https://doi.org/10.1109/ACCESS.2023.3268224 9. United Nations Educational, Scientific and Cultural Organization. (2019). Beijing Consensus on Artificial Intelligence and Education. https://unesdoc.unesco.org/ark:/48223/pf0000368303 10. United Nations Educational, Scientific and Cultural Organization. (2022). Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000381137 11. United Nations Educational, Scientific and Cultural Organization. (2023a, 7. junij). UNESCO survey: Less than 10% of schools and universities have formal guidance on AI. https://www.une- sco.org/en/articles/unesco-survey-less-10-schools-and-universities-have-formal-guidance-ai 12. United Nations Educational, Scientific and Cultural Organization. (2023b, 20. april). UNESCO supports the definition and development of AI competencies for teachers. https://www.une- sco.org/en/articles/unesco-supports-definition-and-development-ai-competencies-teachers 13. Zawacki-Richter, O., Marín, V. I., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, 16. https://doi.org/10.1186/s41239-019- 0171-0 Priloga: Anketna vprašanja Anketna vprašanja: 1. Katerega spola ste? 2. Koliko ste stari? 3. Ali ste že slišali za klepetalni robot ChatGPT? 4. Ali ste že uporabljali klepetalni robot ChatGPT? 5. Kje ste uporabljali klepetalni robot ChatGPT? 6. Kdaj ste uporabljali klepetalni robot ChatGPT? 7. Kako pogosto ste uporabljali klepetalni robot ChatGPT? 8. Za kaj ste uporabljali klepetalni robot ChatGPT? 9. Ali bi morali klepetalni robot ChatGPT uporabljati na predavanjih? 10. Ali bi morali klepetalni robot ChatGPT uporabljati na vajah? 11. V kolikšni meri se strinjate s trditvijo »Klepetalni robot ChatGPT že spreminja način življenja.«? 12. V kolikšni meri se strinjate s trditvijo »Klepetalni robot ChatGPT že spreminja način mišljenja.«? 13. V kolikšni meri se strinjate s trditvijo »Klepetalni robot ChatGPT že spreminja način (um- skega) dela.« 141 14. V kolikšni meri se strinjate s trditvijo »Klepetalni robot ChatGPT že spreminja način zabave.«? 15. Ali je uporaba klepetalnega robota ChatGPT pri izdelavi pisnih izdelkov neetična? 142