Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. * Korespondenčni avtor / Correspondence author 300 Prejeto: 3. november 2023; revidirano: 5. november 2023; sprejeto: 20. november 2023. / Received: 3rd November 2023; revised: 5th November 2023; accepted: 20th November 2023. DOI: 10.37886/ruo.2023.018 Etični izzivi uporabe umetne inteligence v visokošolskih zavodih Nadia Molek * FOŠ, Ulica talcev 3, 8000 Novo mesto, Slovenija nadia.molek@fos-unm.si Povzetek: Raziskovalno vprašanje (RV): Kateri so ključni etični izzivi in dileme povezani z uporabo klepetalnih robotih kot ChatGPT, v visokošolskem izobraževanju? Katere smernice priporočajo predavatelji in univerz za pravično, etično in transparentno vključitev UI kot izobraževalno orodje? Namen: Identificirati ključne etične izzive in dileme povezane z uporabo orodij UI, ki temeljijo na velikih jezikovnih modelih (npr. ChatGPT); predlagati smernice za etično in odgovorno uporabo teh tehnologij v akademskem okolju; prispevati k razpravi o etiki UI v izobraževanju in osvetliti potrebo po nadaljnjih raziskavah na tem področju. Metoda: Članek je teoretične narave in temelji na pregledu obstoječe literature, smernic in virov na temo etike umetne inteligence v univerzitetnem izobraževanju. Rezultati: Raziskava identificira večplastne etične izzive povezane z umetno inteligenco, kot so vprašanja transparentnosti, zasebnosti, lastništva podatkov, akademske integritete in dolgoročnih posledic na kakovost učenja. Predlagane so konkretne smernice za etično uporabo UI v pedagoške in raziskovalne namene na univerzitetni ravni. Poudarjena je potreba po usposabljanju učiteljev in študentov ter nadaljnjem raziskovanju tega področja. Organizacija: Raziskava osvetljuje pomembne etične izzive, s katerimi se soočajo visokošolske institucije in predavatelji pri vpeljavi orodij UI v pedagoški proces. Predlagane smernice lahko pomagajo rektorjem in dekanov fakultet pri oblikovanju institucionalnih politik za etično in odgovorno uporabo teh tehnologij. Prispeva k razmisleku o dolgoročnih posledicah UI na kakovost poučevanja in učenja, ter na vpliv na organizacijsko kulturo univerz. Družba: Prispevek odpira pomembno družbeno razpravo o etiki UI v izobraževanju. Spodbuja k razmisleku o družbenih posledicah tovrstnih tehnologij in osvešča o pomenu transparentnosti, zasebnosti podatkov ter enakopravnega dostopa. Lahko vpliva na oblikovanje javnih politik na tem področju. Originalnost: Članek celovito obravnava etične dileme UI v pedagoškem kontekstu iz vidika organizacijske in aplikativne antropologije. Predlagane smernice so lahko v pomoč izobraževalnim institucijam pri oblikovanju lastnih politik etične uporabe teh tehnologij. Prispeva sintezo obstoječih spoznanj in praktičnih implikacij. Omejitve/nadaljnje raziskovanje: Ker gre za fenomen, ki je v razvijanju, potrebne so nadaljnje raziskave o dejanskih učinkih in izkušnjah z uporabo UI v praksi. Ključne besede: umetna inteligenca; visokošolske ustanove; smernice za uporabo umetne inteligence; izobraževalna tehnologija; ChatGPT, akademska integriteta, etično upravljanje umetne inteligence v izobraževanju; organizacijska antropologija. Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 301 1 Uvod Sistemi umetne inteligence (UI), ki temeljijo na velikih jezikovnih modelih, kot je na primer ChatGPT, postajajo vse bolj razširjeni kot izobraževalna tehnologija tudi na področju visokošolskega izobraževanja. V znanstveni literaturi in strokovnih krogih se o tem razpravlja že nekaj časa. V drugem članku (Molek, 2023) sem že poudarila, da se UI predvsem z računalniške in večinoma tehnokratske paradigme teoretično obravnava in se za njo argumentira s povsem tehničnega vidika in temelji na merljivih spremenljivkah (Humble & Mozelius, 2022). Ta pristop se osredotoča na vidike, kot so učinkovitost, uspešnost, tehnična zmogljivost in druga »objektivna« merila, pri čemer so človeški, etični, odnosni ali družbeni vidiki zanemarjeni. Vendar pa prekomeren poudarek na paradigme računalniških znanosti pogosto pozabi na etične izzive in vplive UI na človeštvo in na razumevanje dejanj subjektivnih posameznikov (Gartner and Krašna 2023; Mariño & Primorac, v Lion, 2022, p.148; Pedró 2020; Zawacki-Richter et al., 2019), saj se predpostavlja, da razvoj UI poteka v nevtralnih, objektivnih scenarijih brez da bi imel kulturnih, družbenih, gospodarskih in političnih posledic. Taki pristopi običajno spustijo v ozadju, osrednje legitimno in človeško vprašanje etičnih in akademskih dilem povezanih z uporabo UI tehnologije v univerzitetnem okolju, vključno s preglednostjo, odgovornostjo, pravičnostjo, varstvom podatkov, ki vplivajo na delovanje izobraževalne kulture visokošolskih ustanovah. Posledično, v tem prispevku želim kritično argumentirati o neodvisnosti tehnologije od človeškega razvoja in opozoriti na vpliv, ki ga ima lahko tehnologija na družbo in človeške kulturo in odnosi. Namen članka je podrobneje preučiti etične vidike vključevanja jezikovnih sistemih umetne inteligence v akademskem okolju, kot je na primer ChatGPT, ter identificirati in ponuditi usmeritve in priporočila, ki določajo etične in odgovorne pristope k uporabi ChatGPT in podobnih UI tehnologij pri procesu izobraževanja (Holmes et al., 2021). Raziskavo usmerjata naslednja dva raziskovalna vprašanja: (RV1) kateri so ključni etični izzivi in dileme povezani z uporabo klepetalnih robotih, kot ChatGPT, v visokošolskem izobraževanju?; ter (RV2) katere smernice priporočajo akterji (predavatelji) in univerze za pravično, etično in transparentno vključitev UI kot izobraževalno orodje? Želim si prispevati k globljemu premisleku o posledicah uvedbe umetne inteligence v človeški izobraževalni proces ter poudariti potrebo po nadaljnjem raziskovanju in obravnavi tega prebojnega dogodka v človeški evoluciji. 2 Teoretična izhodišča V okviru raziskave o etičnih izzivih uporabe umetne inteligence (UI) v visokošolskem izobraževanju sem se zanašala na interdisciplinarno perspektivo, ki UI obravnava znotraj različnih kontekstov, od epistemoloških do političnih (Foucault, 2001; Kuhn, 1970; Moya & Vázquez, 2010) ter ki vključujejo tehnološko vedenje in človeško delovanje (Brizuela, 2020). Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 302 Koncept »umetne inteligence« se interpretira različno med disciplinami (Bearman et al., 2022). Dodogović (2007 v Zawacki-Richter et al., 2019, str.16) jo opredeljuje kot interdisciplinarno področje znanja in raziskav, katerega cilj je razumeti, kako deluje človeški um in kako uporabiti ista načela pri oblikovanju tehnologije. Akt o umetni inteligenci (2023) jo definira kot strojni sistem, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in ki lahko za eksplicitne ali implicitne cilje ustvarja rezultate, kot so napovedi, priporočila ali odločitve, ki vplivajo na fizična ali virtualna okolja (European Comission, 2023a). Navedeno je tudi, da je umetna inteligenca zmožnost stroja, da pokaže človeku podobne sposobnosti, kot so sklepanje, učenje, načrtovanje in ustvarjalnost. ChatGPT je najnovejša iteracija velikih jezikovni modelov, ki je bil razvit s strani podjetja Open AI, ki je sposoben »inteligentnega« pogovora uporablja globoko učenje za generiranje človeku podobnih besedil kot odziv na ukaze ali v angleščini prompte (Okaibedi, 2023). Izhodišče raziskave in pristopa k vključevanju sistemov umetne inteligence v pedagoški proces univerz je razumevanje, da imajo ta vrsta organizacij svojo lastno dinamiko in da so slasti umeščeni v določene družbeno-zgodovinske in ekonomske kontekste. To znanstveno področje je nekako mlad. Izvira iz sedemdesetih let prejšnjega stoletja. Takrat proces vključevanja novih informacijskih in komunikacijskih tehnologij (IKT) (računalnikov, medijev, digitalne tehnologije in sistemov umetne inteligence) v svet imenoval »avtomatizacija«, zdaj pa se običajno imenuje »digitalizacija« (Molek, 2023). Vendar v bistvu še vedno govorimo o vključevanju tehnologije, ki jo je ustvaril človek, v izobraževalna okolja ali delo. Pregled zgodovine razvoja UI, takoj kaže da, razvoj UI ni nevtralen. Že v zgodnjih fazah, je ideja inteligentnih strojev za obdelavo informacij, so nastali v kontekstu znanstvene fantastike, ki je predstavila zamisel o umetno inteligentnih robotih, ki so sposobni »razmišljati« (Rockwell, 2017). Od 1950-ih do približno 1980, je bila tehnologija večinoma omejena na akademsko okolje. Razvoj in uporaba računalnikov sta bila takrat izjemno draga, zato so se te aktivnosti večinoma lahko privoščile le nekatere (informacijske, matematične, ipd.) univerze (Bertsou & Pastorella, 2017; Rockwell 2017). Vendar to se je sčasoma spremenilo. Od 1990-ih let so velika tehnološka podjetja, kot so IBM, Microsoft in Apple, postala ključni akterji v razvoju UI (Encyclopedia Brittanica, 2023). In v zadnjem desetletju smo priča obsežnim naložbam in dinamičnemu sodelovanju zasebnega sektorja na tem področju. Zasebni interesi in znanstvene ustanove še vedno lahko sodelujejo. Če je UI v preteklosti bila zgolj uporabljena v akademskih, političnih in vojaških okoliščinah, danes je uporabljena v številnih vsakodnevnih scenarijih, od spletnih iskalnikov in digitalnih bank do družabnih omrežij in platform za pretakanje vsebin (Unesco, 2021, str.7). Svetovno sodelovanje med akademskim in industrijskim akterjem dokaže, da je trenutni razvoj UI močno povezan s kapitalističnimi interesi. Zasebni sektor za uvedbo UI v šole in univerze po vsem svetu ustvarja trg, ki naj bi bil leta 2024 vreden 6 milijard dolarjev (Bhutani & Wadhwani, 2018 v Unesco, 2021, str.7). Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 303 Razvoj UI v Sloveniji poteka v akademskih (Univerza v Ljubljani, Univerza v Mariboru, Institut Jožef Stefan) in zasebnih okoljih (Anthropic, Xlab). Delujejo predvsem na področju jezikovnih tehnologij, analize podatkov, strojnega učenja. Slovensko društvo za umetno inteligenco združuje strokovnjake s tega področja. Razumevanje konteksta, v katerem je bil razvit na primer slaven ChatGPT je ključen. To ni pomembno le zaradi tega, ker izhajajo iz specifičnega pozitivističnega, tehnokratskega in kapitalističnega okolja, temveč tudi zato, ker kako nastane nedvomno vpliva na transparentnost, odgovornost, pravičnost in etični razvoj in uporaba orodja. V letu 2023 smo bili priča različnim pobudam s strani držav, civilnih družb, znanstvenikov, in drugih, ki izražajo živo zaskrbljenost in pozivajo k nujni intervenciji v hitro razvijajočo se področje UI na globalni ravni ter njen vpliv na regionalno, nacionalno in globalno varnost ter na prihodnost človeštva (AI ACT, Pause Giant AI Experiments: An Open Letter, AI safety summit, med drugimi). Zawacki-Richter et al. (2019) opozorijo, da vpliv UI na pedagoški proces ima velike učinke na izide učenja, za katere je treba biti pozorni. Sistemi generativne UI lahko ustvarijo besedila in outpute, za katere ljudje včasih težko ugotovijo, če so jih ustvarili stroji (Perkins, 2023). UI ima tudi potencialne pristranskosti in diskriminacijo, ki se lahko pojavijo zaradi pristranskih načinov treninga algoritmov (Köbis & Mehner, 2021), velik problem pa je zlasti v zvezi z zasebnostjo in varstvom podatkov (Klimova et al., 2023). Poleg pomanjkanja celovitega razumevanja sistemov UI med izobraževalcem otežuje razvoj etičnih smernic, načel (Yu & Yu, 2023) in kritično razmišljanje o tem, zakaj človek dejansko potrebuje tako tehnologijo za učenje, izobraževanje in razvijanje svojih potencialov. Ali pa je potreba vzpostavljena strani trga, ki netrajnostjo posega v razvoj tehnologije brez jasnega razumevanja škode, ki jo lahko povzroči (AI safety summit, 2023)? Etični izzivi vključevanja UI kot pedagoških orodij v visokošolsko izobraževanje postavljajo več večjih neodgovorjenih vprašanj, in povišajo zaskrbljenost med pedagogi in izobraževalci glede vključevanju klepetalih robotov (Okaibedi, 2023), brez da bi to »uničevalo« pedagoško in izobraževalno vrednoto akademske integritete. Posledično, mojo raziskavo usmerjata naslednja dva raziskovalna vprašanja: RV1: Kateri so ključni etični izzivi in dileme povezani z uporabo klepetalnih chatbotih, kot ChatGPT, v visokošolskem izobraževanju? RV2: Katere smernice priporočajo akterji (predavatelji) in univerze za pravično, etično in transparentno vključitev UI kot izobraževalno orodje? Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 304 3 Metoda Predmeti preučevanja ne nastanejo zunaj meja zgodovinskih kontekstov (Latour, 1996) ali paradigem (Kuhn, 1970). Podatki ne »govorijo sami«, vedno so konstruirani in jih je treba interpretirati (Guber, 2011). V tem smislu, moje raziskovanje je metodološko in epistemološko umeščeno v okvir organizacijske in aplikativne antropologije, ki se imenuje »teorija kompleksnosti« (Podjed, 2011). Proces zbiranja, analize in interpretacije podatkov umeščen v širši kontekst (Jordan, 2019, str.8). Slika 1. Model raziskave Ker je težko razumeti številne pomembne vidike sodobnega kulturnega življenja brez vključitve kibernetskega sveta, medijev in informacijskih virov, sem kot raziskovalno metodo uporabila virtualno etnografijo na internetu (Kozinet, 2010), da bi pridobila dragocen vpogled v temo in razširila svojo bazo znanja v smislu razumevanja realnosti in subjekta s strani akterjev (Hine, 2011), v mojem primeru, uporabniki tehnologije UI, predvsem klepetalnih robotov (ChatGPT), v pedagoškem procesu v visokošolskih ustanovah. Usposabljanja, blogi, spletni seminarji, videokonference, uradne statistike, poročila, smernice, knjige, priročniki, pogovori s kolegi in celo akademski članki veljajo za strateško relevantno etnografsko gradivo zaradi načina, kako predstavljajo in uokvirjajo realnost, pa tudi zaradi njihove vpetosti v prakso (Hine 2011, str.51). Med februarjem in junijem 2023 sem se aktivno udeležila različnih delavnic in seminarjev v Sloveniji, Argentini, Španiji, Nemčiji, Združenem kraljestvu in ZDA ter pregledovala in prebrala gradivo, neposredno povezana s temo raziskave. Aktivno sem sodelovala pri Raziskovalni problem: Etični izzivi in dilemi, povezanimi z pedagoško uporabo klepetalnih chatbotov (ChatGPT) v pedagoškem procesu visokošolskih ustanovah Opredelitev predmeta študija z interdisciplinarnega vidika in kompleksne perspektive. RV1: Kateri so ključni etični izzivi in dileme povezani z uporabo klepetalnih chatbotih (npr. ChatGPT) v visokošolskem izobraževanju? RV2: Katere smernice priporočajo akteriji (predavatelji) in univerze za pravično, etično in transparentno vključitev UI kot izobraževalno orodje? Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 305 opazovanju z udeležbo in skrbno vodil podrobne zapiske, pri čemer sem si prizadeval prepoznati svoje predpostavke ali pristranskost glede teme (Creswell, 2013; Guber, 2011). Twining in drugi (2017, v Salas-Pilco & Yang, 2022)) so poudarili pomen kvalitativnih študij za razumevanje uporabe tehnologije v izobraževanju, saj pomagajo prepoznati teme in vzorce. V zvezi s tem se mi je zdelo pomembno, da v študijo vključim pregled znanstvenih študij in njihovih glavnih ugotovitev (Lo, 2023). Pregled je bil opravljen s pomočjo virtualnih znanstvenih katalogov in iskalnikov, kot na primer Google Scholar, Scopus, Springer in Science Direct, z uporabo ključnih besed »artificial intelligence« / »inteligencia artificial« / »umetna inteligenca« skupaj z »education« / »educación« / »izobraževanje« in/ali »higher education« / »educación superior« / »visoko šolstvo«, in/ali »univerza« / »Universidad« / »univerza«, in/ali »legislation« / »legislación« / »predpisi«, in/ali »AI act« / »Ley de Inteligencia Artificial« / »Zakon o umetni inteligenci«, in/ali »guidelines« / »pautas« / »smernice«, in/ali »etika« / »ética« / »etika« (glej tabelo 1). Pregled je vključeval tudi iskanje ustreznih publikacij in strokovnih, uradnih ali regulativnih dokumentov o umetni inteligenci iz virov, kot so Evropska unija, UNESCO in različni univerzitetni blogi po vsem svetu. Cilj je bil opredeliti najpogosteje uporabljene teme in pojme v literaturi ter razumeti družbeni vpliv sistemov UI na področju visokega šolstva in raziskovanja. Tabela 1. Ključne besede uporabljene za sistematični pregled literature Ključna beseda v angleščini Ključna beseda v Španščini Ključna beseda v Slovenščini »artificial intelligence« »inteligencia artificial« »umetna inteligenca« skupaj z »education« »educación« »izobraževanje« in/ali »higher education« »educación superior« »visoko šolstvo« in / ali »university« »Universidad« »univerza« in / ali »legislation« »legislación« »predpisi« in / ali »AI act« »Ley de Inteligencia Artificial« »Akt o umetni inteligenci« in / ali »guidelines« »pautas« / guia »smernice« in/ali »etika« »ética« »etika« Glede meril za vključitev in izključitev (glej tabelo 2) sem se osredotočila na gradivo o UI, ki se nanašajo izključno na visoko šolstvo ali raziskave na splošno (ne na posamezne discipline). Če so bila najdena ustrezna dela, ki so razširila perspektivo, so bila vključena. Merila za izbor so vključevala upoštevanje leta objave (med letoma 2010 in 2023), jezika (angleščina, španščina ali slovenščina), izogibanje podvajanju člankov, zagotavljanje, da so bile objave objavljene v uglednih indeksiranih revijah ali na ustreznih spletnih straneh (z vidnimi datumi, avtorji in referencami), ter zagotavljanje odprtega dostopa ali dostopa prek e-bibliotek ali s kontaktiranjem avtorjev. Postopek izključevanja je temeljil na pregledu naslovov, povzetkov in Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 306 ključnih besed. Po začetnem pregledu je bilo določeno potencialno število člankov za nadaljnji pregled celotnega besedila. Izbrana dela so bila uvožena v program za upravljanje referenc Zotero. Dela sem pozorno prebrala, da bi ugotovila skupne teme v teh publikacijah in dokumentih ter posebne prakse in perspektive, ki se pojavljajo v procesu vključevanja UI v VŠ in raziskave, ter disciplinarni kontekst nastajanja gradiv. Osredotočila sem se na razprave o tem, kako se UI vključuje v obstoječe izobraževalne in raziskovalne prakse ter kako vpliva na kulturne norme, vrednote in dinamiko moči zaposlenih v VŠ ali kako nanjo vpliva. Pozoren sem bil na opise uporabe UI, njen vpliv na izobraževalne/raziskovalne procese ter izkušnje in zaznave vpletenih oseb. Vsa ta dejstva sem povzela v datoteki Excel. Tabela 2. Kriteriji za vključevanje in izključevanje materialov in podatkov Kriterij Vključitev Izključitev Tema publikacije Razprava o UI na področju visokošolskega izobraževanja, zlasti na področju etične vključitve UI, akademske integritete ali ponudi smernice za uporabo. Ni razprave o UI na področju visokošolskega izobraževanja, zlasti na področju etične vključitve UI, akademske integritete ali ponudi smernice za uporabo. Metodologija Prednost imajo kvalitativne študije. Kvantitativne študije niso zaželene. Vrsta podatkov Znanstveni članki, ustrezni univerzitetni blogi, ustrezne publikacije in strokovni, uradni ali regulativni dokumenti o UI iz virov, kot so Evropska unija, UNESCO in različni univerzitetni blogi po vsem svetu. Neakademske publikacije, kot so članki iz množičnih in družbenih medijev, niso bile upoštevane. Časovno obdobje Na splošno med 2010 in 2023. Za smernice leto 2023 Publikacije zunaj zaželenega časovnega obdobja. Jezike Angleščina, Spanščina, Slovenščina. Drugi ne zaželeni jeziki 4 Rezultati 4.1 Pregled Vključevanje umetne inteligence spreminja izobraževanje z obravnavo etične uporabe, sprememb vlog in izzivov integritete. Ključne ugotovitve iz pregleda literature in etnografije so podrobno predstavljene v naslednjih poglavjih (glej tabelo 3). V raziskavi se opaža pomembnost interdisciplinarne perspektive pri razumevanju umetne inteligence (Bearman et al., 2022). Obstaja raznolikost v razumevanju UI (Bearman et al., 2022; Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 307 Dodogović, 2007; Zawacki-Richter et al., 2019), kar kaže na njeno kompleksnost. ChatGPT predstavlja napredek v razvoju jezikovnih modelov in prinaša nove možnosti za interakcijo (Okaibedi, 2023). Univerze imajo svojo specifično dinamiko v uporabi UI, kar zahteva prilagojen pristop (Bearman et al., 2022; Dogan, et al., 2023; Zawacki-Richter et al., 2019). Obstajajo pomisleki glede etičnih in pedagoških vprašanj, ki izhajajo iz uporabe UI v izobraževanju (Bucea-Manea-Țoniş, et al., 2022; Chaka, 2022; du Boulay, 2022; Gartner & Krašna, 2023; Hijmans and Raab, 2022). Uvedba ChatGPTja je izziv za akademsko integriteto (Currie, 2023; Foltynek et al., 2023; Gao et al., 2023; Lo, 2023). Zato je potrebna nadaljnja raziskava in kritično razmišljanje o integraciji UI v pedagoške procese. Smernice za etično uporabo na VŠ so potrebne (Cukurova et al, 2020; Hijmans & Raab, 2022; Lo, 2023; Rudolph et al., 2023). Tabela 3: UI & Etika Referenca Naslov publikacije Atlas, 2023 ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI Bearman et al., 2022 Discourses of artificial intelligence in higher education: a critical literature review Bernáth, 2021 Can Autonomous Agents Without Phenomenal Consciousness Be Morally Responsible? Bozkurt et al., 2021 Artificial Intelligence and Reflections from Educational Landscape: A Review of AI Studies in Half a Century Bucea-Manea-Țoniş et al., 2022 Artificial Intelligence Potential in Higher Education Institutions Enhanced Learning Environment in Romania and Serbia Chaka, 2022 Fourth industrial revolution—a review of applications, prospects, and challenges for artificial intelligence, robotics and blockchain in higher education Coley et al., 2023 Teaching in the Age of AI (University of Vanderbild) COPE, 2023 Promoting integrity in research and its publication Cukurova et al, 2020) Impact of an Artificial Intelligence Research Frame on the Perceived Credibility of Educational Research Evidence Currie, 2023 Academic integrity and artificial intelligence: is ChatGPT hype, hero or heresy? Dogan, et al., 2023 The Use of Artificial Intelligence (AI) in Online Learning and Distance Education Processes: A Systematic Review of Empirical Studies du Boulay, 2022 Handbook of Open, Distance and Digital Education Eaton, 2023 Academic Integrity and Artificial Intelligence: Implications for Plagiarism and Academic Writing European Comission, 2019 Ethics guidelines for trustworthy AI European Comission, 2023 EU AI Act: first regulation on artificial intelligence Ferrarelli, 2023 ¿Cómo abordar la inteligencia artificial en el aula? Floridi, 2023 AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models Foltynek et al., 2023 ENAI Recommendations on the ethical use of Artificial Intelligence in Education Gao et al., 2023 Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers Gartner & Krašna, 2023 Etika Umetne inteligence v Izobraževanju González-Esteban & Patrici Calvo, 2022 Ethically governing artificial intelligence in the field of scientific research and innovation Gov.uk (2023) AI safety summit Green et al., 2022 AI Ethics and Higher Education Good Practice and Guidance for Educators, Learners, and Institutions Hijmans and Raab 2022 Ethical Dimensions of the GDPR, AI Regulation, and Beyond Hrastinski et al., 2019 Critical Imaginaries and Reflections on Artificial Intelligence and Robots in Postdigital K-12 Education Humble & Mozelius, 2022 The threat, hype, and promise of artificial intelligence in education Jobin, 2019 The global landscape of AI ethics guidelines Knowles, 2021 Five Motivating Concerns for AI Ethics Instruction Köbis & Mehner, 2021 Ethical Questions Raised by AI-Supported Mentoring in Higher Education Lo, 2023 What Is the Impact of ChatGPT on Education? A Rapid Review of the Literature Molek, 2023 AI and Organizational Transformation: Anthropological Insights into Higher Education ChatGPT and the rise of generative AI: Threat to academic integrity? »se nadaljuje« Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 308 Pedró, 2020 Okaibedi 2023 Perkins, 2023 Academic Integrity considerations of AI Large Language Models in the post-pandemic era: ChatGPT and beyond Popenici & Kerr, 2017 Exploring the impact of artificial intelligence on teaching and learning in higher education Rudolph et al., 2023 ChatGPT: Bullshit spewer or the end of traditional assessments in higher education? Unesco, 2021a Artificial Intelligence: examples of ethical dilemmas Unesco, 2021b Recommendation on the Ethics of Artificial Intelligence Unesco, 2023 ChatGPT and artificial intelligence in higher education: quick start guide University of South Carolina, 2023 ChatGPT for Teaching and Learning - Center for Teaching Excellence. Yale University, 2023 Guidelines for the Use of Generative AI Tools’. Yale University Zawacki-Richter et al., 2019 Systematic review of research on artificial intelligence applications in higher education – where are the educators? 4.2 Ključni etični izzivi in dileme povezani z uporabo ChatGPTja v VŠ ustanovah Atlas (2023) poudarja potrebo po preglednosti pri vključevanju ChatGPT v izobraževalne procese, vključno z jasnim obveščanjem o zmogljivostih in omejitvah, ter etičnih posledicah uporabe. Bearman et al. (2022) izpostavljajo problematiko pomanjkanja jasne definicije UI, kar vodi do različnih razlag in vpliva na razumevanje vloge in posledic UI v visokošolskem izobraževanju. Bernáth (2021) razpravlja o moralni odgovornosti AI, ugotavlja etične izzive in pomanjkljive epistemološke temelje v zvezi s to temo. Gartner & Krašna (2023) poudarjata pomen obravnave etičnih vidikov, kot so pristranskost algoritmov in skrb za zasebnost. Preko etnografije sem zaznala dva primera ne etične uporabe. Prvi: študent VŠ ustanove v Sloveniji je uporabil ChatGPT za pisanje eseja. Predavatelj omeni, da je esej tehnično dobro napisan, ampak, da opazuje nekaj netočnosti in površnih analiz. Torej, predavatelj se vpraša, kako zagotoviti, da študenti razumejo pomen lastnega kritičnega mišljenja in raziskovanja, namesto da se zanašajo izključno na avtomatizirano generiranje vsebine? Drugi: v sodobnem sistemu raziskovalci se znajdejo med velikih količin podatkov in zelo malo časa, da bi jih analizirali. Raziskovalec iz Slovenske visokošolske ustanove meni, da uporablja AI za analizo in izpeljavo zaključkov. V debati, z drugimi raziskovalci in predavatelji, pride (etično) vprašanje: kako zagotoviti, da raziskovalci razumejo in kritično ocenjujejo omejitve in rezultate AI, in da ne postanejo popolnoma odvisni od avtomatiziranih analiz? 4.3 Smernice za etično in transparentno vključitev UI kot izobraževalnega orodja Cukurova et al. (2020), Hijmans and Raab (2022), Lo (2023), Rudolph et al. (2023) poudarjajo, da so smernice za etično in transparentno vključitev UI zelo pomembne. Rudolph et al. (2023) predlagajo tudi, naj univerze spodbujajo digitalno pismenost. Zawacki-Richter et al. (2019) poudarjajo potrebo po upoštevanju pedagoških, etičnih, družbenih in kulturnih razsežnosti AI, ne le tehnoloških vidikov. Tudi izpostavljajo pomen zaščite zasebnosti in preprečevanja diskriminacije pri uporabi prilagojenega izobraževanja, ki ga poganja AI. Foltynek et al. (2023) poudarjajo potrebo po etični uporabi AI in razvoju politik, ki rešujejo vprašanja akademske integritete in uporabe podatkov, ki jih generira človek. »nadaljevanje« Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 309 Coley et al. (2023), Eaton (2023), Ferrarelli (2023), Foltynek et al. (2023), University of South Carolina (2023) in Yale University (2023) zagotavljajo smernice in ideje o tem, kako pristopiti k umetni inteligenci v izobraževalnem prostoru in kako obravnavati vprašanje akademske integritete. 5 Razprava 5.1 Večplastne dimenzije umetne inteligence in njihov vpliv na etične izzive UI je kompleksno področje, ki presega zgolj »inteligenco« in »tvornost«, kot poudarja Floridi (2023). To področje vključuje filozofske razprave o »pravi« kogniciji, zavesti in agenciji strojev (Zawacki-Richter et al., 2019) in se razvija v raznolikih tehnoloških in medijskih kontekstih (Latour, 1996). Sistemi UI, kot je ChatGPT, omogočajo obdelavo obsežnih količin informacij in prinašajo spremembe v tradicionalne pojme o delu in komunikaciji (Latour, 1996). ChatGPT 3.5, na primer, uporablja raznolike podatkovne vire in pomaga pri usposabljanju, vendar pogosto temelji na zahodnih virov, kar prinaša rasne in kulturne pristranskosti (Molek, 2023; Yale University, 2023). Kakovost vsebine, ki jo generira ChatGPT, je odvisna od usposabljanja in specifičnih ukazov, kar vključuje tveganje za napake ali pristranskost (University of South Carolina, 2023) V nasprotju z iskalniki, kot so Google, Bing ali Baidu, ChatGPT ne preiskuje interneta za aktualne informacije, in brezplačen ChatGPT 3.5 je omejen na podatke do leta 2021 (Rudolph et al., 2023:4). Tudi ChatGPT 4.0, čeprav izboljšan, ohranja nekatere omejitve v zvezi z aktualnostjo informacij (Tlili et al., 2023). V drugih besedah, ChatGPT uporablja nabor podatkov, da razvije svojo sposobnost za ustvarjanje izhodov. Ampak, je možnost, da je orodje zgrajeno na podlagi starejših naborov podatkov, morda ne vsebujejo informacij o nedavnih dogodkih, medtem ko imajo druga orodja vrzeli v svojih podatkih, ki so manj oprijemljive (Yale University, 2023). Sistemi UI, kot je ChatGPT, še ne dosegajo kompleksnih družbenih veščin ali reševanja problemov na človeku podoben način in so omejeni na generiranje jezikovnih sekvenc brez razumevanja pomena (Hrastinski et al., 2019). Sistemi, kot je ChatGPT, nimajo mehanizmov za preverjanje dejstev (Marcus, 2022) reproducirajo ideološke pristranskosti (Floridi, 2023) in generirajo jezikovne sekvence na podlagi probabilističnih informacij brez sklicevanja na pomen (Bender et al., 2021). Ni so sposobni kritičnega razmišljanja, samo opišejo in napovedujejo. Čeprav sistemi UI ustvarjajo koherentno besedilo, podobno človeški komunikaciji, jim manjka subjektivna esenca, ki je lastna človeškemu izražanju (Ferrarelli, 2023). Medtem ko se generirane informacije v obliki »naravnega jezika« zdijo koherentne zaradi svoje podobnosti s človeško komunikacijo, ti sistemi obdelujejo raznovrstne podatke z uporabo statističnih modelov za sestavljanje verjetnega besedila, simulacijo tega, kar bi človek napisal ali rekel. Zanašajo se na statistične modele za učinkovite in natančne odgovore, vendar pogosto zanemarjajo ustvarjalne in socialne vidike človeške komunikacije (de Jager, 2023). Vendar pa Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 310 ta sporočila niso ustvarjena iz komunikacijske namere ali subjektivnosti, ki je lastna človeku (Bender et al., 2021; Ferrarelli, 2023). Po drugi strani, sprejmejo uporabnikove namige in jih uporabijo za ustvarjanje odgovora, za katerega menijo, da bi ga uporabnik želel videti, zato pravimo, da ChatGPT »haluzinira« (tudi verzja 4.0). Obstaja pomanjkanje kritičnega razmisleka o pedagoških in etičnih posledicah uvedbe aplikacij UI v visokošolsko izobraževanje (Zawacki-Richter et al., 2019), kar vzbuja skrbi glede preglednosti, poštenosti in morebitne diskriminacije (Jobin et al., 2019). Študije so dokazale, da si študenti bolje zapomnijo gradivo in da je izobraževalni proces bolj uspešen, kadar posameznik uporabi svoje besede (Yale University, 2023). Če pa študenti namesto tega uporabljajo ChatGPT oz. katerokoli orodje UI za generiranje besedila za pisanje seminarskih nalog, ne bodo dosegli enakega učnega učinka. Po drugi strani, obstaja tveganje pristranskosti v sistemih UI, ki lahko vplivajo na ocenjevanje študentov. Algoritmi lahko podvajajo obstoječe predsodke, če učni podatki niso reprezentativni. Potreba je po posodobitvi politik visokošolskih institucij glede etične in odgovorne uporabe UI (Unesco, 2023). Obstajajo tudi dileme glede ravnovesja med odprtim dostopom do podatkov in varstvom zasebnosti podatkov (Atlas, 2023; Pedró, 2020; Salas-Pilco & Yang, 2022). Unesco (2019) poudarja, da bi morale biti tehnologije UI utemeljene na odprtosti kot temeljni vrednoti. Tako bi zagotovili enakopraven univerzalen dostop in enake možnosti za premostitev informacijskih neenakosti ter spodbujanje preglednosti. Ta cilj še ni dosežen, ker še vedno obstaja neenakost v dostopu do orodij UI. Študenti (in učitelji) z manj priložnosti še vedno zaostajajo ali nimajo znanja o UI, kar omejuje napredek pri integriranju tehnologije (Green et al., 2022). Uporaba UI v akademskem okolju povečuje tveganje za plagiat in akademsko nepoštenost (Köbis & Mehner, 2021). Če študenti uporabljajo ChatGPT oz. orodje UI za generiranje besedila za pripravo esejev, seminarskih nalog in izpitov, je povečano tveganje za plagiatorstvo in goljufanje, in to pomeni izziv akademski integriteti (Eaton, 2023; Okaibedi, 2023; Perkins, 2023; Unesco, 2023). A odkrivanje pisanja z uporabo orodje UI za generiranje besedila je lahko zahtevno (Coley et al., 2023). Kot pri detektorjih plagiatov, obstajajo orodja, ki lahko najdejo podobnosti ali vzorce, vendar ni stoodstotno zanesljivega načina za odkrivanje del, napisanih z uporabo UI, saj UI ustvarja besedila temeljito na novo. Vnašanje sumljivega besedila v orodje za UI, kot je ChatGPT, in vprašanje, ali je besedilo ustvarjeno z umetno inteligenco, ni zanesljiv način za ugotavljanje, ali je besedilo ustvarila UI. Problem plagiatorstva ni nov, saj se visoko šolstvo že zdavnaj sooča s tem. Problem je, da obstoječa orodja za odkrivanje plagiatorstva morda ne bodo učinkovita proti besedilu, ki ga je ustvarila UI. Tako se pojavljajo pomisleki o vplivu UI na pedagoški proces in izobraževalne metode ter o potrebi po bolj kritičnem pristopu in razvoju ustreznih politik in smernic (Zawacki-Richter et al., 2019; Green et al., 2022). Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 311 5.2 Praktične načine za obvladovanje etičnih izzivov: smernice za učenje, poučevanje in raziskovanje z uporabo ChatGPTja • Vsi učitelji in študentje bi morali imeti dostop do osnovnega usposabljanja o UI in njeni etični uporabi. Učitelji morajo imeti znanje o UI tehnologiji, da jo lahko učinkovito vključijo v svoje poučevanje in da temeljito razumejo, kako UI tehnologija lahko podpre učenje študentov in premosti vrzel med študenti z različnimi priložnostmi in dostopom do tehnologije, prav tako kot izzive, ki ta tehnologija prinese. • Predavatelji morajo naučiti študente, da obstajajo čas, prostor in način za uporabo generativnega orodja ChatGPT in podobna orodja. Uporaba mora biti odvisna od učnih ciljev. • Predavatelji morajo spoznavati smernice svoje VŠ ustanove v zvezi z akademsko integriteto in poštenostjo, v povezavi z orodji, kot je ChatGPT, in podobna orodja. • Raziskovalni projekti, ki vključujejo UI, morajo biti v skladu s fakultetnimi in nacionalnimi in evropskimi standardi za akademsko integriteto. Uporaba UI mora biti v skladu z etičnimi smernicami VŠ ustanove. Učitelji morajo objaviti jasna pravila o dovoljeni uporabi orodij UI in razlogih za omejitve. • Predavatelji morajo opozoriti študentom, da razvijanje odvisnosti od tehnologije in prenos funkcij kognitivnih ali pedagoških vidikov izobraževalnega interakcije na orodja, kot je ChatGPT lahko zmanjša kritično razmišljanje, kreativnost in avtonomijo. • Predavatelji morajo, če študenti prepoznajo napake orodja UI (npr. ChatGPT) v smislu logike, konsistence, natančnosti in pristranskosti. Če študenti niso pripravljeni kritično uporabljati orodje UI , potem bi morali izbrati druga pedagoška orodja za učenje, pisanja in raziskovanja. • Zasebnost informacij, vnesenih v orodja UI , je različna in jo je morda težko opredeliti na konkreten način. Študentska dela in osebno prepoznavne informacije ne smejo biti vnesene v orodje UI. • Predavatelji naj vključijo izjavo o akademski integriteti v začetku študijskega procesa, ki pojasnjuje pravila o preprečevanju goljufanja. Morajo biti neposredni in pregledni glede tega, katere orodje študentom dovolijo uporabljati, in glede razlogov za morebitne omejitve. Priporočljivo je spodbujati povezanost študentov z vsebino ter razumevanje dolgoročnih učnih ciljev. Edini razlog za dodeljevanje pisnega dela je, da študentom pomagamo pri učenju - bodisi da poglobijo razumevanje gradiva ali razvijajo spretnost pisanja. • Priporočajo se alternativne načine predstavitve znanja, ki niso dostopni orodjem UI. Spodbujajte ustvarjanje miselnih vzorcev, videoposnetkov, podkastov, predstavitev, vodenje razprav. Priporočamo večji poudarek na nalogah, ki niso v pisni obliki. • Predavatelji morajo študentom opozoriti, naj razmišljajo svojo lastno glavo in kritično. Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 312 Ker orodja za odkrivanje UI niso zanesljivi, če se predavatelj odloča za pisno obliko preverjanja znanja, se priporoča, da: • Predavatelj poišče netočnosti v besedilih. Generativna orodja UI pogosto »halucinirajo« napačne informacije. To so lahko majhne netočnosti, kot je napačen datum, ali pa povsem izmišljen dogodek s citatom. Zaradi tega ima veliko primerov dela, ki ga generira UI, netočne informacije, ki jih tisti, ki niso strokovnjaki na tem področju, pogosto spregledajo; • preverjanje ton pisanja, je pomembno. Pisanje ChatGPTja (in tudi pri drugih orodji UI za generiranje besedila) pogosto ne izraža globine. Izdelek Chat GPT se pogosto zdi površen ali napačen izobraženemu bralcu. Besedila so pogosto kratka ali standardno izdelana. Če se besedilo bere, kot da ga je napisal stroj, je možno, da je bilo napisano prav tako; • preverjanje drugih pisnih izdelkov študentov je pomembno. Če je mogoče, naj predavatelj primerja sumljiva besedila, s prejšnjimi nalogami istega študenta. To je resda težje, če študenti uporabljajo generativna orodja UI za vsako posamezno pisno nalogo, vendar boste opazili veliko spremembo v tonu in slogu, morda vredna nadaljnjega pregleda in pogovora s študentom. • Naj predavatelj jasno navede uporabo UI v raziskovalnih projektih in objavah. Upoštevajte načela transparentnosti, pravičnosti in zasebnosti. • Algoritmi in podatkovni nabori naj bodo pregledni in dostopni za revizijo. Omogočit je treba (sebi in študentom) kontinuirano usposabljanje o etičnih dilemah UI. Pomembno je, da se pravilno navede vse uporabljeno gradivo, da se označi, kateri deli vsebine so bili ustvarjeni s pomočjo orodje UI (npr. ChatGPTja), po smernicah APA. • Predavatelji lahko spremljajo tudi smernice COPE (Committee on Publication Ethics), organizacija, ki akademskim revijam in založnikom zagotavlja smernice o etiki objavljanja, ki podpirajo akademske vrednote, integriteto, strogost, preglednost in zanesljivost. To ščiti ugled učiteljev, raziskovalcev in institucij, saj se politike na tem področju nenehno razvijajo. • Predavatelji morajo nadzorovati uporabo UI za preprečevanje goljufanja. Etična uporaba umetne inteligence (UI) pomeni uporabo v skladu z določenimi etičnimi načeli in standardi, da se prepreči škoda ter podpre družbeno dobro. Nekatera ključna načela etične uporabe orodja UI, kot je ChatGPTja so: • Preglednost: Algoritmi in podatki morajo biti čim bolj transparentni in razumljivi uporabnikom. Mora biti jasnost o uporabi in omejitvah UI sistemov za uporabnike • Poštenost: UI ne sme diskriminirati ali kaznovati posameznikov na podlagi zaščitenih lastnosti. • Zasebnost: Varovanje osebnih podatkov in informacijske zasebnosti posameznikov. • Varnost - Preprečevanje zlorabe in hekerskih napadov. • Odgovornost: Jasnost glede odgovornosti pri morebitnih napakah ali škodi. • Človeški nadzor: Pomembne odločitve ne smejo biti prepuščene izključno UI. • Dostopnost: Enakopravna dostopnost do koristi UI za vse ljudi. Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 313 • Preprečevanje škode: Identifikacija in ublažitev morebitnih tveganj in neželenih posledic. 6 Zaključek ChatGPT (in podobni klepetalni roboti) ponujajo obetavne možnosti za izboljšanje izobraževalnih procesov, vendar so z njeno uporabo v visokošolskem izobraževanju povezani resni etični izzivi. Te izzive oblikujejo vprašanja zasebnosti, nadzora, potencialne manipulacije in neprozornosti UI sistemov. Poudarek je na interakciji med človekom in robotom ter vplivu avtomatizacije na delo in zaposlovanje (Köbis & Mehner, 2021; Gartner & Krasna, 2023; Molek, 2023). Zasebnost in varstvo podatkov sta ključna vidika, ki zahtevata skrbno obravnavo, še posebej ob upoštevanju, da lahko uporaba orodij, kot je ChatGPT, vključuje potencialno shranjevanje in prodajo osebnih podatkov (University of South Carolina, 2023). Pojavljajo se skrbi glede koncentracije osebnih informacij in možnosti nastanka podatkovnih monopolov, ki bi lahko vplivali na tržno konkurenco in razvoj tehnologije UI (Klimova et al., 2023; Knowles, 2021; Pedró 2020). V odgovor na te izzive, je ključnega pomena, da UI sistemi z visokim tveganjem izpolnjujejo obvezne zahteve, kot so zagotavljanje kakovosti in preglednosti podatkov, človeški nadzor, jasne informacije za uporabnike ter sledljivost in robustnost sistema (European Comission, 2019). V nekaterih državah, kot je Združeno kraljestvo ali ZDA, se že vzpostavljajo okviri za etično upravljanje UI v izobraževanju, kar je vzor za druge države (Zawacki-Richter et al., 2019). Za uspešno in odgovorno vključitev UI v izobraževalni proces je nujno, da obstajajo jasne etične smernice, in, kakor naslovijo Zawacki-Richter et al. (2019), med drugimi, da se vključuje v proces vzpostavljanja smernic izobraževalce in pedagoge. Te smernice bi morale zagotavljati pošteno, varno in družbeno odgovorno uporabo UI, ob hkratnem zavedanju morebitnih negativnih vplivov tehnologije na svobodo mišljenja, ustvarjalnost in avtonomijo posameznika. Ker je UI še vedno v razvoju, je potrebno nadaljnje raziskovanje njenih dejanskih učinkov in razvoj etičnih okvirov za njeno uporabo, s ciljem zagotoviti enakopravno in odgovorno vključevanje UI v visokošolsko izobraževanje. Reference 1. Atlas, S. (2023). ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI. University of Rhode Island. 2. Bearman, M., Ryan, J. and Ajjawi, R. (2022). Discourses of Artificial Intelligence in Higher Education: A Critical Literature Review. Higher Education. doi: 10.1007/s10734-022-00937-2. Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 314 3. Bender, E. M., Gebru, T., McMillan-Major, A., Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? . Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–23). Virtual Event Canada:ACM. 4. Bernáth, L. (2021). Can Autonomous Agents Without Phenomenal Consciousness Be Morally Responsible? Philosophy & Technology, 34(4), 1363–1382. doi: 10.1007/s13347-021-00462-7. 5. Bertsou, E.; Pastorella, G. (2017). Technocratic Attitudes: A Citizens’ Perspective of Expert Decision-Making. West European Politics, 40(2), 430–458. doi: 10.1080/01402382.2016.1242046. 6. du Boulay, B. (2022). Artificial Intelligence in Education and Ethics. In Handbook of Open, Distance and Digital Education. 7. Bozkurt, A., Karadeniz, A., Baneres, D., Guerrero-Roldán, A.E., M. Elena Rodríguez, M.E. (2021). Artificial Intelligence and Reflections from Educational Landscape: A Review of AI Studies in Half a Century. Sustainability 13(2):800. doi: 10.3390/su13020800. 8. Brizuela, C. (2020). Un Abordaje Del Diseño, Los Gestos Técnicos y Las Huellas de Uso En Instrumentos Líticos Experimentales (Gubias, Escoplos y Cinceles), Desde Una Aproximación Funcional. Revista Del Museo de Antropología, 281–288. doi: 10.31048/1852.4826.v13.n1.23901. 9. Bucea-Manea-Ț., Rocsana, V., Kuleto, S., Dobre Gudei, C. Lianu, C. Lianu, C., Ilić, M, Păun. D. (2022). Artificial Intelligence Potential in Higher Education Institutions Enhanced Learning Environment in Romania and Serbia. Sustainability, 14(10), 5842. doi: 10.3390/su14105842. 10. Chaka, C. (2022). Fourth Industrial Revolution—a Review of Applications, Prospects, and Challenges for Artificial Intelligence, Robotics and Blockchain in Higher Education. Research and Practice in Technology Enhanced Learning, 18. doi: 10.58459/rptel.2023.18002. 11. Coley, M., J Paige Snay, J., John John Bradley, J.J., Molvig, O. (2023). Teaching in the Age of AI. Vanderbilt University (blog). Retrieved 4 October 2023 (https://cft.vanderbilt.edu/guides-sub-pages/teaching-in-the-age-of-ai/). 12. Creswell, J. W. (2013). Qualitative Inquiry and Research Design. California: SAGE Publications. 13. Cukurova, M., Luckin, R., Kent, C. (2020). Impact of an Artificial Intelligence Research Frame on the Perceived Credibility of Educational Research Evidence. International Journal of Artificial Intelligence in Education, 30(2), 205–235. doi: 10.1007/s40593-019-00188-w. 14. Currie, G. M. (2023). Academic Integrity and Artificial Intelligence: Is ChatGPT Hype, Hero or Heresy?. Seminars in Nuclear Medicine. doi: 10.1053/j.semnuclmed.2023.04.008. 15. Dogan, M. E., Dogan, T.G., Bozkurt, A. (2023). The Use of Artificial Intelligence (AI) in Online Learning and Distance Education Processes: A Systematic Review of Empirical Studies. Applied Sciences, 13(5), 3056. doi: 10.3390/app13053056. 16. Eaton, S. (dir.) (2023). Academic Integrity and Artificial Intelligence: Implications for Plagiarism and Academic Writing. Retrieved 7 July 2023 (https://www.youtube.com/watch?v=9QNNPVSC24w) 17. Encyclopedia Brittanica. (2023). Artificial Intelligence (AI). Retrieved 5 June 2023 (https://www.britannica.com/technology/artificial-intelligence). 18. European Comission (2019). Ethics Guidelines for Trustworthy AI. Retrieved 10 July 2023 (https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai) Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 315 19. European Comission (2023a). EU AI Act: First Regulation on Artificial Intelligence. Retrieved 5 July 2023 (https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu- ai-act-first-regulation-on-artificial-intelligence?&at_campaign=20226- Digital&at_medium=Google_Ads&at_platform=Search&at_creation=RSA&at_goal= TR_G&at_advertiser=Webcomm&at_audience=ai%20eu&at_topic=Artificial_intellig ence_Act&at_location=SI&gclid=CjwKCAjwqZSlBhBwEiwAfoZUIE1qKOmtLnRsa J5sV283nUzClZdgbRD4mEQaozY8kpArp2F9eC4F-RoCifEQAvD_BwE). 20. European Comission (2023b). What Is Artificial Intelligence and How Is It Used? Retrieved 5 July 2023 (https://www.europarl.europa.eu/news/en/headlines/society/20200827STO85804/what -is-artificial-intelligence-and-how-is-it-used). 21. Ferrarelli, M. (2023). ¿Cómo Abordar La Inteligencia Artificial En El Aula? CIAESA: Buenos Aires. 22. Floridi, L. (2023). AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models. Philosophy and Technology. doi: 10.2139/ssrn.4358789. 23. Foltynek, T., Bjelobaba, S., Glendinning, I., Reza Khan, Z., Santos, R., Pavletic, P., Kravjar, J. (2023). ENAI Recommendations on the Ethical Use of Artificial Intelligence in Education. International Journal for Educational Integrity 19(1), 1–4. doi: 10.1007/s40979-023-00133-4. 24. Foucault, M. (2001). The Order of Things. London: Routledge. 25. Gao, C., Frederick, A., Howard, M., Markov, N. S., Dyer, E., Ramesh, S., Luo, P., Pearson, A.T. (2023). Comparing Scientific Abstracts Generated by ChatGPT to Real Abstracts with Detectors and Blinded Human Reviewers. Npj Digital Medicine, 6(1):1–5. doi: 10.1038/s41746-023-00819-6. 26. Gartner, S., Krašna, M. (2023). Etika umetne inteligence v izobraževanju’. Revija za elementarno izobraževanje. Journal of elementary education, 16(2):221–237. 27. González-E. y Patrici Calvo, E. (2022). Ethically Governing Artificial Intelligence in the Field of Scientific Research and Innovation. Heliyon, 8(2). doi: 10.1016/j.heliyon.2022.e08946. 28. Green, E., Singh, D. Chia, R.. (2022). AI Ethics and Higher Education : Good Practice and Guidance for Educators, Learners, and Institutions. Globethics.net. 29. Guber, R. (2011). La Etnografía. Método, Campo y Reflexividad. Buenos Aires: Siglo XXI. 30. HAI, Stanford AI-Index Report (2023). 31. Hijmans, Hi., Raab, C.. (2022). Ethical Dimensions of the GDPR, AI Regulation, and Beyond. Direito Público, 18(100). doi: 10.11117/rdp.v18i100.6197. 32. Hine, C. (2011). Virtual Ethnography. UK: SAGE Publications. 33. Hoffman, Donald D. 2015. What do you think about machines that think?. Retrieved 31 May 2023 (https://www.edge.org/response-detail/26036). 34. Hrastinski, S., Olofsson, A.D., Arkenback, C., Ekström, S., Ericsson, E., Fransson, G., Jaldemark, J., Ryberg, T. Öberg, L.M., Fuentes, A., Gustafsson, U., Humble, N., Mozelius, P., Sundgren, M., Utterberg, M. (2019). Critical Imaginaries and Reflections on Artificial Intelligence and Robots in Postdigital K-12 Education. Postdigital Science and Education, 1(2):427–45. doi: 10.1007/s42438-019-00046-x. 35. Humble, N., Mozelius, P. (2022). The Threat, Hype, and Promise of Artificial Intelligence in Education. Discover Artificial Intelligence, 2(1), 22. 36. de Jager, S. (2023). Semantic Noise in the Winograd Schema Challenge of Pronoun Disambiguation. Nature: Humanities and Social Sciences Communications 10(161). Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 316 37. Jobin, A., Ienca, M., Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence 1(9), 389–399. doi: 10.1038/s42256-019- 0088-2. 38. Jordan, A. T. (2019). Business Anthropology. Oxford Research Encyclopedia of Anthropology. 39. Klimova, B., Pikhart, M., Kacetl. J. (2023). Ethical Issues of the Use of AI-Driven Mobile Apps for Education. Frontiers in Public Health, 10. 40. Knowles, M. A. 2021. Five Motivating Concerns for AI Ethics Instruction. Proceedings of the Association for Information Science and Technology, 58(1), 472– 476. doi: 10.1002/pra2.481. 41. Köbis, L., Mehner, C. (2021). Ethical Questions Raised by AI-Supported Mentoring in Higher Education. Frontiers in Artificial Intelligence, 4, 624050. doi: 10.3389/frai.2021.624050. 42. Kozinet, R. (2010). Netnography. Doing Ethnographic Research Online. Londres; California: SAGE Publications. 43. Kuhn, T. (1970). The Structure of Scientific Revolutions. Chicago: University of Chicago Press. 44. Latour, B. (1996). La esperanza de Pandora. Ensayos Sobre La Realidad de Los Estudios de La Ciencia. Gedisa: Barcelona. 45. Lion, K. (2022). Is Artificial Intelligence the Magic Potion That Will Lead Us to Improve the Quality of Higher Education? V E. Green, Ş. Divya, and R. Chia (ur.) AI Ethics and Higher Education Good Practice and Guidance for Educators, Learners, and Institutions, Globeethics (str. 147–170 in). 46. Lo, C. K. (2023). What Is the Impact of ChatGPT on Education? A Rapid Review of the Literature. Education Sciences 13(4), 410. doi: 10.3390/educsci13040410. 47. Marcus, G. (2022). AI Platforms like ChatGPT Are Easy to Use but Also Potentially Dangerous. Scientific American. Retrieved 30 June 2023 (scientificamerican). 48. Molek, N. (2023). AI and Organizational Transformation: Anthropological Insights into Higher Education. Challenges of the Future, 8(3). doi: 10.37886/ip.2023.007. 49. Moya, M., Vázquez, J. (2010). De La Cultura a La Cibercultura: La Mediatización Tecnológica En La Construcción de Conocimiento y En Las Nuevas Formas de Sociabilidad. Cuadernos de Antropología Social (31), 75–96. 50. Okaibedi, D. (2023). ChatGPT and the Rise of Generative AI: Threat to Academic Integrity?. Journal of Responsible Technology. doi: 10.1016/j.jrt.2023.100060. 51. Pedró, F. (2020). Applications of Artificial Intelligence to Higher Education: Possibilities, Evidence, and Challenges. IUL Research, 1(1), 61–76. doi: 10.57568/iulres.v1i1.43. 52. Perkins, M. (2023). Academic Integrity Considerations of AI Large Language Models in the Post-Pandemic Era: ChatGPT and Beyond. Journal of University Teaching & Learning Practice, 20(2), 0-7. doi: 10.53761/1.20.02.07. 53. Podjed, D. (2011). Multiple Paradigm Research on Organisational Culture: An Introduction of Complexity Paradigm. Organizacija (44). 54. Popenici, S. A. D., Kerr,S. (2017). Exploring the Impact of Artificial Intelligence on Teaching and Learning in Higher Education. Research and Practice in Technology Enhanced Learning, 12(1):22. doi: 10.1186/s41039-017-0062-8. 55. Rockwell, Anyoha. 2017. The History of Artificial Intelligence. Science in the News. Retrieved 23 June 2023 (https://sitn.hms.harvard.edu/flash/2017/history-artificial- intelligence/). Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 317 56. Rudolph, J, Samson, T., Shannon, T. (2023). ChatGPT: Bullshit Spewer or the End of Traditional Assessments in Higher Education? Journal of Applied Learning & Teaching, 6(1). doi: 10.37074/jalt.2023.6.1.9. 57. Salas-Pilco, S. Z., Yang, Y. (2022). Artificial Intelligence Applications in Latin American Higher Education: A Systematic Review. International Journal of Educational Technology in Higher Education, 19(1), 1–20. doi: 10.1186/s41239-022- 00326-w. 58. Tlili, A., Shehata, B., Agyemang Adarkwah, M., Bozkurt, A., Hickey, D. T., Huang, R., Agyemang, B. (2023). What If the Devil Is My Guardian Angel: ChatGPT as a Case Study of Using Chatbots in Education. Smart Learning Environments 10(1), str. 1–24. doi: 10.1186/s40561-023-00237-x. 59. Unesco (2019). La Inteligencia Artificial En La Educación. Retrieved 24 May 2023 (https://es.unesco.org/themes/tic-educacion/inteligencia-artificial). 60. Unesco (2021). Artificial Intelligence: Examples of Ethical Dilemmas. Retrieved 29 May 2023 (https://www.unesco.org/en/artificial-intelligence/recommendation- ethics/cases). 61. Unesco (2023). ChatGPT and Artificial Intelligence in Higher Education: Quick Start Guide. 62. University of South Carolina (2023). ChatGPT for Teaching and Learning - Center for Teaching Excellence. Retrieved 4 October 2023.(https://sc.edu/about/offices_and_divisions/cte/teaching_resources/chatgpt/index .php). 63. Yale University (2023). Guidelines for the Use of Generative AI Tools. Yale University. Retrieved 4 October 2023 (https://provost.yale.edu/news/guidelines-use- generative-ai- tools#:~:text=Always%20review%20and%20verify%20outputs,be%20aware%20of% 20phishing%20schemes.). 64. Zawacki-Richter, O., Marín, V.I., Bond, M., Gouverneur, F. (2019). Systematic Review of Research on Artificial Intelligence Applications in Higher Education – Where Are the Educators?. International Journal of Educational Technology in Higher Education, 16(1), str. 39. doi: 10.1186/s41239-019-0171-0. *** Nadia Molek holds a Ph.D. in Anthropology from the University of Buenos Aires, awarded in 2022. She obtained her bachelor's and teaching degrees in the same field at the same institution in 2012. Throughout her career, she has held research and teaching roles at the Universidad Pedagogica Nacional (Argentina) and the Universidad del Salvador (Argentina). Nadia has been involved in various research projects at the University of Buenos Aires, the University of Ljubljana, the National Pedagogical University, and FOŠ, with a focus on topics such as migration processes, identity, and memory, transnationalism, interethnic relations, and the impact of new technologies on identity processes. More recently, she has shifted her research focus to organisational and applied anthropology. Her current work focuses on the sustainable integration of AI in the university environment, well-being, work-life balance and women's empowerment in work environments. *** Nadia Molek je doktorirala iz antropologije na Univerzi v Buenos Airesu leta 2022. Diplomirala in pridobila učiteljsko izobrazbo na isti fakulteti je leta 2012. V svoji karieri je opravljala raziskovalno in pedagoško delo na Universidad Pedagógica Nacional (Argentina) in Universidad del Salvador (Argentina). Sodelovala je v različnih raziskovalnih projektih na Univerzi v Buenos Airesu, Univerzi v Ljubljani, Nacionalni pedagoški univerzi in FOŠ, pri čemer se je osredotočala na raziskovalne teme, kot so procesi migracije, identiteta in spomin, transnacionalizem, medetnični odnosi in vpliv novih tehnologij na procese identitete in na učenje/izobraževanje. Revija za univerzalno odličnost / Journal of Universal Excellence, Članek / Article December 2023, leto / year 12, številka / number 4, str. / pp. 300-318. 318 Nedavno je svoj fokus preusmerila k raziskovanju na področju organizacijske in aplikativne antropologije. Njena trenutno delo se osredotoča na trajnostno vključevanje umetne inteligence v univerzitetno okolje, dobro počutje, in ravnovesje med poklicnim in zasebnim življenjem ter opolnomočenje žensk v delovnih okoljih. *** Abstract: Ethical Challenges of Using Artificial Intelligence in Higher Education Organizations Research Question (RQ): What are the key ethical challenges and dilemmas associated with the use of conversational chatbots like ChatGPT in higher education? What guidelines do instructors and universities recommend for the fair, ethical, and transparent integration of AI as an educational tool? Purpose: To identify key ethical challenges and dilemmas related to the use of AI tools based on large language models (e.g., ChatGPT); to propose guidelines for the ethical and responsible use of these technologies in an academic setting; to contribute to the discourse on AI ethics in education and highlight the need for further research in this area. Method: This article is theoretical in nature and is based on a review of existing literature and sources on the topic of AI ethics in education. Results: The research identifies multifaceted ethical challenges associated with artificial intelligence, such as issues of transparency, privacy, data ownership, academic integrity, and long- term consequences on the quality of learning. Specific guidelines are proposed for the ethical use of AI in pedagogical and research purposes at the university level. The need for training of teachers and students as well as further research in this field is emphasized. Organization: The study sheds light on significant ethical challenges that higher education institutions face when integrating AI tools into the pedagogical process. The proposed guidelines can assist managers in shaping institutional policies for the ethical and responsible use of these technologies. It contributes to considerations regarding the long-term effects of AI on the quality of teaching and learning. Society: This contribution initiates an important societal discussion on AI ethics in education. It encourages contemplation about the societal consequences of such technologies and raises awareness about the importance of transparency, data privacy, and equal access. It can influence the formulation of public policies in this domain. Originality: The article comprehensively addresses ethical dilemmas of AI in the pedagogical context. The proposed guidelines can assist educational institutions in shaping their own policies for the ethical use of these technologies. It contributes to the synthesis of existing knowledge and practical implications. Limitations/Future Research: Since this is an evolving phenomenon, further research on the actual effects and experiences of using AI in practice is necessary. Keywords: artificial intelligence, higher education organizations, guidelines for the use of artificial intelligence, educational technology, ChatGPT, academic integrity, ethical management of artificial intelligence in education, organizational anthropology. Copyright (c) Nadia MOLEK Creative Commons License This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.