ff KOLOFON Naslov: Mladi, zasebnost in zaupanje : utemeljitev potrebe po strožjih predpisih. Avtorici: Koren Ošljak, Katja in Farthing, Rys. 1. izdaja. Avtorske pravice: CC-BY-NC (Katja Koren Ošljak in Rys Farthing). Založil: Zavod Vsak. Kraj: Ljubljana. Leto: 2023. Publikacija je objavljena na spletnem mestu vsak.si. Publikacija je brezplačna. Kataložni zapis o publikaciji (CIP) pripravili v Narodni in univerzitetni knjižnici v Ljubljani. COBISS.SI-ID 149924611. ISBN 978-961-96223-0-8 (PDF). Povzetek Digitalno življenje mladih v Sloveniji je lahko bogato in koristno, vendar z njim nastajajo tudi digitalni odtisi, ki predstavljajo tveganja. V raziskavi, ki podatke črpa iz večih virov, preučujemo digitalne odtise mladih, njihovo zaupanje v tehnologijo in poglede na reforme, ki so potrebne za več zasebnosti pri uporabi digitalnih medijev. Naše ugotovitve so naslednje: ● V raziskavi, v kateri je sodelovalo 3.000 mladih iz osnovnih in srednjih šol po Sloveniji,1 tretjina mladih navaja, da ne zaupajo načinu zbiranja njihovih podatkov, tretjina pa, da ne znajo preveriti, kateri podatki se zbirajo o njih. ● Podatke rutinsko zbirajo aplikacije, ki jih mladi uporabljajo v šolah, prostem času in med igro. Analiza aplikacij je pokazala, da izdelki, ki so v uporabi v šolah, mladim pogosto sledijo tudi zunaj učilnic in da aplikacije družbenih omrežij, ki so priljubljene med mladimi v Sloveniji, uporabljajo veliko sledilnikov in rutinsko zahtevajo dovoljenja za dostop do občutljivih podatkov. ● Mladi si želijo, da bi jim zakoni zagotavljali boljšo zaščito zasebnosti. Na podlagi delavnic, na katerih je sodelovalo 15.000 osnovnošolcev, lahko strnemo, da si mladi želijo različnih izboljšav, od manjšega obsega zbiranja podatkov do večje varnosti podatkov in odprave pretirane hrambe podatkov. Vse to kaže na ključno vlogo varstva podatkov za zagotavljanje človekovih pravic v Sloveniji, ki postaja vse bolj digitalna. Kot del Evropske unije mora tudi naša država razviti močne in izvršljive smernice za varstvo podatkov mladih. 1 Univerza v Ljubljani, Fakulteta za družbene vede in Pedagoška fakulteta, 2022, Medijski repertoarji mladih: Socialni, politični in kulturni aspekti digitaliziranega vsakdana (J5-2564): spletna anketa je bila za osnovnošolce dostopna od 10. marca do 24. junija 2022, za srednješolce pa od 13. aprila do 24. junija 2022, zadnji vnos je bil 23. junija 2022. Več informacij o raziskavi je na voljo na spletnem mestu medijimladih.si Vsebina Uvod 4 Vrzel v zaupanju in ozaveščenosti: rezultati raziskave med mladimi v Sloveniji 7 Upodatkovljenje slovenskih mladostnikov: analiza pogosto uporabljenih digitalnih izdelkov 11 Kakšne so zahteve mladih glede ravnanja z njihovimi podatki: izsledki delavnic o idealnih pravilih za varstvo osebnih podatkov 18 Zaključek in priporočila 22 Priloga 24 1. Dodatne informacije o vrzeli v zaupanju 24 2. Dodatne informacije o vrzeli v ozaveščenosti 28 3. Dodatne informacije o upodatkovljenju na družbenih omrežjih 31 4 Uvod Za uresničevanje pravic mladih v Sloveniji, ki postaja vse bolj digitalna, je treba pričeti pri uresničevanju pravice otrok in mladih do zasebnosti in zagotavljanju varstva njihovih podatkov. To pa ni obroben ali nišen problem. Otroci odraščajo v dataficiranem oziroma upodatkovljenem okolju, ki je prežeto s podatki. Podatki o najmlajših se zbirajo, še preden ti prvič zadihajo – z nosečniškimi aplikacijami, merilniki srčnega utripa in ultrazvočnimi posnetki, ki jih starši delijo na družbenih omrežjih – se podatki o otrocih obdelujejo že pred rojstvom. Zbiranje se nadaljuje skozi celotno otroštvo; od otroških monitorjev z umetno inteligenco do t. i. pametnih igrač in fitnes aplikacij za najstnike. Kot se je pokazalo ob pandemiji covida-19, bodo številne vsakodnevne izkušnje otrok tudi zaradi obsežnejše vloge digitalnih tehnologij v izobraževanju odslej rutinsko digitalizirane in upodatkovljene, zaradi česar se o slovenskih mladostnikih prek interneta zbirajo ogromne količine podatkov. Način zbiranja in uporabe podatkov mladih predstavlja v digitalnem okolju tveganje za njihove človekove pravice. Kot navaja Odbor Organizacije združenih narodov za otrokove pravice: Digitalno okolje vključuje podjetja, ki so finančno odvisna od obdelave osebnih podatkov z namenom ciljnega usmerjanja vsebin, ki prinašajo prihodek ali so plačljive, takšni postopki pa tako namerno kot nenamerno vplivajo na digitalne izkušnje otrok. Pri številnih od teh postopkov sodeluje več komercialnih partnerjev, kar ustvarja dobavno verigo komercialnih dejavnosti in obdelave osebnih podatkov, ki lahko povzroči kršitve ali zlorabe pravic otrok, med drugim z elementi prilagojenega oglaševanja, ki predvidevajo in usmerjajo otrokova dejanja k ekstremnejšim vsebinam, s samodejnimi obvestili, ki lahko zmotijo spanec, ali z uporabo otrokovih osebnih podatkov ali lokacije za usmerjanje potencialno škodljivih komercialno usmerjenih vsebin.2 Ta tveganja so opazna tudi v Sloveniji, saj tovrstno zbiranje podatkov krši pravico mladih do zasebnosti in se pogosto uporablja za spodbujanje rabe izdelkov, ki jim lahko škodujejo. Na dogodku, ki ga je gostil zavod Vsak, je na primer Facebookova žvižgačka Frances Haugen izpostavila naslednje: 2 Odbor Organizacije združenih narodov za otrokove pravice, 2021. General Comment 25 on Children’s Rights in Relation to the Digital Environment (Splošni komentar št. 25 o otrokovih pravicah v povezavi z digitalnim okoljem), odstavek 40 5 ● Platforme, kot je Instagram, predstavljajo tveganje za duševno zdravje. Instagram je namreč v svojih internih raziskavah ugotovil, da je njihovo družbeno omrežje za mlade izjemno škodljivo, a ni ukrepal. Raziskave so pokazale, da se številna od teh tveganj še povečujejo, ker se podatki o otrocih uporabljajo za profiliranje3. ● Algoritmi, ki lahko priporočajo visoko tvegane vsebine, predstavljajo tveganje za mlade. Frances Haugen je spregovorila o tem, da se iskanje nečesa čisto nedolžnega, kot so recepti za zdrave jedi, lahko zelo hitro sprevrže v to, da Facebookov algoritem uporabniku prične priporočati vsebine, ki spodbujajo anoreksijo oziroma anoreksični videz. Številni od teh algoritmov so prilagojeni za uporabo podatkov o otrocih in se nanje odzivajo4. ● O tveganjih odvisnosti od družbenih omrežij se sistemsko premalo poroča. Denimo tudi pri testiranju funkcionalnosti, ki »povečujejo priključenost« na omrežje in vodijo do zasvojenosti, se uporabljajo podatki o najmlajših uporabnikih – otrocih.5 Poleg tega so rezultati nedavne študije pokazali, da mladi v Sloveniji pogosto ne morejo smiselno podati soglasja k praksam zbiranja podatkov v digitalnem svetu, tudi zato ker pogoji uporabe in politike zasebnosti priljubljenih aplikacij običajno v slovenščini sploh niso na voljo.6 Slovenija pa ima tako moralne kot pravne obveznosti, da zagotovi spoštovanje zasebnosti mladih in varstvo njihovih podatkov v vseh organizacijah, ki obdelujejo njihove podatke7. 3 Facebook in Instagram na primer uporabljata podatke o otrocih z namenom profiliranja otrok na potencialno tvegane načine za potrebe oglaševanja. Glej na primer: Sam Levin. »Facebook je oglaševalcem povedal, da lahko prepozna najstnike, ki se počutijo negotove in ničvredne« (Facebook told advertisers it can identify teens feeling 'insecure' and 'worthless'), The Guardian, 2017 https://www.theguardian.com/technology/2017/may/01/facebook-advertising-data-insecure-teens in Dylan Wil iams, Alex McIntosh in Rys Farthing. Profiliranje otrok za potrebe oglaševanja, Reset Australia, 2021 https://au.reset.tech/uploads/resettechaustralia_profiling-children-for-advertising-1.pdf 4 V dveh nedavnih poročilih je bilo dokumentirano, da Instagramov algoritem pogosto prikazuje vsebine, ki spodbujajo anoreksijo in motnje hranjenja. Tech Transparency Project. Thinstagram: Instagram’s algorithm fuels eating disorder epidemic (Instagramov algoritem spodbuja epidemijo motenj hranjenja), 2021, in Fairplay. Designing for Disorder (Načrtovanje motenj), 2022. Raziskovalci slednjega poročila so v mehurčku za motnje hranjenja našli tudi slovenske uporabnike, in sicer so ugotovili, da so z biografijami, kot so »~ Slovenia ( but in love with Germany ) ~ thinspo ~ need to be skinny ~ hw: 68kg/ cw: 57kg/ ugw: 54kg/ ugw: 51kg/ ugw: 47kg ~,« slovenski uporabniki aktivno izpostavljeni vplivu Instagramovega algoritma. 5 Bhargava, Vikram R in Manuel Velasquez. »Ethics of the Attention Economy: The Problem of Social Media Addiction« (Etika ekonomije pozornosti: Problem zasvojenosti z družbenimi mediji). Business Ethics Quarterly, 2020, DOI https://doi.org/10.1017/beq.2020.32 6 Global Platforms: Partial Protections Design Discriminations ( Globalne platforme: Zaradi delnega varstva se oblikuje diskriminacija), Fairplay, 2022. https://fairplayforkids.org/wp-content/uploads/2022/07/design-discriminations.pdf 7Odbor Organizacije združenih narodov za otrokove pravice, 2021. General Comment 25 on Children’s Rights in Relation to the Digital Environment (Splošni komentar št. 25 o otrokovih pravicah v povezavi z digitalnim okoljem), odstavek 70. 6 Da bi prispevali k sprejetju ustreznega zakonodajnega okvira za zagotavljanje pravic mladih v digitalni družbi, smo v tem poročilu analizirali poglede mladih na zasebnost in osebne podatke ter njihovo zaupanje v tehnologije. Poročilo smo pripravili v Iniciativi za boljšo digitalno Slovenijo. Podatke smo zbrali v letu 2022 s pomočjo več študij: ● Raziskava Medijski repertoarji mladih, ki sta jo izvedli Fakulteta za družbene vede in Pedagoška fakulteta Univerze v Ljubljani, v kateri je sodelovalo več kot 3.000 mladih iz osnovnih in srednjih šol iz vse Slovenije, je preučevala različne vidike življenja mladih8 v digitaliziranem vsakdanu. Spletna anketa je vključevala tudi vprašanja o zaupanju in ozaveščenosti o problematiki osebnih podatkov na spletu. ● Študije primerov o upodatkovljenju mladih v Sloveniji, med drugim: ○ analizo priljubljenih digitalnih platform, ki se uporabljajo v šolah (»EdTech«), in sledilnikov podatkov, ki jih te platforme pogosto uporabljajo, ter ○ analizo aplikacij in platform družbenih omrežij, ki so priljubljene med slovenskimi mladostniki, ter zajemanju osebnih podatkov na teh platformah. ● Študija, izvedena prek delavnic9, ki so potekale od septembra 2022 do januarja 2023 po vsej Sloveniji in na katerih je več kot 15.000 mladih razmišljalo o zasebnosti in zaupanju tehnologijam. Vodje delavnic so zbirali predloge mladih o izboljšavah na področju zasebnosti, ki so med drugim obsegale željo po manjšem obsegu zbiranja podatkov, večji varnosti podatkov in odpravi pretirane hrambe podatkov. Poročilo se zaključi s pozivom k boljši zaščiti otrok in mladih na način, ki bo odražal želje mladih samih: predvsem manj izkoriščanja podatkov, večji nadzor, večjo preglednost ter občutek večje varnosti in zaščite. 8 Univerza v Ljubljani, Fakulteta za družbene vede in Pedagoška fakulteta, 2022, Medijski repertoarji mladih: Socialni, politični in kulturni aspekti digitaliziranega vsakdana (ARRS J5-2564): spletna anketa je bila za osnovnošolce dostopna od 10. marca do 24. junija 2022, za srednješolce pa od 13. aprila do 24. junija 2022, zadnji vnos je bil 23. junija 2022. Več informacij o raziskavi je na voljo na spletnem mestu medijimladih.si. 9 Delavnice Gajin splet so bile izvedene po osnovnošolskih projekcijah mladinskega filma Gajin svet 2, ki ga je režiral Peter Bratuša. Več na gajinsvet.si. 7 Vrzel v zaupanju in ozaveščenosti: rezultati raziskave med mladimi v Sloveniji Med aprilom in junijem 2022 so mladi iz več kot 70 različnih šol sodelovali v raziskavi, v kateri smo jih vprašali, kolikšno je njihovo zaupanje v skrbno ravnanje z njihovimi podatki in ali so seznanjeni s tem, kako lahko preverijo, kateri podatki se o njih zbirajo. Sodelovalo je 2.301 osnovnošolcev, starih od 11 do 17 let, in 1.121 srednješolcev, starih od 15 do 22 let (za demografske podatke glej sliki 1 in 2 v prilogi).10 Zaupanje mladih v digitalne izdelke Skoraj tisoč dijakov je odgovarjalo na vprašanje, ali verjamejo, da digitalne platforme, aplikacije in spletna mesta z njihovimi podatki skrbno ravnajo: 36 % dijakov platformam ne zaupa, 27 % jim zaupa, 37 % pa ni prepričanih, ali jim zaupa ali ne (glej sliko 3). To kaže na primanjkljaj zaupanja v digitalnem življenju mladih. Slika 3: Podatki, pridobljeni s pomočjo vprašanja, koliko srednješolci zaupajo platformam, aplikacijam in družbenim omrežjem, da skrbno ravnajo z njihovimi podatki (n=948). 10 Univerza v Ljubljani, Fakulteta za družbene vede in Pedagoška fakulteta, 2022, Medijski repertoarji mladih: Socialni, politični in kulturni aspekti digitaliziranega vsakdana (ARRS J5-2564): spletna anketa je bila za osnovnošolce dostopna od 10. marca do 24. junija 2022, za srednješolce pa od 13. aprila do 24. junija 2022, zadnji vnos je bil 23. junija 2022. Več informacij o raziskavi je na voljo na spletnem mestu medijimladih.si. 8 Ugotavljali smo, kako na ta primanjkljaj zaupanja vplivajo različne demografske značilnosti: ● Starost: nezaupanje v digitalne platforme narašča s starostjo, starejši mladostniki manj zaupajo platformam kot 14- in 15-letniki (glej sliko 4 v prilogi). ● Spol: pri dekletih je stopnja nezaupanja nekoliko višja, pri nebinarnih mladih osebah pa je nezaupanje bistveno večje, pri čemer je treba opozoriti, da gre za majhen vzorec (glej sliko 5). ● Učna uspešnost: učenci, ki poročajo o slabšem učnem uspehu, izražajo več nezaupanja v digitalne platforme kot učenci, ki poročajo o boljšem učnem uspehu (glej sliko 6). ● Družbeni razred: zdi se, da nezaupanje v digitalne tehnologije narašča z materialnim statusom in kulturnim kapitalom družine. Mladi namreč, ki nimajo lastne otroške sobe, izražajo več zaupanja do digitalne tehnologije kot tisti, ki jo imajo (glej sliko 7). Prav tako so mladi, ki doma nimajo nobene knjige ali jih imajo le za eno polico, bolj zaupljivi kot tisti, ki imajo knjig za več kot celo knjižno omaro; a hkrati so najbolj nezaupljivi ravno tisti mladi, ki imajo knjig za eno knjižno omaro (glej sliko 8). ● Dostop do tehnologije: mladi, ki doma nimajo računalnika, so do tehnologije bolj nezaupljivi kot tisti, katerih družine premorejo tri ali več računalnikov (glej sliko 9). 9 Ozaveščenost mladih o tem, kateri podatki se zbirajo o njih Z dvema ločenima spletnima vprašalnikoma smo 3.090 srednješolcev in osnovnošolcev vprašali, ali vedo, kako lahko preverijo, katere podatke o njih zbirajo aplikacije in spletna mesta. Kar tretjina vseh vprašanih je navedla, da ne znajo preveriti, kateri podatki o njih se zbirajo na internetu. To nepoznavanje kaže na krizo ozaveščenosti o podatkih v digitalnem svetu in odpira vprašanja o naravi oziroma ustreznosti obveščenih soglasij, ki jih digitalne platforme uporabljajo kot pravno podlago za zbiranje podatkov v aplikacijah in na spletnih mestih. Slika 10: Spretnost mladih (po samooceni), da preverijo, katere informacije o njih zbirajo spletna mesta ali aplikacije (n=3.090, skupaj iz osnovnošolskega in srednješolskega vzorca). V obeh raziskavah smo preučevali različne ravni ozaveščenosti glede na demografske dejavnike: ● Starost: z odraščanjem nekoliko narašča ozaveščenost glede podatkov, čeprav se ta trend obrne in mladi po dopolnjenem 18. letu poročajo o nekoliko manjši ozaveščenosti glede podatkov (morda zaradi vse boljšega razumevanja kompleksnosti podatkov, ki se zbirajo o njih). Ne glede na to pa tretjina mladih med 16. in 17. letom še vedno poroča, da ne znajo preveriti, kateri podatki se zbirajo o njih, ne da bi pri tem potrebovali pomoč (glej sliko 11 v prilogi 2). ● Spol: dekleta so poročala o nižji stopnji ozaveščenosti glede podatkov kot fantje, saj je 46 % deklet, 32 % fantov in 35 % nebinarnih mladih oseb navedlo, da bi potrebovali pomoč pri preverjanju, kateri podatki se zbirajo o njih (glej sliko 12). 10 ● Učna uspešnost: mladi, ki so poročali o nezadostnem uspehu v zadnjem šolskem letu, so poročali tudi o slabši ozaveščenosti glede podatkov, vendar pa je 40 % mladih, katerih uspeh je bil od dobrega do odličnega, še vedno navajalo težave (glej sliko 13). ● Družbeni razred: nakazujejo se nasprotni trendi v zaupanju glede na ekonomski položaj in kulturni kapital družin. Mladi, ki doma nimajo lastne otroške sobe, so poročali o nekoliko slabši ozaveščenosti glede podatkov (glej sliko 14), medtem pa so tisti, ki imajo doma manj knjig, poročali o višji stopnji ozaveščenosti glede podatkov (glej sliko 15). Ker gre za kompleksni preplet dejavnikov, mi pa smo zajeli le del podatkov o družinskem ozadju mladih, ki so sodelovali v raziskavi, je potrebno te rezultate previdno interpretirati. ● Dostop do tehnologije: mladi z dostopom do več računalnikov so poročali o višji stopnji ozaveščenosti glede podatkov (glej sliko 16). 11 Upodatkovljenje slovenskih mladostnikov: analiza pogosto uporabljenih digitalnih izdelkov Vrzel v zaupanju in pomanjkanje ozaveščenosti sta še posebej skrb vzbujajoča glede na to, da se upodatkovljenje mladih v Sloveniji že izvaja. Vsak dan se zbirajo podatki o mladih v učilnicah in zunaj njih, kar ustvarja tveganja in povečuje komercialno izkoriščanje. V nadaljevanju raziskujemo upodatkovljenje mladih v šolah in na družbenih omrežjih. Upodatkovljenje v šolah Izdelki, ki se pogosto uporabljajo v šolah po Sloveniji, zbirajo podatke o mladih, čeprav ti podatki pogosto sploh niso potrebni za delovanje opreme oziroma digitalne platforme, z njimi ravnajo na način, ki povzroča nepotrebna tveganja za uporabnike. Analiza pravilnikov o varstvu osebnih podatkov uporabljenih »EdTech izdelkov« v sicer dobronamernih »Priporočilih za opremljenost šol z IKT«, ki so jih pripravili slovenski strokovnjaki,11 kaže, kako priporočene aplikacije uporabljajo piškotke, sledilne pike (angl. tracking pixels) in delijo podatke s tretjimi osebami oziroma organizacijami. 11 Mateja Bevčič idr. 2021. Priporočila za opremljenost šol z IKT: priporočila za uporabo didaktično ustrezne IKT: analiza stanja opremljenosti šol z IKT v izbranih državah EU https://www.dlib.si/details/URN:NBN:SI:doc-FTL6S1TV?=&language=slo 12 Glede na pravilnik o varstvu osebnih podatkov aplikacije:12 ● Aplikacija namešča trajne piškotke. Ti omogočajo aplikaciji, da spremlja, kaj učenec počne na spletu, ko zapusti aplikacijo. ● Aplikacija zbira podatke o lokaciji učenca: »Če v računalniku ali mobilni napravi omogočite pošiljanje informacij o lokaciji, lahko zbiramo in shranjujemo informacije o vaši lokaciji.« ● Aplikacija vgradi piškotek Google Analytics, ki zbira podatke o IP-naslovih učencev in obiskanih spletnih straneh ter jih pošilja Googlu, ki jih hrani na strežnikih v Združenih državah Amerike. Glede na pravilnik o varstvu osebnih podatkov aplikacije:13 ● Aplikacija zbira podatke o lokaciji učencev, vključno z »IP-naslovom, satelitskim signalom, signalom telekomunikacijskega stolpa ali signalom WiFi«. 12 GeoGebra. 2020. GeoGebrin pravilnik o varstvu osebnih podatkov https://www.geogebra.org/privacy 13 Photomath. 2022. Photomathov pravilnik o varstvu osebnih podatkov https://photomath.com/en/privacypolicy/ 13 ● Tretjim ponudnikom omogoča dostop do podatkov o učencih in tem tretjim organizacijam omogoča, da te podatke prav tako delijo – naprej s tretjimi osebami: »Za analizo storitve v svojem imenu lahko uporabljamo analitične storitve tretjih oseb. Ti ponudniki storitev lahko uporabljajo piškotke, spletne svetilnike, poročila o napakah in druge tehnologije za zbiranje informacij o vaši uporabi storitve. Ti ponudniki storitev nam omogočajo zbiranje, spremljanje in analiziranje podatkov . . nekatere samodejno zbrane podatke delimo s temi tretjimi ponudniki storitev.« ● Omogoča Photomathu, da deli podatke o učencih z oglaševalci: »Osebne podatke, ki jih posredujete, lahko razkrijemo . . našim poslovnim partnerjem, na primer oglaševalskim partnerjem.« Glede na pravilnik o varstvu osebnih podatkov aplikacije:14 ● Aplikacija zbira podatke o lokaciji učenca: »Samo fizična lokacija«. ● Aplikacija sme zbirati osupljiv nabor osebnih podatkov: »pravo ime, vzdevek, poštni naslov, edinstveno osebno identifikacijsko oznako, spletno identifikacijsko oznako, IP-naslov, elektronski naslov, ime računa, številko socialnega zavarovanja, številko vozniškega dovoljenja, številko potnega lista ali druge podobne identifikacijske oznake«. ● Aplikacija omogoča oglaševalske piškotke tretjih oseb. Glede na pravilnik o varstvu osebnih podatkov aplikacije:15 ● Uporablja piškotke za sledenje Google Analytics. »Uporabljajo se za pošiljanje podatkov o obiskovalčevi napravi in njegovem vedenju v Google Analytics. Sledijo obiskovalcu v različnih napravah in tržnih kanalih.«16 ● Zbirati in hraniti sme biometrične podatke, vključno s profilnimi slikami. 14 Wolfram. 2022. Pravilnik o varstvu osebnih podatkov https://www.wolfram.com/legal/privacy/wolfram/ 15 Moodle. 2022. Izjava o varstvu osebnih podatkov https://moodle.com/privacy-notice/ 16 Moodle. 2022. Pravilnik o uporabi piškotkov https://moodle.com/cookies-policy/ 14 Glede na pravilnik o varstvu osebnih podatkov aplikacije:17 ● Prizadeva si za čim manjši obseg zbiranja podatkov: »Plickers si prizadeva zbirati čim manj osebnih podatkov o učencih. Te podatke uporabljamo izključno za zagotavljanje in izboljševanje svojih storitev.« ● Aplikacija zbira podatke o lokaciji učenca: »Ko dostopate do storitev, lahko tudi mi dostopamo, zbiramo, spremljamo in/ali na daljavo shranjujemo podatke o lokaciji vaše naprave. Te podatke o lokaciji lahko pridobimo iz vašega IP-naslova ali iz GPS-funkcij vaše mobilne naprave.« ● Aplikacija uporablja piškotke in sledilne slikovne pike, ki aplikaciji omogočajo, da spremlja, kaj učenec počne na spletu, ko zapusti aplikacijo, in sicer zato, da »nam omogočajo anonimno spremljanje vzorcev spletne uporabe storitev«. V času pandemije so bile po vsej Sloveniji uporabljene tudi številne aplikacije za izvajanje pouka na daljavo komuniciranje – dopisovanje, videoklice idr. Čeprav so bile ključnega pomena za zagotavljanje nadaljevanja pouka, ko so učenci ostali doma, je preiskava organizacije Human Rights Watch18 (HRW) odkrila tudi dva izdelka, ki sta izvajala oziroma omogočala pridobivanje in obdelavo podatkov o uporabnikih v komercialne namene. 17 Plickers. 2020. Pravilnik o varstvu osebnih podatkov https://help.plickers.com/hc/en-us/articles/1260804063769-Privacy-Policy 18 Human Rights Watch. 2021. Kako si drznejo gledati v moje zasebno življenje? https://www.hrw.org/report/2022/05/25/how-dare-they-peep-my-private-life/childrens-rights-violations-governme nts 15 ● V preiskavi HRW je bilo ugotovljeno, da aplikacija Zoom zbira natančne podatke o lokaciji učenca, čas trenutne učenčeve lokacije, zadnjo znano lokacijo, grobo lokacijo in WiFi BSSID. ● Preiskava je pokazala, da ta aplikacija zbira tudi podatke o stikih učencev (tj. telefonski imenik), vključno z njihovimi shranjenimi profilnimi fotografijami, ter učenčevo telefonsko številko in dnevnike klicev. ● Preiskava je pokazala, da je Zoomov pravilnik o varstvu osebnih podatkov zavajajoč in ne razkriva zbiranja podatkov o natančni lokaciji učenca, telefonske številke in dnevnikov klicev ter informacij o stikih, vključno s shranjenimi fotografijami. ● V preiskavi HRW je bilo ugotovljeno, da ta aplikacija zbira natančne podatke o lokaciji učenca, čas trenutne lokacije učenca, zadnjo znano lokacijo, grobo lokacijo in WiFi BSSID. ● Preiskava je pokazala, da ta aplikacija zbira tudi podatke o stikih učencev (tj. telefonski imenik), vključno z njihovimi shranjenimi profilnimi fotografijami, ter dnevnike klicev učencev. Razen spletnih učilnic Moodle, ki jih ponuja Arnes, nobeden od teh izdelkov – kolikor smo jih uspeli najti – svojih pravilnikov o varstvu osebnih podatkov ne nudi v slovenščini, kar še dodatno vzbuja skrb glede narave obveščenega soglasja za mlade uporabnike. Pomisleki glede upodatkovljenja se pojavljajo tudi zunaj šole, ko mladi uporabljajo aplikacije za preživljanje prostega časa in igro. 16 Upodatkovljenje prek družbenih omrežij Raziskava Medijski repertoarji mladih: Socialni, politični in kulturni aspekti digitaliziranega vsakdana19 je preučevala tudi, kako mladi uporabljajo družbena omrežja glede na platformo. Mladi iz osnovnih in srednjih šol so morali s seznama 17 možnosti izbrati svoje najljubše aplikacije in platforme. Kot najljubše aplikacije slovenskih osnovnošolcev in srednješolcev so bile opredeljene aplikacije Snapchat, Instagram, TikTok in YouTube. Če odmislimo njihovo veliko priljubljenost, vse te aplikacije zbirajo ogromne količine podatkov o mladih uporabnikih. V najbolj priljubljenih aplikacijah je bilo v povprečju nameščeno 2,8 sledilnika podatkov, za delovanje pa so zahtevale 47,6 dovoljenj v telefonu (glej sliko 20). Med sledilniki podatkov najdemo Googlovo orodje Firebase Analytics, ki spremlja, kaj si uporabniki ogledujejo, in lahko te podatke da na voljo Googlu, tudi če mladi ne uporabljajo Googlovih izdelkov (npr. na Snapchatu ali TikToku), ter orodje Facebook Analytics, ki Facebooku prav tako omogoča dostop do dejavnosti uporabnikov v drugih aplikacijah in njihovo sledenje. »Dovoljenja« so zahteve aplikacije za dostop do potencialno občutljivih podatkov iz telefona. Ko na primer uporabnik namesti aplikacijo TikTok, ima aplikacija dovoljenje za dostop do uporabnikove fizične lokacije, seznama stikov v telefonu ter podatkov in vpisanih dogodkov v koledarju. Vključitev sledilnikov in obsežnih dovoljenj v telefonih omogoča skoraj popoln nadzor spletnega vedenja mladih in ustvarjanje obsežnih, povezanih podatkovnih zbirk o dejavnostih mladih (za več podrobnosti glej sliko 21 v prilogi 3). 19 Univerza v Ljubljani, Fakulteta za družbene vede in Pedagoška fakulteta, 2022, Medijski repertoarji mladih: Socialni, politični in kulturni aspekti digitaliziranega vsakdana (ARRS J5-2564): spletna anketa je bila za osnovnošolce dostopna od 10. marca do 24. junija 2022, za srednješolce pa od 13. aprila do 24. junija 2022, zadnji vnos je bil 23. junija 2022. Več informacij o raziskavi je na voljo na spletnem mestu medijimladih.si 17 i Slika 20: Število sledilnikov in dovoljenj, ki jih zahteva najnovejša različica vsake aplikacije v operacijskem sistemu Android. 20 20 Kot je to dokumentirala organizacija Exodus Privacy https://exodus-privacy.eu.org/en/ 18 Kakšne so zahteve mladih glede ravnanja z njihovimi podatki: izsledki delavnic o idealnih pravilih za varstvo osebnih podatkov Na delavnicah ozaveščanja o odgovorni rabi digitalnih izdelkov Gajin splet, ki so potekale med septembrom 2022 in januarjem 2023, je sodelovalo več kot 15.000 mladih – pretežno osnovnošolcev iz vse Slovenije. Na delavnicah so raziskovali vprašanje zasebnosti mladih, njihovega podatkovnega oziroma digitalnega odtisa in načinov, kako bi lahko na spletu ohranili varnost in zasebnost. Na delavnicah smo mlade vprašali, kaj je po njihovem mnenju potrebno za zagotavljanje boljše zasebnosti v digitalnem svetu. Zlasti smo prosili za njihove predloge o tem, kakšna bi morala biti »pravila« za ravnanje s podatki mladih. Podanih je bilo 321 različnih predlogov, ki smo jih strnili v 17 ključnih zahtev za odločevalce – regulatorje, oblikovalce politik in druge strokovnjake, pristojne za uresničevanje pravic mladih v digitalni družbi: 1. Omejitev količine podatkov, ki se zbirajo o mladih, in prikrivanja tega zbiranja. Najpogostejši predlog je bil, naj se o mladih zbira manj podatkov in naj se jih posreduje manjšemu številu ljudi ter organizacij. Predlogi so segali vse od »da ne bi bili vidni, ko smo aktivni«, da bi imeli »možnost izbire prijateljev, ki lahko naredijo posnetek zaslona naše objave«, do »da nam v aplikacijah ne bi bilo treba navajati osebnih podatkov«. Kot posebej pomembni za mlade so se izkazali podatki o lokaciji, pri čemer so mladi zahtevali manj zbiranja podatkov o lokaciji ali manj natančne podatke o lokaciji. Predlogi so segali od »preprečiti sledenje lokaciji« do »imeti možnost zagotavljanja različnih podatkov o lokaciji«. 2. Boljša varnost podatkov. Mladi so zaskrbljeni zaradi vdorov in pomanjkljive kibernetske varnosti, zato so predstavili veliko predlogov, od »zahteve po zapletenem geslu« do »dodatne zaščite z geslom, večplastna gesla« do »zasebnih omrežij, VPN«. 3. Skrajšanje časa hrambe podatkov. Tretji najbolj številčni sklop predlogov se je nanašal na hrambo podatkov, saj so mladi izrazili željo, da se podatki, ko ti niso več potrebni, izbrišejo. Konkretni predlogi so se gibali od »Samodejno brisanje zgodovine iskanja na FB, 19 Instagramu in podobnih spletnih aplikacijah« do »Ko se odjavimo, se izbrišejo vsi naši podatki« in »Samodejno brisanje zgodovine po enem tednu«. 4. Odgovornejše moderiranje vsebine. Mladi so bili odločni v želji, da bi bila vsebina, do katere dostopajo prek digitalnih medijev, varnejša in primernejša njihovi starosti. Predlogi so segali od »Prepoved objave videoposnetkov, ki otroke spodbujajo k nevarnim izzivom,« do »Vsebino je treba filtrirati, preden je objavljena na spletu,« in predlogov za boljše moderiranje lažnih novic in lažnih profilov. 5. Več omejitev, tudi starostnih. Številni predlogi so se nanašali na to, da bi bilo treba za izboljšanje varstva osebnih podatkov v digitalnem okolju omejiti ali starostno omejiti nekatere dejavnosti. Konkretni predlogi so segali od zmanjšanja uporabe z »dnevnimi časovnimi omejitvami« ali »omejitvami količine objavljenih videoposnetkov« do boljšega preverjanja starosti in celo enega predloga, da »mlajši od 16 let sploh ne bi smeli uporabljati spleta«. 6. Konec oglaševanja. Predlogov, da bi bilo treba za mlade na spletu odpraviti oglase, je bilo več, in sicer od »prenehajte z oglaševanjem«, »prepovedati bi bilo treba spletne oglase« do 12 različnih zahtev po »YouTubu brez oglasov«. 7. Večja vključenost staršev. Številni mladi so pozvali tudi k večjemu starševskemu nadzoru ali kontroli (čeprav je treba tudi omeniti, da so nasprotno drugi zahtevali zasebnost pred starši). Predlogi so vključevali »obvezno omejitev vseh telefonov v družini« in pozive k večjemu »starševskemu nadzoru«. 8. Več nadzora in možnosti za mlade. Bilo je več predlogov, da bi mladim omogočili več nadzora in možnosti glede tega, kako se njihovi podatki zbirajo, uporabljajo in posredujejo. Mladi so želeli »možnost določanja dovoljenj za objave«, spremembe, da bi se »posnetki zaslona lahko delili le s privolitvijo osebe, ki je vsebino objavila«, in celo predloge za zagotovitev plačljivih različic aplikacij (da bi lahko podatke uporabljali na drugačen način). 9. Več transparentnosti. Mnogi so izrazili zaskrbljenost, da digitalne naprave ali platforme mladim prisluškujejo, in zahtev, da naj se to preneha. Mladi so dejali, da »telefoni in aplikacije ne smejo prisluškovati pogovorom« in da »aplikacije ne smejo obdelovati ali »prisluškovati« vsebini sporočil, ki si jih izmenjujejo prek njih«. 20 Na transparentnost so se nanašale tudi zahteve po zagotavljanju aplikacij z uporabniškim vmesnikom v slovenskem jeziku in transparentnost glede tega, kdaj so se mladi pogovarjali z roboti in ne z ljudmi. Ena mlada oseba je zaprosila tudi za podporo umetne inteligence pri zagotavljanju, da bo uporabnik prebral drobni tisk v pogojih uporabe. 10. Dostopnejše igre za mlade. Bilo je več pozivov, naj se omogoči boljša dostopnost do videoiger. Mladi so na primer želeli »brezplačne igre« ali »več iger, ki bi delovale brez WiFi-povezave«. 1 . Več podpore in pomoči. Mladi so opozorili, da sta pomoč in podpora pogosto težko dostopni, in zahtevali »podporno spletno stran, ki bi bila v pomoč, če ti vdrejo v osebni račun«. 12. Prenehanje prodaje podatkov mladih. V zvezi s tem so bile prošnje mladih jasne: zahtevali so le, »da se podatki ne smejo preprodajati«. 13. Spodbujanje omejevanja uporabe in obdobij »odmora«. Številni mladi si preprosto želijo odmora od digitalnih storitev, zato so predlagali »dnevno omejitev časa« za naprave ali »dan brez telefonov«. 14. Možnost spremembe telefonske številke, povezane z računom. Peščica mladih je predlagala, da bi bilo koristno, če bi bilo mogoče lažje spremeniti telefonsko številko, povezano z računom v družbenih omrežjih. (Možnost spremembe telefonske številke mladim omogoča nadaljevanje dostopanja do računov družbenih omrežij v primeru izgube telefona ali menjave telefonske številke, kar bi domnevno zmanjšalo strah mladih pred potrebo po ustvarjanju novih računov oz. večjemu številu računov družbenih omrežij in s tem povezanim tveganjem vdora). 15. Opismenjevanje za digitalne medije. Peščica mladih je zahtevala več izobraževanja v šolah, zlasti da bi »varna uporaba spleta« postala »šolski predmet«. 16. Več zasebnosti pred neznanci, ki jih nimajo med stiki v telefonu. Podani so bili trije predlogi za omejitev možnosti uporabnikov, ki jih mladi nimajo v svojem imeniku, da torej neznanci ne bi mogli vzpostaviti stikov z mladimi. 21 17. In ne nazadnje, bili so tudi pozivi k aktivnejši udeležbi mladih v razpravah o digitalnem upravljanju in mladih. Bili sta dve prošnji, »da bi bili namesto strokovnjakov in politikov v vlogi odločevalcev otroci«. Slika 22: Predlogi mladih o tem, »kakšna bi morala biti pravila« v zvezi z varstvom osebnih podatkov v digitalnem svetu, skupaj 321 predlogov, o katerih je na delavnicah razpravljajo 15.000 mladih iz vse Slovenije. 22 Zaključek in priporočila V tem poročilu je dokumentiran izrazit primanjkljaj zaupanja med mladimi, ko gre za ravnanje z njihovimi podatki. Več kot tretjina mladih je nezaupljiva do tega, kako digitalne platforme, aplikacije in družbena omrežja ravnajo z njihovimi podatki. Nadaljnja tretjina pa sploh ni prepričana, ali platformam zaupa ali ne. To kaže na krizo zaupanja, saj digitalne platforme, aplikacije in družbena omrežja pri tretjini mladih ne izpolnjujejo pričakovanj glede varstva podatkov. V poročilu so navedene tudi zaskrbljujoče nizke ravni ozaveščenosti glede ravnanja z osebnimi podatki. Več kot tretjina mladih navaja, da ne znajo preveriti, katere podatke o njih zbirajo spletna mesta in aplikacije, ali pa pri tem potrebujejo pomoč. To odpira vprašanja o kakovosti soglasij, ki jih mladi dajejo digitalnim platformam in ki nato tem tehnološkim podjetjem služijo kot pravna podlaga za zbiranje in obdelavo podatkov. Oba dejavnika kažeta na potrebo po regulativni zaščiti. Glede na to, da tretjina mladih v Sloveniji platformam ne zaupa, tretjina pa ne ve, kako sploh preveriti, kateri podatki se o njih zbirajo, je od mladih neustrezno zahtevati, naj sami skrbijo za svojo digitalno zasebnost in zaščito svojih osebnih podatkov. Zato morajo pri tem posredovati pristojni državni organi. Potrebni so strogi predpisi, ki jih bodo izvajali ter nadzirali pooblaščeni regulatorji in s katerimi bo zagotovljeno, da bodo mladi lahko uresničevali svojo pravico do zasebnosti in varnosti svojih podatkov. Nenazadnje so ta pričakovanja skladna z uveljavljenimi mednarodnimi standardi uresničevanja otrokovih pravic. Splošni komentar ZN št. 25 o otrokovih pravicah v digitalnem okolju, katere podpisnica je tudi Slovenija, od držav zahteva, da ukrepajo in zaščitijo zasebnost otrok in njihove pravice na področju osebnih podatkov: Države pogodbenice morajo sprejeti zakonodajne, upravne in druge ukrepe, s katerimi bodo zagotovile, da bodo vse organizacije in vsa okolja, ki obdelujejo podatke otrok, spoštovali in varovali njihovo zasebnost. Zakonodaja mora vključevati stroge zaščitne ukrepe, preglednost, neodvisen nadzor in dostop do pravnih sredstev. Države pogodbenice morajo zahtevati, da se v digitalne izdelke in storitve, ki zadevajo otroke, vključi načelo vgrajene zasebnosti. Redno morajo pregledovati zakonodajo na področju zasebnosti in 23 varstva podatkov ter zagotoviti, da postopki in prakse preprečujejo tako namerne kot nenamerne kršitve zasebnosti otrok.21 Slovenija je zlasti pozdravila uvedbo teh ukrepov pri komercialnih digitalnih platformah, spletnih straneh in aplikacijah, pri čemer je glede pripombe v času njenega nastajanja zapisala: Menimo, da bi bilo zelo pomembno, da splošna pripomba obravnava tudi vlogo medijev in poslovnih subjektov – ponudnikov digitalnih storitev ali digitalnih platform – ter načine, kako tudi oni lahko ukrepajo v zvezi s potencialno škodljivo vsebino in vedenjem.22 Za zaščito pravic mladih je tako v Evropi kot v Sloveniji, ki postaja vse bolj digitalna, ključna stroga zakonodaja. 21 Odbor za otrokove pravice Združenih narodov. General Comment No. 25 (2021) on Children’s Rights in Relation to the Digital Environment CRC/C/GC/25 (Splošna pripomba ZN št. 25 o otrokovih pravicah v zvezi z digitalnim okoljem), odstavek 70, 2021. https://www.ohchr.org/en/documents/general-comments-and-recommendations/general-comment-no-25-2021-chil drens-rights-relation 22 Slovenija, Dokument za razpravo o Splošni pripombi o otrokovih pravicah v zvezi z digitalnim okoljem, 2019 – pripomba Slovenije je na voljo na naslovu: https://www.ohchr.org/en/documents/general-comments-and-recommendations/general-comment-no-25-2021-chil drens-rights-relation 24 Priloga 1. Dodatne informacije o vrzeli v zaupanju Slika 1: Starost udeležencev raziskave, skupaj osnovnošolci in srednješolci (n=3.411) Slika 2: Skupna zastopanost spolov med udeleženci raziskave, skupaj osnovnošolci in srednješolci (n=3.410) 25 Slika 4: Zaupanje glede na starost, samo srednješolci (n=925) Slika 5: Zaupanje po spolu, samo srednješolci (n=947) 26 Slika 6: Zaupanje glede na ocene po lastnem poročanju, samo srednješolci (n=881) Slika 7: Zaupanje glede na to, ali imajo lastno sobo, samo srednješolci (n=863). 27 Slika 8: Zaupanje glede na število knjig, ki jih imajo doma, samo srednješolci (n=851). Slika 9: Zaupanje glede na število računalnikov, ki jih imajo doma, samo srednješolci (n=865). 28 2. Dodatne informacije o vrzeli v ozaveščenosti Slika 11: Sposobnost samostojnega preverjanja podatkov, ki se zbirajo o njih, po starosti (n=3.059). Slika 12: Sposobnost samostojnega preverjanja podatkov, ki se zbirajo o njih, po spolu (n=3.087). 29 Slika 13: Sposobnost samostojnega preverjanja podatkov, ki se zbirajo o njih, po samoocenjeni učni uspešnosti (n=2.880). Slika 14: Možnost samostojnega preverjanja podatkov, ki se zbirajo o njih, glede na to, ali imajo lastno sobo (n=2.875). 30 Slika 15: Sposobnost samostojnega preverjanja podatkov, ki se zbirajo o njih, glede na število knjig, ki jih imajo doma (n=2.844). Slika 16: Sposobnost samostojnega preverjanja podatkov, ki se zbirajo o njih, glede na število računalnikov, ki jih imajo doma (n=2.879). 31 3. Dodatne informacije o upodatkovljenju na družbenih omrežjih Dovoljenje za Dovoljenje za Število Število dostop do Dovoljenje za Aplikacija branje nameščenih Odkriti sledilniki23 zahtevanih podatkov o branje stikov v /platforma dogodkov v sledilnikov dovoljenj natančni telefonu koledarju lokaciji Google AdMob, Google Firebase Analytics, Snapchat 3 59 Da Da Ne Mapbox Instagram 2 Facebook Flipper, Facebook Login 46 Da Da Ne AppsFlyer, Facebook Login, Facebook Share, TikTok 5 73 Da Da Da Google Firebase Analytics, VKontakte SDK YouTube 2 Google AdMob, Google Firebase Analytics 39 Da Da Ne Discord 2 Adjust, Google Analytics 21 Ne Da Ne AppsFlyer, Bugsnag, Facebook Login, Facebook Pinterest 5 25 Da Da Ne Share, Google Firebase Analytics Adjust, Braze, Google AdMob, Google CrashLytics, Viber 6 70 Da Da Ne Google Firebase Analytics, MixPanel Facebook 0 ni podatka 64 Da Da Da Branch, Google CrashLytics, Google Firebase Reddit 4 51 Ne Ne Ne Analytics, Instabug Branch, ComScore, Google AdMob, Google Twitch 6 CrashLytics, Google Firebase Analytics, IAB Open 17 Ne Ne Ne Measure FB Display, Facebook Notifications, Facebook Share, 5 68 Da Da Ne Messenger Google Analytics, Mapbox Google CrashLytics, Google Firebase Analytics, Twitter 4 49 Da Da Ne Metrics, Openback WhatsApp 1 Google Analytics 61 Da Da Ne AppsFlyer, Branch, Bugsnag, Facebook Ads, Facebook Analytics, Facebook Login, Facebook Tinder 11 27 Da Da Ne Share, Google AdMob, Google CrashLytics, Google Firebase Analytics, Tinder Analytics 23 Kot je to dokumentirala organizacija Exodus Privacy https://exodus-privacy.eu.org/en/ 32 Branch, Facebook Ads, Google AdMob, Google Tumblr 7 CrashLytics, Google Firebase Analytics, IAB Open 40 Ne Da Ne Measurement, Smart Anagog, Cedexis Radar, Facebook Analytics, Facebook Login, Facebook Share, Google LinkedIn 8 Firebase Analytics, Microsoft Visual Studio App 32 Da Da Da Center Analytics, Microsoft Visual Studio App Center Crashes Google AdMob, Google CrashLytics, Google Flickr 4 24 Da Ne Ne Firebase Analytics, Snowplow Slika 21: Sledilniki in dovoljenja, ki jih zahtevajo aplikacije in platforme, ki so priljubljene med mladimi. 33 Pobuda za boljšo digitalno Slovenijo Zavod Vsak prizadevanja nadgrajuje v okviru pobude za boljšo digitalno Slovenijo skupaj z inštitutom Državljan D in Inštitutom za kriminologijo pri Pravni fakulteti v Ljubljani. Za več informacij spremljajte vsak.si. Avtorici se zahvaljujeva prof. dr. Tanji Oblak Črnič, da nam je omogočila dostop do podatkov, zbranih v projektu Medijski repertoarji mladih, ki so pomembno doprinesli k raziskavi. Avtorici se zahvaljujeva Anji Sotenšek, Domnu Saviču, Gordani Erdelić, Karmen Kovač in Evi Djaković za pomoč pri izvedbi delavnic. Avtorici se zahvaljujeva Taylor Geese za predloge in Purpose Campaigns za oblikovanje. Avtorici se zahvaljujeva Evi Matjaž za skrbno branje in pripombe za izboljšavo poročila. Avtorici se zahvaljujeva Staši Pisek za lekturo besedila. Avtorici se zahvaljujeva Špeli Levičnik Oblak in Petru Bratuši za sodelovanje pri izvedbi delavnic ob projekcijah filma Gajin svet 2. Avtorici se zahvaljujeva podjetu 3fs in nacionalnemu registru Register.si za podporo pri izvedbi delavnic. Avtorici se zahvaljujeva fundaciji Internet Society Foundation za podporo pri izvedbi te raziskave.