56 Tadej Praprotnik 1 Algoritmična personalizacija kot izziv in premislek (za družbo) Povzetek: Članek se osredotoči na procese algoritmizacije na ravni vsakdanjega življenja in predstavi družbeno-kulturne posledi- ce sodobnih in vse bolj navzočih algoritemskih priporočil. Algori- temska priporočila imajo namreč moč za strukturiranje verjetnosti prihodnjih dogodkov in kreirajo prihodnja delovanja posameznikov. Besedilo predstavi algoritme kot tehnološko infrastrukturo vsakda - njega življenja, ki omogoča in določa verzije sodobne družbenosti in izpostavi družbeno konstruiranost algoritmov. Članek najprej opre- deli algoritme, predstavi tehnološko arhitekturo, na kateri temeljijo algoritmi, in izpostavi različne družbene probleme, ki jih v zadnjem času naslavljamo skozi termin algoritmična personalizacija. Algori- temska priporočila odražajo statistične korelacije in verjetnosti za po- pulacijo (kategorijo), ne pa za posameznika, ki prejema priporočila. Njihova statistična objektivnost in zanesljivost bistveno poenostavlja in hkrati omejuje posameznikovo zaznavanje sveta. Za celovitejše ra - zumevanje sodobnega življenja je nujno obravnavati algoritme kot vsakdanjo sestavino ter razumeti algoritme kot družbeno-tehnično možnost, ki strukturira in oblikuje naše vsakdanje življenje. Ko sprej - 1 Tadej Praprotnik (tadej.praprotnik@fhs.upr.si) je visokošolski učitelj na Fakulteti za humanistične študije Univerze na Primorskem. Je docent za predmetno področje Mediji in komuniciranje. Njegovo delo se osredoto- ča na komunikacijske prakse v okviru digitalnih tehnologij, uporabo teh- nologij, medijsko konstrukcijo realnosti, sodobne identitete in medijski diskurz. Besedilo je razširjena verzija predstavitve, ki jo je avtor imel na 10. mednarodni znanstveni konferenci Alma Mater Europaea »Za člove- ka gre 2022: Etični izzivi digitalne transformacije«. Monitor ISH (2022), XXIV/2, 56–77 Izvirni znanstveni članek Original scientific article 57 Algoritmična personalizacija kot izziv in premislek (za družbo) memo temeljno algoritmičnost življenja in družbe, je to lahko tudi začetno izhodišče za prizadevanje za drugačne algoritme. Ključne besede: komunikacijske tehnologije, algoritmi, perso- nalizacija, upodatkovljenje, potrošniki Algorithmic Personalization as a Challenge and Reflection (for Society) Abstract: The article focuses on the processes of algorithmi- zation at the level of everyday life and presents the socio-cultural consequences of modern, and increasingly present, algorithmic recommendations. Algorithmic recommendations have the power to structure the likelihood of future events and create future actions of individuals. The text presents algorithms as technological infra - structure of everyday life, which enables and defines versions of modern sociality. It presents the social construction of algorithms. The article defines algorithms, introduces the technological archi- tecture on which these algorithms are based, and exposes various social problems that we have recently been addressing through the term algorithmic personalization. Algorithmic recommendations reflect statistical correlations and probabilities for the population (category) but not for the person receiving the recommendations. Their statistical objectivity and reliability significantly simpli- fy, and at the same time limit, an individual‘s perception of the world. For a more comprehensive understanding of modern life, it is essential to treat algorithms as an everyday component and to understand algorithms as a socio-technical option that structures and shapes our daily lives. This can also be the starting point for pursuing different algorithms when we accept the fundamental al- gorithmicity of everyday life and society. Keywords: communication technologies, algorithms, personal- ization, datafication, consumers 58 Tadej Praprotnik Uvod: družbena konstrukcija tehnologij Pri razvijanju novih tehnologij so vselej navzoča različna pri- čakovanja in scenariji, kakšen vpliv bo tehnologija imela na druž - bo. Bo vse bolj robotska prihodnost napravila ljudi odvečne ali bo pomenila razbremenitev od (odvečnega) dela? Vprašanja pogosto predpostavljajo dramatične scenarije, hkrati pa nemalokrat spre- gledajo, da so realizirane smeri tehnološkega razvoja in poznejša uporaba tehnologij vselej posledica družbenih odločevalcev. Reče- no preprosteje: tehnologije se nikoli ne »zgodijo« same, temveč so rezultat (izbranega) razvoja. Tehnologije so družbeno-tehnični sis- temi, v katere so vpisane ekonomske, politične in kulturne motiva - cije. Sodobnejši pristopi zato izpostavljajo, da razvoj tehnologije ni enosmeren, ampak večsmeren proces z različnimi možnimi smer - mi variacij in selekcij, prav ta večsmernost razvoja tehnologije je tudi ključno izhodišče raziskovalnega pristopa z imenom družbena konstrukcija tehnologije. Nekatere uspešne in dobro uveljavljene etape v razvoju tehnologije niso namreč edino nujne in možne, temveč so le bile izbrane (Pinch in Bijker 1993, 28). Ko je tehnologija izbrana in postane prek ideološko-marketin- ških diskurzov družbeno »zaželena«, se za nazaj kreira vtis, da je uresničena verzija tehnološkega razvoja edino logična, skratka povsem »naravna«, da je tehnološki razvoj družbo samoumevno pripeljal do aktualne tehnologije in njene rabe, da je tehnologija vselej rezultat linearnega tehnološkega razvoja. Takšno prepriča - nje zabriše družbene motivacije, ki so prispevale k izboru tehno- logije. Odnos med invencijo tehnologije, konstrukcijo tehnologije, zgodnjimi posvojitelji tehnologije, kasnejšo množično rabo tehno- logije in končnimi učinki ni enodimenzionalen. Izvorne motivacije, zakaj uporabljati tehnologijo in kasnejše dejanske rabe niso nujno identične. Družbene silnice imajo ključen vpliv na tehnološki ra - zvoj in na kasnejšo rabo tehnologije, hkrati imajo družbeni akterji 59 Algoritmična personalizacija kot izziv in premislek (za družbo) odločilno vlogo pri doseganju političnega in širšega konsenza, kaj so prioritete družbe (in posledično, kako uporabljati tehnologije). Bistveno bi zato bilo konsenzualno načrtovanje (tehnoloških) reši- tev za družbene probleme. Dejansko se soočamo z obratnimi procesi, ko politični in ekonomski nosilci moči motivirano ignorirajo večsmerni zna - čaj tehnološkega razvoja in izbrano verzijo razvoja predstavljajo kot edino možno izbiro. Tudi v fazi uporabe se zgodi podobno: ekonomsko »profitabilna« raba tehnologije je običajno izbrana za »uradno verzijo«. Profitabilnost ni kakšna »notranja« lastnost tehnologije, profitabilnost je lastnost družbe; gre za kapitalistič- no družbeno prioriteto. Shoshana Zuboff ilustrira proces preobrazbe večsmernosti rabe tehnologije v nujno izbiro na primeru uradnega poročila Bele hiše na temo velikega podatkovja, kjer je v sklepu zapisano naslednje: »Kakorkoli že, tehnološki trajektorij je jasen: več in več podatkov o posameznikih se bo generiralo in se bo ohranjalo pod nadzorom drugih« (Zuboff 2015, 75). V resnici proces uporabe tehnologije ni enosmeren, še manj nujen; generiranje vse večje količine podatkov o posameznikih je zavestna odločitev. Ker raz - loge za družbene učinke, probleme, procese nenehno iščemo pri tehnologiji, spregledujemo družbeni izvor tehnologij. To je tudi odraz poenostavljenega in v medijih še zelo navzočega prepri- čanja, da problemi izvirajo »v tehnologiji«. Takšna nevarna poe- nostavljanja lahko presežemo tako, da se ukvarjamo s tehnologi- jo in v njenem drobovju poiščemo družbene motivacije. Aktualni primer so zlasti algoritmi, ki so zaradi svoje vsenavzočnosti pos- tali praktično »nevidni«, čeprav izdatno strukturirajo, omogočajo in določajo vsakdanje življenje posameznikov. 60 Tadej Praprotnik Namen in cilji Namen članka je kritična refleksija algoritmov ter analiza »mi- toloških« predstav glede odnosa med družbo in tehnologijo. Teza članka je, da algoritmi kot družbeno-tehnični sistemi v veliki meri odražajo družbene prioritete in motivacije ključnih nosilcev eko- nomske in politične moči. Besedilo s pomočjo analize in interpre- tacije sekundarnih virov predstavi družbeno konstruiranost algori- tmov in njihovo vrednostno nabitost. Zaradi ekonomskih motivacij prihaja do izraza zlasti algoritmična personalizacija kot strategija optimizacije potrošniške izkušnje. Algoritmi kot tehnološka infrastruktura vsakdanjega življenja Osrednja komponenta modernega »pogleda na svet« je po- datkovje, osrednja doktrina sodobne obsedenosti s podatki in kvantificiranjem podatkov pa leži v ideji, da lahko zadosten ob- seg podatkov (zlasti biometričnih podatkov) o osebi in ustrezna moč procesiranja podatkov omogoča kreiranje vse bolj dovrše- nih algoritmov, ki nas poznajo bolje, kot se poznamo sami. Yuval Noah Harari (2017) se v predavanju navidezno naivno vpraša nas- lednje: Kako lahko Facebook ali Google vesta več o nas, kako nas lahko razumeta, če se včasih še sami ne razumemo? Kako lahko vesta, kaj čutimo in celo, zakaj čutimo, kar čutimo? Kakšen je ta »digitalni dvojnik«, ki ga vse bolj uspešno naslavljata? Vzrok za težavno razumevanje sodobnih procesov je »nevi- dnost« ključnih dejavnikov, ki sooblikujejo vsakdanje življenje. Zaskrbljujoč je podatek, da se 61 % Norvežanov slabo ali sploh ne zaveda obstoja algoritmov (Gran idr. 2020, 13) in da je skorajda povsem neraziskano področje razumevanja algoritmov med sve- tovno populacijo (Hargittai idr. 2020, 764–765), navedeni podatki pa lahko odražajo trenutno medijsko in tehnološko (ne)pisme- 61 Algoritmična personalizacija kot izziv in premislek (za družbo) nost, a hkrati ti podatki tudi kažejo sodobno »strast do nevednos- ti« (Salecl 2020). Zaradi slabe vsesplošne reflektiranosti imajo algoritmi izred- no moč sooblikovanja in celo določevanja prihodnjega razvoja, hkrati se načrtno ustvarja prepričanje, da so se algoritmi prepros- to »zgodili«. Algoritmi niso tehnični dodatek, ampak so sodobna infrastruktura vsakdanjega življenja. Vzporedno z uporabo (sple- tnih) komunikacijskih tehnologij se dogaja obsežno in mestoma netransparentno upodatkovljenje. Digitalni podatki niso le in- formacijski dodatek oziroma podatek o posamezniku, ti podat- ki oblikujejo zaznavno in praktično infrastrukturo. Raziskovalci govorijo o tako imenovanih vsakdanjih podatkih (angl. munda- ne data); gre za neopazne, nezabeležene rutine »pod površjem«, ki generirajo podatke. Digitalni podatki, ki se producirajo skozi vsakdanje procese, postajajo aktivni dejavnik, ki oblikuje vzor - ce, načine, scenarije vsakdanjega delovanja (Pink idr. 2017, 1, 10). Komunikacijska infrastruktura in aplikacije zato niso le avtomati- zirani posredniki med posamezniki, ampak vzpostavljajo in obli- kujejo možne verzije družbenosti in tipe komuniciranja. Določajo nam načine, kako izvajamo prakse. Ključno vprašanje posledično torej ni, ali je človeška ljubezen še vedno dovolj različna od »hla - dnih« strojev, temveč je temeljno vprašanje (in spoznanje), kako je človeška ljubezen že danes zasnovana in odvisna od določenih tehnoloških sistemov in naprav. Človeško in nečloveško ni mo- goče več tako preprosto razločevati, tehnične naprave postajajo označevalci pomenov, ki sodelujejo v evoluciji življenjskega sveta (Mackinnon 2016, 10). Algoritmičnost vsakdanjega življenja naj - laže ozavestimo, če se zazremo v same prakse. Sodobnega življe- nja si denimo skorajda ne moremo predstavljati brez algoritem- skih priporočil. Čeprav algoritmi skozi priporočila posameznike tudi omejujejo in jim vsiljujejo »pogled na svet«, so posamezniki 62 Tadej Praprotnik načeloma sprejeli algoritme kot zanesljive soodločevalce. Osre- dotočili se bomo na algoritmično personalizacijo. Če iščemo glasbene videoposnetke na platformi YouTube, mo- ramo vselej opraviti nekaj iskalnih vnosov, da se YouTube »privadi« na naš glasbeni okus. Platforma potrebuje nekaj kvalitetnih podat- kov, torej iskalnih vnosov in klikov, nato začne ponujati »pravilne« predloge. Čeprav govorimo o YouTubu, se odločilni procesi dogajajo v drobovju YouTuba, govor je o algoritmih. Naše vsakdanje življenje je dopolnjeno in regulirano z digitalnimi, pametnimi napravami. Po Kitchinu digitalne naprave in omrežene sisteme podpira programska oprema (angl. software), ki je v osnovi sestavljena iz algoritmov: gre za »nize opredeljenih korakov, strukturiranih za procesiranje navodil/podatkov, ki proizvedejo izid« (Kitchin 2017, 14). Na algoritme smo prenesli različne vsakdanje prakse, kot je iskanje in vrednotenje informacij, sprejemanje odločitev, predlaganje optimalne poti vožnje. Glagol »googlati« ne aludira le na korporacijo Google, temveč pomeni združevanje algoritemske storitve in same aktivnosti (Willson 2017, 139–140). Algoritmi so torej »neuporabni«, če jih ne oskrbimo s kvalitetnimi podatki: »Algoritmi so inertne, nesmiselne naprave, dokler niso povezani z zbirkami podatkov, na katerih delujejo« (Gillespie 2014, 169). Algoritmi postajajo tehnološka infrastruktura vsakdanjega živ - ljenja, dostavljajo vse bolj profilirane in prilagojene podatke in pro- dukte, popravljajo jezikovne napake. Vse več operacij, odločitev in izbir se delegira na algoritme, ki svetujejo ali celo odločajo, kako naj interpretiramo podatke in za kakšna dejanja naj se odločamo (Mittelstadt idr. 2016, 1). Navedene sposobnosti kažejo na njiho- vo vrednostno nabitost, ki jo specificirajo razvijalci algoritmov, dokončno »optimizirajo« pa uporabniki s svojimi motivacijami, ki privilegirajo določene vrednote. Algoritmi niso tehnološki do- datek, ampak v temelju določajo in oblikujejo naše razumevanje 63 Algoritmična personalizacija kot izziv in premislek (za družbo) sveta. Algoritmi imajo performativno razsežnost, saj povzročajo in usmerjajo potek dogodkov. Čeprav naj bi algoritmi zmanjšali pristranost in subjektivnost, pa njihova vpisana vrednostna dimen- zija celo krepi tradicionalne patologije in družbene neenakosti (Ki- tchin 2017, 18–19). Algoritmi kot artefaktna realnost strukturirajo načine družbe- nosti in kot družbena dejstva (Durkheim 1966) tudi omejuje de- lovanje posameznikov, toda njihova »prisilna moč« je posamezni- kom tudi nenavadno »domača«, posameznikom je veliko do nje. Navkljub prisilnemu značaju algoritmi zagotavljajo specifičen hu- man touch. Algoritmi nas poznajo bolje, kot poznamo sami sebe, saj beležijo in ne pozabijo naših digitalnih sledi. Posamezniki po- zabijo slabe odločitve in ponavljajo napake, algoritmi imajo bolj - ši, zlasti pa celovit spomin. Algoritmi ne računajo le »za nazaj«, temveč vse bolj računajo »za naprej«, anticipirajo posameznikova prihodnja delovanja. Problem algoritmizacije in upodatkovljenja se je začel pred dobrim desetletjem, s procesi vse bolj sistematičnega zbiranja podatkov. Shoshana Zuboff poimenuje to novo obdobje s terminom nadzorovalni kapitalizem (angl. surveillance capita- lism), njegova implicitna logika pa se reproducira skozi mehaniz - me upodatkovljenja in kvantifikacije. Posameznikove digitalne sledi se namreč po eni strani nenehno beležijo, na podlagi zbra - nih podatkov pa se modificirajo in optimizirajo profili sedanjega in prihodnjega obnašanja potrošnika, sama individualnost po- sameznika pa vzporedno izgineva (Zuboff 2015, 75). Procesov se je javnost prvič močneje zavedela leta 2009, ko je predstavnik korporacije Google Eric Schmidt v intervjuju prvič jasneje izpo- stavil, da Google hrani posameznikovo zgodovino poizvedb, ki so lahko na voljo drugim institucijam: »Če nočeš, da ljudje izve- do nekaj o tebi [...], morda tega sploh ne bi smel početi. A če res 64 Tadej Praprotnik potrebuješ takšno zasebnost, se moraš zavedati, da iskalniki z Googlom vred te informacije ohranijo za nekaj časa« (Newman 2009). Postalo je jasno, da je naše spletno življenje lahko predmet načrtnega beleženja. V izjavi so zelo pomenljivo zakriti dejanski družbeni akterji; omenjeni so le iskalniki. Državljani bi se morali zavedati, kako skozi lastno potrošnjo informacij (digitalne sledi) hkrati tudi produciramo svojo lastno prihodnost. Algoritmi kot družbeno-tehnični sistem Delovanje algoritmov je za povprečnega uporabnika relativno nejasno. Uporabniki običajno razumejo algoritme in podatke kot nerazdružljivo enoto, kot delovni aparat. V analitične namene loču- jemo med algoritmi kot »navodili za računanje« (pravila, nevronske mreže) in tistim, kar je vhod v algoritem, torej samimi podatki. Ker algoritmi procesirajo podatke, imajo tako kot drugi tipi procesiranja podatkov omejitve: izhodni podatki (angl. output) ne morejo nikoli preseči vhodnih podatkov (angl. input). S slabimi podatki bo algo- ritem kreiral tudi slabe izhodne podatke (angl. garbage in, garbage out), algoritemski zaključki so lahko zato le v tolikšni meri zanesljivi (in nevtralni), kot so zanesljivi podatki, na katerih temeljijo zaključki (Mittelstadt idr. 2016, 4–5). Ker kot družba živimo v obdobju »kulta informacij«, se posledično osredotočamo zlasti na obseg informacij, ne pa na moč in raznovrstnost informacij. Temeljni organizacijski principi so namreč ideje, denimo ideja »Vsi ljudje smo enakopravni«, ki že več stoletij poganja družbene spremembe (Roszak 1986). Težavno razumevanje algoritmov je tudi posledica netranspa - rentnosti, saj je dostopnost do informacij o delovanju algoritmov včasih načrtno omejena (Mittelstadt idr. 2016). Številni uveljavlje- ni algoritmi, ki (pre)oblikujejo posameznikovo delovanje ali razne storitve za potrošnike, se običajno razvijajo v razvojnih okoljih, al- goritmi pa so pogosto edina strukturna prednost pred konkuren- 65 Algoritmična personalizacija kot izziv in premislek (za družbo) co. Lastniki algoritmov načeloma ne razkrivajo svoje intelektualne lastnine, tudi če zavezo o molčečnosti potrdimo s sporazumom o nerazkrivanju informacij (Kitchin 2017, 20). Razkrivanje struktu- re algoritmov bi lahko omogočilo njihovo zlorabo in manipulacijo (angl. gaming the system), tehnološko neizkušenim uporabnikom pa razkrivanje informacij ne prinaša nobene koristi (Mittelstadt idr. 2016, 6). Veljalo pa bi ozaveščati javnost, kako algoritmi določajo po- trošniške prakse; poznamo skupinsko filtriranje (angl. collaborative filtering), ko algoritem podatke o predhodnih nakupih in poizvedo- vanjih uporabi za oblikovanje primernih priporočil za prihodnje na - kupovanje. Algoritem si pomaga s statistično metodo za primerjavo množic (Jaccardov indeks); na podlagi izmerjenih razlik oziroma podobnosti med strankami glede nakupovalnih navad in na podla - gi stopnje podobnosti »okusa« priporoča nadaljnje nakupe (Holmes 2019, 98–100). Poznan je tudi Googlov algoritem PageRank, ki rangi- ra prikazane spletne strani glede na njihovo ustreznost, s preračuna - vanjem določa verjetnostno porazdelitev za celoten splet (Holmes 2019, 67–68). Ozaveščenost javnosti lahko krepijo študije o načinih Googlovega zbiranja podatkov. Ta si je s svojo večletno »prijazno« strategijo ponujanja zastonjskih storitev (YouTube, Google Docs, Google Maps) zagotovil sistem za zbiranje natančnih informacij o obnašanju posameznikov (Schmidt 2018, 2–3). Algoritmična personalizacija Zasebnost posameznika postaja vprašljiva in fluidna; v zadn- jih desetletjih se je začelo celo »trgovati« z razumevanjem pojma zasebnost. Zasebnost v sodobni družbi ni več absolutna pravica; njen status se je relativiziral. Zasebnost se je preobrazila v prilagodljivo kvantiteto z različnimi vrednostmi za posameznike, države, podjetja. Zasebnost je postala menjalna dobrina oziroma kapital; lahko se zamenja za določen obseg storitev ali stopnjo udobnosti. Državljan 66 Tadej Praprotnik oziroma potrošnik v zameno za udobje ali priročnost žrtvuje nekaj svoje zasebnosti (Leman-Langlois 2008, 112). Svoje podatke »prodaja« prek bančnih in potrošniških kartic, na potrošniških karticah zbira »pike«, kartica omogoča popuste in nagrade, v zameno za te ugodnosti pa dovoli trgovcem zbirati podatke o svojem obnašanju za nadaljnje profiliranje in personalizacijo. Čeprav se v javnem diskurzu veliko govori o zasebnosti, pa se z razvojem tehnologij praviloma pojavljajo le bolj raznolike verzije nadzorovanja. Platforme družbenih medijev, namenjene uporabi s pomočjo mobilnih pametnih telefonov, običajno temeljijo na tem, da uporabniki delijo z drugimi uporabniki različne osebne informacije, to pa postavlja tudi vprašanje, kako uporabniki upravljajo norme in razumevanje zasebnosti in nadzora. Humphreys izpostavlja tri vrs- te nadzorovanja. Prostovoljno oziroma »participatorno« nadzoro- vanje obstaja takrat, ko posamezniki zavestno sodelujejo v procesu spremljanja lastnega obnašanja, ta tip nadzorovanja temelji na po- trošniški družbi, posamezniki prostovoljno sodelujejo, ker menijo, da imajo od tega korist (Humphreys 2011, 577). Humphreys (ibid., 590–591) izpostavi še lateralno nadzorovanje (vzajemno spremljan- je oziroma nadzorovanje uporabnikov družbenega omrežja) in sa - monadzorovanje (ko uporabniki zabeležijo svoje lastne aktivnosti za kasnejšo uporabo ali kot evidenco lastnih aktivnosti). Potrošnikovo zanimanje za produkt, morebitni pomisleki ali odpori ter zabeležene digitalne sledi skozi algoritemske modele tako kreirajo napovedi, izračunane korelacije določajo verjetnosti in prognoze prihodnjega obnašanja potrošnika. Takšno napove- dno trženje (angl. predictive marketing) temelji na njihovi obljubi vse boljšega individualiziranega poznavanja potrošnika (Kotras 2020, 2). Če so bile tržne raziskave nekoč omejene na identifikaci- jo družbenih skupin in njihovih potrošniških vzorcev, »novo fazo kvantifikacije odlikuje časovna in prostorska razširitev na nepretr - 67 Algoritmična personalizacija kot izziv in premislek (za družbo) gano in vsepovsodno avtomatizirano spremljanje posameznikove internetne dejavnosti, ki omogoča korporacijam izdelavo individu- alnih uporabniških profilov, ‚digitalnih dvojnikov‘ in upravljanje z njimi.« (Splichal 2019, 7). V pogojih kvantificirane in upodatkovljene »razosebljenosti« se paradoksno krepi marketinško motiviran ideološki mehanizem kreiranja »pristnosti« in »domačnosti«; tudi če nam algoritem ne ponudi povsem ustreznih priporočil, se nam vseeno skuša »pribli- žati«. Algoritmi nam sicer resda določajo, razvrščajo in omejujejo izbire, toda ta omejevanja so jezikovno preokvirjena v izraz pripo- ročila, ki so namenjena »prav nam«. Če bi namreč algoritmi zgolj omejevali, vsekakor ne bi bili tako uspešni in tu lahko iščemo ana - logije z razumevanjem oblasti: »Če bi bila oblast zgolj represivna, če ne bi nikoli počela ničesar drugega razen tega, da reče ne, mar zares mislite, da bi jo tedaj sploh kdo ubogal?« (Foucault 2008, 121). V priporočilih se posamezniki tudi prepoznajo in odzovejo na njih. Priporočila so namenjena »prav nam« in skozi to interpe- lacijo – prepoznavanje (Althusser 1980, 81–82), skozi ta klic, v ka - terem se prepoznamo kot naslovniki priporočila, postanemo tudi nosilci priporočila, postanemo nosilci v algoritem vpisane ideo- logije. Prepoznavanje v priporočilu je ključno, s tem se vzpostavi tudi »pristnost«. Izpostavljamo torej performativni značaj konstru- iranja posameznikov, ki ne postajamo tisto, kar smo od nekdaj že bili, ampak postajamo tisto, za kar se sami (in z izdatno pomočjo »prav nam« namenjenih algoritemskih priporočil) prepoznavamo. In mesto, kamor pridemo s pomočjo nam namenjenih priporočil, nam je vselej »nenavadno domače«: »Ko se prepoznam v pozivu kot njegov naslovnik, ko ta poziv v meni doseže svoj naslov, tako rekoč samodejno spregledam, da šele skozi to ‚prepoznanje‘ posta - nem tisto, za kar se ‚prepoznam‘« (Žižek 1990, 156). 68 Tadej Praprotnik Personalizacija nikoli ni zares personalna, namenjena posame- zniku, ampak vključuje generalizacijo (Lury in Day 2019, 2). Kvan- tifikacija kot proces preoblikovanja digitalnih sledi v številke in ka - tegorije je statistična posplošitev, zato je tudi personalizacija vselej zgolj delna. Personalizacija je tako obljuba emancipacije od stati- stičnih kategorij kot tudi grožnja naši zasebnosti, saj pogosto im- plicira nadzor (Kotras 2020, 3), zato jo razumejo kot »algoritmično manipulacijo potrošnikov« (Darmody in Zwick 2020, 2). Statistična logika je namreč logika raziskovanja značilnosti populacije, ni na - menjena raziskovanju značilnosti posameznika. Če v (množičnih) podatkih najdemo visoko korelacijo (ali celo vzročnost), tak poda - tek opisuje populacijo. Kljub temu pa so algoritemska priporočila usmerjena prav k posamezniku (Mittelstadt idr. 2016, 5). Ananny (2016, 100) tako izpostavlja algoritemsko etiko, in se sprašuje, kdaj, kako in za koga delujejo omreženi informacijski algoritmi? Posa - mezniki se namreč prek upodatkovljenja razvrščajo v statistične kategorije, ki signalizirajo določeno kvantitativno zanesljivost, ta pa povratno odvrača posameznika k raziskovanju alternativnih re- šitev in posledično kreira navidezno koherentnost med sicer raz - nolikimi objekti in raznolikimi posamezniki. Ilustrativen primer je algoritem Google Autocomplete, ki zaključuje posameznikove iskalne poizvedbe, pomaga pa si na podlagi primerjave posamezni- kov z vsebino in posamezniki, ki jih statistično »vidi« kot podob- ne. Taka algoritemska logika seveda »krepi kulturne stereotipe in posameznike odvrača od manj popularnih iskanj« (Ananny 2016, 103). Z upodatkovljenjem »obogaten« digitalni dvojnik je oropan individualnosti. Čeprav naj bi personalizacija zaradi informacijske- ga (pre)obilja izboljšala proces sprejemanja odločitev in posame- zniku ponudila relevantne informacije (Mittelstadt idr. 2016, 9), se ta relevantnost bolj navezuje na statistično pripadnost posamezni- ka kategoriji in ni odraz njegovih lastnih preferenc. Algoritmična 69 Algoritmična personalizacija kot izziv in premislek (za družbo) personalizacija s celovitim beleženjem posameznikovega življenja se tako uporablja za usmerjanje posameznikove pozornosti in za napovedovanje njegovega vedenja (Splichal 2019, 7). Ne gre le za evidentiranje uporabniških preferenc, klikov in všečkov, ki jih upo- rabnik pušča »za seboj«, temveč za hkratno oblikovanje prihodnjih uporabnikovih »zadovoljstev«, ki jih uporabnik naknadno zgolj potrdi in »reificira«. Posamezniki skozi družbeno delovanje torej ne razkrivajo, »kar so«, ampak, nasprotno, skozi lastno družbeno delovanje šele postajajo to, »kar so«. Performativna konstitucija skozi delovanje je tipična althusserovska oziroma, natančneje, aus- tinovska (Austin 1990) pozicija. Posameznikove prakse so v veliki meri performativne; vzpostavljajo realnost, o kateri govorijo in na katero se v svojih praksah »sklicujejo«. S statistično izračunano in optimizirano ponudbo priporočil algoritmi sokreirajo uporabniko- ve prihodnje potrebe, za katere uporabnik naknadno ugotovi, da so povsem njegove. Večja moč izbiranja uporabnika (kaj bo kupil, gledal itd.) je ključna za tržno obvladovanje posameznika, saj nenehno bele- ženje uporabnikovih dejavnosti ustvarja celovito podatkovno realnost za napovedovanje in modificiranje človeškega delovan- ja. Potrošniki pričakujejo relevantnost in tržniki jo skušajo omo- gočiti, zato intenzivno komunicirajo s potrošniki, saj »bližina« omogoča boljši vpogled v potrošnike, bolj relevantne rezultate. Algoritmična manipulacija potrošnikov in potrošniška avtonomija in opolnomočenje se tako zlijeta v eno (Zuboff 2015, 75; Darmody in Zwick 2020, 2). Skozi ponujene algoritemske izbire uporabnik ohranja podobo avtonomije, hkrati pa vse avtomatizirane ponudbe in sugestije delujejo »nenavadno domače«. Kam torej prispe na koncu uporabnik? Ker podatkovno rudarjenje zabeleži celovito »uporabniško izkušnjo« tako na ravni strukturiranih podatkov (kliki, všečki, deljenja), vse bolj pa tudi na ravni nestrukturiranih 70 Tadej Praprotnik podatkov (občutki v okviru analize sentimentov), je oblikovanje prihodnjega potrošnika vse bolj optimizirano; krilatica »algoritem nas pozna bolje od nas samih« postane relevantna. Algoritem ni- koli ne pozabi naših opravljenih klikov in iskanj in je v tej celovi- tosti izdatnejši kot naš lasten spomin. S personalizirano omreženo tehnologijo kot specifičnim »telesnim delom« (pametni telefon) se krepi podoba interaktivnosti in dopolnjuje vtis večje svobode de- lovanja, kar je hkrati strategija sodobnega nadzorovanja in usmer - janja posameznikov. Tehnologija nadzora polaga moč izbiranja v roke uporabnika, zlasti pa platformam, ki spričo algoritemske logike nagrajujejo najpopularnejše vsebine. Stranski produkt algoritemske perso- nalizacije vsebin je tudi polarizacija in krepitev (skrajnih) stališč. Pri načrtovanju platform kot prostora javnega diskurza smo po prepričanju Gillespieja naredili faustovski pakt; skratka nič ni zastonj. V paketu s prosto dostopnimi informacijami smo prejeli tudi brezplačno oglaševanje, prosti participaciji se je kot nasprot- je pridružilo spletno nadlegovanje, deljenju vsebine se je pridru- žilo piratstvo, brezplačne vsebine pa so dobile ustrezen odmev v brezplačni delovni sili (Gillespie 2018, 204–206). Ker rabe tehnolo- gije določajo centri politične in ekonomske moči, je treba raziskati družbene motivacije, ki poganjajo procese. Če se osredotočimo na vprašanje, »kaj povzroča tehnologija?«, razumemo tehnologijo kot avtonomno zunanjo silo, ki preobraža družbo. Iz takega ločevanja tehnologije in družbe se porajajo mitologije: denimo tehnooptimi- zem (= kaj dobrega povzročajo tehnologije) ali tehnopesimizem (= kaj slabega povzročajo tehnologije). V obeh primerih napačno izhajamo iz same tehnologije in predpostavljamo, da je tehnologi- ja ključna transformativna moč: tehnologijo bodisi razumemo kot zdravilo bodisi kot vzrok (sprožilec) družbenih problemov. Algo- ritmi niso vzrok, ki spreminja družbenost, ampak jih je ustrezneje 71 Algoritmična personalizacija kot izziv in premislek (za družbo) obravnavati kot posledico. Algoritmizacija se pogosto motivira - no predstavlja kot »naravna katastrofa«, na katero nimamo (več) vpliva, s tem pa se zlasti zakrivajo družbene motivacije, ki še kako poganjajo sodobne procese: posamezniki ne izgubljajo služb za - radi algoritmizacije, ampak postane algoritmizacija vselej molčeč in prikladen izgovor ali pojasnilo delodajalcev. Prepričanje v moč tehnologij tudi prikrije dejanski izvor družbenih neenakosti; posa - mezniki svojo nezaposlenost denimo pripišejo tehnološko pogo- jenim (povzročenim) racionalizacijam, zato nosilci ekonomske ali politične moči pogosto poudarjajo (avtonomno) moč tehnologij; pogosto so neposredno zainteresirani, da se podrejeni sprijaznijo s tem, da so se »zgodile tehnologije«. Kvantitativna (ne)zanesljivost: kaj upodatkovimo in kaj iščemo v podatkih? Upodatkovljenje pospešuje v družbi že uveljavljen proces kvan- tifikacije, namreč »v številkah izraziti tisto, kar je bilo prej izraženo z besedami« (Desrosières 2016, 184). Kvantifikacija postaja sred- stvo in končni cilj, hkrati se spreminja tudi pogled, kaj iskati in kaj »videti« v podatkih. Če je klasična statistična analiza iskala vzroč- no-posledične odnose med neodvisno in odvisno spremenljivko, se sodobno upodatkovljenje pogosto omeji na evidentiranje infor - macij in na iskanje korelacij, na računanje verjetnostnih napovedi, ki pa nikakor ne zagotavljajo zanesljive vednosti. Visoka korelacija ne pomeni avtomatično tudi vzročne povezanosti, toda algoritmi pogosto izvajajo svoje predloge zgolj na podlagi korelacij (Mittel- stadt idr. 2016, 4). Korelacija ne pove, zakaj se nekaj dogaja, ampak le ugotavlja, da se nekaj dogaja; namesto iskanja vzročnih relacij določa trende, računa verjetnost določenih procesov. Andrejevic (2014, 1679) upravičeno opozarja, da se pojasnjevanje in vzročnost nadomešča s korelacijo in napovedjo. Z upodatkovljenjem in ra - 72 Tadej Praprotnik čunanjem korelacije ne ugotovimo vzroka (in pojasnila) za proces, temveč izračunamo niz verjetnostnih napovedi. Napovedna ana - litika z izračunavanjem verjetnosti dogodka lahko povzroči resne težave, denimo aretira ljudi na podlagi izračunane verjetnosti de- janja, ki ga dejansko niso izvršili. Čeprav obstajajo možnosti odkri- vanja kompleksnih vzorcev v velikih podatkovnih zbirkah, denimo na področju medicine, na področju razumevanja trendov širjenja gripe, pa je povsem mitološko trditi, da lahko veliko podatkovje in izračunane korelacije bistveno pripomorejo k celovitemu razume- vanju sveta (Couldry 2014, 880–897). Čeprav se nekateri podatki zares uporabljajo za namen izboljšanja produktov in storitev, pa Shoshana Zuboff (2019) v svoji odmevni knjigi Doba nadzorovalne- ga kapitalizma opozarja na vzporedne procese; gre za kreiranje na - povednih procesov, ki anticipirajo, kaj počneš danes, kaj boš počel kmalu, in kaj kasneje. Avtomatizirani napovedni procesi ne pozna - jo zgolj našega obnašanja, ampak do določene mere tudi oblikujejo naše obnašanje, zato korporacijam ne zadošča, da avtomatizirajo ponudbo, potrošnjo, pozornost, temveč je cilj, da avtomatizirajo posameznike (ibid., 3–26). Posamezniki postajamo neskončen vir informacij za prihodnje načrtovanje operacij. Dejanski potrošniki nadzorovalnega kapitalizma so korporacije, ki trgujejo na svojih tržiščih za prihodnje obnašanje. V podatkih aktualne korporacije zlasti vidijo optimizacijo potrošništva in posledično maksimizacijo dobičkov. Raba tehnologije skratka odraža zlasti motivacije potroš- niškega kapitalizma. Ker korporacije razumejo posameznike kot potrošnike, se algoritmi uporabljajo za profiliranje potrošnikov in za optimizacijo »potrošniške izkušnje«. Upodatkovljenje bi se lah- ko namesto tega uporabljalo za evidentiranje in profiliranje druž - benih problemov, na področje »državljanske izkušnje«. Podatkov - no rudarjenje bi lahko tu zaznalo obstoječe, zlasti pa prihajajoče konfliktne družbene procese. Namesto na potrošniške bi se lahko 73 Algoritmična personalizacija kot izziv in premislek (za družbo) usmerilo v evidentiranje državljanske izkušnje, v prepoznavanje obstoječih in prihajajočih družbenih problemov in naslovilo vpra - šanje, kako konsenzualno načrtovati (tehnološke) rešitve za prob- leme. Judy Wajcman (2016, 197) upravičeno trdi, da bi lahko postali zahtevnejši glede tega, kakšno tehnologijo želimo in katerim vred- notam in ciljem naj služi tehnologija. Lahko bi torej začeli najprej razmišljati o družbenih problemih, nato pa o tehničnih rešitvah (za te probleme). Ključno družbeno vprašanje je torej: kaj upodatkoviti in kaj iskati/videti v zajetih podatkih? Pri načrtovanju prihodnosti nosilci moči predstavljajo izbra - ne tehnološke verzije (veliko podatkovje) kot nujno posledico ra - zvoja tehnologije, kot da gre za izbire, ki jih opravlja tehnologija, posamezniki pa smo v tem procesu le opazovalci. Dejansko moč upravljanja algoritmov imajo korporacije. Z besedami Marka An- drejevica (2014, 1683), gre za razkorak velikega podatkovja (angl. big data divide), med tistimi, ki »sortirajo«, in tistimi, ki »so sor - tirani«, med prvimi, ki zbirajo podatke in drugimi, o katerih take podatke zbirajo in na katere izdatno vplivajo odločitve prvih. Sklep: naše rabe tehnologije so naša zrcala Predstavljeni problemi niso argument za manj algoritmizacije, za algoritemsko »razstrupljevanje«. Če se ne soočimo z družbenim značajem algoritmizacije, imamo na voljo le nehvaležne izbire: bo- disi afektirano pljuvamo čez njo (ker je je preveč) in jo zgolj po- vezujemo z neko črnogledo prihodnostjo, kjer se vloga zasebnosti in avtonomnosti posameznikov postavlja pod vprašaj, iz tovrstne nemoči pa se posamezniki skušajo izviti z znano strategijo raci- onalizacije in precejšnjo dozo resigniranega cinizma, bodisi se zatekamo v obrambne mehanizme, v zavestno nevednost (Salecl 2020, 177), po načelu »nimam kaj skrivati, če bo koga doletelo, bo doletelo le malopridne«. V obdobju poudarjenega individualizma 74 Tadej Praprotnik je teža izbir in odgovornosti v veliki meri postavljena pred posa - meznika. Svoboda zahteva odgovornost in sposobnost za kritično ocenjevanje informacij, a zdi se, da posamezniki ob težavnem soo- čanju s (pre)obilico informacij z veseljem preložijo odgovornost za svoje odločitve na algoritemska priporočila. Čeprav so algoritmi objektivna realnost, se je vendarle treba zavedati možnosti lastnih odločitev in »priporočil«. Če ohranjamo prepričanje, da so se algoritmi kar »zgodili« (podobno kot naravna nesreča), je to za posameznika in družbo izgovor, slepilni manever, navidezno odpade nekaj krivde in odgovornosti. Posledično pristanemo na mitološko razumevanje tehnologij, bodisi jih razumemo kot zdravilo bodisi kot strup. V resnici rabe tehnologije zgolj odražajo prioritete, ki že obstajajo v družbi. Tehnologije so lahko pospeševalci družbenih procesov, toda sami družbeni procesi (družbena gibanja, protesti) vselej vznikajo v sami družbi, so odraz družbenih antagonizmov. Zdra - vilno bi torej bilo, če kot posamezniki in družba premislimo, kaj so naše prioritete, kakšna »optimizacija« bi koristila družbi, potem pa razvijati (in uporabljati) tehnologijo v smeri konsenzualno določe- nega cilja. Tehnologije nas v nič ne silijo, tehnologije zgolj odraža - jo, kdo smo in v katero smer plovemo. Bibliografija Althusser, Louis. 1980. Ideologija in ideološki aparati države. V Ideologija in estetski učinek, ur. Zoja Skušek-Močnik, 35–100. Lju- bljana: Cankarjeva založba. Andrejevic, Mark. 2014. The Big Data Divide. International Jou- rnal of Communication 8: 1673–1689. Dostopno na: https:/ /ijoc.org/ index.php/ijoc/article/view/2161 (21. oktober 2021). 75 Algoritmična personalizacija kot izziv in premislek (za družbo) Ananny, Mike. 2016. Toward an Ethics of Algorithms: Conve- ning, Observation, Probability, and Timeliness. Science, Tech- nology, & Human Values 41(1): 93–117. Dostopno na: https://doi. org/10.1177/0162243915606523 (17. april 2021). Austin, John Langshaw. 1990. Kako napravimo kaj z besedami. Ljubljana: Studia humanitatis. Carnegie Council for Ethics in International Affairs (2017). Yuval Noah Harari: ‚An algorithm that knows you better than you know yourself‘. Dostopno na: https://www.youtube.com/watch?v=vC4F - tajN_QY (27. oktober 2021). Couldry, Nick. 2014. Inaugural: A necessary disenchantment: myth, agency and injustice in a digital world. The Sociologi- cal Review 62(4): 880–897. Dostopno na: https://doi.org/10.1111/ 1467-954X.12158 (19. maj 2020). Darmody, Aron in Detlev Zwick. 2020. Manipulate to empower: Hyper-relevance and the contradictions of marketing in the age of surveillance capitalism. Big Data & Society 7(1): 1–12. Dostopno na: https:/ /doi.org/10.1177/2053951720904112 (19. marec 2021). Desrosières, Alain. 2016. The quantification of the Social Scien- ces: An Historical Comparison. V The Social Sciences of Quantifi- cation: From Politics of Large Numbers to Target-Driven Policies, ur. Isabelle Bruno, Florence Jany-Catrice in Béatrice Touchelay, 183– 204. Cham: Springer. Dostopno na: https://doi.org/10.1007/978-3- 319-44000-2 (27. oktober 2021). Durkheim, Émile. 1966. The Rules of Sociological Method. New York: The Free Press. Foucault, Michel. 2008. Vednost – oblast – subjekt. Ljubljana: Krtina. Gillespie, Tarleton. 2014. The Relevance of Algorithms. V Me- dia Technologies: Essays on Communication, Materiality, and So- ciety, ur. Tarleton Gillespie, Pablo J. Boczkowski in Kirsten A. Foot, 167–193. Cambridge, Massachusetts, London: The MIT Press. 76 Tadej Praprotnik Gillespie, Tarleton. 2018. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. New Haven, London: Yale University Press. Gran, Anne-Britt, Peter Booth in Taina Bucher. 2020. To be or not to be algorithm aware: a question of a new digital divide? In- formation, Communication & Society 23: 1–18. Dostopno na: https:/ / doi.org/10.1080/1369118X.2020.1736124 (31. maj 2021). Hargittai, Eszter, Jonathan Gruber, Teodora Djukaric, Jaelle Fu- chs in Lisa Brombach. 2020. Black box measures? How to study people’s algorithm skills. Information, Communication & Soci- ety 23(5): 764–775. Dostopno na: https://doi.org/10.1080/136911 8X.2020.1713846 (27. maj 2021). Holmes, Dawn E. 2019. Veliko podatkovje: Zelo kratek uvod. Lju- bljana: Krtina. Humphreys, Lee. 2011. Who’s Watching Whom? A Study of Interactive Technology and Surveillance. Journal of Communi- cation 61(4): 575–595. Dostopno na: https://doi.org/10.1111/j.1460- 2466.2011.01570.x (28. oktober 2021). Kitchin, Rob. 2017. Thinking Critically about and Researching Algorithms. Information, Communication & Society 20(1): 14–29. Dostopno na: https://doi.org/10.1080/1369118X.2016.1154087 (28. oktober 2021). Kotras, Baptiste. 2020. Mass personalization: Predictive marketing algorithms and the reshaping of consumer knowledge. Big Data & So- ciety 7(2): 1–14. Dostopno na: https:/ / doi.org/10.1177/2053951720951581 (27. april 2021). Leman-Langlois, Stéphane. 2008. Privacy as currency: crime, in- formation and control in cyberspace. V Technocrime; Technology, Crime and Social Control, ur. Stéphane Leman-Langlois, 112–138. London: Willan. 77 Algoritmična personalizacija kot izziv in premislek (za družbo) Lury, Celia in Sophie Day. 2019. Algorithmic Personalization as a Mode of Individuation. Theory, Culture & Society 36(2): 17–37. Dosto- pno na: https:/ / doi.org/10.1177/0263276418818888 (28. oktober 2021). Mackinnon, Lee. 2016. Love Machines and the Tinder Bot Bil- dungsroman. E-flux journal 74. Dostopno na: https://www.e-flux. com/journal/74/59802/love-machines-and-the-tinder-bot-bildun- gsroman/ (29. januar 2021). Mittelstadt, Brent Daniel, Patrick Allo, Mariarosaria Taddeo, Sandra Wachter in Luciano Floridi. 2016. The ethics of algorithms: Mapping the debate. Big Data & Society 3(2): 1–21. Dostopno na: https:/ /doi.org/10.1177/2053951716679679 (29. oktober 2021) Newman Jared. 2009. Google’s Schmidt Roasted for Privacy Comments. PCWorld, 11. december. Dostopno na: https://www. pcworld.com/article/184446/googles_schmidt_roasted_for_priva - cy_comments.html (29. oktober 2021). Pinch, Trevor J. in Wiebe E. Bijker. 1993. The Social Constru- ction of Facts and Artifacts: Or How Sociology of Science and the Sociology of Technology Might Benefit Each Other. V The Social Construction of Technological Systems; New Directions in the So- ciology and History of Technology, ur. Wiebe E. Bijker, Thomas P. Hughes in Trevor J. Pinch, 17–50. Cambridge, Massachusetts, Lon- don: The MIT Press. Pink, Sarah, Shanti Sumartojo, Deborah Lupton in Christine Heyes La Bond. 2017. Mundane data: The routines, contingenci- es and accomplishments of digital living. Big Data & Society 4(1): 1–12. Dostopno na: https://doi.org/10.1177/2053951717700924 (29. oktober 2021). Roszak, Theodore. 1986. The cult of information: The Folklore of Computers and the True Art of Thinking. New York: Pantheon Books. Salecl, Renata. 2020. Strast do nevednosti: Kdaj in zakaj ne želi- mo vedeti. Ljubljana: Mladinska knjiga. 78 Tadej Praprotnik Schmidt, Douglas C. 2018. Google Data Collection. New York: Digital Content Next. Dostopno na: https://digitalcontentnext. org/wp-content/uploads/2018/08/DCN-Google-Data-Collection - -Paper.pdf (29. oktober 2021). Splichal, Slavko. 2019. Upodatkovljenje javnega mnenja: od nor - mativne utopije do algoritemske distopije. Javnost – The Public 26(Suplement): 1–22. Dostopno na: https://doi.org/10.1080/131832 22.2019.1696598 (19. februar 2021). Wajcman, Judy. 2016. Anfrande: Pressed for time; The digi- tal transformation of everyday life. Sociologisk Forskning 53(2): 193–199. Dostopno na: https://sociologiskforskning.se/sf/issue/ view/2662 (29. oktober 2021). Willson, Michele. 2017. Algorithms (and the) everyday. Informa- tion, Communication & Society 20(1): 137–150. Dostopno na: https:/ / doi.org/10.1080/1369118X.2016.1200645 (29. oktober 2021). Zuboff, Shoshana. 2015. Big Other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Informati- on Technology 30(1): 75–89. Dostopno na: https://doi.org/10.1057/ jit.2015.5 (29. oktober 2021). Zuboff, Shoshana. 2019. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: Public Affairs. Žižek, Slavoj. 1990. Pripombe k neki razpravi o Heglu. V Ukradeni Poe, 124–180. Ljubljana: Društvo za teoretsko psihoanalizo, RK ZSMS.