Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 622 Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES* DRUŽBENO NESPREJEMLJIVI DISKURZ NA FACEBOOKOVIH STRANEH NOVIČARSKIH PORTALOV** 1 Povzetek. V članku proučujemo značilnosti komentar- jev na Facebookovih straneh najbolj obiskanih novičar- skih portalov v Sloveniji v obdobju 2010–2017. Pri tem se osredotočamo na družbeno nesprejemljivi diskurz (DND) v okviru dveh tem, ki sta v tistem obdobju delili javnost, in sicer na begunsko krizo in pravice LGBT (lez- bijk, gejev, biseksualnih in transspolnih) oseb.. Rezultati kažejo, da je delež komentarjev, ki izražajo DND, visok in stabilen – v obeh temah in vseh treh izbranih medi- jih znaša okoli polovico vseh komentarjev. Med portali so presenetljivo majhne razlike v notranji strukturi in značilnostih tovrstnega komentiranja, izraziteje se raz- likujejo po obsegu in vrsti DND. Ni pa mogoče z gotovo- stjo potrditi prisotnosti organiziranih oziroma poveza- nih komentatorskih kampanj. Rezultati ponujajo enega prvih vpogledov v značilnosti komentatorskega okolja v Sloveniji, časovne dimenzije komentiranja in poveza- nosti med komentatorji. Ključni pojmi: Facebook, novičarski portali, komentar- ji, analiza omrežij, begunci, LGBT Uvod Dobrih 15 let po nastanku Facebooka (FB) in splošnem razmahu druž- benih omrežij smo priča radikalnim spremembam tako v sami perspektivi proučevanja spletnega komuniciranja kot tudi pri novinarstvu in njegovih 1 Raziskava, predstavljena v tem članku, je nastala v okviru temeljnega projekta Viri, metode in orodja za razumevanje, prepoznavanje in razvrščanje različnih oblik družbeno nesprejemljivega dis- kurza v informacijski družbi (J7-8280, 2017–2020) in programske skupine Internetno raziskovanje (P5- 0399), kar financira Javna agencija za raziskovalno dejavnost Republike Slovenije. * Dr. Vasja Vehovar, redni profesor, Fakulteta za družbene vede, Univerza v Ljubljani, Slovenija; Blaž Povž, mag., Nacionalni inštitut za varovanje zdravja, Slovenija; dr. Darja Fišer, izredna profesorica, Filozofska fakulteta, Univerza v Ljubljani in Inštitut “Jožef Stefan”, Slovenija; dr. Nikola Ljubešić, raziskovalec, Institut “Jožef Stefan”, Slovenija; Ajda Šulc, mag., doktorska študentka, Fakulteta za družbene vede, Univerza v Ljubljani, Slovenija; dr. Dejan Jontes, izredni profesor, Fakulteta za družbene vede, Univerza v Ljubljani, Slovenija. ** Izvirni znanstveni članek. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 623 občinstvih. S prvo spremembo imamo v mislih izrazit obrat v proučevanje negativnih vidikov spletnega komuniciranja, ki je sledil prvemu obdobju pretirano optimističnih napovedi o demokratičnih in participatornih poten- cialih (takrat) novih medijev. V tem okviru je posebej tipičen optimističen pogled na koncept interaktivnosti ter njegove potenciale, kar je bilo v sredi- šču raziskovalne pozornosti od začetkov proučevanja interneta (glej Oblak Črnič in Jontes, 2017). Velenzuela in drugi (2019) pa danes ugotavljajo, da je desetletje raziskovanja družbenih omrežij prineslo dve konsistentni ugotovitvi, in sicer da so te platforme postale eden glavnih virov novic o javnih zadevah in da imajo družbeni mediji poleg pozitivnih prispevkov pomembno vlogo tudi v antidemokratičnih procesih in širjenju sovraštva. Z drugo spremembo imamo v mislih tako spremembe pri selitvi medi- jev na družbena omrežja kot spremembe v potrošnji novic, pri čemer se je tako na ravni producentov kot občinstev FB pogosto vzpostavil kot domi- nantna platforma. V zadnjem času tako mediji poleg krovnih spletnih strani množično vzpostavljajo tudi FB-strani, kar izrazito vpliva na način partici- pacije občinstva, saj so se na FB preselile tudi sekcije s komentarji, ki so na spletnem mediju bodisi nadomeščene z vtičnikom za komentiranje na FB bodisi se novica, objavljena na spletnem mediju, ponovi še na odgovarja- joči FB-strani. Westlund in Ekström (2018: 2) tako govorita o redistribuciji moči med novinarstvom in družbenimi omrežji, še posebej zato, ker so se »platforme družbenih medijev vzpostavile kot mesta aktivne participacije občinstva z novicami«. Še občutneje se je spremenil način potrošnje novic, saj raziskave, denimo letno poročilo Reutersovega inštituta za proučeva- nje novinarstva (2019), kažejo, da je tako v ZDA kot v evropskih državah FB z naskokom glavni vir novic, medtem ko plačevanje za spletne vsebine medijev ne narašča. Tudi Su in drugi (2018) so na primeru ZDA pokazali, da so FB-strani medijev s pripadajočimi komentarji postale pomemben del spletne potrošnje novic. Spletno komentiranje se po njihovem mnenju kon- centrira na FB, ker se vedno več medijskih hiš osredotoča na vzpostavljanje spletnih skupnosti na tej platformi, na klasičnih spletnih straneh pa pogosto umikajo sekcije s komentarji. Ravno v tem spremenjenem kontekstu nas zanimajo negativne značil- nosti komentiranja oziroma, kot to imenuje Quandt (2018), temna partici- pacija, ki jo opredeli kot negativne prispevke, od »trolanja« do žaljenja in širjenja dezinformacij. V tem kontekstu v pričujočem članku proučujemo komentatorski ekosistem na FB. Pri tem smo uporabili podatke projekta FRENK (2018), v katerem sta obravnavani dve izbrani temi, in sicer poro- čanje o begunski krizi in pravicah LGBT-oseb. Obe temi sta bili sicer pri nas že izčrpno analizirani, za begunsko krizo glej npr. Bajt (2018), Vezovnik (2018), Luthar (2017) in Jontes (2017), za LGBT pa denimo Kuhar in Švab (2019). Okoli teh dveh tem se je v zadnjih letih razvila tudi obširna javna Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 624 razprava v Sloveniji in širšem evropskem kontekstu. K njeni intenzivnosti sta prispevala predvsem dva kontekstualna dejavnika, in sicer množičen prehod beguncev skozi Slovenijo, posebej jeseni 2015 in na začetku leta 2016, ter referenduma glede porok LGBT-oseb leta 2012 in 2015, ki sta raz- delila volivce na polovico. Obe tematiki sta zato zelo primerni za proučeva- nje negativnih vidikov spletne komunikacije. V tem okviru želimo razširiti razumevanje komentatorskega okolja in s tem prispevati k obravnavi enega ključnih vprašanj digitalnih študij medijev (prim. Eldridge II in drugi, 2019), in sicer, kako razumeti prakse uporabnikov na medijskih platformah onkraj novinarskega institucionalnega nadzora. Na drugi strani želimo s primerjavo z obstoječimi raziskavami komentiranja na spletnih straneh medijev prispevati tudi k razumevanju vpliva arhitekture družbenih omrežij na vključenost in prakse uporabnikov. V nadaljevanju bomo najprej opredelili ključne koncepte, nato pa predstavili raziskovalna vprašanja, metodologijo in analize ter jih umestili v širši teoretski okvir. Spletne strani medijev, temna participacija in afektivno komuniciranje Obstajajo številne raziskave komentiranja na spletnih straneh medijev (prim. npr. Richardson in Stanyer, 2011; Santana, 2015), v kontekstu splet- nih forumov (prim. Petrovčič in drugi, 2012), na Twitterju (prim. Kapidzic in drugi, 2019) in na drugih platformah (npr. YouTube). Tudi literatura, ki proučuje značilnosti komentiranja na FB, je vedno izčrpnejša (prim. Su in drugi, 2018), še vedno pa je – predvsem z vidika komentiranja, interakcij med komentatorji in različnih temnih oblik komuniciranja – nekoliko slabše raziskano vprašanje vzporednih FB-strani medijev, na katere se osredoto- čamo v tem besedilu. V kontekstu družbenih omrežij je s konceptom temne participacije neredko povezan tudi koncept podžigajočega žaljenja (angl. flaming), za katerega Moor in drugi (2010) ugotavljajo, da so njegove definicije in ope- racionalizacije sicer nekonsistentne; večinoma ga opredelijo kot izražanje sovražnosti z uporabo žaljivk, kletvic ali katere drugače napadalne oziroma izzivalne komunikacije. Izpostavijo tudi, da je žaljenje v kontekstu raču- nalniško posredovane komunikacije, katere del so tudi spletna družbena omrežja, pogostejše kot pri osebni komunikaciji. Ker se osredotočamo predvsem na vprašanje temne participacije – torej negativnih komentarjev, sovraštva, žalitev, jeze in celo groženj –, je ključno vprašanje, kakšni so politični in ideološki učinki mediatiziranih emocij ter posledice tovrstnega komentiranja za javno komunikacijo. Kot pokaže Karin Wahl-Jorgensen (2019), družbeni mediji vzpostavljajo in vzdržujejo specifi- čen emocionalni režim oziroma normativne emocije in načine njihovega Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 625 izražanja v javnosti. Avtorica v ospredje postavlja razlikovanje med indi- vidualnimi (telesnimi) emocijami in mediatiziranimi emocijami, ki so dis- kurzivno konstruirane skozi medijske tekste. Predvsem pa je pomembno avtoričino razlikovanje med afektom 2 in emocijami, saj po njenem mnenju šele to omogoča sociološko obravnavo emocij, predvsem pa »razumevanje emocij kot potencialno politiziranih oziroma omogoča politizacijo interpre- tacije telesnih afektov v kontekstu javnega diskurza« (prav tam: 7–8). Ravno mediatizirani emocionalni izrazi so namreč po njenem prepričanju skrbno uprizorjeni z določenim namenom in so temeljno gonilo družbenega in političnega delovanja: »Natančno zato, ker so emocije deloma družbeno konstituirane in globoko prežete z odnosi moči, nam njihova javna artikula- cija – še posebej v mediatiziranem kontekstu – pove veliko več kot to, kako se počuti posameznik: govori nam o kolektivni in družbeni naraciji emocij za širše namene« (Wahl-Jorgensen, 2019: 10). Javno izražanje negativnih in razdiralnih emocij lahko tako spodkoplje širše oblike javnega razpravljanja, čeprav utrjuje vezi znotraj posamezne skupnosti, ki temeljijo na izključujočih identitetah (Wahl-Jorgensen, 2019: 12). Quandt (2018) posledično porast temne participacije uporabnikov spleta povezuje z zadnjim valom populizma v Zahodnih demokracijah, podobno pa Wahl-Jorgensen (2019) poudarja, da populistični obrat, ki smo mu priča, spremlja tudi premik v emocionalni klimi javnega diskurza. Poleg tega tako Massanari (2015) na primeru Reddita kot Ben-David in Matamoros-Fernandez (2016) na primeru FB pokažejo, da je pri družbenih medijih širjenje sovraštva pogosto povezano s tehnološkimi zmožnostmi in politikami teh platform. Massanari (2015) skuša s pojmom »toksičnih tehnokultur« opisati taktike znotraj teh kultur, ki v veliki meri temeljijo na implicitnem ali eksplicitnem nadlegovanju drugih, omogočajo in vzpodbujajo pa jih predvsem omrežja, kot sta Reddit, Twitter, in internetne računalniške igre. Po njenem mnenju toksične tehnokulture izhajajo iz retrogradnih predstav o spolu, seksualnosti, rasi itd., predvsem pa je za njih značilno nasprotovanje raznolikosti, multi- kulturalizmu in progresivim idejam. Navedeni primeri in dejavniki negativne komunikacije neredko prevladajo nad pretirano optimističnimi pričakovanji, ki izhajajo iz koncepta »afektivnih občinstev« (Papacharissi, 2015). Že omenjena longitudinalna študija FB (Su in drugi, 2018) – ki se je osre- dotočala na specifičen vidik temne participacije, in sicer na nedostojnost (angl. incivilitiy) komentarjev v novičarskem okolju – je izpostavila tudi jasne razlike med liberalnimi, konservativnimi in lokalnimi mediji. Rezultati prou- čevanja komentarjev v 18-mesečnem obdobju leta 2015 in 2016 v tej študiji so pokazali, da je v liberalnih medijih bistveno večji delež komentarjev, ki 2 O proučevanju afekta v digitalnih medijih in širše v komunikacijskih študijah glej Döveling in drugi (2018), Lünenborg in Majer (2018) in Hipfl (2018). Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 626 ne vsebujejo nedostojnosti. Med identificiranimi nedostojnimi komentarji pa so redkeje vsebovali ekstremno nedostojne komentarje tisti na porta- lih liberalnih in nacionalnih medijev kot pa tisti na straneh konservativnih in lokalnih medijev, kjer je približno eden od petih komentarjev vseboval vulgarni jezik ali jasno izraženo zlonamernost. Podobno kot v nadaljevanju naša empirična raziskava se tudi omenjena študija ne osredotoča le na en posamezni medij ali komentatorski forum, kar omogoča, da se upošteva več kontekstualnih dejavnikov, ki lahko privedejo do razlik v obsegu nedostoj- nosti. Ben-David in Matomoros-Fernandez (2016) povezujeta vzpon družbe- nih omrežij z vzponom političnega ekstremizma in na podlagi longitudi- nalne multimodalne analize uradnih FB-strani sedmih španskih ekstremno desnih političnih strank med letoma 2009 in 2013 ugotavljata, da sovraž- nega govora in diskriminacijskih praks ne moremo pojasniti le z motivaci- jami in dejanji uporabnikov, pač pa je pomembna tudi politika posameznih platform, predvsem pa tehnološke zmožnosti, ki jih te platforme omogo- čajo. V tem okviru velja dodati, da sodobne platforme omogočajo razme- roma enostavno sinergijo – in celo usklajevanje – negativne komunikacije. Murthy in Sharma (2019) sta npr. proučevala, kako rasistični komentarji in sovražne izjave uporabnikov prehajajo različne ravni komentatorskih mrež na YouTubu. Z analizo omrežij, kvalitativnim kodiranjem in deskriptivnimi metodami sta interpretirala korpus 7.224 komentarjev, ki so jih uporabniki objavili pod pet najbolj gledanih videospotov provokativne glasbene sku- pine Das Racist ter odkrila jasne dokaze o omrežno povezanem rasnem sovraštvu. Podobno so Mihaylov in drugi (2018) na primeru bolgarskega novičarskega portala »Dnevnik.bg« dokazali usklajeno delovanje oziroma manipulacijo komentatorjev. Pomembno vlogo pri razumevanja temne komunikacije na spletu ima tudi vidik moderiranja razprav oziroma komentarjev. Komentiranje je sicer ena izmed najpogostejših oblik sodelovanja širše javnosti na spletu – tako v družbenih medijih kot na novičarskih portalih, kjer uporabnikom ponujajo možnost, da razpravljajo o zadevah, ki jih obravnavajo novice. Pri tem lahko uporabniki izražajo svoja mnenja, dopolnjujejo vsebine, ki jih objavljajo novinarji, se odzivajo na mnenja drugih uporabnikov in podobno. V tem okviru so nadvse pomembne možnosti moderiranja, ki lahko pomembno izboljšujejo kakovost komentarjev. Hille in Baker (2014) tako izpostavljata navodila in smernice spletnih novičarskih portalov, registracijo uporabni- kov, moderiranje komentarjev pred in po njihovi vidnosti drugim uporab- nikom ter funkcionalnosti prijavljanja potencialno spornih komentarjev. Zaradi težavnosti moderiranja komentarjev pa so mnogi novičarski portali možnost (anonimnega) komentiranja na svojih spletnih straneh onemogo- čili in komentiranje premestili na FB, kjer je pravna odgovornost urednikov Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 627 za komentarje uporabnikov bistveno manjša kot pa na spletni strani portala. Omenjena avtorja ugotavljata tudi, da se na spletnih družbenih omrež- jih in konkretneje na FB v primerjavi z možnostjo komentiranja na splet- nih straneh novičarskih portalov zaradi »izgube anonimnosti« komentator- jev kakovost komentarjev praviloma izboljša, zmanjša pa se njihovo število (Hille in Bakker, 2014). Čeprav ni nujno, da uporabniški profili na FB ter z njimi povezani imena in priimki odražajo pravo identiteto uporabnikov, pa avtorja izpostavljata možnost, da so komentarji, ki jih uporabniki oddajo na FB, vidni tudi njihovim prijateljem in znancem, s katerimi so povezani na FB, zato naj bi bili uporabniki spletnih družbenih omrežij previdnejši pri oddajanju negativnih, šokantnih ali kontroverznih komentarjev. V nadaljevanju bomo predhodno obravnavane oblike temne participa- cije (Quandt, 2018: 40) ter različne poglede na ozadja njenega nastajanja – za potrebe empirične analize – strnili in povezali v poenoteno opredeli- tev družbeno nesprejemljivega diskurza (DND), ki bo služila operativnim potrebam zajema, kodiranja in analize podatkov. Družbeno nesprejemljivi diskurz (DND) Uvodoma velja izpostaviti, da v članku kot osrednji objekt proučevanja sicer obravnavamo »komunikacijo«, vendar pa zaradi specifičnega termino- loškega konteksta, ki se je vzpostavil v javnosti, enakovredno uporabljamo tudi oznako »govor«. Pri tem seveda ne gre zgolj za izgovorjene besede, ampak za sopomenko splošne medosebne komunikacije. V tem smislu so se namreč že povsem uveljavili izrazi, kot so svoboda govora, sovražni govor, sporni govor, nesprejemljivi govor ipd. Poudariti velja tudi, da seveda obravnavamo zgolj javno računalniško posredovano komunikacijo. V tem kontekstu DND opredeljujemo kot govor (oziroma komunika- cijo), za katerega je značilna bodisi negativna naravnanost do določene sku- pine ali osebe bodisi prisotnost nepotrebnih negativnih elementov komu- nikacije, ki motijo sporazumevanje ter izmenjavo pogledov in idej. DND se zato razteza od neposrednih in posrednih groženj, žalitev in pozivanja k nasilju do negativnega generaliziranja, stereotipnega obsojanja, obsceno- sti, hujskanja, izzivanja in izražanja nespodobnosti oziroma vulgarizmov. Bistveno pri opredelitvi DND je, da spornost oziroma negativnost komu- nikacije presega osebno prizadetost oziroma občutljivost; poleg tega ima namreč tudi – neposredne ali posredne – negativne družbene posledice, kot so npr. splošna vulgarizacija komunikacije, oteževanje argumentirane razprave, spodbujanje nasilja. Različne družbene skupine in različna spletna mesta imajo seveda raz- lične poglede, kaj je družbeno sprejemljiva oziroma sporna komunikacija in kaj ne; posebej težavno je lahko tovrstno razmejevanje na področju Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 628 umetnosti, polemike ali satire. V ekstremnih primerih, ko je določena komu- nikacija za družbo povsem nesprejemljiva, so države razvile mehanizme za njeno sankcioniranje, omejevanje oziroma preprečevanje. V tem okviru ima posebno mesto tako imenovani sovražni govor. Pri tem imamo v mislih sovražni govor – nesporazumov okoli razumevanja tega pojma je namreč zelo veliko –, kot ga opredeljuje Svet Evrope (Council of Europe, 1997: 7); na tej osnovi pa so ga implementirale tudi nacionalne zakonodaje. Gre za težjo zlorabo pravice do svobode govora, predvsem za agresivno, nasilno ali žaljivo komunikacijo, usmerjeno proti zaščitenim skupinam 3 (npr. etič- nim manjšinam), ki si delijo katero od skupnih lastnosti kot npr. spolno ali etnično pripadnost, religijo, prepričanje ipd. V Sloveniji je odgovarjajoča pravna osnova implementirana v 297. členu Kazenskega zakonika (2008), ki sankcionira javno spodbujanje sovraštva, nasilja ali nestrpnosti proti določenim zaščitenim skupinam. Na drugi strani se lahko svoboda govora – oziroma ekstremne oblike DND – omejuje tudi prek civilnih tožb, ki jih na sodišču sprožajo prizadeti subjekti zaradi razžalitev, obrekovanj ali gro- ženj zoper čast in dobro ime (členi 158–162 in 166 Kazenskega zakonika, 2008), omejuje pa se lahko tudi prek različnih sankcij (npr. globe, zahteva po odstranitvi ipd.) na osnovi zakonodaje s področja medijev ali javnega reda in miru. Poleg zgoraj opisanih ekstremnih primerov DND, ki jih lahko sankcio- nira država s svojimi predpisi oziroma pravosodnim sistemom, je za družbo oziroma njene dele lahko nesprejemljiva ali zelo moteča tudi komunikacija, ki je z zakoni sicer ni mogoče oziroma ni treba sankcionirati, urejajo in sank- cionirajo pa jo interna pravila organizacij, podjetij, društev ipd. V tem okviru se lahko omeji način komunikacije v vseh (virtualnih) prostorih, kjer je naša prisotnost prostovoljna. Na tej osnovi lahko lastniki oziroma upravljalci spletnih mest izvajajo moderiranje razprav na spletu in določeno komuni- kacijo na osnovi svojih internih pravil tudi odstranijo. Dodati velja, da so bili sovražni govor in različne druge oblike DND v slovenskem prostoru sicer že pogosto obravnavani. Izpostaviti velja Dragoš (2007) za sociološko obravnavo, Teršek (2008) za pravno, Bajt (2018) za komunikološko in Milosavljević (2012) za novinarsko. Kot primer empi- rične študije velja izpostaviti Vehovar in drugi (2012), v kateri je bila analizi- rana percepcija sovražnega govora v splošni javnosti. Omeniti velja tudi pre- glede aktualnih vidikov obravnavane problematike, ki jih v svojih poročilih podajajo varuh človekovih pravic, zagovornik načela enakosti ter prijavna točka Spletno oko. 3 V pričujočem kontekstu uporabljamo izraz »zaščitena skupina« kot poenostavitev za označevanje oseb, pri katerih se upoštevajo »zaščitene okoliščine« oziroma »osebne okoliščine« (angl. protected characte- ristics). Ne uporabljamo ga v siceršnjem (običajnejšem) smislu označevanja »zaščitenih manjšin«. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 629 Metodološki pristop Raziskovalna vprašanja V okviru zgoraj zastavljenega vsebinskega okvirja bomo v empiričnem delu skušali odgovoriti na specifična raziskovalna vprašanja: • Kakšni so obseg in oblike ter katere so značilnosti DND v komentarjih na FB? • Kako je pojav DND povezan z vsebino članka in vrsto medija ter h kate- rim tarčam je sovražnost usmerjena? • Ali lahko govorimo o skupinah povezanih komentatorjev, ki so odgo- vorni za DND? Zbiranje in struktura podatkov Empirični podatki so bili zbrani na razmeroma zahteven in kompleksen način. Komentarji na FB so bili pridobljeni oktobra 2017 s FB-strani treh slo- venskih novičarskih portalov: 24ur.com, Nova24TV.si in Siol.net. 4 Izbor treh portalov je bil opravljen glede na podatke strani Alexa.com, ki meri promet na spletnih straneh. Pogoju najvišje obiskanosti smo dodali pogoj, da ima portal tudi aktivno FB-stran, zaradi česar je bil izključen portal RTVSLO.si, ki ima dobro razvit lasten sistem za interakcijo z občinstvom. Dva izbrana por- tala, 24ur.com in Siol.net, lahko uvrstimo med sredinske (angl. mainstream) medije, medtem ko je Nova24TV.si izrazito desno usmerjen medij. Glede na nacionalno merjenje obiskanosti spletnih strani MOSS je dnevni doseg vsakega od omenjenih portalov med 200.000 in 400.000 internetnih uporab- nikov, mesečno pa vsak doseže približno polovico slovenskih uporabnikov interneta (MOSS, 2019). Zbiranje oziroma priprava podatkov je podrobno opisana v Ljubešić in drugi (2019). Na tem mestu izpostavljamo le ključne vidike. V prvem koraku so bile s postopkom podatkovnega strganja pridobljene vse v obdobju zajema podatkov dostopne objave (38.000), skupaj s pripada- jočimi komentarji (268.000), na treh FB-straneh. Pri tem z »objavo« razu- memo FB-povezavo do članka, ki je v osnovi objavljen na portalu, vendar ga je urednik dodal, skupaj z morebitnim podnaslovom ali povzetkom, še na odgovarjajoči FB-strani portala. Glavnina objav je bila iz obdobja med letoma 2013 in 2017. Skoraj polovica objav je iz leta 2017 in le peščica iz 2010, 2011 in 2012, bodisi ker medija takrat še ni bilo (Nova24TV.si) bodisi ker medij na FB še ni prenesel komentatorskih aktivnosti. Seveda pa smo 4 Decembra 2019 je imela FB-stran 24ur.com 225.724 všečkov in 222.080 sledilcev, FB-stran Nova24TV.si 23.164 všečkov in 23.374 sledilcev, FB-stran Siol.net pa 47.256 všečkov in 47.313 sledilcev. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 630 lahko vključili le objave, ki so v času zajema še obstajale in jih avtorji ali FB niso odstranili. V drugem koraku smo se omejili zgolj na dve tematiki: LGBT in begunci. Na podlagi pilotnega ročnega kodiranja je bil razvit algoritem strojnega učenja, ki je objave razvrstil glede na njihovo relevantnost za izbrani temat- ski področji. Cilj je bil vključiti toliko objav, da se doseže približno 5.000 komentarjev za vsako področje, kar zagotavlja kritično količino za učinko- vite postopke strojnega učenja, obenem pa gre za obseg podatkov, ki jih je še vedno možno ročno kodirati glede na tip DND. Algoritem je identificiral 967 objav s 43.000 komentarjev s področja beguncev ter 93 objav s 4.571 komentarji s področja LGBT. Za tematiko beguncev je zadoščalo 30 objav, ki so vključevale 6.545 komentarjev. Kriterij za izbor 30 objav je bila (največja) stopnja relevantnosti za tematiko beguncev, ki jo je pred tem vsaki objavi pripisal algoritem. Objav s tematiko LGBT je bilo manj, zato so bile v analizo vključene kar vse objave (93), skupaj z odgovarjajočimi komentarji (4.571). Komentarji, ki nastajajo kot odziv uporabnikov na FB-objave, so struktu- rirani v niti. Nit (angl. thread) se nanaša na zaporedje povezanih komentar- jev, ki imajo isti začetni komentar. Nova nit se pojavi vsakič, ko nekdo objavi začetni komentar neposredno pod objavo (in torej ne gre za komentar zno- traj že obstoječih niti). V tretjem koraku je komentarje evalvirala in kodirala skupina 32 posebej usposobljenih anotatorjev (Ljubešić in drugi, 2019: 6). Anotatorji so prispe- vali 56.171 anotacij za 6.545 komentarjev na temo beguncev in 37.080 ano- tacij za 4.571 komentarjev o LGBT. V povprečju ima vsak komentar devet anotacij, kar je omogočilo tako preverjanje zanesljivosti kodiranja kot tudi identifikacijo modalne kategorije. Kodiranje oziroma anotiranje je imelo – glede na anotatorje – ustrezno visok koeficient ujemanja (Krippendorf α > 0.66), preverjeno pa je bilo tudi z ekspertno presojo, ki jo je opravil razisko- valec projekta FRENK. Proces kodiranja oziroma anotiranja Proces kodiranja temelji na zgoraj opisanem konceptu DND. Podrobni kriteriji identifikacije DND so bili opredeljeni v navodilih za anotatorje (FRENK, 2018). Pri tem smo DND presojali na osnovi ocene, ali ima določen komentar negativne elemente (nespodoben jezik, žalitve, grožnje ipd.), ki predstavljajo motnjo v komunikaciji ali morda nekoga prizadenejo, hkrati pa raba teh negativnih elementov ne prinaša dodane vrednosti, kar se sicer lahko zgodi v nekaterih specifičnih kontekstih (npr. znanost, umetnost, satira, polemika). Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 631 Pri klasifikaciji glede vrste DND je bila v prvem koraku izvedena presoja, ali gre za negativno usmerjenost proti določenim skupinam oziroma ose- bam ali pa gre zgolj za neprimerno komunikacijo. V prvem primeru se je presojalo, proti komu je komentar usmerjen, nato pa še, ali gre za prisotnost elementov spodbujanja nasilja. Projekt FRENK je v tem okviru razvil lastno terminologijo, ki jo zaradi ujemanja označevanja s primarnimi podatki v celoti ohranjamo, čeprav je včasih nekoliko manj intuitivna (Slika 1). a. Če je določeni DND-komentar usmerjen proti zaščiteni družbeni sku- pini, so anotatorji označili, da gre za »Ozadje«. V drugem koraku je sle- dila presoja, ali komentar pri tem kakorkoli grozi oziroma napoveduje, namiguje, spodbuja ali omenja nasilje (»Ozadje – nasilje«, npr.: »Begunce poslati v koncentracijska taborišča in zapliniti, postaviti zid in postreliti vse, ki pridejo blizu.«) ali pa se vključujejo zgolj druga negativna stališča do zaščitenih skupin, predvsem žalitve, nestrpnost, diskriminacija ipd. (»Ozadje – žalitev«, npr.: »Musliči so majmuni in posiljevalci, sama drhal.«). Dodati velja, da bi lahko v najekstremnejših primerih – in ob izpolnjevanju drugih pogojev (potencialne) kaznivosti – pri tej skupini DND govorili o potencialnem kaznivem sovražnem govoru. b. Če komentar ni bil usmerjen proti zaščitenim skupinam, ampak proti drugim osebam in skupinam (npr. zdravnikom, gasilcem, političnim strankam), so komentar označili kot »Ostalo«. Tudi zanj so preverili, ali ima elemente nasilja oziroma grožnje z nasiljem (»Ostalo – grožnja«, npr. »Tanja, ti si neumna, prišel bom k tebi domov in te pretepel«.) ali pa gre za žalitve in druge negativnosti (»Ostalo – žalitev«, npr. »Tone, kar pišeš, je neumno, nimaš pojma, si bedak in rit usrana.«). V ekstremnih prim- erih je tovrstni DND lahko tudi predmet potencialnih civilnih tožb ali prekrškovnih obravnav. c. Če komentar nima ozadja, ki je usmerjen proti zaščitenim skupinam (a), niti ni usmerjen proti drugim osebam ali skupinam oseb (b), potem gre v primeru DND za »Nespodobni govor« (npr. »Pi*zda«, »Kakšen kreteni- zem«). Kljub temu je moteč in se ga lahko, kot smo že omenili, z internimi pravili moderiranja, ki se od medija do medija seveda razlikujejo, sank- cionira oziroma odstrani. Dodati velja, da se je za komentarje, ki vsebujejo elemente DND in torej sodijo v eno od zgornjih treh kategorij, uporabljala operativna oznaka »Sporni govor«. Če določen komentar ni imel elementov DND, pa je dobil oznako »Ni sporni govor«. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 632 Slika 1: OZNAČEVANJE KOMENTARJEV GLEDE NA VRSTO DND Vir: lastni prikaz. Zgoraj opisana klasifikacija v šest kategorij glede na vrsto DND je bila prva dimenzija presoje oziroma kodiranja komentarjev s strani anotatorjev, ki so poleg tega obravnavali tudi tarčo DND. Tarča je bila kodirana enonivoj- sko v pet kategorij, in sicer (a) neposredno na zaščiteno skupino (LGBT ali begunci), (b) na subjekte, ki so – dejansko ali domnevno – pozitivno pove- zani z obravnavano zaščiteno skupino (predvsem podporniki ali zagovor- niki beguncev ali LGBT), (c) na novinarje ali medij, na (č) FB-komentatorje ter (d) drugo (FRENK 2018). Rezultati Opisne statistike Iz Tabele 1 so razvidne osnovne značilnosti analiziranih objav glede na število komentarjev in uporabnikov (tj. enkratnih komentatorjev) na objavo. Objave, povezane z begunsko krizo, so imele v povprečju 218 komentarjev (največ 1.030 in najmanj 5) in 135 različnih komentatorjev (največ 486 in najmanj 3). Objave, povezane s pravicami LGBT-oseb, pa so imele v pov- prečju 50 komentarjev (največ 409 in najmanj 3) in 33 različnih komenta- torjev (največ 347 in najmanj 2). Omeniti velja, da imajo objave, povezane z begunci, tudi več niti na posamezno objavo. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 633 Tabela 1: OPISNE STATISTIKE ZA ŠTEVILO KOMENTARJEV IN ZA ŠTEVILO UPORABNIKOV NA OBJAVO Begunci objave (N1 = 30) LGBT-objave (N2 = 93) Število komentarjev Število uporabnikov Število komentarjev Število uporabnikov Povprečje 218 135 50 33 Mediana 143 93 19 14 Minimum 5 3 3 2 Maksimum 1030 486 409 347 Std. odklon 235 130 83 55 Vir: lastni prikaz. Nastane lahko vtis, da gre za visoke številke, še posebej, če upoštevamo razmeroma majhno (slovensko) občinstvo in tudi majhen delež uporabni- kov spleta, ki sploh komentirajo novinarske članke. Po podatkih raziskave Slovensko javno mnenje (2019) je namreč na vprašanje: »Kako pogosto na spletu komentirate novinarske članke, novice v registriranih medijih ali avtorske bloge?« skoraj 82 % uporabnikov interneta odgovorilo, da nikoli, slabih 14 % jih komentira zelo redko in le 3,3 % respondentov tedensko ali dnevno. Upoštevati pa je treba, da na število komentarjev vplivajo številni dejavniki. Tako je npr. v raziskavi Richardsona in Stanyerja (2011) bilo na primeru spletnih časopisov iz Velike Britanije povprečno število komentar- jev 19 na objavo, v novejši študiji Slavtcheve-Petkove (2016: 1130) na pri- meru Bolgarije pa povprečno 30. Zaradi različnih kontekstov pa to seveda ni neposredno primerljivo. Podatki kažejo na precej intenzivnejšo javno razpravo ob begunski krizi kot ob LGBT-objavah, kar lahko pojasnimo predvsem z dejstvom, da se je v obdobju nastajanja glavnine komentarjev begunska kriza dnevno uvrščala med najudarnejše novice. Hkrati tudi podatki raziskave Slovensko javno mnenje (2019) kažejo na večjo zaskrbljenost anketirancev glede begunske krize kot glede (domnevno) pretiranih pravic LGBT-oseb, saj je kar 64 % vprašanih izrazilo zaskrbljenost nad begunsko krizo, medtem ko le manjši del vprašanih (42 %) ne podpira poroke istospolnih oseb. Vrsta DND V nadaljevanju smo vsakemu komentarju pripisali modalno kategorijo za vrsto in tarčo DND; gre za kategorijo, ki so jo anotatorji določenemu komentarju pripisali najpogosteje. Na tej osnovi Tabela 2 prikazuje deleže komentarjev glede na vrsto DND za obe temi. Razberemo lahko, da v gro- bem okoli polovica vseh komentarjev, ki se pojavljajo pri obravnavnih dveh vsebinah, sodi v DND; nekoliko večji delež je pri beguncih (58 %) kot pri Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 634 LGBT (46 %). Pri tipu DND izstopajo predvsem žalitve, tako proti zaščite- nim skupinam (»Ozadje – žalitev«) kot proti drugim osebam in skupinam (»Ostalo – žalitev«). Med temama sicer ni velikih razlik glede na vrsto DND, le pri DND z ozadjem izraziteje izstopa tema, povezana z begunci, saj je te vrste DND skoraj štirikrat (»Ozadje – nasilje«) oziroma za polovico (»Ozadje – žalitev«) več kot v primeru LGBT. Nespodobni govor ima v obeh primerih podobno nizek delež, okoli 2 %. Tabela 2: DELEŽ (%) KOMENTARJEV GLEDE NA VRSTO DND Vrsta DND Ni DND. Ozadje –nasilje Ozadje – žalitev Ostalo – grožnja Ostalo – žalitev Nespodob- ni govor Ne vem. Skupaj LGBT 54,1 1,9 19,9 0,8 20,3 2,2 0,7 100,0 Begunci 42,0 7,5 28,1 0,7 18,8 2,0 1,0 100.0 Vir: lastni prikaz. Pri deležu DND v komentarjih ni večjih razlik med tremi analiziranimi mediji, saj so komentarji na Nova24TV.si vsebovali vsaj eno od oblik DND v 57 % primerov, na 24ur.com v 56 % in le nekoliko manj, 47 %, na Siol.net. Med portali tudi ni večjih razlik v številu komentarjev na posameznega komentatorja (povprečje okoli 2) in številu komentarjev v posamezni niti (povprečje med 3 in 4). Poudariti pa velja, da je bilo pri LGBT med skupno 93 objavami kar 64 objav na FB-strani Nova24TV.si (69 %), 17 (18 %) na FB-strani 24ur.com in 12 (10 %) na FB-strani Siol.net. Zaradi razlik v številu niti komentarjev na objavo (in s tem tudi razlik v številu komentarjev na objavo), ki je bilo na Nova24TV. si in na Siol.net (zaradi manjše intenzitete obiskanosti) v primerjavi s 24ur. com bistveno nižje, pa je razmerje med številom vseh komentarjev precej drugačno: Nova24TV.si (41 %), 24ur.com (49 %), Siol.net (10 %). Podobne, čeprav manj izrazite, so razlike oziroma razmerja med portali tudi v primeru beguncev. Tarče DND Tudi pri tarčah je bila vsakemu komentarju pripisana modalna tarča, to je tarča, ki jo je za določen komentar označilo največ anotatorjev. V pregledu tarč velja izpostaviti, da okoli polovica komentarjev ni imela tarče, saj kate- goriji »Nespodobni govor« ali »Ni sporni govor« tarče nimata že po sami defi- niciji. Iz Tabele 3, v kateri so tarče analizirane glede na vrste DND v primeru objav na temo beguncev, je razvidno, da so bili v primeru ozadja (»Ozadje – nasilje« in »Ozadje – žalitev«) pri beguncih komentarji praviloma uperjeni neposredno na begunce, v primeru ostalega DND pa so bili v večjem obsegu usmerjeni tudi proti komentatorju. Znotraj kategorije »Ostalo – grožnja« Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 635 oziroma »Ostalo – žalitev« pa je bilo proti drugemu FB-komentatorju usmer- jenjih celo 33 % oziroma 42 % vseh komentarjev. Tabela 3: BEGUNCI – TARČE KOMENTARJEV GLEDE NA VRSTO DND Vrsta DND Na be- gunce Povezano z begunci Novinar ali medij Komen- tator Drugo Ne vem. Ni tarče. Skupaj Ni DND. 0,0 0,0 0,0 0,0 0,0 0,1 99,9 100,0 Ozadje – nasilje 97,4 1,6 0,1 0,2 0,5 0,0 0,2 100,0 Ozadje – žalitev 82,0 8,1 0,5 1,6 7,6 0,1 0,1 100,0 Ostalo – grožnja 6,1 39,7 3,7 33,3 14,3 0,8 1,9 100,0 Ostalo – žalitev 0,7 21,2 15,3 42,2 20,1 0,4 0,1 100,0 Nespodobni govor 0,8 0,7 0,5 0,9 4,8 0,3 92,0 100,0 Ne vem. 0,7 0,4 0,9 0,2 0,6 12,1 85,2 100,0 Vir: lastni prikaz. Podobne značilnosti glede tarč DND lahko opazimo tudi pri LGBT (Tabela 4); večje odstopanje je le v deležu tarče »Drugo«, kar pomeni, da so pri tematiki LGBT v primerjavi s tematiko beguncev tarče bistveno pogosteje tretje osebe, ki s problematiko LGBT niso povezane. Posledično je kategorija »Ostalo« pri tematiki LGBT v primerjavi z begunci redkeje usmerjena proti zaščitenim skupinam in tudi proti mediju oziroma novinarjem. Pri tematiki LGBT so namreč v primeru »Ozadja« bistveno pogostejša tarča predvsem komentatorji in druge osebe. Z nekoliko poenostavitve bi lahko rekli, da je pri beguncih večji delež potencialno sovražnega govora kot pri LGBT. Tabela 4: LGBT – TARČE KOMENTARJEV GLEDE NA VRSTO DND Vrsta DND Na LGBT Povezano z LGBT Novinar ali medij Komen- tator Drugo Ne vem. Ni tarče. Skupaj Ni DND. 0,0 0,0 0,0 0,0 0,0 0,0 99,9 100,0 Ozadje – nasilje 86,8 5,1 0,0 0,4 7,7 0,0 0,0 100,0 Ozadje – žalitev 83,8 6,9 0,1 1,2 7,8 0,1 0,1 100,0 Ostalo – grožnja 3,1 9,2 1,7 25,8 59,7 0,3 0,3 100,0 Ostalo – žalitev 0,5 10,0 8,8 37,7 42,6 0,4 0,0 100,0 Nespodobni govor 0,3 0,1 0,1 0,5 9,3 0,6 89,1 100,0 Ne vem. 0,0 0,3 0,3 0,3 0,7 30,0 68,3 100,0 Vir: lastni prikaz. Če podatke o tarčah primerjamo še po različnih medijih, lahko opazimo določene razlike. Pri temi, povezani z begunci, na Nova24TV.si izstopa visok delež žalitev, usmerjen proti novinarjem ali mediju (28 % vseh žalitev), med- tem ko je ta odstotek pri drugih dveh medijih bistveno nižji (8 % 24ur.com in 14 % Siol.net). Proti komentatorjem je pri Siol.net usmerjenih 52 % groženj Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 636 in ustrahovanj, pri Nova24TV.si 37 % in pri 24ur.com 27 %, kar bi lahko inter- pretirali tudi kot nestrinjanje med komentatorji in nasprotovanje sovražnim komentarjem pri poročanju o begunski krizi. Figenschou in Ihlebaek (2019: 1232) denimo ocenjujeta, da vzpon skrajno desnih alternativnih medijev takrat, ko na teh medijih prevladujeta ksenofobija in teorije zarote, prispeva predvsem k porastu splošnega cinizma, nezaupanja in k polarizaciji. V primeru »Ozadje – nasilje« in »Ozadje – žalitev« pri tematiki LGBT so komentarji praviloma uperjeni neposredno na LGBT; primeri ostalega DND pa so bili tako v kategoriji »Ostalo – grožnja« in ustrahovanje kot v katego- riji »Ostalo – žalitev« usmerjeni predvsem na kategorijo »Drugo« (59,7 % groženj, 42,6 % žalitev) ali na FB-komentatorje (25,8 % in 37,7 %). Razlike po medijih so v tem primeru bistveno manjše kot v primeru beguncev. Pri Siol. net nekoliko izstopata visoka deleža žalitev zoper komentatorje (53 %) in ustrahovanj komentatorjev (52%), pri Nova24TV.si pa nekoliko višji delež žalitev, usmerjenih proti novinarjem ali mediju (13 % v primerjavi s 6 % na Siol.net in 2 % na 24ur.com). Na tej točki velja dodati, da se ena ključnih ugotovitev raziskave Su in drugi (2018: 3693) na primeru FB-strani izbranih ameriških medijev nanaša na dejstvo, da je ostal delež medosebnih napadov na druge uporabnike na FB-straneh strankarskih medijev relativno stabilen, čeprav se je skupen delež nedostojnih komentarjev precej razlikoval tako med mediji kot skozi čas. Komentarji na straneh liberalnejših medijev pa so bili manj nedostojni kot na straneh konservativnih medijev, in sicer tako po skupnih deležih kot v kategorijah ekstremne nedostojnosti in grobosti. Določene raziskave torej kažejo na povezanost med politično usmerjenostjo medija in obsegom spornih komentarjev, vendar pa se to v naši raziskavi ni potrdilo, saj imajo vsi trije analizirani portali podobne stopnje DND. Časovna dimenzija Zanimala nas je tudi časovna dimenzija komentiranja, saj nam lahko ponudi predstavo o dolžini spletnega novičarskega cikla in trajanju splet- nih razprav. Povprečen čas med objavo novice na FB-strani posameznega medija in prvim komentarjem je bil 28 minut, najdaljše obdobje je bilo 209,82 minute (3,5 ure), najkrajše pa 15 sekund. V 40 % primerov je bil prvi komentar objavljen manj kot 10 minut po objavi prispevka na FB-strani, v povprečju pa je preteklo 35 ur med objavo in zadnjim dodanim komen- tarjem. Najdaljši čas med omenjenima dogodkoma je bil 343 ur, najkrajši pa 6 minut, kar kaže na zelo velike razlike v trajanju posameznih razprav. Glavnina zadnjega komentarja na določeno objavo je bila dodana znotraj 30 ur po objavi na FB, kar pomeni, da tudi razprave na spletu v glavnem sledijo 24-urnemu novičarskemu ciklu in le v posameznih primerih trajajo dlje. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 637 Na osnovi navedenega lahko pričakujemo, da kratek odzivni čas zače- tnega komentarja vpliva na število nadaljnjih komentarjev. Izkaže se tudi, da imajo niti komentarjev, ko se začetni komentarji pojavijo zgodaj po objavi, bistveno več odgovorov. Niti komentarjev, katerih začetni komen- tarji dobijo prvi odgovor pol ure ali prej po oddaji začetnega komentarja (prvi kvartil niti glede na odzivni čas začetnega komentarja), imajo namreč v povprečju 5,8 nadaljevalnega odgovora, kar je skoraj trikrat toliko, kot je šte- vilo nadaljevalnih odgovorov pri tistih nitih komentarjev (2,0), ki prvi odgo- vor dobijo šele štiri ure in pol ali pozneje po oddaji začetnega komentarja (zadnji kvartil niti glede na odzivni čas začetnega komentarja). DND-profil komentatorjev V nadaljevanju bomo obravnavali še medsebojno povezanost komenta- torjev in s tem preverjali, če morda že razmeroma enostavne analize naka- zujejo na usklajeno delovanje. Osnova za izračun medsebojnih povezav komentatorjev bo oddajanje začetnih komentarjev oziroma nadaljevalnih odgovorov pri skupnih FB-objavah. Za dva komentatorja, ki komentirata isto objavo, namreč lahko z večjo verjetnostjo domnevamo, da sta pove- zana, še posebej, če bi komentarje oddajala hkrati. Enota analize bodo torej komentatorji, povezava med njimi pa bo odražala oddajanje komentarjev pri skupnih objavah. Pri analizi povezanosti se bomo omejili na LGBT-tematiko. Glavni razlog za to je, da imamo – pri sicer podobnem obsegu okoli 5.000 komentarjev – bistveno več objav kot pa pri beguncih (93 proti 30). Ker je objava eden osrednjih objektov analize, je primerno imeti njihovo čim večje število. V tem okviru bomo zato obravnavali zgolj 1.988 komentatorjev, ki so odda- jali komentarje pri analiziranih LGBT-objavah. Število 93 objav s področja LGBT se je sicer naknadno zmanjšalo na 85 objav, ker so anotatorji ocenili, da določena objava v resnici ni bila s področja LGBT, kamor jo je pred tem uvrstil avtomatski algoritem. Pred analizo povezanosti smo najprej vsakemu komentatorju pripisali njegovo značilno vrsto DND, in sicer na osnovi predhodno identificiranih prevladujočih (modalnih) anotacij njihovih komentarjev. Za vsak posa- mezni komentar smo torej opredelili njegovo najpogostejšo (modalno) anotacijo, nato pa smo izračunali strukturo modalnih DND-kategorij vseh njegovih komentarjev. To lahko imenujemo tudi DND-profil določenega komentatorja. V naslednjem koraku smo vseh 1.998 komentatorjev s pomočjo razvršča- nja v skupine (angl. »K-means clustering«) na osnovi njihovega DND-profila razvrstili v tri segmente: Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 638 • V prvem segmentu DND (A) je 496 (25 %) vseh komentatorjev. Zanje je značilen prevladujoč odstotek anotacij »Ostalo«, saj v povprečju 56 % nji- hovih komentarjev sodi v »Ostalo – žalitev«. Gre torej za komentatorje, za katere je značilen DND, ki sicer nima ozadja, usmerjenega proti zaščite- nim skupinam, ampak gre za negativno usmerjenost proti ostalim ose- bam in skupinam. • V drugem segmentu DND (B) je 973 (49 %) komentatorjev, za katere so značilni komentatorji, pri katerih prevladujejo komentarji z oznako »Ni sporni govor«. Navedena kategorija v povprečju obsega kar 84 % vseh njihovih komentarjev. Gre torej za »spodobne« komentatorje z govorom, ki ne sodi v DND. • V tretjem segmentu DND (C) je 529 (26 %) komentatorjev. Zanje je zna- čilna kategorija »Ozadje«, saj v povprečju kar 64 % njihovih komentarjev sodi v kategorijo »Ozadje – žalitev«. V tem primeru gre torej za komenta- torje, za katere je značilen govor, ki je usmerjen proti zaščitenim skupi- nam; v ekstremnem primeru in ob izpolnjevanju drugih pogojev kazni- vosti se to lahko kategorizira tudi kot potencialni kazniv sovražni govor. Povzamemo lahko, da tako kot okoli polovica vseh komentarjev s pod- ročja LGBT sodi v določeno vrsto DND, tako tudi okoli polovica komen- tatorjev – glede na svoj DND-profil – sodi v segment DND-komentatorjev, katerih govor sodi pretežno v DND. Dejstvo, da le pri 49 % komentatorjev od skupno 1.998 prevladujejo komentarji, ki niso sporni oziroma ne sodijo v DND, je seveda neugodno in zaskrbljujoče. Hkrati pa je to po svoje tudi presenetljivo, saj DND-komentarji torej niso domena peščice nadpov- prečno aktivnih DND-komentatorjev, ampak se podobna DND-struktura kot med komentarji razmeroma enakomerno preslikuje tudi v značilnosti komentatorjev. Analiza omrežne povezanosti na osnovi skupnih objav Komentatorji v splošnem niso izraziteje povezani. Med 1.998 komenta- torji, ki so pri tematiki LGBT oddali vsaj en komentar, je namreč imelo le 271 (14 %) komentatorjev s katerim izmed drugih komentatorjev vsaj dve skupni objavi, samo 35 (2 %) komentatorjev pa je imelo z drugimi komenta- torji vsaj tri skupne objave. Omrežje je torej razmeroma redko in nepovezano. To je pravzaprav tudi pričakovano, saj govorimo o javnem komentiranju objav, pri katerem sodelujejo spletni obiskovalci, ki se med seboj večinoma ne poznajo. Dodati velja, da v omrežju niso bile upoštevane zanke, ki bi pomenile, da je komen- tator pri isti objavi oddal dva komentarja ali več. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 639 Pri nadaljnji analizi se bomo osredotočili na 35 najbolj povezanih komen- tatorjev, ki imajo z drugimi komentatorji na osnovi skupnega pojavljanja pri isti objavi vsaj tri povezave. Na Sliki 3 je – s pomočjo orodja Pajek 5 – pri- kazanih 44 povezav med 35 komentatorji, ki so hkrati komentirali vsaj tri skupne FB-objave. Debelina črte odraža jakost povezave (število skupnih objav). Tokrat je v segmentu A, kjer prevladuje »Ostalo«, skupno 9 (26 %) komentatorjev. V segmentu B, za katerega je značilna kategorija »Ni DND«, je 11 (32 %) komentatorjev, v segmentu C, kjer prevladuje »Ozadje«, pa je 14 (41 %) komentatorjev. Očitno je med bolj povezanimi komentatorji – glede na siceršnji DND-profil komentatorjev – bistveno več komentatorjev z izra- zito negativnim DND-profilom (segmenta A in C). Pri tem posebej izstopajo komentatorji segmenta C, kjer prevladuje »Ozadje« (C), torej komentatorji, ki so usmerjeni proti zaščitenim skupinam. V smislu same strukture omrežja pa – razen prevladujoče vloge DND-komentatorjev (68 %) – ni opaziti izrazi- tejšega vzorca (npr. zelo izrazita podomrežja katerega od segmentov). Tudi komentator 456 (zaporedne številke komentatorjev so določene slučajno), ki je v središču omrežja z 10 povezavami, sodi v skupino (A), ki ni usmerjena proti zaščitenim skupinam, ampak pretežno izraža žalitve proti ostalim ose- bam (npr. udeležencem v razpravi). Slika 2: OMREŽJE 35 KOMENTATORJEV, KI SO MED SEBOJ POVEZANI Z VSAJ TREMI SKUPNIMI OBJAVAMI Vir: lastni prikaz. 5 Več o orodju Pajek je dostopno na: http://mrvar.fdv.uni-lj.si/pajek/. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 640 Zgoraj identificirane komentatorje, ki so med seboj bolj povezani, smo dodatno analizirali glede na razpoložljive indikatorje, ki so jih uporabili Mihaylov in drugi (2018), in sicer: število komentarjev na aktivni dan komen- tiranja, število komentarjev na objavo ter časovno razdaljo med oddajo začetnega komentarja in FB-objavo. Analiza ne pokaže izrazitih skupin, kar delno lahko pojasnimo tudi z dejstvom, da največje število komentar- jev na aktivni dan pri nobenem komentatorju ne preseže 17. Komentator z DND-profilom, ki ima največ komentarjev, pa je v celotno bazo LGBT (4.571 komentarjev) skupno prispeval le 39 komentarjev. Vse navedeno nakazuje, da bi težko govorili o usklajenem delovanju komentatorjev. Seveda pa je to še vedno mogoče, če bi komentatorji uporabljali zelo napredno in prikrito strategijo (npr. več uporabniških imen, visoko usklajeno delovanje ipd.). Sklep Santana (2015: 103–104) izpostavlja, da novo obdobje participatornega novinarstva narekuje temeljito transformacijo načinov, s katerimi se občin- stvo izraža. Izražanje mnenj ni več omejeno na tradicionalne kanale, kot so denimo pisma bralcev ali osebna komunikacija na javnih mestih, ampak se je med drugim preselilo v komentiranje na spletnih straneh medijev, v zadnjem obdobju predvsem na straneh družbenih omrežij. Vse to pa pove- čuje tudi možnosti za t. i. temno participacijo. V članku smo najprej pre- gledali nekatera ozadja, nato pa smo za operativne potrebe raziskovanja opredelili koncept družbeno nesprejemljivega diskurza (DND), pri katerem gre za negativno komunikacijo, ki je potencialno sporna oziroma nespre- jemljiva na ravni družbe ali njenih delov (npr. vulgarizacija komuniciranja, oteževanje sporazumevanja, spodbujanje nasilja). V ekstremnih primerih se zato v tako komunikacijo tudi posega bodisi prek pravosodnega sistema (npr. kaznivi sovražni govor) bodisi prek intervencij upravljalcev odgovar- jajočega spletnega mesta (npr. moderiranje). Razmejitve se seveda razliku- jejo in so predmet številnih razprav (pravnih, socioloških, komunikoloških ipd.), v raziskavi pa smo se odločili za specifične kriterije, ki v DND vključu- jejo razmeroma širok nabor negativne komunikacije. V empiričnem delu smo obseg in značilnosti DND analizirali na podat- kih projekta FRENK, ki je v prvem koraku za obdobje 2010–2017 zajel vse komentarje, ki so obstajali oktobra 2017 na treh najbolj obiskanih FB-straneh novičarskih portalov v Sloveniji (24ur.com, Siol.net, Nova24TV.si). Analizo smo v drugem koraku omejili na dve področji, begunci in LGBT, ki sta zaradi polarizacije stališč posebej primerni za obravnavo DND. V tretjem koraku je bilo v podrobno analizo vključenih okoli pet tisoč komentarjev za vsako od izbranih področij. Posebej usposobljeni anotatorji so komentarje iz tretjega koraka kodirali glede na vrsto in tarčo DND. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 641 Rezultati kažejo, da je bila okoli polovica vseh komentarjev, ki se pojav- ljajo pri obravnavnih dveh vsebinah, opredeljena kot DND; nekoliko večji delež je pri beguncih (58 %) kot pri LGBT (46 %). Pri vrsti DND po pogostno- sti izstopajo predvsem žalitve; tako proti zaščitenim skupinam (kar lahko pomeni tudi potencialni kaznivi sovražni govor) kot proti drugim osebam in skupinam. Tudi sicer rezultati kažejo intenzivnejšo komentatorsko raz- pravo o begunski krizi kot o LGBT-objavah, kar pojasnjujemo predvsem z ekstremnostjo begunske krize. Med temama sicer ni bistvenih razlik glede na vrsto DND, le pri neposredni usmerjenosti proti zaščitenim skupinam je pri komentarjih s tematiko beguncev delež DND večji kot pri LGBT. Pri strukturi komentarjev in komentatorjev (npr. povprečno število komentarjev in komentatorjev v niti razprave) ter pri deležu in vrsti DND ni večjih razlik med tremi portali, saj so komentarji na Nova24TV.si vsebo- vali eno od oblik DND v 57 % primerov, na 24ur.com v 56 % in nekoliko manj, 47 %, na Siol.net. Pri tematiki beguncev sicer na Nova24TV.si nekoliko izstopa visok delež žalitev, usmerjenih proti novinarjem ali mediju in dru- gim komentatorjem (38 % vseh žalitev). Izrazitejše razlike med portali pa obstajajo v deležu samih objav, ki so jih uredniki – poleg objave na samem portalu – objavili na odgovarjajoči strani FB, kjer so te objave nato generirale komentarje, ki sodijo v DND. Pri tem z večino vseh objav izstopa Nova24TV.si. Analiza časovne dimenzije komentiranja je pokazala, da je bila glavnina zadnjih komentarjev dodana znotraj 30 ur po objavi prispevkov na FB, pri čemer zgodnji začetni komentarji pomembno vplivajo na obseg nadaljnjega komentiranja. Razmeroma visok delež DND lahko kaže na specifično percepcijo (ne) prevzemanja odgovornosti za izjave v javni komunikaciji, kar je tudi ena od ključnih ugotovitev naše raziskave, v katero bi se veljalo v prihodnje poglo- biti tudi kvalitativno. Wahl-Jorgensen (2019: 13) izpostavlja, da – čeprav so lahko negativne emocije, kot je jeza, včasih produktivne – je jasno, da ima diskurzivna klima, v kateri prevladujejo negativne emocije, artikulirane z namernim izključevanjem, resne posledice za politično participacijo, saj prispevajo k ciničnemu odnosu do političnega angažiranja. Javno izražanje negativnih in razdiralnih emocij lahko tako po njenem mnenju spodkoplje širše oblike javnega razpravljanja, čeprav utrjuje vezi znotraj posamezne skupnosti. Ben-David in Matamoros-Fernandez (2016) sta na primeru FB celo pokazala, da je pri družbenih medijih širjenje sovraštva pogosto pove- zano s tehnološkimi zmožnostmi in politikami teh platform. Döveling in drugi (2018) zato menijo, da imajo vpogledi v kompleksen spekter media- tiziranih emocij vedno večjo težo, saj pogosto sovpadajo s političnimi kam- panjami, naravnimi nesrečami itd., zato je »digitalne afektivne kulture«, ki se nenehno spreminjajo in razvijajo, priporočljivo preučevati longitudinalno. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 642 Kljub visokim deležem DND nismo potrdili indicev za obstoj organizi- ranih kampanj. Podrobna analizira 1.998 komentatorjev s področja LGBT je namreč pokazala, da je zelo malo komentatorjev, ki bi izstopali po inten- zivnosti in povezanosti z drugimi komentatorji. V tem okviru velja izposta- viti, da je delež DND-komentatorjev med vsemi komentatorji (polovica) praktično enak deležu DND-komentarjev med vsemi komentarji (polovica). DND-komentarjev torej ne generirajo aktivisti, ampak enostavno prevladu- jejo pri polovici komentatorske populacije. Vse navedeno se seveda nanaša zgolj na FB-komentarje s tematiko LGBT in beguncev, ki so se v opazovanem obdobju (2010–2017) pojavljali na obravnavanih treh portalih. Ker pa gre za slovenske portale, ki se uvrščajo med najbolj obiskane, in ker smo v obravnavano obdobje vključili vse zajete objave s področja LGBT ter vse najvišje rangirane (glede na izdelane klasifi- katorje) objave za tematiko beguncev, navedeni deleži DND veliko povedo o naravi komunikacije na slovenskih družbenih omrežjih. Na tej točki se lahko pojavi vprašanje glede razlik, ki bi nastale, če bi razis- kavo ponovili še na drugih vsebinskih tematikah, na drugih spletnih mestih v Sloveniji ali v primerljivih državah; vse to bi seveda omogočilo bistveno bolj poglobljeno vsebinsko interpretacijo. Glede ostalih omejitev velja posebej izpostaviti vprašanje kriterijev DND. Pri tem je treba jasno ločiti vprašanje operativnih kriterijev, ki se v določe- nem kontekstu dejansko uporabljajo – npr. tožilski kriteriji potencialno kaznivega sovražnega govora ali FB-kriteriji za odstranjevanje komentarjev –, od kriterijev, ki se uporabljajo v določenem raziskovalnem procesu. V priču- joči raziskavi so bili kriteriji razmeroma strogi. Ob tem pa je treba jasno izpo- staviti percepcijo tovrstne (DND) komunikacije s strani javnosti. Vehovar in drugi (2012) so namreč na osnovi anketne raziskave, v okviru katere so respondenti ocenjevali štiri tipične primere negativne spletne komunikacije (sovražni govor, žalitve, grožnje, nespodobnosti), pokazali, da obstaja zgolj nekaj odstotkov splošne javnosti, ki je tovrstno komuniciranje sploh ne moti. Še izraziteje je navedeno potrdila ponovitev te raziskave v letu 2019 (SJM, 2019). Videti je torej, da so strožji kriteriji pri omejevanju DND-komunikacije v interesu splošne javnosti. Vsekakor pa ostaja identifikacija oziroma razme- jitev DND eden večjih izzivov raziskovanja na tem področju tudi v prihodnje. Nadaljnji dve omejitvi – in s tem izziva za prihodnje raziskovanje – se nanašata na specifično naravo komentarjev na FB-straneh portalov. Postavlja se namreč vprašanje, ali podobne značilnosti veljajo tudi za komentarje na krovnih spletnih straneh portalov. Je tam delež DND večji ali manjši? Še pomembnejše je vprašanje sprememb po letu 2017, saj je Evropska komisija s FB (in drugimi korporacijami) sklenila kodeks o omejevanju sovražnega govora, ki je glede odstranjevanja komentarjev na FB prinesel zelo velike spremembe (Spletno oko, 2019). Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 643 LITERATURA Bajt, Veronika (2018): Online hate speech and the »refugee crisis« in Slovenia. V: ŽAGAR, Igor Ž. (ur.), et al. The disaster of European refugee policy: perspectives from the »Balkan route«. Newcastle upon Tyne: Cambridge Scholars Publishing, 133–155. Ben-David, Anat in Ariadna Matamoros-Fernandez (2016): Hate Speech and Covert Discrimination on Social Media: Monitoring the Facebook Pages of Extreme- Right Political Parties in Spain. International Journal of Communication 10: 1167–1193. Döveling, Katrin, Anu A. Harju in Denise Sommer (2018): From mediatized emo- tion to digital affect cultures: New technologies and global flows of emotion. Social media + society 1–11. Eldridge, Scott A., Kristy Hess, Edson C. Tandoc Jr. & Oscar Westlund (2019): Navigating the Scholarly Terrain: Introducing the Digital Journalism Studies Compass. Digital Journalism 7 (3): 386–403. Figenschou, Tine Ustad and Karoline Andrea Ihlebaek (2019): Challenging Journalistic Authority: Media criticism in far-right alternative media. Journalism Studies 20 (9): 1221–1237. Hille, S. in Bakker P. (2014): Engaging the Social News User. Journalism practice, 8 (5): 563–572. Hipfl, Brigitte (2018): Affect in Media and Communication Studies: Potentials and Assemblages. Media and Communication 6 (3): 5–14. Jontes, Dejan (2017): Med distanciranostjo in angažiranostjo: protislovja poročanja o »begunski krizi« v dnevnem tisku. Dve domovini: razprave o izseljenstvu 45: 185–200. Kapidzic, Sanja, Christoph Neuberger, Stefan Stiglitz and Milad Mirbabaie (2019): Interaction and influence on Twitter. Digital Journalism 7 (2): 251–272. Kuhar, Roman in Alenka Švab (2019): Nasilje nad lezbijkami in geji v Sloveniji: pri merjava podatkov iz raziskav 2003–2004 in 2014–2015. Časopis za kritiko znanosti 47 (275): 11–29. Ljubešić, Nikola, Darja Fišer and Tomaž Erjavec (2019): The FRENK datasets of socially unacceptable discourse in Slovene and English. Dostopno prek https:// arxiv.org/abs/1906.02045.pdf, 20. 4. 2020 Luthar, Breda (2017): Begunci in »Odmevi«: epistemologija konvencij. Dve domo- vini: razprave o izseljenstvu 45: 153–168. Lünenborg, Margreth in Tanja Maier (2018): The Turn to Affect and Emotion in Media Studies. Media and Communication 6 (3): 1–4. Massanari, Adrienne (2015): #Gamergate and The Fappening: How Reddit’s algo- rithm, governance, and culture support toxic technocultures. New Media &Society 19 (3): 329–346. Mihaylov, T., T. Mihaylova, P. Nakov, L. Màrquez, G. D. Georgiev & I. K. Koychev, (2018): The dark side of news community forums: opinion manipulation trolls. Internet Research, 28 (5): 1292–1312. Milosavljevič, Marko (2012): Regulacija in percepcija sovražnega govora: analiza dokumentov in odnosa urednikov spletnih portalov. Teorija in praksa 49 (1): 112–130. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 644 Moor, P.J., A. Heuvelman, R. Verleur (2010): Flaming on Youtube. Computers in Human Behavior, 26: 1536–1546. Murthy, Dhiraj and Sanjay Sharma (2019): Visualizing YouTube’s comment space: online hostility as a networked phenomena. New media & society 21 (1): 191– 213. Newman, Nic, Richard Fletcher, Antonis Kalogeropoulos in Rasmus Kleis Nielsen (2019): Reuters Institute Digital News Report 2019. Dostopno prek http://www. digitalnewsreport.org/survey/2019/overview-key-findings-2019/, 20. 4. 2020. Oblak Črnič, Tanja in Dejan Jontes (2017): (R)evolution of perspectives on inter- activity: From a media-centered to a journalist-centered approach. Medijske študije 8 (15): 39–54. Petrovčič, Andraž, Vasja Vehovar and Aleš Žiberna (2012): Posting, quoting, and replying: a comparison of methodological approaches to measure communica- tion ties in web forums. Quality & Quantity 46 (3): 829–854. Papacharissi, Zizi (2004): Democracy online: civility, politeness, and the democratic potential of online political discussion groups. New Media & Society 6 (2): 259– 283. Papacharissi, Zizi (2016): Affective publics and structures of storytelling: senti- ments, events and mediality. Information, communication and society 19 (3): 307–324. Quandt, Thorsten (2018): Dark participation. Media and communication 6 (4): 36–48. Richardson, J. E., & J. Stanyer, (2011): Reader opinion in the digital age: Tabloid and broadsheet newspaper websites and the exercise of political voice. Journalism 12: 983–1003. Santana, Arthur D. (2015): Incivility dominates online comments on immigration. Newspaper research journal 36 (1): 92–107. Slavtcheva-Petkova, Vera (2016): Are newspapers’ online discussion boards democratic tools or conspiracy theories’ engines? A case study on an Eastern European »Media War«. Journalism & Mass Communication Quarterly 93 (4): 1115–1134. Su, Leona Yi-Fan, Xenos, Michael A., Rose, Kathleen M., Wirz, Cristopher, Scheufele, Dietram A., and Brossard, Dominique (2018): Uncivil and personal? Comparing patterns of incivility in comments on the Facebook pages of news outlets. New media & society 20 (10): 3678–3699. Teršek, Andraž (2008): Sovražni in napadalni govor – nazaj k doktrinarnim lekcijam vrhovnega sodišča ZDA. Pravna praksa 27 (4). Valenzuela, Sebastián, Daniel Halpern, James E. Katz & Juan Pablo Miranda (2019): The Paradox of Participation Versus Misinformation: Social Media, Political Engagement, and the Spread of Misinformation. Digital Journalism DOI: 10.1080/21670811.2019.1623701 Vehovar, V., A. Motl, L. Mihelič, B. Berčič, A. Petrovčič (2012): Zaznava sovražnega govora na slovenskem spletu. Teorija in praksa, 49 (1): 171–189. Vasja VEHOVAR, Blaž POVŽ, Darja FIŠER, Nikola LJUBEŠIĆ, Ajda ŠULC, Dejan JONTES TEORIJA IN PRAKSA let. 57, 2/2020 645 Vezovnik, Andreja (2018): Securitizing migration in Slovenia: a discourse analysis of the Slovenian refugee situation. Journal of immigrant & refugee studies: inter- national, national, and regional theory, research, and practice 16 (1/2): 39–56. Wahl-Jorgensen, Karin (2019): Emotions, Media and Politics. London: Polity. Watanabe, H., M. Bouazizi in T. Ohtsuki (2018): Hate Speech on Twitter: A Prag- matic Approach to Collect Hateful and Offensive Speech Detection. IEEE Access 6, 13825–13835. Westlund, Oscar and Mats Ekström (2018): News and Participation through and beyond Proprietary Platforms in an Age of Social Media. Media and communica- tion 6 (4): 1–10. VIRI Council of Europe (1997). Recommendation No. R (97) 20 of the Committee of Ministers to member states on »hate speech«. Dragoš, Srečo. Sovražni govor. Socialno delo 2007, 46 (3): 135–144. MOSS (Merjenje obiskanosti spletnih strani), 2019. Dostopno prek https://www. moss-soz.si/rezultati/, 20. 4. 2020. Slovensko javno mnenje 2019. Spletno oko. (2019). Boljša odzivnost družbenih omrežij, zaostaja Twitter. Dostop no prek https://www.spletno-oko.si/novice/boljsa-odzivnost-druzbenih-omrezij- -zaostaja-twitter, 20. 4. 2020.