576 KB78 KB2024Skočir, Manjaštevilka:4letnik:75str. 290-303ISSN:0034-690XCOBISSID_HOST:222634755URN:URN:NBN:SI:doc-6X1YIKW5enMinistrstvo za notranje zadeve Republike Slovenije, PolicijaRevija za kriminalistiko in kriminologijoAkt o digitalnih storitvahcontent moderationDigital Services Actintermediary liabilitymoderiranje vsebineodgovornost posrednikovplatform regulationregulacija platformuser-generated contentvsebine, ki jih ustvarjajo uporabnikiGoverning digital spaces| addressing illegal and harmful user-generated content on online platforms|The article analyses the European Union’s legal framework regulating user-generated content on social media platforms. It begins by presenting the development of content moderation practices on social media platforms and describes the shift from platform self-regulation of user-generated content to more structured legal frameworks. The key focus is on whether the existing legislative framework adequately addresses the social risks arising from user-generated content. The article demonstrates that while the European Union’s Digital Services Act (2022/2065) imposes obligations on platforms regarding the removal of illegal user-generated content, the regulation of harmful but legal content remains insufficient, as the moderation of such content is largely left to the platforms themselves. This highlights a gap in the European Union’s approach to online safety, particularly considering the unique characteristics of the online environment, where the potential for harm is often amplified in ways that significantly differ from the offline world. In conclusion, the article emphasises the need for a more robust regulatory framework that goes beyond merely aligning online regulations with offline norms. It questions whether the principle that ‘what is illegal offline must also be illegal online’ adequately addresses the complexity of the digital environment. The article suggests that future regulations should adopt a harm assessment methodology that allows for the proper evaluation of the consequences of harmful but legal content. It stresses the particular importance of focusing on reducing the risks posed by the algorithmic amplification of specific content (which reveals that intermediaries play more than just a neutral role) and highlights the need to acknowledge the broader societal impacts of harmful user-generated content, including harm to third partiesV prispevku je analiziran pravni okvir Evropske unije za urejanje vsebin, ki jih na platformah družbenih medijev ustvarjajo uporabniki. Začne s prikazom razvoja praks moderiranja vsebin na platformah družbenih medijev in opiše prehod od samoregulacije uporabniških vsebin s strani platform k bolj strukturiranim pravnim okvirom. Ključni poudarek je na tem, ali obstoječi zakonodajni okvir ustrezno obravnava družbena tveganja, izhajajoča iz vsebin, ki jih ustvarijo uporabniki. Članek pokaže, da zakonodaja Evropske unije - Akt o digitalnih storitvah (DSA) - platformam sicer nalaga obveznosti v zvezi z odstranjevanjem nezakonite vsebine, ki jo ustvarijo uporabniki, pri urejanju škodljive, vendar zakonite vsebine, pa je zakonodaja pomanjkljiva, saj je moderiranje takšne vsebine v veliki meri prepuščeno platformam samim. To kaže na vrzel v pristopu Evropske unije k spletni varnosti, zlasti glede na edinstvene značilnosti digitalnega okolja, v katerem je možnost škode pogosto povečana na načine, ki se bistveno razlikujejo od analognega sveta. Članek v zaključku poudarja potrebo po robustnejšem regulativnem okviru, ki presega zgolj uskladitev spletnih predpisov z normativi zunaj spleta. Preizprašuje, ali načelo, da, mora biti “vse, kar je nezakonito v analognem, nezakonito tudi v digitalnem okolju”, v zadostni meri obravnava zapletenost digitalnega okolja. Članek predlaga, da se v prihodnjih predpisih sprejme metodologija ocenjevanja škode, ki omogoča ustrezno presojanje posledic škodljivih, vendar zakonitih vsebin. Poudarja, da se je še posebej pomembno osredotočiti na zmanjševanje tveganj, ki jih povzroča algoritemsko ojačevanje določenih vsebin (ki razkriva, da posredniki igrajo več kot zgolj nevtralno vlogo), ter izpostavlja potrebo po obravnavi širših družbenih učinkov škodljivih vsebin, ki jih ustvarjajo uporabniki, vključno s škodo tretjim osebamTEXTznanstveno časopisjejournalsSlovenian National E-content AggregatorNational and University Library of Slovenia