UDK: 17:006.074 1.01 izvirni znanstveni članek
Karmen Marguč
dr. filozofije, dr. makroekonomije
Trajnostna evolucijska etika kot odgovor na problem vrzeli racionalnosti med umetno inteligenco in potrošnikom
Izvleček: Hiter napredek na področju umetne inteligence v digitalnem oglaševanju bo imel velik vpliv na potrošnika. Cilj tega prispevka je v okviru novih raziskav kognitivne psihologije in vedenjske ekonomije pojasniti omenjeni vpliv s pomočjo opredelitve problema vrzeli racionalnosti med umetno inteligenco in ranljivostjo potrošnika pri sprejemanju odločitev. Z namenom preprečitve vse večjih možnosti neetičnih in prikritih manipulacij potrošnika na področju spletnega oglaševanja so v tem prispevku preučene nekatere etične teorije in možnosti njihovega vključevanja v algoritme in zakonodajo. Na podlagi teoretičnega dela prispevka je ugotovljeno veliko pomanjkanje interdisciplinarnega sodelovanja pri razvoju ustreznih etičnih teorij za njihovo vključevanje v umetno inteligenco in poslovne procese. Tradicionalne moralne teorije niso uporabne pri reševanju kompleksnih vprašanj, saj se na moralna načela osredotočajo preozko. Predlagana je alternativna etična teorija, ki temelji na načelu trajnosti, upošteva načelo ekonomičnosti ter se opira na zadnje izsledke kognitivne psihologije in kot orodje uporablja
72
Res novae
umetno inteligenco. Trajnostna evolucijska etika odpira nova raziskovalna vprašanja, ki jih bo mogoče reševati zgolj interdisciplinarno.
Ključne besede: evolucijska etika, umetna inteligenca, vrzel racionalnosti, spletno oglaševanje
Sustainable Evolutionary Ethics in Response to the Problem of Rationality Gap Between Artificial Intelligence and the Consumer
Abstract: Rapid progress of artificial intelligence in digital advertising will have a major impact on the consumer. The aim of this article is to explicate this effect by defining the problem as a gap between the rationality of artificial intelligence and the vulnerability of the consumer in decision-making in the context of new researches in the field of cognitive psychology and behavioral economics. To prevent the increasing possibilities of unethical and hidden manipulations of the consumer in online advertising, some ethical theories and the possibility of their implementation in algorithms and legislation are examined. Theoretical research shows enormous lack of interdisciplinary cooperation for development of an appropriate ethical theory for the purpose of its implementation into artificial intelligence in business processes. Traditional moral theories are unable to solve new complex issues because of their too narrow focus on moral principles. An alternative ethical theory based on sustainability principles is proposed. It adheres to the principles of economics, latest findings of cognitive psychology, and uses artificial intelligence for its implementation. Sustainable
Karmen Marguč
73
evolutionary ethics opens up new research questions that can be solved only interdisciplinary.
Key words: evolutionary ethics, artificial intelligence, rationality gap, online advertising
Uvod
Teoretične in praktične razprave o različnih družbenoekonomskih modelih so danes zamenjali dolgoročni in globalni problemi, ki jih je zaradi ogromnih količin podatkov, visoke stopnje negotovosti in neznanih alternativnih smernic težko reševati. Poleg problematike uresničevanja trajnostnega globalnega razvoja za ohranitev okolja, v katerem živimo, se z razvojem umetne inteligence »prehitro« soočamo tudi z izzivi ohranjanja človečnosti (humanosti) družbe. Medtem ko je v ekonomski znanstveni literaturi vprašanje človečnosti v odnosu do umetne inteligence omenjeno zgolj bežno, ga lahko vse pogosteje srečujemo v znanstvenih razpravah na področju umetne inteligence. Digitalni marketing že sedaj močno spreminja odnos med potrošnikom in ponudniki blaga na spletnih omrežjih. Zaradi težnje po visokih prodajnih uspehih in jasnih smernicah glede uporabe umetne inteligence je spletno oglaševanje še posebej primerno za raziskovanje novih teoretičnih in praktičnih izzivov v etiki in ekonomiji, ki jih prinaša razvoj umetne inteligence.
Cilj pričujočega prispevka oziroma teoretične raziskave je z etičnega zornega kota odgovoriti na vprašanje o razlikah v racionalnem ravnanju umetne inteligence v odnosu do potrošnika na področju spletnega oglaševanja. Cilj razi-
74
Res novae
skave je tudi predlagati možne rešitve za to novo vrsto problemov. Za ta namen bosta preverjeni sledeči hipotezi:
1.	razvoj umetne inteligence povečuje razkorak med sposobnostmi umetne inteligence in potrošnika, in sicer zaradi objektivno omejenih psihofizičnih lastnosti potrošnika, na katere umetna inteligenca sama po sebi nima neposrednega vpliva;
2.	obstoječe teorije na področju etike in vedenjske ekonomije niso ustrezne za reševanje problema vrzeli racionalnosti med umetno inteligenco in potrošnikom.
Problem večje ranljivosti potrošnika, ki nastane kot posledica razvoja umetne inteligence, je v tej raziskavi poimenovan »problem vrzeli racionalnosti«. Bistvo problema vrzeli racionalnosti je v razkoraku med visokimi zmogljivostmi in optimizacijo umetne inteligence na eni strani in dokazi kognitivnih znanosti o neracionalnemu odločanju potrošnika na drugi. Tako potrošnik postaja šibkejši člen v odnosu do optimizirane »inteligentne« ponudbe, ki vključuje tudi prepričevanje potrošnika k nakupovanju blaga, ki ga dejansko ne potrebuje. Problem predstavlja predvsem visoke možnosti »optimiziranih, skritih in neetičnih« manipulacij v oglaševanju. Problem vrzeli racionalnosti je utemeljen s pomočjo deskriptivne metode ter primerjave in analize znanstvene literature ne le na področju umetne inteligence, temveč tudi v kontekstu kritičnega vrednotenja in dokazovanja večje ranljivosti potrošnika. Za namen reševanja problema vrzeli racionalnosti so analizirane, primerjane in kritično ovrednotene najnovejše raziskave s področja moralne teorije, kognitivne psihologije, ekonomije vedenja in evolucije. Nova teorija, ki temelji na trajnostnem in etičnem vidiku, je ovrednotena kategorič-
Karmen Marguč
75
no z uporabo analitične indukcije in analize, predstavljena pa je na osnovi kompilacije in sinteze. V okviru preverjanja postavljenih hipotez vse znanstvene metode v tem prispevku temeljijo na objektivnosti, sistematičnosti in splošnosti. Zaradi omejenosti ekonomske znanstvene literature na področju umetne inteligence, kognitivne psihologije, ekonomije vedenja in moralnih teorij je podan splošni interdisciplinarni pregled, ki služi kot splošen uvid v nove izzive in njihovo reševanje. Pri tem so predstavljeni novi praktični in teoretični predlogi na področju vključevanja umetne inteligence v spletno oglaševanje na etičen način. Posebej izpostavljeno je vprašanje zakonodaje in varovanja potrošnika. V tej raziskavi izpostavljena vprašanja predstavljajo nujno podlago za nadaljnje teoretične in praktične interdisciplinarne raziskave.
Napredek in problemi na področju umetne inteligence v spletnem oglaševanju
V zadnjih dvajsetih letih smo priča velikanskemu napredku na področju umetne inteligence. Če se je še pred kratkim uporaba avtomatiziranega trženja (ang. automation marketing), kot je na primer Google AdWords, zdela napredna, danes v oglaševanju močno prednjačijo podjetja, ki v spletnem oglaševanju uporabljajo strojno učenje (ang. machine learning).1 (Lucci 2016) Algoritem je
1 Strojno učenje v spletnem oglaševanju pomeni reševanje kompleksnih problemov, ki vključujejo procesiranje predhodnih kampanj, velikanske količine podatkov in nenehno samostojno izboljševanje. S procesom, imenovanim razvrščanje ali dručenje (ang. clustering), se pregleduje celoten nabor podatkov o strankah, identificira vzorce in jih organizira v »skupine« podobnih podatkov. Tržne predpostavke ne
76
Res novae
mogoče »strenirati« za prepoznavanje obrazov v slikovnih zbirkah in pri morebitnih primerih goljufij v zavarovalnih zahtevkih, prav tako za preoblikovanje rokopisov v strukturirana besedila, preoblikovanje govora v besedilo in podobno. Strojno učenje nadalje omogoča zaznavo, analizo in primerjavo strank, ki niso bile upoštevane, prav tako omogoča upravljanje odnosov s strankami (ang. customer relationship management, CRM) in povezovanje s sistemi podatkov. Če je avtomatsko trženje omogočilo prve oblike tehnik plačila na klik (ang. pay per click, PPC), sta strojno in globoko učenje (ang. deep learning)2 skupaj s kognitivno analitiko (ang. cognitive computing)3 omogočila razvoj PPC orodij, kot sta denimo Frank in Albert. Namesto človeka so sedaj računalniška orodja tista, ki iščejo najboljše plačljive kanale za prikazovanje oglasov izbranemu ciljnemu občinstvu. Orodja iščejo najdonosnejše platforme PPC in kupujejo prikazovanje oglasov na dražbah v realnem času. Z globokim učenjem se vse bolj uveljavljajo tudi klepetalnice za pomoč uporabnikom. Inteligentni (ro)bot (ang. intelligent (ro)bot),4 kot je Siri, svetuje na različnih področjih, kot so moda, zdravje, zavarovanje in podobno. Algoritmi lahko odražajo (»preslikajo«) naročnikovo izkušnjo z določenim spletnim mestom ali podatke o brskanju po elektronski pošti, da bi
predstavljajo informacij, temveč analize, povezave in predvidevanja v realnem času in samostojno učenje na osnovi predhodnih izkušenj. (Lucci in Kopec 2016)
2	Globoko učenje temelji na globokih večslojnih nevronskih mrežah oziroma algoritmih.
3	Kognitivna analitika ali kognitivno računalništvo je podpodročje umetne inteligence, ki se ukvarja s kognitivnim vedenjem.
4	V slovenskem jeziku še ni prevoda za besedo »bot«, ki je angleška okrajšava za »robot«.
Karmen Marguč
77
bilo tako mogoče razumeti vse interakcije posameznika z določeno vsebino. Na tak način samostojno oblikujejo tudi inteligentno osebno elektronsko poštno sporočilo. (Lucci in Kopec 2016) Nov tehnološki napredek pomeni tudi nove potrebe po opredeljevanju izrazov, določanju zakonodaje in soočanju z novimi problemi. Z namenom prikaza in ovrednotenja problema vrzeli racionalnosti in njegovega reševanja so v nadaljevanju na kratko povzeti izzivi novih tehnologij, ki vplivajo na opredeljevanje etičnosti pri njihovi uporabi.
Algoritemska preglednost
Čeprav umetno inteligenco razvijajo ljudje, se s pojavom globokega učenja srečujemo s problemom nerazumevanja delovanja ali t. i. problemom algoritemske preglednosti. Knight (2017) omenja, da ni jasno, kako samoučeči algoritmi sprejemajo odločitve, zakaj se programirajo na določen način, kakšen mehanizem uporabljajo pri odločitvah in podobno. Globoka nevronska mreža onemogoča vpogled v delovanje, saj je v »razmišljanje« omrežja vgrajeno na tisoče simuliranih nevronov, razporejenih v desetine ali celo stotine zapletenih medsebojno povezanih plasti. Praktični problem v oglaševanju bi lahko predstavljal izračun umetne inteligence, da za povečanje prodaje na družbenih omrežjih »zgradi« anonimne stranke, ki pozitivno ocenjujejo izdelke določenega podjetja. Čeprav so stranke zgolj navidezne in čeprav je izdelek morda slab, lahko pozitivna mnenja resnične ljudi prepričajo o nakupu. Kot odgovor na problem algoritemske preglednosti Salahutdinov poziva k opredelitvi družbenih temeljev, ki bodo predstavljali merilo za oblikovanje etičnih sodb o sistemih umetne inteligence. (Knight 2017)
78
Res novae
Problem definiranja
Velikanski razvoj tehnologije povzroča zaostajanje teorije. Umetna inteligenca je v Slovarju slovenskega knjižnega jezika (SSKJ 2008) opredeljena kot »sposobnost stroja, računalnika, da rešuje umske probleme«. Angleški slovar Collins (2017) pa umetno inteligenco definira kot »vrsto računalniške tehnologije, ki se ukvarja z izdelavo strojev, ki izvajajo delo na inteligenten način, podoben človeškemu«. V nasprotju z navedenima definicijama je mogoče trditi, da že navaden kalkulator presega računske zmožnosti človeka, a vsekakor ne sodi na področje umetne inteligence. Četudi je besedno zvezo »umetna inteligenca« mogoče zaslediti skoraj na vsakem koraku, ni enotne definicije, za kaj pri tem gre. Leta 2014 je bila sklicana seja, ki so se je udeležili nekateri vodilni filozofi, med njimi Daniel Dennett, Paul Churchland in David Chalmers. Skupne sprejemljive rešitve niso dosegli. Problem pri opredeljevanju umetne inteligence predstavlja definiranje postopkov, ki jih je mogoče označevati za inteligentne. Z razvojem globokega učenja bi se morala pojaviti nova definicija, ki je neodvisna od človeške inteligence. (Lea 2015) V okviru razprav o novih tehnologijah in na področju oglaševanja je mogoče opaziti, da avtomatsko trženje ni samoučeč sistem, saj za svoje delovanje potrebuje znanje in nadzor človeka. Takšnega sistema samega po sebi številni ne definirajo kot umetno inteligenco, a kljub temu sodi na področje umetne inteligence. Potreba po enotni definiciji ostaja: tako zaradi nerazumevanja kot tudi pomanjkljivega interdisciplinarnega povezovanja med različnimi teoretičnimi področij, ki so v praksi že našla skupen jezik.
Karmen Marguč
79
Temni vzorci
Temni vzorci se po svoji naravi razlikujejo od slabega oblikovanja (dizajna), saj so načrtno prikrito oblikovani, da bi manipulirali z vedenjem potrošnikov, pri čemer izkoriščajo njihove prepoznane psihološke vzorce. Določeni uporabniški vmesniki so tako izdelani z namenom zavajanja uporabnikov. (Greenberg et al. 2014) Ne samo da temni vzorci uporabnikom povzročajo negativne izkušnje, temveč jih lahko tudi oškodujejo. Zaradi čedalje očitnejših primerov tovrstnih praks je Evropska unija leta 2014 posodobila direktivo o evropskih pravicah potrošnikov in prepovedala nekatere od najpogostejših temnih vzorcev, ki jih uporabljajo spletna mesta elektronskih trgovin. (Evropska komisija 2016)
Medtem ko nezmožnost definiranja umetne inteligence predstavlja osrednji problem pri določanju zakonodaje, lahko problem algoritemske (ne)preglednosti prinaša inteligentnejše in bolj skrite možnosti za manipuliranje potrošnikov. Razloge za manipulacije v spletnem oglaševanju je mogoče pripisati metričnim pogojem, ki v marketingu poudarjajo kratkoročne poslovne rezultate, ki so na globalni ravni precej dobičkonosni. Sprejemanje odločitev na področju oblikovanja spletnih strani in oglaševanja spremlja pomanjkanje javnega razprave o vprašanjih manipulacije. Problemi z vse naprednejšo tehnologijo tako postajajo vse očitnejši. Iz tega razloga je v nadaljevanju predstavljeno tako vprašanje racionalnega odločanja potrošnikov kot tudi racionalnosti umetne inteligence na področju oglaševanja.
80
Res novae
Vrzel racionalnosti med umetno inteligenco in potrošnikom
Baumane-Vitolina, Cals in Sumilo (2015) opozarjajo, da z razvojem umetne inteligence ter evolucijske in kognitivne znanosti spoznavamo, da je človeško ekonomsko vedenje veliko kompleksnejše od predpostavk modela »homo oeconomicus«. (Parkes in Wellman 2015) Behavioristična ekonomija5 v povezavi z nevroekonomijo,6 kognitivno psihologijo in strojnim učenjem daje empirične zaključke, da ima pri sprejemanju odločitev nezavedni del možganov veliko večjo vlogo v primerjavi z zavestnim ali racionalnim delom. Vpogled v vedenje potrošnika omogoča tudi razvoj na področju evolucijske ekonomije, ki je še posebej uspešna pri razlagi prepoznavanja hevristike. V okviru marketinga bi bilo takšno odločanje mogoče poenostavljeno ponazoriti na naslednji način: če kdo prepozna enega od dveh predmetov in ne drugega, potem lahko sklepa, da ima predmet, ki ga prepozna, višjo vrednost od drugega. Poleg tega je bilo ugotovljeno, da se človekove biološke preference ne ujemajo s sodobnim okoljem, zaradi česar prihaja do neskladnosti pri odločanju (primer Gigerenzerjevega modela). (Chen 2016) Danes prevladuje splošno mnenje, da so človekove odločitve pri nakupih neracionalne. Če predpostavimo, da navidezno racionalni potrošniki poskušajo čim bolj povečati svojo dolgoročno korist, izbirajo med množico blaga in storitev. To zahteva zbiranje, organiziranje in shranjevanje ogromne količine
5	Behavioristična ekonomija uporablja psihološko eksperimentiranje za razvijanje teorij o odločanju pri človeku. (Callebaut 2007; Etzioni 2011)
6	Nevroekonomija uporablja umetne nevronske mreže za analizo vedenja potrošnikov in modeliranje procesov odločanja potrošnikov. (Gan et al. 2005)
Karmen Marguč
81
informacij o razpoložljivem blagu - vsekakor več, kakor je sposoben posameznik. Domneva o racionalnosti nadalje zahteva, da potrošniki obdelajo vse potrebne informacije, da bi povečali uporabnost brez stroškov (denarno ali kognitivno). Četudi bi potrošnik želel ravnati racionalno, je to skorajda nemogoče, saj bi moral informacije, poleg prepoznavanja temnih vzorcev in podobnega, obdelovati objektivno oziroma prepoznavati tudi vse morebitne skrite (subliminalne) ali manipulativne tehnike psihološkega oglaševanja. Tudi v znanstveni literaturi na področju novih tehnologij v oglaševanju je mogoče zaslediti izjave, da bodo stroji o ljudeh kmalu vedeli več, kakor ljudje o sebi vedo sami. (Carnevale 2016) Po drugi strani uporaba tehnik iz nevroznanosti omogoča neposredno razumevanje, kako so možganska stanja in drugi fiziološki mehanizmi povezani z vedenjem potrošnikov in odločanjem. Nevromarketing lahko pozitivno vpliva na družbo in potrošnike, vendar se v tem kontekstu lahko pojavijo potencialno resna etična vprašanja glede uporabe nevromarketinga v gospodarstvu, saj lahko skupaj z razvojem umetne inteligence na prikrit način močno oškoduje potrošnika. (Stanton et al. 2017) Samo-učeča umetna inteligenca se razvija na osnovi pregledovanja elektronskega informacijskega toka posameznika oziroma s spremljanjem elektronskih poštnih sporočil, glasovnih sporočil, uporabe družbenih omrežij in podobnega. Na podlagi preferenc iskanja po spletnem omrežju, preživljanja prostega časa, nakupovalnih navad in deljenja osebnih opažanj oziroma komentarjev na spletu umetna inteligenca »gradi« model želja posameznega potrošnika. Prav tako »razume« nastavitve in ukrepe za preprečevanje neželenih vsebin. Z nenehnim prilagajanjem informacij umetna inteligenca življenje posameznika spremlja kot
82
Res novae
nekakšen prijatelj ali podpornik. Na tak način podjetja že pred posameznim nakupom vedo, česa si potrošnik želi in ga tako lahko usmerijo v ustrezen nakup. Tovrsten sistem z vidika tradicionalnega utilitarističnega pristopa predstavlja navidezno idealno okolje za nakupovanje - tako za potrošnika kot tudi prodajalca. Potrošniku se dejansko ni treba več odločati o nakupu, hkrati pa lahko podjetje zanesljivo predvideva, kaj in koliko lahko proda omejenemu številu ljudi na globalni ravni, kako naj vodi razvoj svojih izdelkov in razširi ponudbo, da bi zadostil potrebam kupcev. Korist je tako obojestranska. Toda kakor je bilo že omenjeno v prejšnjem poglavju, se na področju razvoja umetne inteligence srečujemo s problemom nejasnega delovanja. Če k temu prištejemo še neracionalno ravnanje človeka, ki morda na »neracionalen« način razvija tudi umetno inteligenco, lahko hitro pridemo do problema etičnosti celotne obravnavane »ekonomske mašineri-je«. Tradicionalni sistem koristi hitro izgubi svoj pomen, če ciljno usmerjena umetna inteligenca manipulira z namenom doseganja želenih rezultatov. Racionalni (ali super-racionalni) prodajalec se tako na spletu srečuje s sociobiološko vodenim neracionalnim kupcem.
Neracionalnost potrošnika v odnosu do super-racionalne-ga sistema odločanja umetne inteligence lahko razložimo s poenostavljenim grafičnim prikazom. (Slika 1) Evolucijsko človek ni prilagojen hitremu tehnološkemu razvoju ali življenju v sodobnem svetu. Kljub temu razvoj umetne inteligence prinaša velik preskok v smeri razumevanja kognitivnega delovanja potrošnika in manipuliranja z njim. Razkorak v racionalnosti7 pri sprejemanju odločitev
7 Na področju umetne inteligence je inteligentni agent avtonomna
Karmen Marguč	83
med ponudnikom (umetno inteligenco) in potrošnikom (človekom) se bo tako vse bolj povečeval. To lahko poimenujemo vrzel racionalnosti.
Slika 1: Vrzel racionalnosti med umetno inteligenco in potrošnikom v spletnem oglaševanju
Z večanjem vrzeli racionalnosti se odpirajo večje možnosti za prikrito neetično zavajanje potrošnika pri njegovem odločanju o spletnih nakupih. V literaturi ni splošnega konsenza, kdaj neko dejanje prestopi mejo etičnosti na področju psihološke manipulacije in subliminalnega oglaševanja.8 S pojavljanjem problemov pravne (zakonodajne) opredeljenosti delovanja algoritmov, ozke opredeljenosti ranljivih potrošnikov9 in novih možnosti subliminalnega
enota, ki se lahko uči ali uporablja svoje znanje za doseganje svojih ciljev, kar pomeni, da je racionalen. Ker je inteligentni agent racionalen in ima ciljno usmerjeno vedenje, se na področju umetne inteligence zanj uporablja tudi izraz, izposojen iz ekonomije, in sicer »racionalni agent«. (Russell in Norvig 2009)
8	Subliminalno oglaševanje pomeni načrtno oglaševanje na nezavedni ravni potrošnika oziroma na ravni pod ravnjo čutnih ali zavestnih zaznav potrošnika.
9	Ranljivi potrošniki so starejši od 75 let. (Jourova 2016)
84
Res novae
oglaševanja je mogoče pričakovati, da se bodo tovrstne težave z nadaljnjim razvojem naprednih tehnologij samo še stopnjevale, prav tako je mogoče pričakovati povečano nejasnost, skrito delovanje in nerazumevanje samega delovanja novih tehnologij.
Dellarocas (2006) ponuja eno izmed možnih rešitev problema manipulacije s potrošniki, ki jo imenuje »podganja« dirka podjetij. Podjetja, ki z željo po čim višji prodaji svoje vire uporabljajo za manipuliranje strank, na dolgi rok vse več sredstev porabljajo oziroma izgubljajo prav za manipulacijo. Dolgoročno se tako podjetjem izplača zgolj etično in dolgoročno sodelovanje s strankami. Toda z globalnim trgom se pojavlja vse več hitro rastočih kratkoročnih podjetij, ki s kratkotrajnim pridobivanjem posameznih potrošnikov dosegajo visoke dobičke ob minimalnih investicijah v razvoj. Drugo možno rešitev ponuja Holtel (2016), ko navaja, da je treba ob novih problemih pri vključevanju umetne inteligence v podjetja na novo opredeliti vrednostni sistem - tako za človeka kot tudi umetno inteligenco.10 Zaradi hitrega razvoja znanosti praksa močno prehiteva teoretične utemeljitve. Medtem ko se ekonomska literatura osredotoča na vedenjsko in kognitivno ekonomijo, se moralne oziroma filozofske teorije opirajo na neoaristotelsko etiko kreposti. (Bauma-ne-Vitolina, Cals in Sumilo 2015) V tem kontekstu se poraja naslednje vprašanje: Ali je nove teorije mogoče umestiti v praktični problem vrzeli racionalnosti med umetno inteligenco in potrošnikom v spletnem oglaševanju?
10 Od tukaj naprej je izraz »umetna inteligenca« uporabljen za področje raziskav in razvoja računalniških sistemov, ki lahko opravljajo naloge, ki običajno zahtevajo človeško inteligenco ali celo presegajo človeške sposobnosti izvajanja določenih nalog.
Karmen Marguč
85
Zahteva po interdisciplinarnem pristopu pri opredeljevanju etičnih temeljev
Moralna filozofija je ključna sestavina v postopku etičnega odločanja. Trevino s sodelavci (2006) predlagala, da tako moralno zavedanje (obstoj etične dileme), sodba (odločanje o pravičnosti) in namen (pomen dejanja) kot tudi etična motivacija (navdih za opravljanje prave stvari) predstavljajo osnovo za proces etičnega razmišljanja v poslovni organizaciji. Žal se raziskave navadno ukvarjajo s tradicionalnimi ekonomskimi teorijami in etičnimi pristopi, ki za spletno oglaševanje morda kmalu ne bodo več relevantni. (Tian 2015; Danciu 2014) V nadaljevanju je predstavljena problematičnost tradicionalnih etičnih teorij, raziskane pa so tudi možne rešitve v nekaterih sodobnejših etičnih teorijah, kot sta etika kreposti in evolucijska etika.
Problem tradicionalnih pristopov
Eden bolj priljubljenih utilitarističnih argumentov za prosti trg je »argument nevidne roke trga«, po katerem prosta trgovina med racionalnimi posamezniki vodi v konkurenčno in produktivno družbo. Toda z razvojem kognitivne psihologije spoznavamo, da potrošnik ni racionalen. Abraham in Sheeran (2003) ugotavljata, da se potrošniki pogosto ne odzivajo v skladu s svojimi namerami, spreminjajo svoje cilje in se zaradi vplivov zunanjega okolja soočajo s konflikti motivov za doseganje ciljev. Deontološka etika kot alternativa utilitarizmu sledi univerzalnim normam, ki predpisujejo, kaj morajo ljudje početi, kako naj se obnašajo, kaj je prav ali narobe. To je morala načel in ne posledic. Kljub formuliranju jasnih pravil, kot ja na primer Kantov
86
Res novae
kategorični imperativ, človek ni vselej racionalno zmožen upoštevati pravic in dolžnosti (Garrett 1997) ali pa ima celo težavo z upoštevanjem pravil v specifičnih situacijah, saj pravil v praksi ni mogoče univerzalno aplicirati. Za obravnavo kompleksnejših problemov in opravičevanje določenih dejanj ni uporaben niti utilitaristični niti deon-tološki pristop. (Altman 2007)
Zaradi temeljne problematičnosti omenjenih pristopov se je kot alternativa razvila etika kreposti, ki izhaja iz neoari-stotelskega pristopa do opredeljevanja kreposti človeka. Od individualistične etike se je opredeljevanje etičnosti prestavilo k odnosom med ljudmi in njihovemu delovanju. Etika kreposti je tako izražena v razmerjih (relacijah). Dobrobit se tako razvija v vsakodnevnih interakcijah z drugimi oziroma v skupnosti in skozi proces poskusov in napak. (Van Staveren 2007) Na moralni teoriji etike kreposti sloni tudi ekonomska teorija trženja odnosov (ang. relationship marketing, RM).11 Različni avtorji pojasnjujejo, da je cilj RM izgradnja dolgoročnega obojestranskega odnosa s ključnimi strankami in drugimi deležniki v podjetju. (Murphy et al. 2006, 38) Poudarek ni le na izmenjavi zdravih poslovnih odnosov, temveč tudi na dolgoročnih čustvenih vezeh. (39) Pri tem je osrednjega pomena upoštevanje določenih kreposti v odnosih. Murphy in drugi pregledno povzemajo pomembne kreposti, ki se pojavljajo v znanstveni literaturi, in sicer: poštenost, dobrobit, celovitost, zmogljivost, zanesljivost, ugled, zavezanost in zaupanje.
11 Trženje na podlagi odnosov pomeni upravljanje z odnosi s strankami, ki se osredotoča na zvestobo in dolgoročno vključevanje strank.
Karmen Marguč
87
Da bi bilo kreposti mogoče vključevati na področje umetne inteligence in pri opredeljevanju vodil v odnosih med ponudnikom in potrošnikom, je kreposti treba definirati. Medtem ko se moralna filozofija ukvarja z izbiro in številom določenih kreposti, skorajda ni mogoče najti razprave o njihovi praktični uporabi v spletnem oglaševanju in možni uporabi na področju umetne inteligence na osnovi njihove tehtne opredeljenosti. Vodila so pomembna z vidika jasne in nedvoumne uporabe. Četudi ima določeno podjetje jasna vodila za uresničevanje kreposti, je še vedno treba najti način za njihovo dejansko vključevanje v programsko opremo, in sicer v »sožitju« z definiranjem optimizacije, povečanjem prodaje in podobnimi cilji podjetja. Pri tem je treba upoštevati, da temelj delovanja vsakega podjetja ni pozitiven odnos s strankami, temveč ustvarjanje dobička, ki omogoča nadaljnji razvoj.
Ravnanje na osnovi intuicije, ki je večkrat izpostavljeno v okviru moralne teorije kreposti, izpodbijajo nova dognanja evolucijske in kognitivne psihologije, pri čemer je intuicija razložena na osnovi bioloških procesov v telesu in največkrat temelji na predhodnih izkušnjah ter je kot takšna neracionalna. Michel-Krejan in Slovic (2010) celo opozarjata, da lahko intuitivne zaznave vodijo do diktatorstva, saj navadno temeljijo na individualističnih vzgibih. Teoretične predpostavke »zdravega« odnosa je v praksi težko uresničevati in preverjati. Človek je po svoji naravi ciljno naravnan, kreposti pa mu ne dajejo zadostnih norm, po katerih bi se lahko vsakodnevno ravnal. Kot trdi Putnam (1988), je pri praktičnem uresničevanju etike kreposti potrebna zelo stroga racionalizacija in vzdržnost.
88
Res novae
V praksi se upoštevanje etike in »zdravih« odnosov velikokrat uporablja tudi za zavajanje javnosti. Singh (2014) ugotavlja, da veliko podjetij etičnost poslovanja oglašuje zgolj zaradi pridobivanja strank, medtem ko načel etičnosti dejansko ne uresničuje. Raziskava o odnosu potrošnikov do bolj priznanih blagovnih znamk v povezavi z oglaševanjem etičnosti podjetja je pokazala, da je imela deklarativna etičnost podjetja vpliv na nakupe v primeru izdelkov slabše kakovosti, v primeru splošno bolj priznanih blagovnih znamk pa etičnost ni igrala pomembne vloge. (Folkes in Michael 1999) Zaradi problemov, s katerimi se sooča etika kreposti v praksi, bo zato z namenom iskanja možnih alternativnih rešitev v nadaljevanju prikazano področje evolucijske etike.
Problem in nadgradnja evolucijske etike
Evolucijska etika12 se je razvijala vzporedno z ugotovitvami kognitivne psihologije in ekologije razvoja človeka pri sprejemanju odločitev. Družbenost, altruizem, sodelovanje, medsebojna pomoč in podobne človekove značilnosti so razložljive na osnovi bioloških korenin človekovega družbenega vedenja. Moralno ravnanje je moralno naravnanim skupinam ljudi pomagalo pri njihovem dolgoročnemu preživetju. Herbert Spencer13 je tako skoval izraz »preživetje najmočnejšega«, ki ga danes zasledimo tudi v utilitarističnih načelih moralnega odločanja v ekonomiji, in ga presnel v okvir definiranja etičnih načel. Humovo
12	Evolucijsko etiko je razvil E. O. Wilson v svojem delu On Human Nature (1978), kjer je predstavil spoznanja na področju delovanja človeka in jih umestil v okvir sociobiologije.
13	Spencerjevo delo Principles of Biology (1864) temelji na delu Charlesa Darwina On the Origins of Species (1859).
Karmen Marguč
89
kritiko evolucijske etike s trditvijo, da normativnih izjav ni mogoče izpeljati iz empiričnih dejstev, je nadgradil G. E. Moore v monografiji Principia Ethica, ko je predstavil enega najzahtevnejših problemov evolucijske etike, ki se imenuje naturalistična zmota. (2016, 46-58) Temeljni problem pretvarjanja izjave »najmočnejši preživi« v etiko na praktični ravni predstavlja primer Hitlerjevega socialnega darvinizma. V tem kontekstu je pomembno delo Die Lebenswunder Ernsta Haeckla (1905), ki je na osnovi evolucijske teorije izpeljal moralna merila za vrednotenje rasno različnih skupin ljudi. Na tak način je utemeljeval visoko civiliziranost evropskih moških v nasprotju z avstralskimi črnci ali Indijanci, ki jih je označil za »psihološko bližje višjim vretenčarjem«, kot so opice in psi. Problem evolucijske etike, ki jo je izpostavil Moore, je tudi dejstvo relativnosti moralnega dobrega oziroma njegove močne povezanost s stališči določene družbe.
Z napredovanjem tehnologije in uporabo umetne inteligence smo bližje odgovorom, kako iz evolucije človeka izpeljati splošne družbene norme. Z razvojem evolucijske biologije so se nekateri ekonomisti obrnili k razlagi koristnosti (ang. utility) v smislu biti »zdrav« ali »čil« (ang. fitness). Evolucijski biologi domnevajo, da so mehanizmi izbire pri vseh organizmih v temelju namenjeni maksimiranju »zdravja«, ki pomeni sposobnost organizma, da prenese svoje gene na naslednjo generacijo. (Kenrick et al. 2009) Človeški možgani tako ne delujejo kot velika in enovita osrednja procesna enota, temveč rešujejo različne prilagoditvene težave z uporabo razmeroma neodvisnih funkcijskih modulov. (Barrett in Kurzban 2006) Poenostavljeno lahko trdimo, da ljudje in drugi organizmi iščejo različne vrste ugodja in se izogibajo različnim vrstam
90
Res novae
neugodja ali kaznovanja z zelo različnimi, včasih tudi povsem nezdružljivimi pravili. V tem kontekstu se je razvil pojem »globoke racionalnosti«, ki kaže, da se različna pravila odločanja obdelujejo v odvisnosti od aktivnosti trenutnih motivacijskih sistemov. (Kenrick et al. 2009) Globoka racionalnost povzroča določene odzive, ki so lahko v protislovju s človekovimi dolgoročnimi cilji. Ko ljudje dejavno zasledujejo enega od družbenih ciljev (denimo samooskrba v odrasli dobi), osredotočenost na to področje prikliče procesne nastavitve, ki vodijo k dolgoročnejšim odločitvam, ki so skladne z doseganjem tega cilja (denimo izogibanje zapravljanju denarja). Toda to ni nujno usklajeno z drugimi cilji (denimo preživeti več časa doma z otroki). Z evolucijskega vidika se ljudje odločajo glede na niz osnovnih pravil odločanja, ki so značilni za človekove prednike. Kljub temu kognitivna psihologija prinaša nova empirična spoznanja na področju sprejemanja odločitev. Sprejemanje odločitev raziskuje glede na instinkte oziroma čustva ali kratkoročna stanja in normativne odločitve, ki so racionalne in dolgoročne. Čeprav bi lahko sklepali, da so se zmogljivosti človeka za normativno vedenje razvile iz razlogov, ki nimajo nič skupnega z moralnimi resnicami kot takšnimi (Nelson 2011), novejša dognanja kažejo na možnost uporabe dolgoročnih racionalnih in normativnih odločitev za definiranje splošnih pravil, ki temeljijo na ohranjanju človeške vrste in okolja. Raziskave, ki nakazujejo, da normativne odločitve globoke racionalnosti izhajajo iz evolucijskih nagibov ohranjanja vrste, pomenijo vstop v zavedanje, da je evolucija del človeške narave, ki je v skladu z načelom skupnega dobrega (glede na stališča določene skupnosti). (Richards 1986) To je vidno tudi na podlagi preučevanja ponotranjanja družbenih norm. Medtem ko na eni strani
Karmen Marguč
91
srečujemo »prekomerno socializirane« posameznike, ki so se pripravljeni žrtvovati za družbo, pa na drugi strani srečujemo tudi »podsocializirane« posameznike, ki so do družbenih norm ravnodušni. Razvijanje sposobnosti ponotranjanja norm je ključni korak na poti k obsežnemu sistemu sodelovanja med ljudmi. (Gavrilets in Richerson 2017) Na osnovi raziskav je mogoče na splošno sklepati, da se potrošnik glede na družbene norme odloča bodisi kratkoročno oziroma impulzivno ali dolgoročno in premišljeno. Trajnost predstavlja eno izmed temeljnih načel, po katerem so odločitve vezane na dolgoročno blagostanje globalne družbe na različnih področjih (v etiki, ekologiji, ekonomiji ipd.).
Vse to kaže na potrebo po razvoju interdisciplinarne etične teorije, ki bo temeljila na načelu trajnosti, ki se morda odraža v načelih kognitivne evolucije človeške psihologije in genetike. To je mogoče preveriti na primeru sprejemanja poslovnih odločitev pri spletnem oglaševanju, kjer se kažeta dva cilja. Cilj podjetnika je povečanje prodaje oziroma dobička, cilj potrošnika pa najbolj optimalen in racionalen nakup, ki bo zadovoljil njegove potrebe. Namesto hotenega (ciljnega) izpolnjevanja univerzalnega ohranjanja človeške vrste se podjetnik in kupec odločata v odvisnosti od situacije na osnovi mehanizma globoke racionalnosti. Glede na to da v okviru kratkoročnih odločitev lahko prihaja do konfliktov znotraj posameznika, ponudnik to okoliščino s pridom izkorišča z oglaševanjem, na osnovi katerega je potrošnik »prikrito zaveden« v nakup. Z razvojem umetne inteligence ponudnik dobiva »racionalno« prednost, saj bo potrošnik le s težavo racionalno prepoznaval, kaj je zanj najbolje. V kontekstu razvoja umetne inteligence na področju spletnega oglaševanja
92
Res novae
je zato smotrno ugotavljati, da je ozko naravnano razmišljanje o posameznih elementih »zastarelo«. Veliko upo-rabnejše je razmišljanje in sprejemanje odločitev na podlagi relacijskih povezav. Če se trženje na podlagi odnosov uporablja na relaciji med ponudnikom in potrošnikom, v sklop definiranja etičnih norm in dolgoročnega pozitivnega sodelovanja vstopajo tudi drugi odnosi: odnos med umetno inteligenco in podjetnikom, umetno inteligenco in ponudnikom, relacijske povezave med kratkoročnimi koristmi (povečanje prodaje, zadovoljstvo potrošnika) in dolgoročnimi cilji (trajnostna družba, človeška etičnost). Največji problem predstavljajo prav relacije med posameznimi nakupovalnimi odločitvami, ki postajajo vse težje, na eni strani ter racionalnimi dolgoročnimi in globalnimi odločitvami, ki vključujejo blagostanje celotne družbe, na drugi. Tovrstne povezave je mogoče optimalno raziskovati v tesnem sodelovanju različnih disciplin, ki kot orodje za reševanje problemov koristijo razvoj umetne inteligence. Raziskovanje tovrstnih odnosov predstavlja kompleksen in dolgoročen globalni izziv. Nova teorija, ki bi tako temeljila na »trajnostno-evolucijskih interdisciplinarnih« dognanjih, bi prinesla normativ, ki bi ga lahko uporabljali tako pri vključevanju etičnih norm v algoritme in s tem delovanje umetne inteligence kot tudi pri pravnih (zakonodajnih) vodilih etičnih odnosov med poslovnimi partnerji.
Zaključek
V tem prispevku je prvič v slovenski znanstveni literaturi predstavljen problem racionalne vrzeli med potrošnikom in spletnim oglaševanjem, ki pri svojem delovanju upo-
Karmen Marguč
93
rablja umetno inteligenco. Izhajajoč iz predvidevanja, da bo spletno oglaševanje z uporabo napredne umetne inteligence v prihodnjem desetletju postajalo še bolj racionalno, optimizirano in sposobno, je nujno izpostaviti skrb, da do sedaj v znanstveni literaturi nasploh problema vrzeli racionalnosti skorajda ni mogoče zaslediti. Pri tem je mogoče že danes spremljati nove tehnike subliminalnega oglaševanja, ki prestopa meje etičnosti. Skrb je utemeljena na podlagi nerazložljivosti algoritmov v umetni inteligenci, vključevanja pomena umetne inteligence v zakonodajo in neusklajenosti varovanja potrošnikov s tehnološkim napredkom. Od tod je mogoče potrditi prvo hipotezo, po kateri razvoj umetne inteligence povečuje razkorak med sposobnostmi umetne inteligence in potrošnika, in sicer zaradi objektivno omejenih psihofizičnih lastnosti potrošnika, na katere umetna inteligenca sama po sebi nima neposrednega vpliva.
Opredeljevanje etičnih norm za njihovo vključevanje v algoritme na področju spletnega oglaševanja je nujno zaradi preprečevanja skritega oškodovanja potrošnikov. Sodobni problemi, kot je vpeljava etičnosti in trajnosti pri delovanju trgovine na globalni ravni, ki vpliva na dolgoročni razvoj gospodarstva in družbe kot celote, niso rešljivi z ozkimi raziskavami tradicionalnih etičnih teorij. Četudi bi kognitivna psihologija utegnila rešiti Moorov problem naturalistične zmote, je pri definiranju norm »socializira-nih posameznikov« potrebno vključevanje načel trajnosti za doseganje skladnosti v razvoju različnih področij, kot sta umetna inteligenca ali globalna in dolgoročna etičnost. Poleg tega je za vključevanje globalnih norm na raven posameznega tržnega odnosa med ponudnikom in potrošnikom potrebno interdisciplinarno sodelovanje. Od
94
Res novae
tod lahko potrdimo drugo hipotezo, da obstoječe teorije na področju etike in vedenjske ekonomije za reševanje problema vrzeli racionalnosti med umetno inteligenco in potrošnikom niso ustrezne.
Raziskave na področju kognitivne psihologije in ekologije ob podpori umetne inteligence prinašajo nova spoznanja o evoluciji človeških moralnih vrednot na globalni in dolgoročni ravni ter s tem odpirajo možnosti za oblikovanje alternativne interdisciplinarne teorije. Za razvoj tovrstne teorije so potrebne naslednje dodatne interdisciplinarne raziskave:
1.	natančnejša opredelitev in raziskava problema vrzeli racionalnosti;
2.	aplikativni razvoj etičnih norm, ki jih je mogoče enostavno uporabiti tako v praksi kot tudi teoriji (zakonodaji) in jih lahko enostavno ponotranjijo tudi »podso-cializirani« posamezniki;
3.	definiranje etičnih norm, ki temeljijo na načelih trajnosti v sodelovanju z razvojem umetne inteligence;
4.	oblikovanje etičnih teorij, ki temeljijo na novih spoznanjih kognitivne psihologije, umetne inteligence in vedenjske ekonomije;
5.	raziskave o povezanosti verskih vrednot in moralnih evolucijskih vzgibov človeka.
Trajnostni vidik je v tem prispevku izpostavljen zato, ker znanstvena dognanja o globokih racionalnih odločitvah posameznika, na podlagi katerih bi bilo mogoče definirati splošne etične norme, temeljijo na ciljni usmerjenosti posameznikove skrbi za ohranjanje človeštva kot vrste in okolja, v katerem živi. V okviru tega prispevka je za na-
Karmen Marguč
95
daljnje raziskovanje pomembno tudi vprašanje evolucije verskih vrednot v odnosu do evolucije moralnih vrednot. Problem vrzeli racionalnosti, ki je v osnovi praktične narave, vsekakor predstavlja izhodišče za številne nove interdisciplinarne raziskave, ki bodo iskale nov temelj za vključevanju umetne inteligence v vsakodnevno poslovno življenje.
Reference
Abraham, Charles; Sheeran, Paschal. 2003. Implications of Goal Theories for the Theories of Reasoned Action and Planned Behaviour. Current Psychology 22, st. 3:264-280.
Altman, Matthew C. 2007. The Decomposition of the Corporate Body: What Kant Cannot Contribute to Business Ethics. Journal of Business Ethics 74, st. 3:253-266.
Barrett, Clark H.; Kurzban, Robert. 2006. Modularity in Cognition: Framing the Debate. Psychological Review 113, st. 3:628-647.
Baumane-Vitolina, Ilona; Cals, Igo; Sumilo, Erika. 2015. Is Ethics Rational? Teleological, Deontological and Virtue Ethics Theories Reconciled in the Context of Traditional Economic Decision Making. Procedia Economics and Finance 39:108-114.
Callebaut, Werner. 2007. Herbert Simon's Silent Revolution. Biological Theory 2, st. 1:76-86.
96
Res novae
Carnevale, Antonio. 2016. Will Robots Know Us Better Than We Know Ourselves? Robotics and Autonomous Systems 86:144-151.
Chen, Jing. 2016. The Unity of Science and Economics: A New Foundation of Economic Theory. New York: Springer Verlag.
Collins. 2017. English Dictionary Collins. Harper Collins Publishers. https://www.collinsdictionary.com/dictionary/ english/artificial-intelligence (pridobljeno 25. 9. 2017).
Danciu, Victor. 2014. Manipulative Marketing: Persuasion and Manipulation of the Consumer Through Advertising. Theoretical and Applied Economics 21, st. 2:19-34.
Dellarocas, Chrysanthos. 2006. Strategic Manipulation of Internet Opinion Forums: Implications for Consumers and Firms. Management Science, 1. oktobra. Http://pubson-line.informs.org/doi/abs/10.1287/mnsc.1060.0567 (pridobljeno 27. 9. 2017).
Etzioni, Amitai. 2011. Behavioral Economics: Next steps. Journal of Consumer Policy 34, st. 3:277-287.
Evropska komisija. 2016. Consumer Rights Directive. Evropska komisija, 2. avgusta. Http://ec.europa.eu/con-sumers/consumer_rights/consumer_rights_directive/ index_en.htm (pridobljeno 23. 9. 2017).
Folkes, Valerie S.; Kamins, Michael A. 1999. Effects of Information About Firms »Ethical and Unethical Actions on
Karmen Marguč
97
Consumers« Attitudes. Journal of Consumer Psychology 8, st. 3:243-259.
Gan, Christopher; Limsombunchai, Visit; Clemens, Mike; Weng, Amy. 2005. Consumer Choice Prediction: Artificial Neural Networks Versus Logistic Models. Citeseerx, julij. Http://citeseerx.ist.psu.edu/viewdoc/download?doi=io .i.i.i36.550i&rep=repi&type=pdfhttp://citeseerx.ist.psu. edu/viewdoc/download?doi=i0.i.i.i36.550i&rep=repi&ty pe=pdf (pridobljeno 26. 9. 2017).
Garrett, Brian. 1997. Anscombe on »I«. The Philosophical Quarterly 47, st. 189:507-511.
Gavrilets, Sergey; Richerson, Peter J. 2017. Collective Action and the Evolution of Social Norm Internalization. Proceedings of the National Academy of Sciences 114, st. 23:6068-6073.
Greenberg, Saul; Boring, Sebastian; Vermeulen, Jo; Dostal, Jakub. 2014. Dark Patterns in Proxemic Interactions: A Critical Perspective. V: Proceedings of the 2014 Conference on Designing Interactive Systems, June 21-25, 523-532. Ur. Ron Wakkary in Stephen Harrison. Vancouver: Simon Fraser University.
Haeckel, Ernst. 1905. Gemeinverständliche Studien über Biologische Philosophie: Ergänzungsband zu dem Buche über die Welträthsel. Karsten Klopffleisch. Http://caliban. mpipz.mpg.de/haeckel/lebenswunder/index.html (pridobljeno 28. 9. 2017).
98
Res novae
Holtel, Stefan. 2016. Artificial Intelligence Creates a Wicked Problem for the Enterprise. Procedia Computer Science 99:171-180.
Jourova, Vera. 2016. Understanding Consumer Vulnerability in the EU's Key Markets. Europska komisija. Http:// ec.europa.eu/consumers/consumer_evidence/market_ studies/vulnerability/index_en.htm (pridobljeno 29. 9. 2017).
Kenrick, Douglas T.; Griskevicius, Vladas; Sundie, Jill M.; Li, Norman P.; Li, Yexin Jessica; Neuberg, Steven L. 2009. Deep Rationality: The Evolutionary Economics of Decision Making. Social Cognition 27, st. 5:764-785.
Knight, Will. 2017. The Dark Secret at the Heart of AI. MIT Technology Review, 11. aprila. Http://www.evolvingai.org/ files/MIT_Tech_Dark_secret.pdf (pridobljeno 25. 9. 2017).
Lea, Garry. 2015. Why We Need a Legal Definition of Artificial Intelligence. The Conversation Trust, 2. septembra. Https://theconversation.com/why-we-need-a-legal-defi-nition-of-artificial-intelligence-46796 (pridobljeno 25. 9. 2017).
Lucci, Stephen; Kopec, Danny. 2016. Artificial Intelligence in the 21st Century [druga izdaja]. Herndon: Merczry Learning & Information.
Michel-Krejan, Erwann; Slovic, Paul. 2010. The Irrational Economist: Making Decisions in a Dangerous World. New York: Public Affairs.
Karmen Marguč
99
Moore, George E. 2016. Principia Ethica. The Project Gutenberg EBook of Principia Ethica, 2. novembra. Http://www. gutenberg.org/files/53430/53430-h/53430-h.htm (pridobljeno 30. 9. 2017).
Murphy, Patrick E.; Laczniak, Gene R.; Wood, Graham. 2006. An Ethical Basis for Relationship Marketing: A Virtue Ethics Perspective. European Journal of Marketing 41, št. 1/2:37-57.
Nelson, Richard R. 2011. Human Behavior and Cognition in Evolutionary Economics. Biological Theory 6:293-300.
Parkes, David C.; Wellman, Michael P. 2015. Economic Reasoning and Artificial Intelligence. Science 349, št. 6245:267-272.
Putnam, Ruth A. 1988. Review: Reciprocity and Virtue Ethics. Ethics 98, št. 2:379-389.
Richards, Robert. 1986. A Defense of Evolutionary Ethics. Biology and Philosophy 1, št. 3:265-293.
Russell, Stuart; Norvig, Peter. 2009. Artificial Intelligence: A Modern Approach. New York: Pearson.
Singh, Manender. 2014. Ethical Issues and Principles Related to Advertising. Abhinav Publication 3, št. 6:100-108.
SSKJ. 2008. Slovar slovenskega knjižnega jezika. Fran: Inštitut za slovenski jezik Frana Ramovša ZRC SAZU. Http:// bos.zrc-sazu.si/cgi/a03.exe?name=sskj_testa&expression =umetna+inteligenca&hs=1 (pridobljeno 26. 9. 2017).
100
Res novae
Stanton, Steven J.; Sinnott-Armstrong, Walter; Huettel, Scott A. 2017. Neuromarketing: Ethical Implications of its Use and Potential Misuse. Journal of Business Ethics 144, st. 4:799-811.
Tian, Juhui. 2015. The Application of Ethical Theories to Analyse the Marketing Practice of Advertising. Modern Management Science & Engineering 3, st. 1:60-64.
Treviño, Linda K.; Weaver, Gary R.; Reynolds, Scott J. 2006. Behavioral Ethics in Organizations: A Review. Journal of Management 32, st. 6:951-990.
Van Staveren, Irene. 2007. Beyond Utilitarianism and Deontology: Ethics in Economics. Review of Political Economy 19, st. 1:21-35.