M 91ORGANIZACIJA ZNANJA 2010, LETN. 15, ZV. 3 doi:10.3359/oz1003091 Donald Gotterbarn Ethics Research Institute East Tennessee State University Kontaktni naslov: gotterba@etsu.edu UVOD Organizacija združenih narodov je razglasila 17. maj za Svetovni dan informacijske družbe, da bi usmerila pozornost na možnosti, ki jih družbam in ekonomijam ponuja uporaba interneta in drugih informacijskih in komunikacijskih tehnologij, in da bi prispevala k premoščanju digitalnega razkoraka v svetu. Obravnaval bom pomen etike v informacijski družbi. Nastanek informacijske družbe namreč predstavlja številne prednosti za nas vse. Naša odvisnost od informacij je iz dneva v dan večja, pri čemer pa uporaba informacijsko-komunikacijske tehnologije (IKT) prinaša odločilne prednosti. Močno vpliva na način našega življenja, delo, socializacijo, učenje, medsebojno sodelovanje in zabavo. Tega se morajo zavedati tako razvijalci programske opreme kot njeni uporabniki. "ETIZIRANJE" V INFORMACIJSKI DRUŽBI TVEGANJE ZARADI POMANJKLJIVE USPOSOBLJENOSTI Izvleček Pozitivni obeti tehnologije za izpolnitev najboljšega v človeku se lahko končajo z nepričakovanimi polomi ali uporabnimi sistemi. Ko programsko opremo razvijajo zlobni ljudje, so škodljivi rezultati razumljivi. Na nesrečo pa se zelo pogosto dogaja, da takšni rezultati nastanejo tudi v primerih, ko sisteme razvijajo dobronamerni ljudje. Enaki problemi so lastni tudi razvoju in uporabi konvergenčnih tehnologij. Srčni spodbujevalnik, ki ga preoblikuje maščevalni heker, ima čisto drugačne posledice kot razgradnja glasbene mape v računalniku. Glavni razlogi, da tudi dobri ljudje oblikujejo sisteme s škodljivimi posledicami, so povezani z načinom, kako razvijamo programsko opremo, kako upoštevamo vse deležnike in na katero vrsto tveganja se osredotočimo. Ključne besede "etiziranje", konvergenčne tehnologije, etika učenja, etični kodeks Abstract Tecnology’s positive promises for fulfillment of what is best in humankind often result in unexpected disasters or usable systems. When malevolent people develop software such adverse outcomes are undestandable. Unfortunately, too frequently, even the systems developed by good well-intentioned people have similar negative results. These problems are compounded in the development and use of convergent technologies. A pacemaker which can be modified by a vengeful hacker has more significant consequences than the deletion of my song files. Major causes of harmful consequences of systems designed by good people are related to: the way in which we develop software, the kids of stakeholders considered, and the types of risks we fokuse on. Keywords "ethicing", convergent technology, ethics of learning, code of ethics Trdno verjamem v pozitivni doprinos računalništva. Sam lahko danes prav zaradi sodobne medicinske tehnologije spet fotografiram, čeprav sem skoraj oslepel. Konvergenco tehnologij razumem kot nadaljnji celovit korak v razvoju računalništva. Ko to trdim, imam v mislih tudi določene omejitve, znotraj katerih to drži in jih bo treba upoštevati tudi v prihodnosti. Gre za splošno teorijo in družbeni model, s katerima moramo računati pri razvoju računalništva kot tudi pri konvergenci tehnologij. Prihodnji razvoj je v veliki meri odvisen od tega, kako ju razumemo, in to bo v središču pozornosti mojega prispevka. STOPNJE DRUŽBENO-KULTURNEGA RAZVOJA Za izhodišče sem si izbral ugotovitve Margaret Mead, sociologinje, ki raziskuje vzorce procesov učenja in akulturacije ter še posebej etičnega dozorevanja. Njeni 92 ORGANIZACIJA ZNANJA 2010, LETN. 15, ZV. 3 modeli mi pomagajo razumeti nekatere probleme v razvoju računalništva in še posebej sedanjo fazo razvoja, ki jo označujemo s tehnološko konvergenco. Načini, kako se učimo, so definirani z elementi kulturnega modela, v katerem živimo, pri čemer je prisoten tudi vpliv tehnologije na učenje. Stopnje učenja etike – česa se naučimo na določeni stopnji – so tesno povezane z našim dojemanjem odnosa med etiko in tehnologijo. Ponazarjajo naše etično dozorevanje. Govorimo o treh stopnjah, ki se opirajo na tri kulturne sisteme, kot jih je opredelila Meadova po kriteriju, kdo se uči od koga: 1. Kulture, v katerih je napredek počasen in se otroci vsega naučijo od svojih staršev. Tako so se v starih časih prenašale tudi rokodelske veščine med generacijami. Spremembe so bile komaj opazne. 2. Kulture, v katerih je napredek zmeren in se oboji, otroci in starši, učijo od najsposobnejših v svojem okolju. Takšno je bilo učenje v industrijski dobi. 3. Kulture, v katerih je napredek tako hiter, da se starši učijo od svojih otrok, otroci pa si prizadevajo čim hitreje zavreči stare zmote. Iz računalništva poznamo Moorejev zakon, po katerem se vsakih 18 mesecev znanje podvoji (Moore govori o hitrosti procesorja) in iz tega si lahko enostavno izračunamo, kdaj se je treba začeti učiti od svojih otrok. Na odpadu so že nepopisne količine zastarelih tehnologij! Vendar ne gre zgolj za to, od koga se učimo, pač pa tudi za njihove vrednote in za njihove izkušnje, kar je Meadova prikazala v splošnem modelu (slika 1). Slika 1: Model tehnologije in etike učenja Presenetljivo je, kako se v računalništvu – in na sploh pri tehnoloških spremembah – ponavljajo celo vzorci, ki jih je Meadova odkrila pri raziskovanju družbenih sprememb v primitivnem okolju Samoe. Vedno gre za preplet tehnologije in etike in ti vzorci so relevantni tudi za konvergenčne tehnologije. Meadova je opredelila naslednje stopnje družbeno-kulturnega razvoja: • doba nedolžnosti, ko so izbire neškodljive in nedolžne, zgolj otroške spolne igrice; • doba odraščanja, ko pridobivanje polne moči spremljajo problemi zaradi njene neprimerne uporabe; • družinska doba (plemenske vrednote), ko obstaja zavedanje o povezanosti plemenskega življenja in spoštovanja vrednot. Prepričan sem, da so navedene stopnje etičnega razvoja odličen model za razumevanje razvoja etike IKT. Pri shematskem prikazu izhajam iz posplošenega modela družbeno-kulturnega razvoja (slika 2). Slika 2: Družbeno-kulturni razvoj Tudi pri razvoju informatikov prepoznamo: • dobo nedolžnosti, ko v računalništvu naivno vidijo zgolj pozitivno plat, ne da bi se zavedali kakršnih koli etični problemov ali razmišljali o kakšnih vrednotah; • dobo odraščanja, ko imajo težave z nadzorovanjem svojih sposobnosti, nastopajo kot računalniški "mačoti" ter so tako očarani od lastne moči nad strojem, da jo projicirajo tudi na družbeno okolje in pri tem ne upoštevajo nobenih vrednot in odgovornosti ter se imajo za nekakšne vrače; • družinsko dobo ali dobo plemenskih vrednot, ko znajo povezati človeške vrednote s tehnologijo, ker dojamejo neločljivost obojega, kar jih navaja k spoštovanju kodeksov, standardov in profesionalnosti – vedo, da s tehnologijo uveljavljajo določeno etiko in da je to velika odgovornost. Na ta način dobimo ciklus (slika 3), kjer je tretja stopnja razdeljena v dve podstopnji. Donald Gotterbarn: "ETIZIRANJE" V INFORMACIJSKI DRUŽBI M T 93ORGANIZACIJA ZNANJA 2010, LETN. 15, ZV. 3 Slika 3: Tehnološko-etični razvoj (IKT) STOPNJE V RAZVOJU RA^UNALNI[TVA GLEDE NA ETIKO O dobi nedolžnosti v razvoju računalništva lahko govorimo do leta 1980, ko še ni bilo "slabih dečkov". Z novim področjem so se ukvarjali strokovnjaki s področja logike in matematike. Svoje naloge v razvoju so opravljali z navdušenjem in učinkovito ter z velikim občutkom za potrebe uporabnikov, ki so jim praviloma puščali odprta "zadnja vrata" za morebitne prilagoditve in spremembe. Veljalo je: "Etika ni naš problem, ker smo mi sami dobri dečki." Sledilo je obdobje prekipevajoče moči, ko je bilo vse v rokah programerskih "kavbojev". Ti so delovali po načelu: "Ti samo povej, kaj bi rad, pa bom pripravil "mašino", da bo to naredila! Pravzaprav pa vem bolje od tebe, kaj je zate najboljše!" Etika pri tem nima kaj opraviti, ker je programiranje etično nevtralno opravilo. Taki "kavboji" so bili še znosni, dokler se niso ob pojavu osebnih računalnikov nepopisno namnožili in domala slehernik je dobil priložnost, da igra "dobrega" ali "slabega dečka". Glede tega so se lahko preizkusili recimo pri plagiatorstvu, ki ga je omogočala programska oprema za urejanje besedil. Podobno izbiro so imeli glede piratstva. Zaenkrat so raketni sistemi ali sistemi za prečiščevanje pitne vode še varni, ampak kako dolgo? Z računalnikom lahko počnem vse mogoče, ampak česa se bom v resnici lotil? V obdobju nedolžnosti so se v programe praviloma vgrajevala "zadnja vrata", to pa je v kavbojskih časih postal resen problem. Vlade so z vsemi sredstvi spodbujale informatizacijo in bile pri tem kar uspešne, saj je danes vse na računalnikih. Slovenija je bila pri tem še posebej zavzeta, saj je imela v začetku tega desetletja celo posebno ministrstvo za informacijsko družbo. Ko pa se je računalništvo razširilo, se je odnos med vrednotami in tehnologijo resno zaostril. Slovensko društvo Informatika je aktivno poseglo v dogajanje s prevodi programskih dokumentov EU in s sprejetjem poklicnega kodeksa informatikov. Odprto pa ostaja vprašanje, kako je z vladnimi standardi na tem področju, kako je urejeno licenciranje programerjev in na kakšen način so spoznanja o družbenih vplivih IKT vključena v študijske programe računalništva? Profesionalnost na področju IKT pomeni obvladovanje številnih aplikacij in učinkovitih sistemov. Zasnovana je na preverjenih sposobnostih, izhajajočih iz izobrazbe in izkušenj. Zelo bistven pa je tudi etični kodeks, ki zahteva prevzemanje odgovornosti za razvoj višjih stopenj urejenosti. Profesionalci si vedno prizadevajo za maksimiranje pozitivnih učinkov IKT, kar presega delovanje po "logiki najmanjšega napora". Ko se profesionalec odloči, da bo razvil sistem, je to etična odločitev o sodelovanju z naročnikom, o upoštevanju stranskih uporabnikov in drugih deležnikov. Če se odloči, da jih bo obšel, je to še kakó moralno vprašanje. Biti profesionalec skratka pomeni veliko več kot razpolagati s šolsko diplomo iz neke stroke. Razvijanje tehnologije je v resnici že "etiziranje". Pri tem ni v ospredju samopodoba strokovnjaka, ampak rezultati, ki jih s svojo sposobnostjo dosega v družbenem okolju. Pri razvoju se vedno znova vračamo na začetek ciklusa, na stopnjo akulturacije: korak v novo smer vodi v nepredvidene situacije glede na to, koga se dotaknemo in kako. Vsakič začnemo s pozicije nedolžnosti in se sklicujemo na najboljše namene. Bistveno je, da ne ostanemo pri tem, ampak se intenzivno učimo z vpogledom v družbene vplive tehnologije, upoštevaje kulturno in etično razsežnost. Problem je, ker vedno znova prihajamo v to stanje in če nimamo pojma o računalniški etiki, bomo neprestano presenečeni in nepripravljeni. Resna težava je, da tudi etika ni pripravljena na razmere, ki nastajajo z uporabo IKT. Navajeni smo, da: • nas o odnosih v skupnosti poučijo starši, • nam šola pokaže veljavne vzorce obnašanja, • država določi pravni okvir, • vera pomaga z zapovedmi in duhovnimi nasveti. Ampak v vseh teh tradicionalnih postopkih ne zvemo ničesar o: • elektronskem zalezovanju, • kraji, ne da bi se dotaknili artefakta, • lastništvu nad besedo, • pravici do snemanja, • odnosu Svetega pisma do tviterja (angl. twitter), • še sto podobnih zadevah. Tradicionalna etika se ob takšnih vprašanjih popolnoma zmede. Donald Gotterbarn: "ETIZIRANJE" V INFORMACIJSKI DRUŽBI 94 ORGANIZACIJA ZNANJA 2010, LETN. 15, ZV. 3 POJAV KONVERGEN^NIH TEHNOLOGIJ Prepričan sem, da konvergenčne tehnologije predstavljajo naslednji korak v razvoju računalništva kot način za pospeševanje hitrosti sprememb in njihovo širjenje. Ker s tem nimamo izkušenj, nas nova tehnologija spravlja v negotovost. Brez dvoma morajo tudi konvergenčne tehnologije skozi opisani ciklus zorenja, a s tem dopolnilom, da pri tem potrebujemo še pripravljenost uporabnikov. Združujejo se orodja, ki smo jih vajeni obvladovati ločeno: kalkulator, centralni sistem, osebni računalnik, iPod, internet, mobilni telefon … Z njimi si pomagamo pri volitvah, oborožitvi, vodenju države itd., vse do nanotehnološkega čipa RFID pod kožo našega štirinožnega ljubljenčka. Če bi v večji meri upoštevali "etizacijo" servisov, realiziranih z IKT, bi nam to že danes prineslo številne in prijaznejše rešitve od obstoječih. Recimo pri XP-verziji Windowsov si lahko prilagodite velikost črk v osnovnem besedilu, ampak program tega ne upošteva pri podčrtnih opombah. Lahko bi programsko preprečili zlorabo nadzornih sistemov za zasledovanje zaposlenih. Takih možnosti proaktivne anticipacije etičnega in družbenega tveganja pri porabi IKT in njihovega zmanjševanja ali odpravljanja s programskimi rešitvami je ogromno, niso pa uporabljene pod pretvezo, "da se pošteni ljudje nimajo česa bati". Sodobna tehnologija je polna presenečenj in konvergenca to še močno potencira. Problem je, če človek do tega ne zna zavzeti nobenega drugega odnosa kot začudenje. Tehnologija, ki mi je pomagala pri operaciji oči, se sicer uporablja za vodenje uničevalnih raket. Je bil res potreben motiv strupenega sovraštva, da so kaj takega razvili in potem morda uporabili še v humane namene? Družba ima vendar dolžnost, da minimalizira skušnjave nedopustne uporabe računalnikov. Tudi kot posamezniki smo odgovorni, da se upremo takšnim skušnjavam. Strokovnjaki za IKT ne bi smeli podpirati zlorab tehnologije za namene, ki so sprti s humanostjo. Ni lahko biti etičen in "etiziranje" zahteva pozitivno omejevanje in obvladovanje nevarnosti, ki grozi ljudem na vseh koncih in krajih. Zgolj opozorilne nalepke za nevarnost pač niso dovolj, ampak so potrebni veliko bolj angažirani odzivi. Konvergenčna tehnologija je upravičen razlog za proslavljanje, a le pod pogojem, da z njo ravnamo etično. Lahko pa je razlog za strah in pesimizem, če smo etično nezreli in skupaj z nosilci odločanja pritrjujemo vsakršni njeni uporabi. BITI DOBER NI DOVOLJ DOBRO Pretekle izkušnje nam ne dajejo dovolj jasnega odgovora o etičnih posledicah novih tehnologij. Te so vse bolj kompleksne, zato se moramo bolj poglobiti v razvojno tveganje. Treba je skrbno preveriti, kdo vse je pri tem udeležen. In treba je delovati hitro in upoštevati ciklus etičnega dozorevanja. Predvsem pa je treba takoj in odločno zavreči iluzijo o vrednostno nevtralni tehnologiji. Za "etizacijo" konvergenčne tehnologije so potrebni naslednji koraki: • Etični kodeksi: treba je preseči preveč splošne etične kodekse, ki ostajajo na stopnji nedolžnosti, s predpostavko "vsi smo poštenjaki". Moja ambicija je vzpostavitev mednarodnega kodeksa za programsko inženirstvo, ki bi imel takojšnje, konkretne posledice. • Zakonodaja: to je dinozaver, ki je prepočasen za učinkovit spoprijem z vse hitrejšimi spremembami na tehnološkem področju. • EGAIS: raziskovalni projekt EU (v katerem sodeluje tudi IZUM – opom. prev.) o etičnem obvladovanju nastajajočih tehnologij, ki naj bi prispeval usmeritve in napotke za upravljanje tehnološkega razvoja. • Individualna pripravljenost: odločenost strokovnjakov za IKT, da bodo prispevali k "etizaciji" tehnologije. Poudariti je treba, da informacijska družba ne more biti pravi cilj, če se opira na nereflektirano, neobvladovano uporabo novih tehnologij. Nujna je osebna angažiranost strokovnjakov za IKT pri: • identificiranju potencialnih etičnih problemov v vsakokratnem kontekstu, • identificiranju razlogov za nastanek takšnih problemov, • opredelitvi alternativnih rešitev, • opredelitvi pričakovanih rezultatov in presoji smiselnosti uvajanja ali opuščanja alternativnih rešitev, • izbiri delujočih orodij in sistemov ter njihovi tehnični in etični evalvaciji, • prepoznavanju lastne odgovornosti, • učinkoviti javni komunikaciji o teh vprašanjih. Ne smemo spregledati, da običajno ne obstajata zgolj dve možnosti in da mnoge opcije niso razvidne že na prvi pogled. Najpogostejša napaka je zmanjševanje vloge uporabnikov, ko preprosto nočemo videti vseh ljudi, ki jih prizadene neka rešitev. Ni preprosto zajeti celotnega družbenega konteksta, čeprav bi ga morali. Po drugi strani pa se pogosto zgodi, da se zgubimo v kompleksnosti sodobne tehnologije. Donald Gotterbarn: "ETIZIRANJE" V INFORMACIJSKI DRUŽBI M T 95ORGANIZACIJA ZNANJA 2010, LETN. 15, ZV. 3 Dobrodošla so Stališča o vplivu razvoja programske opreme (SoDIS – Software Development Impact Statements), ki zajemajo: • proaktivno stališče do vplivov na okolje; • utemeljenost vseh funkcij programske opreme z odgovori na vprašanje, kako bo vplivala na ljudi v določenem kontekstu; če negativno, se je treba vrniti na začetek, če pozitivno, pa lahko naredimo naslednji korak. Biti etičen pomeni, da smo pri doseganju pozitivnih plati uporabe upoštevali tako posameznike kot skupnost in da so nas pri tem vodili dobri nameni. Pomeni prizadevanje, da bi razvoj IKT in uporaba le-te temeljila na najvišjih etičnih vrednotah, kar morajo sprejeti tudi uporabniki. Lotimo se torej "etiziranja" in ne pozabimo, da pri tem niso odločilne besede, ampak naša dejanja ter njihov vpliv na svet okoli nas. (Prevedel in priredil po magnetogramskem zapisu Franci Pivec.) Donald Gotterbarn: "ETIZIRANJE" V INFORMACIJSKI DRUŽBI