Blaž Mesec EVALVACIJA PROSTOVOLJNEGA DELA Raziskovalno spremljanje in evalvacija pro- stovoljnega dela spadata med tista opravila v okviru akcije organiziranega prostovoljnega dela, ki so z organizacijskega vidika zaželena in celo nujna, ki pa jih prostovoljci pa tudi strokovnjaki neradi opravljajo ali pa sploh za- vračajo kot nepotrebno, "papirnato" delo. Zanju v celoti velja to, kar je zapisala dr. Anica Kos za vodenje delovne evidence in dokumentacije prostovoljnega dela (ti opravili sta sestavni del raziskovalnega spremljanja in evalvacije): "Akcija prostovoljnega dela je običajno zelo in- tenzivno dogajanje, ki posrka toliko pozornosti, energije in časa udeležencem, da ostaja admi- nistrativni vidik dejavnosti zanemarjen. Prej ali slej pa se organizatorji prostovoljnega dela srečajo z vprašanji o številu udeležencev, ses- tankov, porabljenih urah za organizacijo, številu ur, ki so jih prostovoljni delavci preživeli s po- rabniki in podobno. Minimalna banka podatkov močno olajša delo organizatorjem. Večina pro- stovoljnih delavcev zelo nerada evidentira in dokumentira svoje delo. Isto velja tudi za mnoge strokovnjake, ki sodelujejo v projektih prosto- voljnega dela. Marsikdaj se zdi, kot bi obstajalo obratno sorazmerje med angažiranostjo in učin- kovitostjo pri delu z ljudmi in pripravljenostjo 'knjižiti' opravljeno delo, učinke ipd. Zato ne kaže obremenjevati prostovoljnih delavcev, pa tu- di izrazito neadministrativno orientiranih stro- kovnjakov z evidentiranjem in dokumentiranjem. Njihov delovni prispevek je edinstven in drago- cen. Naloga organ izatorja je, da sam poskrbi za nujno evidenco in dokumentacijo prostovoljnega dela na način, ki ljudem dobre volje ne zmanj- šuje količine te volje." (A. Kos, 1984; poudaril B.M.) Zato velja premisliti, čemu služi evalvacija, da si ne bi nalagali nepotrebnega dela. OKVIR EVALVACIJE Prostovoljno delo se dogaja v socialnih si- stemih in samo ustvarja nove socialne sisteme. Organizacijski teoretik Thompson je že leta 1964 opredelil (človeške) organizacije (izraz, ki se rabi bodisi kot sinonim za socialni sistem bodisi kot ime posebne vrste socialnega siste- ma) kot sisteme, ki so hkrati odprti in zaprti. V njih se neprestano prepletata in tudi borita za prevlado in izmenjujeta dve težnji: težnja po preživetju, to je po ohranitvi sistema v spre- minjajočem se okolju, in težnja po uspešnem in učinkovitem izpolnjevanju določene funk- cije za okolje. Preživetje je odvisno zdaj od tega, kako dobro sistem opravlja določeno funkcijo za okolje, zdaj od tega, kako hitro zazna spremembe v okolju, ki zahtevajo od njega novo funkcijo. V organizacijah se razvijejo posebne stru- kture za izvrševanje vsake od teh teženj (tehnična in institucionalna struktura). Katera težnja bo v danem obdobju prevladala, je od- visno od dogajanja v okolju. Kadar je okolje spremenljivo in je položaj organizacije nego- tov, deluje organizacija kot odprt sistem, ki sprejema podatke o spremembah v okolju, preskuša alternativna ravnanja, proučuje odziv okolja, išče notranje potenciale adaptacije, skrbi za svoje ljudi, ki so vir neznanih možno- sti, išče oporo v okolju, sebi primerno nišo, tj., funkcijo za okolje. Ko se položaj stabilizira ali ko organizacija stabilizira svoj položaj, začne prevladovati težnja k zapiranju. Organizacija se loti izvrševanja svoje funkcije za okolje. V Dopolnjeno besedilo predavanja na seminarju Prostovoljno delo (Begunje, 25.-27.3.1993), ki ga je organiziral Svetovalni center za otroke, mladostnike in starše v Ljubljani. 275 procesu delitve dela razčleni svoj smoter na sestavine in podsestavine, oblikuje delovne po- stopke kot repetitivne cikle, razvije standardi- zacijo in kontrolo, poudarja uspešno doseganje ciljev in učinkovitost (ekonomičnost). Rekli bi lahko: Ko deluje kot odprt sistem, je kot naraven organizem, ki išče svojo nišo v okolju; ko deluje kot zaprt sistem, je kot stroj, orodje-o/gfl/io/z, ki zanesljivo izvršuje zaupano mu funkcijo. V tem nihanju med organizmom in organonom mineva doba organizacije. Posebna vrsta organizacij so tiste, ki naj bi storile kaj za ljudi, ki so v njih: jih izobrazile, vzgojile ali prevzgojile, ali pozdravile. In med njimi so še posebna vrsta tiste, v katerih naj bi ljudje storili kaj sami zase. V teh organizacijah se pojavi stara dilema med zaprtostjo in odpr- tostjo na novi ravni kot dilema o smotru or- ganizacije: je organizacija sama sebi namen, to je, je njen "namen" obstoj in življenje same or- ganizacije in čim polnejše življenje njenih čla- nov, ali pa je namen organizacije izvrševanje kakšne funkcije za okolje. Že v prvi rakitniški koloniji (1975) se je zastavilo vprašanje, ali je socialnoterapevtska kolonija nekakšen stroj za proizvodnjo (mentalnega) zdravja, ali pa je človeško srečanje med otroki in vzgojitelji- prostovoljci, ki nima drugega namena kot iz- ražanje življenja in ohranjanje kolonijske skup- nosti. In že tedaj je bilo rečeno, da je kolonija in z njo tudi druge podobne skupine in skup- nosti oboje: prostor za "spontanost, za igro, za enkratna in neponovljiva doživetja, za im- provizacijo, za nepredvidljivo, za ustvarjalnost, za naključje", a vendar okvir, v katerem se ne odpovedujemo terapevtskim ciljem. "Mislimo ga (otroka) 'pozdraviti', nočemo pa ga 'zdravi- ti'" (Mesec, 1977). Tedaj se je to vprašanje zastavilo z drugega zornega kota kot pozneje kolegoma Stritihu in Možini (1992) po izkušnji s skupino samopo- moči. "V skupini za samopomoč sva razvijala preds- tave, ki so naju navdajale z upanjem, da bo tudi v celotni organizacijski strukturi možno najti tak način sodelovanja, pri kalerem socialnoterapevt- ski cilji ne bodo tujek, ampak naravna sestavina celotne skupnosti. /.../ Spremenilo se je delo- vanje celotne organizacije, razvili smo bolj dif- erenciran in natančneje delujoč sistem za omogočanje in ustvarjanje življenjsko pomemb- nih avtokorektivnib doživetij (socialnoterapevt- ski in psihoterapevtski aspekti)." Po Rakitni je bilo vprašanje, če parafrazi- ram, kako najti tak način sodelovanja, pri ka- terem vzdrževanje življenjskih procesov, samo življenje, ne bo tujek v organizaciji, ki je na- menjena socialni terapiji, organizaciji, ki naj bi maksimizirala socialnoterapevtske cilje. Po iz- kušnji s skupino samopomoči se Stritihu in Možini zastavlja vprašanje, kako najti način sodelovanja, pri katerem socialnoterapevtski cilji ne bodo tujek v organizaciji, ki je "name- njena" zgolj svojemu življenju. V obeh prime- rih pa gre za tehtanje istega razmerja. Ponav- ljanju že povedanega se torej ne da vedno izogniti. Po petnajstletnem vztrajnem delu in na os- novi izbornega poznavanja sodobne sistemske teorije se je kolegoma posrečilo razviti "model ne-modela" (Mesec 1977), "tehnologijo" za razvijanje avtopoetskega sistema, v katerem pa, če prav razumemo, vendarle potekajo tudi alopoetski procesi, le da ti nikoli ne prevlada- jo, poleg tega pa se to, kar je bilo v začetku ra- zumljeno kot alopoetsko (socialnoterapevtski cilji) redefinira kot avtopoetsko, ne kot tujek, ki je dvigal prah kot samo nasprotje življenj- skosti, ampak kot "naravna sestavina celotne skupnosti" (1992: 57). To je organizacija, v kateri "življenjski procesi služijo zgolj vzdrže- vanju življenjskih procesov", pri čemer pa ne gre prezreti, da življenjski procesi vsaj norma- tivno (kot upanje, da ne bodo tujek; prav tam) vključujejo avtokorektivna doživetja, ki tudi sama sicer predvsem "maksimizirajo" življenj- skost (razpirajo prostor biti), ob tem pa ven- darle z vidika okolja lahko pomenijo tudi, da organizacija izpolnjuje določeno funkcijo zanj. Kako je to razglabljanje povezano z eval- vacijo prostovoljnega dela? Je izhodišče za opredelitev možnosti evalvacije in potrebe po njej. Najprej o možnosti evalvacije. Evalvacijo pojmujemo kot oceno uspešnosti in učinko- vitosti doseganja avtopoetskih in socialnotera- pevtskih ciljev. Evalvacija je implicirana (po- nekod so ocene tudi izrečene) v razlikovanju različno zaželenih stanj sistema in procesov v njem (avtopoetski-alopoetski, razvoj-razkroj. 276 EVALVACIJA PROSTO VOUNEGA DELA avtonomija-heteronomija). Kriterij evalvacije torej ni zgolj obstoj ali neobstoj sistema, njego- vo ohranjanje ali propad, ampak tudi povsem kvantitativni kriteriji njegovega delovanja, kot je stopnja viabilnosti, avtonomije, komunika- cije, simetrične napetosti, kompleksnosti, va- riabilnosti itn. pa gotovo številni kriteriji za doseganje socialnoterapevtskih ciljev na tra- dicionalnih merskih instrumentih. Evalvacija je torej možna. Kako je s potrebo po evalvaciji in kdo bo evalviral? Sistem se lahko evalvira s stališča samih članov in s stališča zunanjega opazoval- ca. Zunanjemu opazovalcu se bo zdelo potreb- no evalvirati delovanje sistemé v splošnem iz dveh razlogov: ker ga zanima delovanje vsega živega, torej iz znanstvenega interesa; in da bi ugotovil, če sistem čemu služi, če izpolnjuje kakšno za opazovalca pomembno funkcijo, da bi ga pri tem podpiral. Kako je z evalvacijo s stališča članov? Če pozorno sledimo opisu dogajanj v skupini sa- mopomoči, opisu, ki ga podaja Stritih (1992: 50 ss.), pridemo do sklepa, da sistem ne potre- buje take evalvacije. Sistem se o svojem obsto- ju ne odloča na osnovi podatkov, npr. o stopnji svoje viabilnosti, ne na osnovi podatkov o izpolnjevanju socialnoterapevtske funkcije. Sploh se o tem ne odloča, ampak ali obstaja ali pa razpade. Ko se je skupina znašla v zagati - "ko smo začutili popolno nemoč pred življenjskimi pro- blemi in trpljenjem posameznih članov, smo nenadoma doživeli občutek solidarnosti in tudi občutek olajšanja v skupinskem razpoloženju /.../" Probleme se sporoči, nemoč se izrazi v skupini, razdeli med člane. Rešitev se pojavi nepričakovano, "zunaj dometa /.../ zavestnega nadzora". Se več: "/.../ ti trenutki (so bili) ključnega pomena. To so bili trenutki 'razs- vetljenja', trenutki srečanja z življenjsko re- sničnostjo nas samih /.../" (Strftih, prav tam). To pomeni: takrat, ko bi se kazalci na ocenje- valčevih instrumentih spustili na ničlo, se skupina dotakne biti, doseže "cilj". Skupina potrebuje, če sledimo Stritihu, opis dogajanja, ne evalvacije doseganja ciljev. To reducira evalvacijo na evalvacijo z vidi- ka zunanjega opazovalca, tj., evalvacijo funkcij skupine za okolje. Evalvacija je tudi tedaj, ko jo izvajajo člani sistema sami (avtoevalvacija). ocenjevanje z vidika zunanjega opazovalca, po- trjevanje navzven, dokazovanje, da smo dobri, da smo boljši, da zaslužimo naklonjenost. Pri avtoevalvaciji ocenjujemo sami sebe s stališča zunanjega opazovalca, pri heteroevalvaciji pa dopustimo, da nas oceni, kakor pač hoče. Projekti prostovoljnega dela lahko zado- voljivo delujejo in se ohranjajo le kot avto- poetski sistemi. Toda to ne pomeni, da jih ne bo ta ali oni videl kot sisteme, ki opravljajo zanj ali za tiste, ki jih predstavlja (za "dru- žbo"), določeno funkcijo, (K temu so posebej nagnjeni tisti, ki delijo denar in druge dobrine. Ker se jim zdi, da morajo biti pravični, se ne ravnajo po gospodarju v Kristusovi priliki o delavcih v vinogradu in ne dajo vsakomur ena- ko, pač pa tehtajo in merijo delovni prispevek projekta, seveda tudi zato, ker delavci sami v tekmovalni vnemi to pričakujejo in zahtevajo.) In vprašal se bo, kako dobro jo opravljajo. Če bo ugotovil, da je ne opravljajo dobro, bo ukrenil kaj, kar bi lahko ogrozilo obstoj avto- poetskega sistema; čeprav je res, da so to iz- redno trdoživi sistemi, ki živijo od duhovne, ne od materialne energije. EVALVACIJA, OPIS PROCESA, EVALVACIJSKA RAZISKAVA Ugotovili smo torej, da je za člane projekt uspešen, če v njem lahko živijo, če lahko vzdr- žujejo življenjske procese, če čutijo, da jim je v oporo, da v njem rastejo in se razvijajo. To o- cenjujejo neprestano, od trenutka do trenutka, in ne potrebujejo nobene posebne evalvacije. Za razvoj avtopoeze je potreben opis oziro- ma samoopis, poudarjata Stritih in Možina. "Tu so prav opisi dogajanja tista sestavina, ki omogoča delovanje kibernetičnih zakonov. /.../ Naše nove izkušnje se kažejo zlasti v tem, da je potrebno in možno razvijati zunanje opise sku- pinskih doživetij, tako da s pomočjo teh opisov ljudje lahko vzpostavijo celovite vzorce svoje odnosne mreže" (isto delo: 52). A opis ni oce- na, ovrednotenje; je ubesedenje, poimenova- nje. Z opisom je kot z avtopoetskim sistemom sploh: ni ocena, je pa lahko opazovalcu osnova za oceno. Vendar je to stvar opazovalca. Pojem evalvacije se torej povezuje zlasti s tem, kako ocenjuje sistem zunanji opazovalec, ki iz tega ali onega razloga potrebuje tako 277 BLAŽ MESEC oceno. Kakšno delo lahko oceni kdorkoli, ki si vzame čas, po kakršnem koli postopku. Njego- va ocena je njegovo mnenje, do katerega ima pravico, kot ima vsakdo vso pravico do kakr- šnega koli mnenja. O okusih (=mnenj ih) ne razpravljamo. Evalvacija se od navadnega oce- njevanja razlikuje po tem, da ima bolj for- malen značaj, da je navadno javna, da mora biti utemeljena, to je, da morajo biti razvidni kriteriji in postopek ocenjevanja, in da ima določene administrativne posledice. Projekte prostovoljnega dela bo na primer evalvirala sponzorska organizacija, da bi se lažje odločila, katere projekte naj podpre. Osebe, ki izvajajo evalvacijo, se lahko pri tem opirajo na kakršne koli kriterije in se drži- jo kakršnega koli postopka, le da te kriterije in ta postopek smiselno utemeljijo, to je, da po- kažejo, v kakšni zvezi so z namenom ocenje- vanja, politiko tistega, ki ocenjuje, ipd. To pomeni, da ni nujno, da bi se evalvatorji pri svojem ocenjevanju opirali na raziskovalne po- datke. Opirajo se lahko na mnenja izvedencev, na podatke kakšnega administrativnega pre- gleda ipd. Ocejevalci sponzorske organizacije iz gornjega primera morda sploh ne bodo dali prednosti najbolj posrečenim projektom, am- pak projektom, ki obravnavajo najnujnejšo problematiko, čeprav so le delno uspešni. Kako projekti obravnavajo nujno problemati- ko, pa bodo ocenili eksperti na osnovi kom- parativnega poznavanja problematike, ne na osnovi poznavanja projektov. Postopek evalvacije moramo torej razliko- vati od evalvacijskega raziskovanja, saj gre za neodvisna postopka. Evalvacijsko raziskovanje je raziskovanje, katerega namen je posredovati podatke in ugotovitve, ki so pomembne za oceno uspešnosti kakšnega projekta (obrav- nave, dela) in ki se lahko uporabijo v procesu evalvacije, ni pa rečeno, da se bodo dejansko uporabili. Z odgovornostjo je povezana tudi določena mera diskrecije, ki vključuje tudi pravico do lastne interpretacije ali celo neu- poštevanja raziskovalnih rezultatov. Poudarimo torej: ocenjevanja uspešnosti ne potrebujemo toliko zaradi razvijanja projekta samega; za to potrebujemo stalno opisovanje dogajanja. Ocenjevanje uspešnosti potrebuje sponzor, da bi utemeljil dodelitev sredstev, oziroma, potrebuje ga prostovoljska organi- zacija, ki tekmuje z drugimi za sredstva, naklo- njenost in podporo. ZA INTERMEZZO: PRILIKA O KRAVICI Vzemite kot neustavljiv izraz moje biti po- trebo po banalnih in vulgarnih prispodobah in mi dopustite naslednjo nizko primero. Opazovalec vidi kravo in reče: "To je hrana zame." S tem je definiral kravo kot alopoetski stroj za proizvodnjo hrane, ki jo uživa. Krava sebe ne definira tako, ampak reče: "Kako ču- dovito je biti krava, se pasti po zeleni travi in jo nato prežvekovati." Tako se krava definira kot avtopoetsko bitje, kot krava, ki uživa, daje živa. Če bi krava definirala sebe kot hrano za druge, bi od žalosti prezgodaj umrla. Opazovalec evalvira kravo tako, da jo steh- ta, da ugotovi njeno molznost, potem, ko jo raztelesi, pa tako, da oceni količino in kako- vost posameznih delov glede na njihove hra- nilne vrednosti in glede na svoje druge potrebe in namene. Na koncu izračuna razmerje stro- škov vzreje in koristi, ki jih ima od krave. Krava evalvira svoje življenje tako, da se vpraša: "Sem srečna in zadovoljna? Je moje življenje krave vredno?" So pa tudi opazovalci, ki vidijo kravo in vzkliknejo: "O, kako simpatična kravica," jo objamejo in poljubijo in so srečni, da so lahko v njeni družbi. Srečni so, dokler je srečna krava, omogočajo ji, da se pase, in poskrbijo, da je na toplem, kar tako, za nič, iz ljubezni. Ti pravzaprav nimajo nobene potrebe po ocenje- vanju in živijo v božjem kraljestvu, v katero se pride po najstrožji evalvaciji, kjer pa potem ni več evalvacije. A večina ni tam, zato se mora- mo z evalvacijo še nekoliko ukvarjati. METODOLOŠKA VPRAŠANJA EVALVACIJSKIII RAZISKAV Izvajalec projekta prostovoljnega dela naj bi se najprej vprašal, ali je evalvacijska raziska- va o njegovem projektu sploh potrebna. Če je: čemu? Če uživate pri delu s prostovoljci, če črpate iz tega življenjsko moč; če vidite, da tudi prostovoljci z veseljem in navdušeno sode- lujejo, če jih otroci radovedno pričakujejo in razočarani pogrešajo, kadar jih ni, je to morda povsem dovolj, da vi pri sebi zanesljivo veste, 278 EVALVACIJA PROSTO VOUNEGA DELA da delate nekaj pravega, in da to vedo tudi prostovoljci. Od kod torej potreba po dokazo- vanju uspešnosti navzven? Če boste na to našli zadovoljive odgovore, boste seveda morali ne- kako dokazati, da je vaše delo uspešno, to svojo trditev boste morali utemeljiti. Svojo trditev (domnevo) o uspešnosti pro- jekta lahko oprete na bolj ali manj trden te- melj. V grobem so trije načini dokazovanja uspešnosti. • Pri prvem, tršem, se opiramo na eksperi- mentalni model presojanja uspešnosti. • Pri drugem, mehkejšem, se opiramo na mnenja udeležencev o uspešnosti obravnave. • Poleg teh dveh načinov pa obstaja še tre- tji: podroben opis procesa dela, iz katerega sklepamo na uspešno doseganje ciljev. a. Eksperimentalni model. Če hočete trdno utemeljiti sodbo o uspešnosti obravnave, mor- ate dokazati: (1) da je pri osebah, s katerimi delate, prišlo do (pozitivnih) sprememb; (2) da je do teh sprememb prišlo zaradi obravnave. Zavrniti je treba ugovor sitnih ocenjevalcev, da se v resnici na obravnavanih osebah ni nič spremenilo, ampak da ste, recimo, samo post- ali pozorni na neke določene značilnosti, ki so jih imele že prej, pa jih niste opazili. In zavrni- ti je treba ugovor, da teh sprememb, če je prišlo do njih, niste povzročili vi, ampak bogve kdo ali bogve kaj, na primer, da je otrok v času obravnave pač dozorel, kar bi se zgodilo tudi brez vaše obravnave. Osnovni ali izhodiščni model za tako doka- zovanje je eksperiment z eksperimentalno (tretmansko) in kontrolno (netretmansko) skupino. Poleg tega sorazmerno preprostega modela obstojajo tudi drugi, še bolj premišlje- ni. A tudi tega, ki ni videti pretirano zapleten, je težko uresničiti in se mu lahko v realnih okoliščinah navadno le bolj ali manj približa- mo. Vendar ga uporabljamo kot kriterij za presojanje realno izvedenih postopkov. Postopek je tak. Preden začnemo z obravnavo, izberemo dve skupini iz ciljne populacije. Skupini iz- beremo tako, da sta v povprečju izenačeni po značilnostih, ki bi jim bilo mogoče pripisati razlike v izidu obravnave. To se navadno doseže s postopkom naključnega razporejanja oseb v eno ali drugo skupino. Eno od teh sku- pin bomo imenovali obravnavana skupina, ker bomo s posamezniki iz te skupine ali s skupino kot celoto delali. Druga skupina bo kontrolna. Z njo ne bomo delali. Sploh je ne bomo "spravili skupaj", ostala bo zgolj na papirju. Nato v obeh skupinah zberemo podatke o tis- tih značilnostih, pri katerih pričakujemo, da se bodo pod vplivom naše obravnave spremenile. Ugotoviti moramo namreč, kakšno je izho- diščno stanje. To je tako imenovano "merjenje pred obravnavo". Nato obravnavamo skupino, ki smo jo določili, druge pa z ničimer ne vzne- mirjamo. Po končani obravnavi pri obeh skupi- nah zberemo podatke o spremembah pri istih značilnosti kot prej. Torej: Izenačenje, naključna Merjenje Obravnava Merjenje sestava pred po Obravnavana ol o2 skupina + Kontrolna skupina ki - k2 Učinek obravnave izrazimo kot razliko med stanjem pred obravnavo in po njej, zmanjšano za razliko med prvim in drugim merjenjem pri kontrolni skupini. Takole: učinek = (o2 - ol) - (k2 - ki) Primer. Recimo, da se je po obravnavi iz- boljšal učni uspeh v obravnavani skupini, tako da sta v skupini desetih članov le še 2, ki imata kakšno negativno oceno, prej pa jih je bilo 6. Radi bi v tem videli znamenje, da je naša ob- ravnava uspešna. Toda, če se je tudi v kontrol- ni skupini zmanjšalo število neuspešnih s 6 na 2, je čisti učinek naše obravnave 4-4 = 0. Cela vrsta ovir, od praktičnih do etičnih, onemogoča, da bi lahko v praksi zvesto sledili gornjemu modelu. Zato je cela vrsta postop- kov, ki se skušajo pač bolj ali manj posrečeno približati temu modelu. Tem postopkom ved- no manjka ta ali ona nujno potrebna sestavina, tako da so sklepi o učinkih obravnave bolj ma- javi kot pri idealnem modelu. Obravnava teh modelov je posebna meto- dološka tema, ki ne sodi v naš okvir. Poudari- mo le, da se velja o njih poučiti ali pa vprašati za svet metodologa, kajti dostikrat se da s kombinacijo različnih, čeprav nepopolnih mo- delov kar prepričljivo utemeljiti trditev, da je bilo naše delo uspešno. 279 BLAŽ MESEC b. Raziskave o subjektivnem doživljanju in mnenjske raziskave. Če ni mogoče presoditi o uspešnosti po eksperimentalnem modelu ali kakšnem spodobnem približku tega modela, nam še vedno ostane možnost, da zberemo po- datke o doživljanju udeležencev in njihova mnenja o obravnavi. V obeh primerih gre za subjektivne izjave, razlika med njimi je ta, da izjav udeležencev o njihovem subjektivnem doživljanju ne moremo preverjati. Če kdo re- če, da se bolje počuti, da je bolj samozavesten, bolj zadovoljen in srečnejši, odkar hodi v sku- pino samopomoči, mu lahko le verjamemo ali pa ne. Ker ljudje nimajo posebnega razloga, da bi izkrivljali take izjave, so lahko te dober vir podatkov o doživljanju ljudi, ki so vključeni v projekt. Drugače je z mnenji udeležencev o uspešnosti projekta in s pripisovanjem uspeš- nosti temu ali onemu dejavniku. Ta mnenja sicer tudi imajo svojo neodvisno vrednost kot subjektivne izjave, ki kažejo na navdušenje, za- dovoljstvo ali nezadovoljstvo s projektom, a jih je poleg tega mogoče objektivno preveriti. Če udeleženec projekta trdi, da se večina dobro počuti, lahko njegovo izjavo preverimo tako, da vprašamo druge, kako se počutijo, in pride- mo do svojega sklepa o tem, ali se dobro počutijo ali ne in ali je to večina ali ne. Otroci lahko po vsakem sestanku ocenjuje- jo posamezne vidike skupinskega srečanja in svojega počutja; prostovoljci lahko ocenjujejo supervizijska srečanja ipd. Lahko izdelamo vprašalnike in ocenjevalne lestvice, ki jih apliciramo na koncu obravnave in ki imajo re- trospektiven značaj; prosimo udeležence, naj primerjajo stanje pred obravnavo in po njej; vprašamo, kakšne spremembe so se dogodile. Možnosti za tako spremljanje in preverjanje je veliko in so navadno premalo izkoriščene. C. Opis procesa dela (obravnave). Podroben opis procesa dela, to je opis ravnanja prosto- voljca (ali supervizorja) hkrati z razlaganjem in utemeljevanjem tega ravnanja na eni strani in na drugi opis odzivanja obravnavanih oseb, opis, ki vključuje tako objektivna opažanja o njihovem vedenju kot tudi izjave, ki kažejo na njihovo subjektivno doživljanje, lahko ne le dopolni, ampak v marsičem nadomesti meto- dološke postopke, opisane pod (a) in (b). Iz podrobnega opisa interakcij je namreč razvid- no, na katerih dimenzijah doživljanja in vedenja je prišlo do premikov, uvidov, spre- memb. Iz takih opisov posameznih primerov ali projekta v celoti, iz podrobnega opisa raz- voja projekta lahko bralec sklepa o uspešnosti. Ta pristop je navidez manj zahteven kot prej opisana, saj je lahko opis povsem kvalitativen, brez vsake statistike, v resnici pa je dobro op- isovanje procesa bolj zahtevno opravilo. Ne za- došča namreč le faktografski opis dogajanja. Tak opis je ploden le, če je pisan z določenega teoretskega stališča ali vsaj z dobrim pozna- vanjem teorije. Kljub temu pa so dobri, po- drobni in konkretni opisi dogajanja, tudi če jim manjka teoretski okvir, vrednejše gradivo za evalvacijo kot ankete. Tak opis omogoča na novo oceniti življenj- sko sposobnost vzpostavljenih socialnih tvorb (skupin za samopomoč, interesnih skupin, igralnih skupin ipd.), ki je prej ni bilo, ki pa nastane tako, da skupina doseže določeno stopnjo kohezivnosti in vitalnosti, kar je zna- menje, da lahko člani v njej zadovoljujejo svoje pomembne potrebe. Primer takega opisa je Stritihov opis delo- vanja skupine za samopomoč in terapevtskega tabora. Če ga natančno preberemo, opazimo, da to nikakor ni suhoparen "dejstven" opis do- gajanja, ampak se v njem neprestano prepleta- ta opis doživljanja in vedenja na eni strani in na drugi interpretacija tega dogajanja v pojmih sistemske teorije. Čeprav opis ničesar ne ocen- juje, omogoča zunanjemu opazovalcu (bralcu) uvid v dogajanje v skupini in oceno tega doga- janja. Opis lahko prepriča bralca, da se v skupini dogajajo procesi, ki ugodno vplivajo na člane in prispevajo k njihovemu razvoju. KOMPLEKSNA (VEČIIAVENSKA) EVALVACIJSKA RAZISKAVA Če hočemo, da bi bil projekt pravično ocenjen, je dobro zajeti vse podatke, ki lahko vplivajo na oceno. Ni modro preverjati le skrajne, najbolj zaželene, pa tudi najteže dose- gljive učinke, ampak moramo biti pozorni tudi na spremembe na različnih vmesnih ravneh. Temu je namenjen postopek "kompleksne evalvacije", v katerem upoštevamo različne vr- ste in ravni evalvacije. Postopek kompleksne evalvacije je široka in drobno spletena mreža za lovljenje relevantnih podatkov o projektu. 280 EVALVACIJA PROSTO VOUNEGA DELA MREŽA EVALVACIJE Komponente kompleksne (večravenske) evalvacije so: • evalvacija vloženega napora: npr. število sodelujočih in njihova usposobljenost, število opravljenih delovnih ur, število sestankov; teo- retska osnova; vložena sredstva; • evalvacija procesa: opis procesa dela, sku- pinskega procesa, tako kot smo nakazali zgo- raj; • evalvacija doseganja ciljev: • uspešnost: doseganje ciljev: eksplici- rati cilje, kriterije, ugotoviti, koliko so doseže- ni; • učinkovitost: razmerje med vloženim naporom in uspešnostjo pri doseganju ciljev - relativni stroški doseganja ciljev; • evalvacija učinkov oz. posledic (namernih in nenamernih) na različne sodelujoče in na družbeno okolje. Te štiri vrste evalvacijskih podatkov lahko zberemo na treh ravneh: • na individualni: uporabniki, prostovoljci, strokovni delavci; • na skupinski: skupine uporabnikov, su- pervizijske skupine; • na organizacijski in skupnostni: ustanova, organizacija, vodstvo, skupnost, javnost. Poleg tega pa v tej mreži upoštevamo še, na koga naj bi projekt učinkoval. Pri tem si lahko pomagamo s klasifikacijo, ki jo je izdelala Anica Kos (povzemam fragmentarno): • učinki na posameznike, ki prejemajo pomoč, • učinki funkcionalne (stvarne) pomoči, • učinki emocionalne (odnosne, osebne) pomoči, • učinki na družinsko okolje uporabnikov: • razbremenitev, • zadovoljstvo, • povezanost, • učinki na prostovoljce: • znanje, poučenost, • stališča, • vrednote, • samopodoba, • učinki na strokovnjake: • večja občutljivost za probleme, • revizija doktrine, • manjša distanca, • preureditev vloge, • učinki na ustanove, skupnosti, kjer se odvija PD. 281 BLAŽ MESEC NAMESTO SKLEPA Za moj prispevek je značilna določena pro- tislovnost. V začetku sem pritrdil tistim, ki se zavzemajo za čim preprostejše in Čim lažje po- stopke pri zbiranju gradiva za evalvacijo ali pri izvajanju evalvacijske raziskave. Sredi prispev- ka sem postavil visoke metodološko-logične zahteve pri evalvaciji in na koncu priporočil, da razpredete široko in gosto mrežo za lovlje- nje podatkov, da bi lahko na vse možne načine utemeljili, kako da delate nekaj koristnega. Pri presojanju uspešnosti torej, žal, ni bli- žnjic; bližnjice so daljšnjice. Se vedno nimate v roki čarobne paličice, ampak imate zgolj svojo pamet in delovno zagnanost. Literatura A. Kos (1984), Učinki nepoklicnega prostovoljnega dela na področju socialnih dejavnosti. V: B. Mesec in sod. (ur.), Prostovoljno delo na področju socialnih dejavnosti. Ljubljana: DDU Univerzum. B. Mesec (1977), Metodologija akcijskoraziskovalnega projekta. V: B. Stritih (nosilec). Prostovoljno preventivno in socialnoterapevlsko delo z otroki, Rakitna: akcijskoraziskovalna naloga - socialnoterapevtska kolonija. V: D. Re- povž (ur.), Sociološke raziskave v zdravstvu. Inštitut za sociologijo in filozofijo pri Univerzi v Ljubljani. A. Rubin, E. Babbie (1993), Research Methods for Social Work. Pacific Grove: Brooks and Cole. B. SìRmn, M. MozlNA (1992), Avtopoeza: Procesi samoorganiziranja in samopomoči. Socialno delo 31, 1-2: 18-73. J. D. Thompson (1954), Organizations in Action. New York: McCraw Hill. T. Tripodi, Ph. Fellin, I. Epstein (1971), Social Program Evaluation. Itaca: F-E. Peacock. 282