PSIHOLOGIJA ANTROPOS 1993 / 5-6 Nevronske mreže kot model možganskih procesov (kratek pregled) MITJA PERUŠ POVZETEK Nevronske mreže predstavljajo model sistema elementov (formalnih nevronov), ki so gosto povezani medseboj. Predvsem v zadnjem desetletju (po razvoju asociativnih nevronskih mrež) je ta model našel zelo pester interdisciplinarni pomen pri obravnavah kolektivnih paralelno-distribuiranih procesov, tudi pod okriljem sinergetike. V tem članku je povzeto predstavljeno modeliranje možganov z nevronskimi mrežami (predvsem asociativnimi - Hopfieldovim in Hake-novim modelom) s poudarkom na miselnih procesih. Pokazano je, kako živčne celice (nevroni) oziroma njihove konfiguracije aktivnosti tvorijo vzorce, ki se nadalje hierarhično strukturirajo. Vzorci in njihovi skupki predstavljajo Gestalte različnih redov, asociativne zveze in verige med njimi pa so osnova za miselne procese. Višjim vzorcem ustrezni "parametri urejenosti" imajo funkcijo aktivnega koda, ki je povod in gonilo (re)konstrukcije vzorca (sheme, simbola, arhetipa ipd.) in njegove semantike. Prikazano je, kako se v sinaptične vezi nalagajo spominske sledi vzorcev, ki so tako hkrati shranjeni. Osnova spomina so korelacije med vzorci, višje pa je asociativna kontekstualnost zametek t.i. subjektivnosti. V obravnavo so vključeni "ključni elementi" spoznavnega in samoregulatornega aparata: selektivnost, adaptivnost, pozornost, ambivalent-nost, sposobnost posploševanja in abstrahiranja itd. Nakazane so tudi analogije s sociološkimi in fizikalnimi sistemi. Posebej je poudarjena nujnost obravnave vsega sistema oziroma njegovih diferenciranih virtualnih nivojev tudi kot neločljive soodvisne celote. ABSTRACT NEURAL NETWORKS AS A BRAIN MODEL Neural networks represent a system-model consisting of elements (formal neurons), which are tightly linked. Especially in the last decade (after the development of associative neural networks) this model has become interdisciplinary important at researches of collective parallel-distributed processes, also under the cover of synergetics. In this article brain-modeling with neural networks (especially associative neural networks - Hopfield- and Haken-model) is introduced, with the stress on thought-processes. The article shows how nervous cells (neurons), or rather their configurations of activity, form the patterns, which then structurize themselves hierarchically. Patterns and their clusters represent Gestalts of various degrees; associative relations and chains among them being the basis for mental processes. "Order parameters" corresponding to higher patterns have the function of active codes, which are driving-wheels of the (re)construction of patterns (schemata, symbols, archetypes etc.) and their semantics. It is explained how memory-traces of patterns are loaded into synaptic bonds, enabling them to be simultaneously stored. Correlations among patterns are the fundamentals of memory; associative contextuality being the origin of the so-called subjectivity on the higher level. The "key elements" of understanding and self-regulatory mechanism such as learning, selectivity, adaptivity, attention, ambivalence, generalization- and abstracting-ability etc. are discussed. Furthermore, analogies with sociological and physical systems are indicated. Special emphasis is placed on the necessity of researching the entire system and its differentiated virtual niveaus as an indivisible co-dependent whole. 1. UVOD 1.1. NEVRONSKE MREŽE V SPLOŠNEM Poglobljeno obravnavanje sistemov je vzniklo šele z razvojem računalništva, zato pravzaprav z zamudo pričenjamo globje spoznavati njihovo notranjo prepletenost, soodvisnost in zaokroženost. Ena od vse bolj prodornih smeri raziskovanja so nevronske mreže. Predstavljajo model sistema, ki ga sestavljata množica nekih OSNOVNIH ELEMENTOV (formalnih NEVRONOV) in množica interakcij (relacij, vezi) med nevroni. Poudariti je treba, da so nevroni in interakcije med njimi enakovredni pri določanju vedenja sistema; ne eni ne drugi ne smejo biti privilegirani. S takšno gosto prepleteno mrežo, ki deluje po načelu VSI ZA ENEGA, EDEN ZA VSE, smo si zamislili najbolj osnoven, zelo SIMETRIČEN in izredno zmogljiv MODEL močno interagirajočega sistema. Njegova uporaba je na sistemskem nivoju takorekoč univerzalna, vendar izgublja svoj pomen, ko prehajamo k individualni in izolirani obravnavi nekega pojava. Nevronske mreže ponazarjajo PARALELNO-DISTRIBUIRAN PROCES: to je strogo KOLEKTIVNO dogajanje, ki ga sestavljajo množice vzporedno delujočih lokalnejših dogajanj, ki pa so neločljivo povezane v celoto. 1.2. INTERDISCIPLINARNI IZVORI IN VIDIKI NEVRONSKIH MREŽ Najvidnejši namen nevronskih mrež je MODELIRANJE MOŽGANOV. Zanje velja splošno priznana teorija, da jih sestavljajo funkcionalno diferencirana omrežja živčnih celic - nevronov. Vendar lahko z nevronom poimenujemo zelo različne stvari: - V računalništvu so nevroni enostavne procesne enote. Povezani v razne umetne mreže v paralelnih računalnikih, razpoznavajo vzorce in slike, napovedujejo in predvidevajo razne procese itd. na osnovi naučenih primerov iz delnih podatkov. (Lit 3,7,14 idr.) - V sociologiji in populacijski biologiji so nevroni lahko ljudje (oziroma druga živa bitja), povezani v razne družbene strukture. Tako se modelirajo spreminjanje javnega mnenja, volitve, borzne transakcije, ekonomija itd. (Lit 21,5 idr.) - V fiziki so znana analogija nevronskim mrežam SPINSKA STEKLA (sistemi magnetnih momentov oziroma spinov) (Lit 9). Z nevroni lahko aproksimiramo fizikalne delce (atome ali subatomske delce ipd.), z vezmi pa sile oziroma interakcije med njimi; nadalje lahko vlogo "nevronov" damo parcialnim valovom ali valovnim fazam, vezi pa ponazarjajo interferenčne člene (tesna analogija s holografijo (Lit 7,14)!). Te principe v fiziki osnovnih delcev med drugim zastopa hadronska "BOOTSTRAP" - teorija (Lit 64; reference v 65; 60) in reprezentacija kvantne mehanike s S- matriko (Lit 63). Razna fizikalna stanja, ki jih diskretno opišemo z neko konfiguracijo (vektorjem stanja) in ki so podvržena transakcijam v prostoru fizikalnih stanj, lahko matematično modeliramo z "nevroni" in "vezmi" med njimi. - Podobno lahko ukrepamo v kemiji (Lit 55), tehniki itd. To je "notranje teoretično modeliranje", kjer je nevronska mreža kalup oziroma skelet za raziskovani sistem sam. Taka raziskovanja se zadnje čase združujejo v hitro razvijajočo se mlado interdisciplinarno vedo - SINERGETIKO, pa kibernetiko (Lit 21,11) idr. Vendar je v znanosti bolj uporabljeno in nesporno "zunanje" - avtomatično empirično modeliranje naravnih pojavov, kjer je nevronska mreža skrita v paralelnem računalniku, ki služi za obdelavo in klasifikacijo podatkov. Vezi imajo v tem primeru funkcijo pomnilnika. - Nadaljni primeri se najdejo v teoriji evolucije in genetiki (t.i. genetski algoritmi, "kontekstualnost" v genetskem zapisu (Lit 18), gradnja polimemih struktur itd.), pri reševanju optimizacijskih problemov in še in še.(Lit 9 idr.) Osrednji namen tega članka pa je seveda opis vloge nevronskih oziroma KONEKCIONISTIČNIH modelov v KOGNITIVNI ZNANOSTI (oziroma kognitivni filozofiji, psihologiji). Zametki nevronskih modelov segajo v štirideseta leta (dela McCullocha in Pittsa ter Hebbova knjiga "Organization of Behavior"), nadaljujejo se z dobo perceptrona (od Rosenblatta (1958) do Minskega in Paperta (1969)), znova se pa razcvetijo predvsem kot asociativne nevronske mreže v osemdesetih letih (Hopfield, Kohonen idr.)(Lit 20) 2. NEVRONSKE MREŽE SO MODEL MOŽGANOV, MOŽGANI VSEBUJEJO MODEL SVETA 2.1 .NAJOSNOVNEJŠE IZ NEVROFIZIOLOGIJE IN USTREZNI MODELI Biološki nevron sestavljajo celično telo (soma), več kratkih končičev (dendritov) in eno daljše vlakno (akson). To se proti koncu razveji in na teh zaključkih so stiki (sinapse), v katerih potujejo nevrotransmiterji in prenašajo živčne impulze (en sunek ali zaporedje takih špic) iz enega v drugi nevron. Nevron je SUMATOR: Zbere signale drugih nevronov, jih sešteje; in če seštevek preseže določen potencial PRAGA, bo nevron prižgan, sicer bo ugasnjen. Nevron ima nelinearno vzbuditveno funkcijo (oblike hiperboličnega tangensa). (Lit 36) Sinapse so lahko ali vzpodbujevalne (ekscitatorne) ali zaviralne (inhibitorne); njihova površina, količina nevrotransmiteijev in količina receptoijev za te kemične snovi pa določajo moč vezi med nevronoma. Sinapse torej odločajo o "predznaku" povezave in so "utež" v vsoti signalov, ki prihajajo v vsak nevron od vseh drugih, s katerimi je v navezi: (Lit 50,71) N O) i=l Ql opisuje stanje i-tega nevrona (+1, če je prižgan; -1, če je ugasnjen), J- pa vez med i-tim in j-tim nevronom (pozitivno ali negativno število, sorazmerno z močjo). Indeksa i in j pretečeta vse nevrone - tako dobimo samozaokroženost: vsi za enega, eden za vse! (Dogovor: z veliko črko samo naj bo označen vektor; z veliko črko, ki ima v oklepaju dodan indeks, pa samo tista komponenta vektoija - nevron, ki ima tak indeks.) Opozoriti je treba, da v možganih ni vsak nevron neposredno povezan z vsakim, kot to simuliramo v Hopfieldovem modelu, vendar v povprečju efektivno delujejo, kot da bi tako bilo. Povezani so namreč tako, daje vsak vsaj posredno navezan in odvisen od vseh drugih. Sumacijsko funkcijo imajo lahko tudi že dendriti, ki zberejo signale svojih "ščetin". Torej deluje dendrit kot nevron v malem (Lit 5,20). Po nekaterih ocenah je v možganih 400 vrst različnih arhitektur (Lit 6) in na tisoče vrst nevronskih celic (Lit 17). Ustrezne modele delimo na NAPREDOVALNE -enosmerne (PERCEPTRONSKE), kjer so celice hierarhično urejene v plasti in signali potujejo le iz zunanjih (sprejemnih - očesna retina ipd.) v notranje plasti, in ASOCIATIVNE simetrične rekurentne modele (s povratnimi zankami). Prvi so značilni na primer za senzorne sisteme, drugi pa za višje možganske centre - možgansko skoijo itd.; sicer pa se funkcionalno prepletajo in kombinirajo. Primeri napredovalnih modelov: perceptron, kognitron, neokognitron, "counterpropagation" (Lit 2,3,6,14) , "back-propagation" (Lit 46) (slednji ni posebej nevrofiziološko pogojen, ostali pa praviloma vselej bolj ali manj so). Primeri asociativnih mrež: Hopfieldova (Lit 35), Kohonenova (Lit 7,44), dvosmerna (Lit 2), linearni asociator (Lit 6,30) in splošni Hakenov sinergetski model (Lit 4). Slednji poveže tri asociativne mreže v troplast, tako da nevroni v posameznem nivoju komunicirajo dvosmerno, med nivoji pa enosmerno (napredovalno) od nižje k višji abstrakciji. Izkaže se, da se nevronski sistem hierarhično DIFERENCIRA; tvorijo se SKUPKI oziroma DOMENE - samoorganizirane strukture. SAMOORGANIZACIJA pomeni, da pride do grupiranja in urejevanja spontano, ne (vsaj ne nujno) zavoljo delovanja nekega nadzornega centra (Lit 21). Povod zanjo je zunanji dražljaj, gonilo pa težnja po ravnovesju sistema, ki ji sistem zadošča sam z lastno dejavnostjo. To ravnovesje se navadno kaže kot OPTIMALNI KOMPROMIS med stanji nevronov in vezi. Znano je, da so se možgani v evolutivnem razvoju diferencirali v obe hemisferi, nadalje pa v številne topološko ločene SPECIALIZIRANE CENTRE (podmreže) za posamezne funkcije (areje in mape). Za določeno arejo so značilne enake oblike impulzov oziroma akcijskih potencialov, enaki vzdražni pragi, enaka mrežna arhitektura, enake vhodno-izhodne povezave, enaki zaznavni in asociacijski procesi ter enaka histologija in biokemija. Zgradba možganov je v marsičem filogenetsko pogojena in zgodnejše strukture delujejo kot vmesni člen od senzornih (zunanjih in notranjih) čutil proti npr. neokorteksu, od tod pa proti motoričnemu in regulatornemu (žleznemu) sistemu itd. Thalamus je taka vratarnica v možgansko skorjo. Skorja je razdeljena v okoli pet radialnih plasti, vendar imajo podobne izhode nevroni, ki so navpično organizirani. V takšnih "petnadstropnih" mrežnih stolpcih so skrite simetrične asociativne mreže, odgovorne za integracijo in višje miselne procese. (Lit 12,17,22,51 idr.) 2.2. OSNOVE NEVRONSKE DINAMIKE 2.2.1. Vzorci, večkratna vloga nevronov in učenje Težišče bo postavljeno na obravnavo asociativnih nevronskih mrež po Hop-fieldu, saj asociativni modeli še najzvesteje ponazarjajo višje kognitivne procese (Lit 34,36,41,42,71). Stanje nevronov v nevronski mreži opišemo s konfiguracijskim vektorjem Q, stanje vezi pa z matriko vezi J. Posamezna komponenta konfiguracijskega vektorja pove za vsak posamezni nevron, ali je prižgan (1) ali ugasnjen (-1), posamezni člen matrike pa za vsako posamezno vez njeno moč in predznak (zaviralna ali vzpodbu-jevalna). Obravnavajmo sedaj globalno vedenje mreže po Hopfieldu. Ko pride v možgane (odslej njihov nevronski model) nov dražljaj, se nevroni prižigajo in ugašajo - konfiguracij ski vektor Q se spreminja. Ta proces imenujemo UČENJE. Nevroni spreminjajo stanja vedno tako, da se ENERGIJA SISTEMA NIŽA. Stanja sistema, pri katerih je energija nevronske mreže minimalna, poimenujemo VZOREC ali vzorčni vektor V. To so torej takšni posebni konfiguracijski vektorji Q, ki so energijsko najbolj stabilni. Vzorci V predstavljajo dno "jame" potencialnega reliefa, ki ga oblikuje vsa mreža. SPECIFIČEN ZUNANJI DRAŽLJAJ BO POVZROČIL STABILIZACIJO SISTEMA V SPECIFIČNEM NOTRANJEM VZORCU. Vzorci so kot nekakšni lijaki, kamor se stekajo vsi PODOBNI dražljaji in se na tak način klasificirajo. Imenujejo jih tudi SHEME, KATEGORIJE (odvisno od nivoja abstrakcije), ENGRAMI, SPOMINI itd., ujemajo pa se tudi s pojmi GESTALT-psihologije! Kako nevroni najdejo energijsko najbolj ugodno stanje, kar pomeni hkrati stanje, kjer so OPTIMALNO USKLAJENI MEDSEBOJ (energija je sorazmerna s stopnjo neravnovesja oziroma neusklajenosti nevronske populacije)? To je možno edinole s stalnimi transakcijami prek vezi, ki se določajo po znamenitem Hebbovem "učnem pravilu": P V X] V.kVjk (2) k=l Vjk ponazaija vlogo i-tega nevrona pri oblikovanju k-tega vzorca. Taisti sistem lahko namreč oblikuje VEČ različnih vzorcev ("vrtač" v potencialnem prostoru, kamor konvergira dinamika sistema) hkrati; torej ima VSAK NEVRON VEČKRATNO VLOGO in sodeluje pri oblikovanju VEČ VZORCEV HKRATI. Število takih vzorcev naj bo P. Ta obrazec je matematična formulacija naslednjega empiričnega nevro-fiziološkega dejstva: Če sta nevrona v navezi aktivna v enakem smislu, vez ojača, sicer - če sta aktivna v nasprotnem smislu - vez slabi. Torej, če gorita oba nevrona (Vjlc = 1 in Vjk = 1) ali če sta oba ugasnjena (-1,-1), njuna vez J^ ojača, sicer (1,-1 oziroma -1,1) slabi! Ojačenje vezi pomeni, da je prispevek sklopitve ( posamezni produkt v formuli (1)) posameznega para vzorčnih nevronov (torej takih nevronskih stanj, ki minimizirajo energijo) pozitiven; slabitev vezi pa pomeni, da je posamezni produkt negativen. Moč vezi J» je določena z vsoto takih sklopitev (produktov stanj posameznih nevronov v okviru določenega vzorca) po vseh vzorcih, ki so hkrati spravljeni v sistemu. Vzorci se v sinaptičnih vezeh J- nalagajo drug na drugega. Če sta stanji vezanih nevronov V^ in V;k v "službi" k-tega vzorca enakega predznaka, bosta doprinesla k ojačenju stabilnosti tega vzorca v mreži. Če je njun predznak nasproten, pa ga bosta oslabila. Vezi J- so določene lokalno s to (ne)usklajenostjo nevronov medseboj, globalno pa narekujejo (ne)stabilnost vse nevronske (vzorčne) konfiguracije. Lokalno torej nevroni tekmujejo med seboj, vsak bi rad prevladal in preklopil ostale. To mu uspe, če je najbolj usklajen z vsemi ostalimi in ima z njimi vzpod-bujevalne vezi - skratka, če ima največ podpore preostalega sistema. Globalno pa se prek nevronov posredno sklapljajo in kompetirajo celi vzorci. Oblikovanje vzorcev je seveda (sploh v primeru višjih vzorcev) izredno kompleksen, relativno makroskopski proces, ki ga mikroskopsko predstavljajo številne izmenjave impulzov, preklopi množice nevronov z modifikacijami vezi med njimi in nenehne korekture pod vplivom povratnih zank - vse po čisto določenih pravilih. Proces je vselej holističen (vsi za enega, eden za vse), le z napram okoliščinam določenimi utežmi. Slika 1 prikazuje levo "naravni" izgled nevronske mreže, desno pa funkcionalno shemo izgradnje spominske - korelacijske matrike J po Hebbu (formula (2) iz sklo-pitev i-tega nevrona V;k in j-tega nevrona Vjk znotraj določenega (k-tega) vzorca. po^a^co^t MV2, * Slika 1: Nevronska mreža in njena shematska predstavitev 2.2.2. Analogija s Človeško družbo Vedenje nevronov v mreži si lahko predstavljamo prek analogije z različnimi vlogami, ki jih imamo ljudje v družbi oziroma v različnih organizacijah, skupnostih itd. POSAMEZEN ČLOVEK IGRA TAKO KOT NEVRON V RAZLIČNIH OKOLIŠČINAH RAZLIČNE VLOGE: Kot oče se bo vedel do svoje hčerke tako, kot pristaš stranke bo ravnal na volitvah drugače, kot igralec tenisa bo sodeloval s soigralci na tretji način. Tako tudi nevron sooblikuje številne vzorce in je sooblikovan z njimi - kot človek sooblikuje razne skupnosti in te razne organizacije vplivajo nazaj in sooblikujejo njega. Brez ljudi (nevronov) ni družbenih organizacij (vzorcev), brez teh pa posamezni ljudje še vedno so. Nastajajo kooperacije, ki pa še vedno tekmujejo na višjem nivoju. Naposled vedno večina zmaga. Ohranjajo se in preživijo strukture, ki imajo največ podpore svojih "članov"; člani pa postopajo tako, da bodo imeli v tej grupaciji čimbolj vidno in prevladujočo vlogo in se temu primerno prilagajajo. Izkaže se, da podobna samoorganizacija na zelo RAZLIČNIH NIVOJIH (tako kot v družbi) deluje tudi med precej bolj primitivnimi elementi - živčnimi celicami in celo fizikalni delci ipd. Nevron prižgan/ugasnjen je lahko aproksimacija za biti ZA ali PROTI neki ideji, prepričanju, teoriji ( se ujema z uradno paradigmo ali ji nasprotuje); v fiziki pa za usmerjenost spina v prevladujočo smer (vzporedno z magnetnim poljem - feromagnetno, ali nasproti - antiferomagnetno), v bolj abstraktnih fizikalnih prostorih pa bi lahko modelirali npr. izospin, spiralnost, kiralnost in druga kvantna števila ter fizikalne količine, vendar seveda izključno na sistemskem nivoju in velikih populacijah formalnih nevronov (Lit 21,5 ;61). Za vse omenjene primere je tudi značilen pojav FRUSTRACIJA: Nevroni (ljudje, spini itd.) ne morejo najti ravnovesne lege glede na svoje sosede, kar povzroča medsebojno tekmovalnost, ambivalenco - "razdvojenost", ki vodi v NIHANJA med možnima vzorcema in "katastrofalne fazne spremembe". Strogo je treba še poudariti, da se pri nevronskem modeliranju zanemarjajo individualne notranje prostostne stopnje nevrona ali pa se le-te obravnavajo kot podsistem (torej tisti na hierarhično nižji stopnji). V ta namen se uporabljajo računalniške simulacije, zaradi kompleksnosti in večplastnosti pa (tudi nenazadnje intuitivni in analo-gijski ali celo introspektivni) miselni eksperimenti, ki pa morajo rezultirati v eksaktni matematični formalizem. To se v okviru SINERGETIKE že zelo uspešno izpolnjuje. Haken (Lit 21) sinergetiko definira kot interdisciplinarno vedo, ki proučuje KOOPERACIJO individualnih (mikroskopskih) delov sistema, ki spontano - samoorganizirano ustvaijajo MAKROSKOPSKE prostorske, časovne in funkcionalne strukture (vzorce raznih redov). Vidimo, da je modeliranje odvisno od NIVOJA NAŠE OBRAVNAVE 2.3. POMNJENJE IN RAZPOZNAVNJE VZORCEV 2.3.1. Proces rekonstrukcije vzorca Poglejmo naslednjo shemo (slika 2), ki kaže odvisnost energije E sistema (ordinata) od posameznih možnih konfiguracijskih vektorjev Q. Q so, kot je bilo že rečeno, N-komponentni vektoiji (N-terice), če je N število nevronov. Sistem lahko oblikuje P atraktorjev (jam - vzorcev V) v narisanem potencialnem reliefu z različnimi obsegi (območji privlaka), ki so sorazmerni s stabilnostjo vzorca. Ko je sprejeti zunanji dražljaj v perceptronski mreži npr. pri očesni retini najprej klasificiran, kodiran poslan po živčnih vlaknih v višje možganske centre in tam preide v asociativno nevronsko mrežo, se ta sistem nevronov nahaja npr. v točki 1 na sliki 2. •Slika 2: Spominski vzorci v konfiguracijsko-energijskem prostoru Potem nevroni vplivajo drug na drugega, se prižigajo in ugašajo tako, da se optimalno uskladijo, pri tem pa se ustrezno po Hebbovem obrazcu (2) napolnijo tudi vezi. Ko se to dogaja, sistem potuje v konfiguracijskem prostoru (torej na sliki 1) proti dnu tiste jame, ki je NAJBLIŽJA. To pomeni, da se prilagaja tistemu vzorcu (ki to jamo predstavlja), kije NAJBOLJ PODOBEN novemu dražljaju. Ko sistem pripotuje na dno potencialne jame, je če je rekonstruiran k'-ti vzorec. Stari vzorec je posledica preteklih izkušenj, nova izkušnja pa bo sedaj poglobila staro jamo ali pa jo bo malo predrugačila, v kolikor je dražljaj nekoliko nov. Ko se sistem odzove na zunanji dražljaj tako, da "se zapelje" v ustrezni najbolj podoben vzorec, rečemo, da je bil vzorec rekonstruiran oziroma DRAŽLJAJ RAZPOZNAN. 2.3.2. Močna analogija oblikovanja (pomnjenja) in razpoznavanja vzorcev; vezi nosijo spominske sledi Potencialni prostor si lahko predstavljamo kot mehko blazino, ki ima plitke jame, trenutno nevronsko konfiguracijo sistema pa kot težko kroglo, ki tam, kjer se nahaja, jamo še dodatno poglobi. OBLIKOVANJE VZORCEV JE OBENEM SHRANJEVANJE oziroma POMNJENJE. INFORMACIJA O VZORCIH JE NELOKALNO SHRANJENA V VREDNOSTIH VEZI, ki se po obrazcu (2) polnijo s prispevki različnih vzorcev, medtem ko sijih nevroni usklajujejo. SPOMINSKE SLEDI ostanejo v vezeh tudi, ko je sistem že prešel k naslednjemu vzorcu. V nevronih ("v zavesti", točneje v manifestalni zavesti) imamo lahko le en vzorec hkrati, le v vezeh (v "POMNILNIKU" ali v latentni zavesti) imamo lahko veliko vzorcev hkrati, vendar jih moramo PRIKLICATI IZ POM- NILNIKA. S priklicom potegnemo shranjeni vzorec iz "sob, kjer so spravljeni" (vezi) v "predsobe" (nevrone). Povod za to je navadno podoben zunanji dražljaj. Obraten proces je POMNJENJE, kjer s procesom učenja informacija preide "iz manifestalne zavesti" (nevronov) v "latentno" hrambo. Če ilustriramo še s pomočjo krogle in blazine: Krogla (nevronska konfiguracija) se nahaja lahko le na enem mestu na blazini (v potencialnem prostoru), jam, ki jih je pustila v blazini (vzorcev,"vtisov") pa je več. Zavedamo se in doživljamo pa trenutno le tistega, ki je v nevronih: Vk' = Q. Matrika vezi J bi bila drugačna, če bi bil samo en vzorec v enem svojem nevronu drugačen. V tem se torej skriva simultanost pomnjenja. Tako paralelno-distribuirano pomnjenje (vsak spomin je delo celotne konfiguracije nevronov in vezi: vezi jih hranijo, nevroni pa skrbijo za "ozaveščanje") imenujemo VSEBINSKO NASLOVLJTVO. Gre za bistveno razliko od shranjevanja v klasičnih (von Neumannovih) računalnikih, kjer imamo samo medseboj neposredno nepovezane pomnilne elemente, dostop pa prek neke kode (naslova). Pri nevronskih mrežah pridobimo dostop do vsebine neposredno z rekonstrukcijo vzorca - "vsebine" same, in sicer na podlagi delne vsebine ("ključa") ali zunanjega povoda, lahko pa tudi notranjega ( iz kakšne druge možganske podmreže - areje, vendar zunanjega glede na našo podmrežo). Pomnjenje je torej PRESLIKAVA npr.neke slike zunanjega predmeta v NOTRANJO VIRTUALNO SLIKO najprej v mrežo nevronov samih (kratkotrajno pomnjenje, kot nekateri definirajo), nato pa se ta preseli v sinaptične vezi (dolgotrajno pomnjenje). Pri Kohonenovem modelu je ta preslikava topološko korektna (Lit 44) , torej ohrani topološke relacije in obliko realne slike tudi v notranji nevronski virtualni sliki (na začetku - v t.i.senzornih poljih). Če nevronski sistem dobi zunanji dražljaj, ki se precej loči od shranjenih vzorcev, bo oblikoval novo vrtačo (atraktor), sicer bo prispeval h kateri od prejšnjih. Ali bo nastal nov vzorec ali se bo rekonstruiral stari ali bodo v notranjosti starega vzorca nastali nastale manjše jamice ipd. - v vsakem primeru je "izbira" sistema odvisna od njegovega trenutnega stanja, moči dražljaja, prekrivanja območij privlaka ipd., torej relativno. Naše spoznanje je vedno odvisno od tistega, kar vidimo (dražljaj) in kar pričakujemo (stari vzorci); oboje se uskladi v optimalni konsenz (predelan vzorec). Formacijo spominske matrike vezi J- na sliki 1 desno in v formuli (2) lahko pojmujemo potemtakem tudi adaptivno: En faktor nosi vpliv dražljaja, drugi pa (ki je v tem primeru prihaja od nekega drugega - notranje predelanega vektorja V1, ne več istega kot prej) nosi vpliv notranjega stanja (Lit 7,30,71). 2.3. GLOBALNO VEDENJE NEVRONSKE MREŽE; CIKLI 2.3.1. Lokalno kavzalen, globalno paralelno-distribuiran proces Potencialne jame so torej gnetljive tvorbe in njihova oblika se neprestano spreminja; ob tem pa se seveda hkrati neprestano spreminjajo tudi vezi (to smo definirali kot učenje). Vse je funkcija vsega (velja za vezi, nevrone in vzorce raznih redov): tega holizma ne smemo nikoli spregledati! To kompleksno delovanje sistema kot celote si lahko predstavljamo kot množico povratnih zank (ITERATIVNIH CIKLOV): dražljaj - nevroni - vzorci - modifikacija vezi po Hebbu (formula 2) - nevroni (in krog je zaključen; dražljaji pa so "motnje", ki padajo v ta krog od zunaj): slika 3. LOKALNI KAVZALNI procesi (iz prvega nevrona oddan signal - drugi ga sprejme; potem pa se vloge zamenjajo) se združijo v "GLOBALNI tokokrog" (slika 3), ki je paralelno- distribuiran in ki naposled KONVERGIRA k nekemu relativno statičnemu in stabilnemu stanju (vzorcu). * Slika 3: Ciklus nevronske dinamike Prehod od nevronske konfiguracije k vzorčni narekuje zahteva po minimizaciji energije, ki jo opišemo s formulo: N N E = 1 Jij Q. VlZ TiQi (3) ij=l i=l O energiji sistema torej odločajo usklajenosti posameznih nevronov v parih in predznak vezi, drugi dodatni člen (ki bi ga lahko tudi izpustili - stvar izbire) pa opisuje interakcije nevron - nevronsko polje T, to je: nevron - grupacija nevronov (ali: posameznik - družba, skupina; ali: spin - magnetno polje, oziroma: fizikalni delec - polje ipd.). V drugem smislu lahko T; ponazarja prag i-tega nevrona (lasten prag ali kot mu ga narekujejo oziroma dopuščajo drugi nevroni). 2.3.2. Dinamična vzorčna zaporedja in pozabljanje Sistem lahko konvergira k lokalni ali globalni vzorčni konfiguraciji (atraktoiju). Če doseže končno stacionarno stanje, je število takih vhodov v posamezni nevron, ki bi ga radi imeli prižganega, in tistih, ki bi raje ugasnjenega, uravnoteženo, zato ostane nespremenjen. Atraktorji pa so lahko tudi neke periodične orbite od vzorca do vzorca ali pa se sistem vede kaotično. Te nestabilnosti se zgodijo pri asimetričnih vezeh: J- ni enako Jjj - vez v eno smer je drugačna kot v drugo smer. V možganih so sinapse vselej le vzpodbujevalne ali le zaviralne, ne morejo menjati predznaka svoje vloge, temveč le moč vpliva. Stabilne atraktorje imamo potemtakem pri simetričnih vezeh, DINAMIČNE (potujoče) VZORCE pa dobimo takrat, ko ena vzorčna konfiguracija postane meta- stabilna in preide v drugo. Tako se pojavijo DINAMIČNA VZORČNA ZAPOREDJA: yki .yltf.ytt .... POZABLJANJE vzorca je posledica zabrisa potencialne jame. To se zgodi ob obilici novih informacij, motenj; nadalje zaradi neujemanja med vzorci. Zaradi nizke korelativne stopnje, zaradi nekonkurenčnosti in nepotrjevanja ustrezne vezi izgubljajo svojo moč in vzorci slabijo. Nasprotno se vzorci vedno bolj sidrajo, če so pogosteje rekonstruirani oziroma če ponavljamo z učenjem. Nevronska mreža je sposobna reproducirati shranjeni vzorec (npr. nek obraz) tudi le iz dela (npr. samo slike oči ali ust) ali če je kak odsek pokvarjen ali "zašumljen". Razlog je v dejstvu, da se energijski minimumi ne zabrišejo nujno (četudi so manj očitni), če nekateri nevroni ali vezi ali pa celo cele podmreže izpadejo. Vzorci, ki so blizu skupaj, se lahko zamešajo ali stapljajo ... 2.4. RAZNE ARHITEKTURE IN NAČINI DELOVANJA Dopolnjujočih se modelov ter ustreznih realnih arhitektur določenih cerebralnih območij je veliko. Vemo že, da nekateri razporejajo nevrone napredovalno (perce-ptronski modeli), drugi so strogo simetrični (doslej opisovan Hopfieldov model), tretji simetrično asociativno mrežo diferencirajo v plasti in jo efektivno hierarhizirajo (Hakenov model) itd. Večina mrež je razporejena v plasti: vhodna, skrita ("hidden layer") in izhodna plast, vendar je ta ločitev lahko ostra, fiksirana (prva skupina) ali pa mehka, prilagodljiva (tretja in predvsem druga skupina). Tako troplastno mrežo kaže slika 4: 1-nivo biol. nevronov: posamezni Qj 2-skriti nivo (kod): posamezni C 3-nivo vzorcev: posamezni Vj *Slika 4: Troplastna nevronska mreža Srednja (skrita) plast ima funkcijo zgoščenega KODIRANJA informacije. Pri Hakenovem modelu (Lit 4) jo sestavljajo znameniti parametri urejenosti Ck (podpoglavje 3.3.1). Spet je kodiranje in dekodiranje skupna dejavnost nevronov skrite in prve ali tretje plasti. Kod sam je brez nevronov kot "general brez vojske" - šele z njimi lahko (re)konstuira svoj pomen. Ponekod poteka učenje po principu "učenje s poskusom in napako": Gre za nadzorovano prilagajanje nekemu predpisanemu rezultatu. Nekatere mreže (npr. Hop-fieldova) pa delujejo brez nadzorstva ("učitelja" - torej brez nekega centralnega orga- na, ki bi vodil učenje), temveč samoorganizirano težijo k minimizaciji neke opti-mizacijske funkcije (energije, stopnje neusklajenosti, napake). Preglejmo nekatere arhitekture in načine procesiranja: Najpreprostejši je PERCEPTRON. Biološki nevroni v plasti tukaj niso povezani med seboj, temveč le z biološkimi nevroni višjega reda (višje funkcionalne stopnje oziroma abstrakcije), katerim pošiljajo svoje signale, ne dobijo pa jih od njih nazaj. Tukaj gre za funkcionalno hierarhijo realnih živčnih celic (na primer nevronov nekega senzornega sistema), kar ne velja zamešati z virtualno (mehko) hierarhizacijo, ki jo obravnava Hakenov model in nadgrajeni Hopfieldov (obdelana v podpoglavju 2.2). KOHONENov model (Lit 7,32,52) predpostavlja samoorganizacijsko lokalno topološko preslikavanje, nastalo s selektivnim vzbujanjem tiste nevronske grupacije (domene), ki "se najbolj prekriva" z vhodnimi podatki. Nevron, ki postane maksimalno vzbujen, zastopa domeno ("zmagovalec dobi vse"). Torej specifičen zunanji vpliv sproži vzbuditev specifičnega nevrona; ta se bo odslej najbolj zavzeto odzival, če se bo po začetnem učenju spet pojavljal podoben zunanji dražljaj. Zmagovalni nevron lahko nadalje sodeluje v domeni zmagovalcev, kjer bo spet eden izmed njih postal zmagovalec 2. stopnje itd. Nevrofiziološko je to lahko izvedeno tako, da najbolj odziven nevron v skupini pošlje svoj signal v višjo funkcionalno enoto; ta pa ga pošlje še naprej, če je bil izmed vseh prejetih signalov prav ta spet najmočnejši. Raznih funkcionalnih možnosti tega tipaje precej ... Raziskave kažejo (Lit 7,20), da je okolje v glavnem topografsko pravilno preslikano na površino možganske skorje. To pomeni, da "vzdražne točke", ki so v okolju blizu skupaj, vzdražijo nevrone, ki so si blizu - relacije in razmerja se torej okvirno ohranijo. Pogost nevrofiziološki pojav je lateralna inhibicija: Nevron, ki se najbolj vzburi ("zmagovalec"), zatira svoje sosede oziroma nevrone svoje domene, vendar nazunaj predstavlja razen svojega tudi "interes" vse domene. Izvor lateralne inhibicije je lahko tudi nekaj nevronov v "ožjem krogu"; ali gledano drugače: Vsak, posebej zmagovalni nevron, vzbuja najbližje sosede, zavira pa daljne sosede. To vzbujanje in zaviranje se lahko koncentrično izmenjuje z naraščanjem oddaljenosti od centralnega nevrona (funkcija "mehiški klobuk"). Često delujejo tudi veto-celice, ki lahko preglasijo množico nevronov, vendar morajo imeti široko podporo drugih struktur. 2.5. KONCEPT SPOZNAVNE TEORIJE Vzorci so kakršnekoli strukture, ki jih označujejo neke skupne značilnosti tako, da jih nevronska mreža razporedi skupaj oziroma stopi skupaj. To so lahko neke slike predmetov, oblike, zvoki, pravila, diagrami, način gibanja (primer dinamičnega vzorca), periode itd. Razložimo si bistvo asociativnega pomnjenja na konkretnem primeru. Vemo, da bodo podobni si zunanji dražljaji povzročili oblikovanje medseboj analognih in specifičnih nevronskih konfiguracij. Če so bili takšni dražljaji že kdaj naučeni, bodo sedaj znova asociativno vzbujeni. Pomembna lastnost nevronskih mrež pa je v dejstvu, da nekoliko različne (npr. zaradi malo različnih zornih kotov, ozadja, skratka trenutnih okoliščin) konfiguracije konvergirajo k istemu minimumu (vzorčni konfiguraciji). Preprost primer: Ko prvič (npr. kot novorojenček) vidimo nek predmet, vzemimo rdečo knjigo, se zasnuje "jama" v prostoru nevronskih stanj predstavljajoč nek shranjen vzorec ali spomin. Če še večkrat vidimo taisto rdečo knjigo, se ta minimum energije poglablja (učenje). Tudi če jo naslednjič vidimo malo drugače kot prvič (recimo v malo drugačni poziciji), bo zaradi podobnosti sistem vseeno zapadel v isti minimum. Kasneje opazimo zeleno knjigo, vendar razlika še ne bo bistveno spremenila oblike jame - torej bomo kljub vsemu zaznali neko identičnost med knjigama. Vemo, da sta si sorodni v večini lastnosti. Ko pa smo videli zelenih knjig vsaj toliko kot rdečih (npr. deset), ju bomo morebiti že ločili po barvi (minimum se razdvoji). Če zdajle (prvič v življenju) zapazimo črno knjigo, bomo v dilemi, katere barve je. Ali jo bomo prišteli k zelenim ali rdečim (glede na to, kateri izmed minimumov je vsaj nekoliko dominantnejši), vendar se je začel oblikovati tudi minimum ustrezen črni knjigi. Vsekakor pa zdaj ločujemo knjige od časopisov (ki smo jih tudi že videli precej), saj vodijo do povsem različnih minimumov. Če nekoč vpričo nas nekdo imenuje knjigo z besedo, bo to povzročilo neko novo nevronsko konfiguracijo. Če se bo to sovpadanje često ponavljalo, bo ta koinci-denca vizualne slike knjige in nekega pripadajočega jezikovnega korelata prerasla v ASOCIATIVNO ZVEZO: Naslednjič bo pojav knjige sprožil poleg padca v knjigi ustrezni minimum brž tudi spust v pripadajoči besedi ustrezni minimum. Vzorca se bosta prekrivala, pogojevala (podobno kot po Pavlovu, le da v našem primeru na višjem, ne le na refleksnem nivoju). Nevronske mreže so torej sposobne iz enega vzorca preiti k drugemu (hetero-asociacija na istem nivoju). Sposobne so tudi povezati različne (v nekem tolerančnem območju) vtise (in sicer različne narave) v taisti vzorec - tako se vzorci nižjega reda stapljajo v vzorce višjega reda (heteroasociativna generalizacija). Lahko pa ugotovijo identičnost istega pojava ali predmeta v nekoliko različnih okoliščinah (npr. ozadju, variaciji lege, barve ipd.) ali iz delne percepcije. To je običajna avtoasociacija. Le s takim mehanizmom lahko razpoznavamo npr. različno natisnjene črke A kot enake. (Kot že vemo, je to zaradi vezi med nevronskimi celicami bistveno drugače kot pri klasičnih računalnikih, ki premorejo le ločene pomnilne celice in zato te "mehke logike" ter prožnosti niso sposobni.) 3. HIERARHIČNE STRUKTURE VZORCEV 3.1. FIZIOLOŠKA IN VIRTUALNA STRUKTURNA DREVESA Hierarhično strukturiranost je treba razumeti v dveh smislih: - FIZIOLOŠKA hierarhiziranost in diferenciranost: Biološke nevronske strukture so urejene plastovito (perceptronsko). Razni centri, areje, mape nadgrajujejo ene druge. Možgani ne procesirajo paralelno samo na stopnji nevronskih celic, temveč tudi na nivoju teh višjih funkcionalnih enot, ki so prostorsko lokalizirane, vendar stalno sodelujejo. Tako se npr. vzorci barve in oblike nekega predmeta lahko obdelujejo vzporedno v posebnih podmrežah, potem pa se na že opisan način asociativno združujejo v vzorce višjega reda abstrakcije. Tako nastajajo hierarhične funkcionalne strukture, ki so bile v evoluciji "odobrene" (preživele so naravno selekcijo). Prilagojene so na običajne in pogoste vrste dražljajev ter so sposobne dajati smiseln odziv na izzive zunanjega okolja, pa tudi regulirati notranje telesno okolje (srce, žleze, gladko mišičje ipd.) Take preizkušene standardne strukture so tudi genetsko zakodirane. Na primer vegetativno živčevje spada v ta okvir...(Lit 51) - VIRTUALNA abstraktna hierarhizacija: Organizmi pa se soočajo tudi z množico pestrih, hitro spreminjajočih se dražljajev iz vsakodnevnega življenja. Za ravnanje v takšnih vedno novih pogojih upo- rahljajo virtualne hierarhično urejene vzorce (minimume v potencialnem reliefu) različnega reda, ki so zelo prožni in dinamični. Namen tega poglavja je pokazati, KAKO na konfiguracijah bioloških nevronov temelječi vzorci predstavljajo podstat za izgradnjo višjih struktur. Postavimo se v eno izmed funkcionalno zaokroženih asociativnih podmrež, ki se lahko modelirajo po Hopfieldu. Vsak nevron igra mnogokratno vlogo: sodeluje v oblikovanju množice vzorcev. Vsak vzorec je, potem ko je bil nekoč ustanovljen, zastopan v vseh vezeh in posredno v vseh nevronih. V vsaki vezi je majhna spominska sled, pa tudi stanja vseh nevronov so posredno odvisna od teh v vezeh zastopanih vzorcev! Vendar nevroni prednjačijo v dejavnostih pri (re)konstrukciji vzorca, kije trenutno "v zavesti", vezi pa so bolj posvečene pomnjenju na stran odloženih vzorcev, ki trenutno niso na sceni. Vendarle se obe dejavnosti izvajata vedno hkrati in soodvisno. Na tej osnovi dobijo vzorci vlogo POSPLOŠENIH NEVRONOV (novih osnovnih elementov sistema) glede na nov višji nivo, torej novo hierarhično stopnjo, novo rekurzijo. To, da vzorci oziroma posamezni spomini V zasnujejo novo "NEVRONSKO" MREŽO VZORCEV, predstavlja pravzaprav zametek subjektivnosti v klasičnem pomenu besede. Povzemimo še enkrat: "Mreža vzorcev" izhaja iz OBJEKTIVNE OSNOVE - BIOLOŠKIH NEVRONOV (Q), saj nevronske konfiguracije Q ob minimizaciji energije E oblikujejo vzorce V (slika 2), obenem pa vzorci prek vezi J (po formuli (2)) vplivajo nazaj na nevrone - zato, ker J nastopa v obrazcu (3) za E. To kroženje (vhod-izhod-vhod-...: kar je izhod, postane novi vhod) se potem ponavlja kot po sliki 3. Začnimo pri dnu spoznavne strukture in jo postopoma razvijmo: Mreži Q0 in JO (mreži bioloških nevronov Q0 pripada mreža aksonov - vezi JO med temi nevroni) sta torej prvotno objektivni, fizično realizirani. Tvorita vzorce (minimume VO), ki dobijo funkcijo posplošenih nevronov Q1 na višji stopnji in interagirajo med seboj (JI). To je podobno kot pri individualnih stikih (JO) med ljudmi (Q0), ki imajo lahko hkrati predstavniški značaj za višje strukture (Q1): npr. državniško srečanje je stik dveh držav (vez JI dveh vzorcev Ql). To se ponovi pri grupacijah vzorcev, ki jih povzamejo vzorci 2. stopnje Q2 (VI predstavljajo Q2) in se povezujejo prek J2. Sledijo minimumi sistema minimumov sistema minimumov (Q3 z J3) itd. Temu zraščanju vej strukturnega drevesa v večje veje pod vplivom minimizacije E ustreza primerjava z lijakom, ki razpršene curke (različne posamezne vtise) zliva v en sam curek, ki pristane na dnu steklenice (to je vzorec), steklenice pa se nato grupirajo v škatle, te v tovornjake itd. Prehod od fizičnega k psihičnemu (virtualnim strukturam) je torej postopen in zvezen. 3.2. VZORCI VIŠJEGA REDA KOT POSPLOŠENI NEVRONI IN POSPL. VEZI Vzorec je lahko LE FORMALNO predstavljen kot nevron višje vrste. V resnici je, kot vemo, to kompleksna paralelno-distribuirana struktura, ki bazira na specifičnih stanjih mnoštva nevronov. Predstavljen je z matematično strukturo za eno dimenzijo višje kot njegov predhodnik: Vzorec Q1 (ali VO) je torej vektor, če je predhodnik (biološki nevron Q0) binarno, diskretno ali zvezno spreminjajoč skalar. V nevronski preinterpretaciji pa lahko predstavlja vpliv oziroma vlogo tega vzorca spet nek nadomestni skalar Ql, na primer moč območja privlaka (število elementov množice vseh konfiguracij, ki se bodo stekale vanj). Vez med posplošenima (vzorčnima) nevronoma JI pa je lahko na primer opredeljena z razliko med številom enako predznačenih in številom različno predznačenih komponent vzorčnih vektorjev VO (=Q1). Če prevladajo različno predznačeni bazični nevroni, ki predstavljajo komponente, je vez negativna (inhibitorna) - vzorca si nasprotujeta (sistem bo izbral močnejšega, to pa bo kmalu degradiralo neizbranega, saj izgublja podporo); sicer bi bila pozitivna (vzbujevalna) - vzorca kooperirata, skleneta najboljši možni kompromis -oblikuje se nov globji skupni minimum višje (2.) stopnje. Tale bo sedaj eksaktno predstavljen z matriko, ki jo sestavljajo baznim vzorcem ustrezni stolpci - vektorji, poenostavljena nevronska preinterpretacija pa je za posplošene nevrone Q2 in vezi J2 analogna kot zgoraj. Glede fizične realizacije je lahko, kot vemo, sistem naenkrat le v enem minimumu - biološki nevroni lahko naenkrat oblikujejo le eno manifestirano spominsko konfiguracijo, biološke vezi pa hkrati več latentnih. Vsi ostali generalizirani nevroni in vezi (Ql, JI; Q2, J2 in više) so le posredno VIRTUALNO REALIZIRANI - kot GESTALTI različnih redov. Naredimo si naslednjo preglednico: red status posplošenega status posplošene matematični nevrona ima: vezi ima: opis p. nevrona 0. BIOL.NEVRON Q0 SINAPSA JO SKALAR 1. VZOREC V0=Q1 INTERAKCIJA JI VEKTOR (takih je P) (med vzorci Ql) (N-terica) 2. VZOREC VI =Q2 INTERAKCIJA J2 MATRIKA N x P (takih je P') (med vzorci Q2) 3. VZOREC V2=Q3 INTERAKCIJA J3 MATRIKA (takih je P") (med vzorci Q3) N x P x P' itd. Le prva vrsta (0.) je fizično realizirana. Interakcije J1,J2 itd. dejansko delujejo posredno prek svoje biološke osnove - sinaps, tako kot vzorci bazirajo na bioloških nevronih. Pri matematični formulaciji posplošenega nevrona npr. 2. reda sestavljajo stolpce matrike za Q2 vektoiji Q1 (posplošeni nevroni za eno stopnjo niže); matriko 3. reda (N x P x P') za Q3 sestavljajo "ena poleg druge naložene" matrike 2. reda (N x P) Q2; itd. Q2 je potencialna jama, ki vsebuje oziroma zaobsega P manjših potencialnih jam v svojem območju privlaka. Matematični opis generalizirane vezi ima vedno za kvadrat višjo dimenzijo kot matematični opis generaliziranega nevrona. Za vez JO med nevroni Q0 je skalar, za vez JI je matrika 2. reda (N x N) itd. Nekateri uvajajo tudi vektor vezi, katerega komponente so vezi nevrona Q0 z vsemi drugimi nevroni, oziroma uteži v linearni kombinaciji (1), ki opisuje seštevek vplivov drugih nevronov na danega prek teh vezi. 3.3. MEDNIVOJSKE INTERAKCIJE IN INTENCIONALNOST 3.3.1. Parametri urejenosti Interakcije med nevronskimi vzorci so torej ZELO VEČPLASTNE, potekajo v več različnih SMISLIH in SIMULTANO na več RAZLIČNIH NIVOJIH - od fiziološkega (takorekoč kaotično stohastično delovanje bioloških nevronov - celic) do iz stopnje v stopnjo bolj psihičnih nivojev (vse višji in globalnejši vzorci). Zelo pomembo vlogo igra stopnja korelacije (prekrivanja) med vzorci, posebej pa tudi korelatorji med osnovno povprečno nevronsko aktivnostjo in prvo stopnjo vzorcev ali pa med vzorci različnih stopenj. To so PARAMETRI UREJENOSTI, ki dirigirajo razvoj vzorcev. Zapademo v vzorec, katerega parameter urejenosti prevlada nad ostalimi (sinergetski zasužnjevalni princip): Temu raste vrednost proti 1, ostalim pa pada proti 0. Parameter urejenosti Ck meri velikost PROJEKCIJE določene vzorčne konfiguracije Vk na nevronsko konfiguracijo Q: N Ck= VikQi (4)- i=l Posameznim komponentam (i) ustrezni produkti V;k in Q;, ki jih seštejemo, sestavijo skalami produkt. To pa je definicija parametra urejenosti Ck, ki na tak način - z drugimi besedami - meri stopnjo prekrivanja konfiguracijskih vektorjev Vk in Q. Vzorec, ki se bo najbolj prekrival z Q (ki bo imel največ skupnih komponent), bo priklican - torej bo prišel na površje oziroma bo "ozaveščen". To je drugi način matematične formalizacije asociativnih nevronskih procesov. V tem Hakenovem modelu ima prav parameter urejenosti Ck status nevrona prve višje stopnje. (Lit 4; zveze: 71) Pri oblikovanju vzorcev tisti del mreže, ki je v stabilnem urejenem stanju tvori svoj parameter urejenosti, ki nadalje sili vso preostalo mrežo v takšno urejeno stanje (od tod ime za Ck). Parameter urejenosti vselej usmerja svoj podsistem in širše, hkrati pa sistem determinira njega. Podobno v družbi poteka odnos voditelj - ljudstvo. 3.3.2. Parametri pozornosti Kateri vzorec bo priklican je odvisno od zunanjih dražljajev ter od notranje naravnanosti sistema. Stopnja pozornosti, ki jo sistem posveča določenemu vzorcu, je podana s PARAMETRI POZORNOSTI oziroma NARAVNAVNOSTI Lk. Lahko jih postavimo v formulo (2) pred produktom vzorčnih nevronov k-tega vzorca. Tedaj uravnavajo selektivno učenje posameznega (k-tega) vzorca, lahko pa regulirajo selektivno pozabljanje. Pozitivni Lk nakazuje pozornost (sorazmerno intenziteti te naravnanosti na določen vzorec), negativni pa nepozornost (ki vodi v pozabljanje tega vzorca). Parameter urejenosti (prekrivanja) "zlomi simetrijo" in privilegira gradientno dina-miko v konfiguracijskem prostoru (prostoru možnih nevronskih ali vzorčnih stanj) v določeno smer - v enolično določen minimum. Parameter pozornosti pa določa dinamiko parametra urejenosti oziroma pove, kateri parameter urejenosti bo prevladoval in kateri se bo podrejal (s tem pa posredno vpliva na dogajanje prejšnjega stavka). To je razvidno iz formule: dt L L dč* w 3.3.3. Nevronska konfiguracija kot mešanica vzorcev V Hakenovem sinergetskem modelu je nevronska konfiguracija Q predstavljena kot niz (razvita v vrsto) z različnimi verjetnostnimi koeficienti - parametri urejenosti Ck uteženih vzorcev Vk. Torej: P Q = Ck Vk (7). k=l Večji Ck pomeni večji delež vzorca Vk, katerega vpliv predstavlja, v nevronski konfiguraciji Q, ki je po formuli (5) mešanica vseh P hkrati zapomnjenih vzorcev (vključno z zunanjim dražljajem). Matematično imajo vzorci Vk vlogo lastnih vektorjev, parametri urejenosti Ck verjetnostnih oziroma Fourierovih koeficientov, parametri pozornosti Lk pa vlogo lastnih vrednosti. Lastna vrednost Lk je lahko merilo za pogostost oziroma številčnost prezentacij k-tega vzorca (prek njegovega Ck) (Lit a Ce so posamezni vzorci V" optimalno shranjeni, so ortogonalni - projekcija enega na drugega je nič, torej se ne prekrivajo (nimajo skupnih nevronskih stanj). V praksi je to zelo težko dosegljivo, vendar želimo, da bi bili vzorci čim bolj ortogonalni, neodvisni in bi se s tem čim manj motili pri priklicu. 3.3.4. Semantika Parametri urejenosti delujejo kot komprimirana simbolna koda pri shranjevanju in priklicu vzorcev. Haken trdi, da ustrezajo KARDINALNIM CELICAM (tako imenovane "grandmother-cells") - možganskim celicam, ki reagirajo samo na specifičen vzorec (npr. pri človeku samo na obraz stare mame). Pri nekaterih živalskih vrstah so bile take celice eksperimentalno dokazane; pri človeku pa kaže, da je tako enostavno le v nižjem živčevju, nikakor pa ne v višjih centrih. V evoluciji bi se lahko razvile določenim standardnim vzorcem ustrezne odzivne celice, za ostale pa je veliko verjetnejše, da imajo vlogo kardinalnih "celic" cele grupacije nevronov, ki delujejo kot "ključ" za rekonstrukcijo vzorca! (Lit 4,5) Parametri urejenosti povedo, kakšno (kolikšno) vlogo ima nek generaliziran nevron za generaliziran nevron za eno višje stopnje (oziroma v vzorcu naslednjega reda abstrakcije). Povedo, kakšen je za dan vzorec delež oziroma POMEN njegovih sestavnih delov. Tako npr. besedam ustrezni parametri urejenosti predstavljajo pomen, ki ga imajo te besede v stavku (vzorcu, ki ga sestavljajo - Gestaltu)! Podobno (na nižjem nivoju) parametri urejenosti za eno nižje stopnje prikažejo semantiko zlogov v določeni besedi. Po sinergetskem podreditvenem principu so s PARALELNO-DISTRIBUIRANIM DELOVANJEM parametra urejenosti (koda) besede "pod-rejene" (združene) v stavek: s POMENOM (delovanjem parametra urejenosti) so torej vezane v stavek in vsebino tega stavka kot gestaltne celote! Besede v tem semantičnem okviru KONTEKSTNO POGOJUJEJO DRUGA DRUGO. Ob tej priložnosti povejmo, da se populacije nevronov šele v procesu evolucije (adaptacije) zunanjim dražljajem specifično samoorganizirajo v manjše, a funkcionalno močnejše, bolj učinkovite in izkoriščene "kardinalne" grupe (podobno kot pri back- propagation algoritmu (Lit 17, pogl. 8)). Ti "moduli" za posamezne naloge potem povezani opravljajo zahtevnejše sestavljene aktivnosti. 3.4. GRUPIRANJE VZORCEV: DINAMIČNA ZAPOREDJA, KOHERENCA,... Ni bilo še razjasnjeno, kako se lahko iz skupine nižjih vzorcev tvorijo višji vzorci, če pa ima sistem v priklicu ("v zavesti", torej v nevronih) lahko le en vzorec hkrati. Res je, da se vzorci preoblikujejo tudi "podzavestno" (težišče na vezeh), vendar nas zdaj zanima (re)konstrukcija za stopnjo višjih vzorcev iz gruče nižjih mani-festalno, ne latentno. Ta se pojavi po naslednjih možnih poteh ali kombinacijah le-teh: - Prva: Posamezni stolpci (Ql) matrike Q2 predstavljajo le možne izhodiščne (vmesne) konfiguracije za oblikovanje ene nove - globlje - torej takšne, ki ima veliko stopnjo prekrivanja čez vse svoje predhodne bazne konfiguracije. Tukaj gre za generalizacijo - stapljanje vzorcev (iskanje nadpomenke), ki se lahko zgodi med mehko ločenimi ali ostro ločenimi podmrežami (vsaka prispeva svoj vektor-stolpec Ql). Pri slednji opredelitvi je mišljeno, da so podmreže topološko ločene v posebnih funkcionalnih enotah. Vsaka torej prispeva svojo konfiguracijo, ki minimizira E, te pa "medseboj izberejo minimum minimumov"; natančneje: se stopijo v vzorec višjega reda. Ta se spet lahko oblikuje v posebni funkcionalni enoti, ki nosi funkcijo višjega reda (višji center). Lahko pa se to zgodi v isti kompaktni mreži, v okviru katere se le različne nevronske domene uniformirajo pod nekim prevladujočim vplivom (to je Ck). Tukaj torej ne gre za funkcionalno topološko ločitev, temveč le za mehko regionalno grupiranje nevronov. - Druga varianta: Sistem sčasoma preleti vektorje-stolpce Q1 matrike Q2 enega za drugim. Ena konfiguracija je torej direkten asociativen povod za drugo. To so DINAMIČNA VZORČNA ZAPOREDJA, ki imajo pomembnejšo in izoblikovano vlogo pri višjih vzorcih. Predstavljajo časovno SEKVENČNO GRUPIRANJE aktivnosti vzorcev ("fazne sekvence"; Lit 8). Ta uredno usmerjena zaporednost, ki se sproti izgrajuje, je že bliže EPIZODNEMU SPOMINU in JEZIKU, sicer pa je zame-tek izoblikovanja makroskopskega kavzalnega procesa v okviru oziroma iz mikro-skop-skega paralelnega. Osnova časovno-odvisnih atraktorjev je asimetričnost matrike vezi (vez je v smeri od prvega nevrona k drugemu drugačna kot v obratni smeri: J- ni enako J- ) in pojav časovnih zakasnitev v nevronskem procesiranju. Zakasnitev lahko povzročijo tudi internevroni. V vsakem primeru to povzroča, da postane tekoči vzorec meta-stabilen in se "zvezno prelije" v drugi vzorec. Na nivoju višjih vzorcev bi tako vzorčno verigo dveh, večih ali mnogih vzorcev lahko imenovali "tok misli", če bi bil široko asociativno pogojen, ali "govor" (zunanji/notranji), če je poudarek na ubesedeni simbolizaciji oziroma kodiranju ... - Tretji način oblikovanja ločenih vzorčnih struktur, ki se kasneje lahko asociativno povežejo v višje vzorce, je frekvenčna diferenciacija. Ob asociativni zvezi ali sorodnosti dražljajev pa nastopi FREKVENČNA SINHRONIZACIJA - neposredno zaradi frekvenc dražljajev samih ali posredno v abstraktnejšem smislu (kontrast, barva, orientacija, intenziteta oziroma amplituda itd.). O tem bo natančneje govor v naslednjem poglavju; tukaj le podčrtajmo, da (ne)sinhronizirane oscilacije nevronov predstavljajo novo prostostno stopnjo vloge nevronov v vzorcih in na poseben način grupirajo vzorce v skupine s specifičnimi frekvencami njihovih baznih nevronov. Celice, ki obdelujejo informacijo iste vrste, bodo sinhronizirane na isto frekvenco in delovale bodo KOHERENTNO. Pri tem gre torej za frekvenčno združitev ali ločitev, ne za povezavno izolacijo. Primerjamo lahko to situacijo z radijskimi ali TV distribucijskimi mrežami, sestavljenimi iz oddajnikov in sprejemnikov na različnih frekvencah. Lahko bi šlo tudi za diferenciacijo ali sinhronizacijo v drugem smislu, kar nedvomno še poveča kapaciteto mreže (npr. številu pulzov, ki jih odda nevron v nizu). Intencionalnost in pozornost imata pri tem znaten pomen. Spet še primerjava iz človeške družbe: različne interesne in starostne skupine - npr. otroci živijo v svojem svetu, četudi komunicirajo redno s starejšimi... - Četrta možnost je sorodna prvi. Včasih je relaksacijski proces posebej počasen in takrat je vsebina nevronske konfiguracije zaznamovana s ČASOVNIM POVPREČJEM prek hitro se spreminjajočih vzorcev. To često vodi v meglene in nejasne ali pa vsaj površne predstave. (Lit 17) Na koncu še opomba: Vsekakor je markiranje vzorcev s to ali ono stopnjo upravičeno le z možnostjo matematične in semantične klasifikacije, kajti mreža operira z vzorci zelo svobodno, ne tako strogo kaskadno. Možnosti obravnave so različne, vendar vselej pristranske: obdelujejo bolj en ali bolj drugi vidik tega takorekoč neskončno kompleksnega procesa. 3.5. SINHRONIZACIJA NEVRONSKIH OSCILACIJ Nevroni oddajajo pulze s povprečno frekvenco 40 Hz, njihova moč pa je obratno sorazmerna s časovno razdaljo od enega (pulza) do drugega. Torej bolj so močni, če so oddajani gosteje. Nevroni, ki sprejemajo dražljaje istega tipa, nihajo sinhrono. Aktivnost posameznega nevrona nakazuje prisotnost določenega zunanjega dražljaja npr. v vizualnem polju, sinhronizacija z drugimi nevroni pa konstruktivne RELACIJE s temi drugim nevronom ustreznimi dražljaji. Živčne celice v retini so občutljive na frekvenco oziroma periodičnost (tudi prostorsko), spektralno sestavo, kontrastni in sve-tlostni gradient z določeno polarnostjo itd. Torej so pozorne na barvo, orientacijo, dolžino, odtenke ipd.; pri dinamičnih dražljajih pa tudi na hitrost in smer gibanja. To omogoča stapljanje ali ločitev elementov opazovane okolice na ozadje in "prvi plan". V drugem primeru nevronska mreža razpade na podmreže glede na frekvenco oziroma fazo. Fizično (sinaptične vezi) ni razdružena, efektivno pa je; vendar se ob sorodnosti in korelativnosti dražljajev spet lahko fazno ali frekvenčno sklopi. Moč frekvenčne sklopitve je še ena oblika kvantitivne mere za interakcijo SKLOP-LJENIH OSCILATORJEV (nevronov, ki se stalno prižigajo in ugašajo; hkrati pa oddajajo signale določene frekvence ob preseženem pragu). 3.6. POSTOPNO OD OBJEKTIVNEGA K SUBJEKTIVNEMU 3.6.1. Resonančno izstopanje, superponiranje virtualnih slik Vezi J- sooblikujejo nastanek novih nevronskih konfiguracij, in sicer selektivno jačajo ali slačijo stabilnost konfiguracij prek vsakega posameznega para nevronov, ki ju vežejo. To globalno vodi v neke vrste RESONANČNI proces. Ko namreč do bioloških nevronov pride zunanji dražljaj (npr. oči prenesejo zunanjo sliko kozarca), bo iz ozadja izstopila (stimulirana s selektivnim delovanjem vezi) dosedanja notranja slika kozarca in sliki bosta superponirali. Naš notranji svet je nekakšna vsota, zakodirana kondenzacija zunanjih vtisov, nova (posameznemu človeku in njegovim specifičnim okoliščinam ustrezna) specifična asociativna mešanica, ki nastane v skladu s primeijavo med vsemi virtualnimi slikami. Je invariantna na rotacijo, trans-lacijo, skaliranje (razni velikostni redi) in deformacijo vsa ta raznolika pojavnost rezultira v isti vzorec. (To ni le varčno, temveč-edino smiselno.) Iz objektivnejših posameznih slik nastaja z zlitjem nekakšna nova subjektiv-nejša, takšna pa je iz stopnje v stopnjo bolj. Sam proces konstrukcije te modelske slike regulira "objektivni" minimizacijski proces (nižanje energije), ki je mikroskopsko gledano čisto stohastičen, vendar hkrati opredeljen z relativnimi OKOLIŠČINAMI (trenutnimi stanji drugih nevronov oziroma vezi), ki oblikujejo "lokalne zakone" (nevronske domene). Subjektivnost Gestalta za objektivno stvar (npr. sonce) je v asociativni kon-tekstualnosti (jutranje, večerno; svobodno, prijazno sonce itd.)! 3.6.2. Vzorci udejanjajo svojo relativno avtonomnost na biološki osnovi Vzorci prek aksonov vezi (ki so sorazmerne njihovi medsebojni sklopitvi oziroma korelaciji) sooblikujejo stanja nevronskih celic. So torej nekakšna "mreža v senci" v bistvu interagirajo POSREDNO prek "objektivne" (biološke) infrastrukture. Njihov obstoj je odvisen od te baze, svoj obstoj pa "materializirajo" udejanjajo tako, da vplivajo nanjo nazaj. Neprestano deluje torej gost in širok sistem povratnih zank. Tako objektivizirani vzorci res lahko delujejo avtonomno kot opeka za oblikovanje vzorcev višje stopnje itd. Niso več tako diskretni, kot so biološki nevroni, temveč so gnetljivi ter še bolj dinamični in imajo ogromno prostostnih stopenj. Iz Hopfieldovega modela sicer ni neposredno razvidno, ali ti vzorci postanejo dovolj fiksirani in zakoreninjeni, vendar lahko upravičeno dogradimo model s predpostavko, da se prek prekrivanja svojih območij atrakcije vpletajo v medsebojne interakcije in s tem spletajo svoje mreže - kot da igrajo vlogo pravih nevronov. Lahko si predstavljamo, da ima možganski biološki mehanizem vlogo "koda" za holistične paralelno-distribuirane procese na virtualnih vzorčnih nivojih, podobno kot imajo geni na molekuli DNK funkcijo koda pri reprodukciji in razvoju organizma. Genske sekvence so namreč sekvence parametrov urejenosti, ki regulirajo "rekonstrukcijo" organizma (po Lit 19). Pravzaprav, če natančno pogledamo zadnjo formulo za J— (to je Hebbova f. (2)), vidimo, da se vzorci (npr. k, h in 1) pravzaprav nalagajo drug na drugega, tako da puščajo eden za drugim (po vrsti kot se oblikujejo) svoje "sledi" v vsaki posamezni vezi posebej: j..khl = y k y.k + y.h y.h + y.l y.l (g) ij i J 1 j 1 J v ' Vrednost posamezne vezi J- med i-tim in j-tim nevronom bi bila rahlo drugačna, če bi bila konfiguracija samo enega izmed vzorcev (spominov) malce spremenjena. Torej v nekem smislu vsebuje ena sama vez vso informacijo v mreži, ki pa jo lahko shrani, rekonstruira in odda le s pomočjo vseh drugih vezi in nevronov; hkrati s svojo konkretno vrednostjo na tak način podpira tudi vse ostale vezi in nevrone. Seveda bi bil ta stavek absurden, če ne bi obe njegovi povedi brali in dojeli skupaj: vse v enem in hkrati eno v vsem (funkcija izoliranega elementa je nična). Vzorci vplivajo na vez grupirani v dva nasprotujoča si tabora - tabor tistih vzorcev, ki "se potegujejo za" vzbujevalno vez (to so tisti, katerih bazni nevroni so aktivni enako), in tistih, ki so za inhibitorno vez (tisti z nasprotno aktivnimi nevroni). Tako določa Hopfieldov model in za generalizirane vezi to velja eksaktno, za biološke pa ne: Ker pa so sinapse v možganih dejansko lahko le vzbujevalne ali zaviralne in ne morejo menjati te svoje vloge, lahko to tekmovanje nevronskih domen rezultira le v jačanje ali slabenje vzbujevalnega ali zaviralnega učinka sinaps. Ponovimo še enkrat: Vzorci v bistvu sestavljajo VIRTUALNO mrežo, saj obstajajo le v svojih sledeh v sinaptičnih vezeh in le prek njih so dejavni - dokler naposled niso priklicani; takrat "oživijo", "se pojavijo v zavesti" - v nevronih: V primeru priklica določenega vzorca se nevronska in ustrezna vzorčna konfiguracija, ki je kot ena izmed plasti naložena v matriki vezi J, poistovetita: Q postane V, ali po posameznih nevronih: Q; = Vjk, če je priklican k-ti vzorec. 3.7. HKRATNE DVOSMERNOSTI H1ERARHIZACIJA je spremljana z DIFERENCIACIJO (slika 5a), obenem pa se nasproti odvija proces ABSTRAHIRANJA in generalizacije: oblikovanje vse bolj globalnih minimumov (slika 5b) ali združitev elementov strukturnega drevesa oziroma prenos njihove informacije v funkcionalno enoto višjega reda. Torej hkrati, ko se drevo strukturira in razveja navzdol (nek objekt se kontekstualno poveže z drugimi objekti in nastopa v različnih vlogah na različnih nivojih), se v drugem smislu zrašča navzgor: nei/iro w S i . , ( \Jlort* /cda $ J / / i \ s i \ / l \ ♦Slika 5: Diferenciacija in generalizacija (razlaga v besedilu) Hkratnost takega procesiranja lahko zagotovi edinole visoka stopnja paralelizma, ki je simultan (in vendar asinhron). Gre za navidezni paradoks, vendar ne v "konek-cionistični logiki" (A in hkrati ne-A). Videti je, da sistemi ne sledijo logičnemu izklju-čitvenemu pravilu A ali ne-A (razen seveda na lokalnem konkretnem - biološkem nivoju Q0, JO), temveč se na globalnem nivoju uravnavajo po Heglovem pravilu transcendence: "teza - antiteza - sinteza" (dva višja vzorca vedno kompromisno super-ponirata in se kvečjemu stapljata, izključujeta pa le lokalno - prek svojih baznih nevronov). Ta eklekticizem se kmalu pojavlja v zelo različnih dualih: splošno - konkretno, globalno - lokalno, "sinhroniciteta'Vparalelizem - kavzalnost; deduktivno -induktivno; izmenjava neke vrste pojmovne (vzorčne) "dialektike" in "metafizike"; sistem - element... Širše ugotavljamo tudi hkratno dvosmernost: fiksacija, fokusacija/ energija E -> min "kaos"------------------------------------------------------------------> "kozmos" tvorba sistemov, zakoni entropija S -> max "kaos" <-----------------------------------------------------------------"kozmos" razgradnja sistemov, "anarhija" Kompromis uravnava prosta energija F = E - T. S., kjer je T merilo za stopnjo stohastične aktivnosti. Bistvo nevronskega procesiranja je iskanje minimumov energije, to pa je lokalno relativno ravnovesje in red za subjekt (Gestalt - lahko tudi v fizikalnem smislu: neko lastno stanje), v globalnem (objektivno) pa neravnovesje. Entropija S se mora namreč večati, sistemi pa z izmenjavo energije in materije to kršijo (negentropija). Torej je objektivno NERAVNOVESJE (nehomogenost, asimetrija - tvorba vzorcev) pogoj za subjektivni red in sam obstoj. V tem tukaj le rahlo nakazanem problemu se skriva naravni PARADOKS, ki naravi zagotavlja obstoj tako, da le-ta nenehno išče bolj ali manj lokalne KOMPROMISE, ki so (v termodinamskem formalizmu) podani z minimumom proste energije F. Le zato se vedno nekaj dogaja in to velja tudi (še posebej) v možganih. Še enkrat ponovimo, da so objektivni fenomeni, ki odigrajo pomembno vlogo: resonančna selekcija (izlušči, vzbudi se najmočnejša nevronska domena, pravzaprav na nek način priviligirana - npr. najbolj podobna zunanjemu dražljaju); zlom simetrije; odnos globalnega in lokalnega nevronskega polja (nasprotujoč ali sodelujoč). Vsi trije so tesno povezani. Na primer globalno polje povzroči zlom lokalne simetrije in s tem razdrobitev, med nastalimi manjšimi deli pa prevlada nato tista nevronska poddomena, ki je najbolj močna (razsežna) ali pa najbolj usklajena z globalnim poljem (povprečno aktivnostjo vseh domen mreže). (Primer fizikalne analogije: Lit 64 /str. 184, 214 idr.) 4. VIŠJI SKUPKI VZORCEV 4.1. SHEME, KATEGORIJE, SIMBOLI, ARHETIPI Vzorci višje stopnje ustrezajo miselnim shemam in kategorijam, ki jih zasledujejo psihologi. Take sheme srkajo vase vse posameznosti s SKUPNIMI KARAKTERISTIKAMI; nizi skupnih lastnosti so namreč povzročitelj konvergence, minimizacija (oblikovanje minimuma - "lijaka") pa hkrati abstrahiranje in IDEALIZACIJA. Vzorčni model se približuje tezam Gestalt-teorije; povejmo še enkrat kako: Podsheme ustrezajo vejam, ki se združijo v strukturno deblo - shemo. Predstavljajo jih manjše konfiguracije nevronov, ki delujejo koherentno: Vsaka podmno-žica koherentno delujočih enot se lahko smatra kot shema (Lit 17,8). V določeno shemo se stekajo vse konkretne okoliščine, ki smo jih kdaj doživeli v neki zvezi. Primeri: lik vojaka, altruista; širše asociativne zveze: atmosfera, ki vlada v konferenčni dvorani - obča predstava, ki jo imamo o tem. V to širšo kategorijo, ki je nastajala z dolgoletnimi izkušnjami, lahko vključimo tudi kak najnovejši konkretni primer, ki se stopi z njo in jo okrepi ali pa morebiti rahlo zavre, če je ta zadnji shod odstopal od standardnih okvirov. Višje kategorije v sebi asociativno povezujemo: na primer predstavo o sebi, koncept pričakovanega dogajanja v dvorani, svojo vlogo v tem dogajanju itd. KONTEKSTUALNOST (okoliščine) so osrednja podlaga asocia-tivnosti. Na pojem vzorcev se tesno navezujejo SIMBOLI (Lit 37) ali ARHETIPI po Jun-gu (Lit 48). Vzorci visoke stopnje so lahko predmet individualne in kolektivne (pod)-zavesti. Visoke vzorce lahko delimo v dve skupini: - abstraktni, distribuirani oziroma še više - univerzalistični vzorci - personificirani, kondenzirani oziroma alegorizirani vzorci (sem bi spadali arhetipi). Ker je evolucija nevronske mreže (poleg zunanjega učenja) znatno opredeljena z genetsko informacijo, se lahko tukaj razodenejo še globje zveze. Obenem je Jungov pojem sinhronicitete (Lit 48) navezan na globalni paralelizem delovanja posplošenega modela nevronske mreže. Vsaj pri simetričnem Hopfieldovem modelu se pri tem zdi, da je kavzalnost zgolj lokalizirana na nivo sestavnih delov sistema in njihovo asinhrono medsebojno komunikacijo (nevron, ki odda signal, je vzrok; na prejemnem nevronu se odraža učinek). Makroskopska kavzalnost pride do izraza oziroma izide iz uravnoteženega paralelno-distribuiranega procesa le, če je podrta njegova simetrija. To pomeni, da nastanejo nevronski valovi in tokovi (kot gibajoči svetlobni signali na svetlobni reklamni tabli ali v zabavišču, kijih izvedejo posamezne male žarnice). Model nevronskih mrež razlaga ta globalni sinergetski proces s povezovanjem, USKLAJEVANJEM, STAPLJANJEM in kompeticijo med višjimi vzorci (ali celimi vselej gosto prepletenimi gručami - mrežami teh vzorcev) z nekim optimizacijskim procesom (fundamentalno minimizacija energije, na višjih nivojih pa optimalna manipulacija z neko posplošeno psihično energijo). Ti višji vzorci imajo vlogo nekakšnih "strdkov", širše gledano navad, stereotipov (saj so bili lahko priučeni le s pogostim ponavljanjem določenih okoliščin), ki "plavajo v veliko širšem morju" nekonden-ziranih asociativnih zvez (nekaj se nam zdi, sanja), fantazije, podzavesti. Pomen slednjih često zanemarjamo, saj so vendarle zametek geneze trdnejših vzorcev ali pa njihovo primerno nadomestilo za zmožnost posploševanja. Spomnimo se: Konkretizacija je "spust v minimum", GENERALIZACIJA pa nekakšno stapljanje minimumov v nov vzorec višje stopnje (poenostavljeno: globji in predvsem širši minimum - z možnostjo širših asociativnih zvez zavoljo širšega območja privlaka). Za posploševanje torej konkretni vzorci ne smejo biti preveč trdovratni; fleksibilnost mišljenja ustreza prožnosti minimumov, ki pa lahko vodi po dveh poteh: hiter preskok k novemu minimumu iste stopnje (konkretna prilagodljivost) ali pa prehod na višjo (posploševanje, sinteza, integracija). Posebej v tem drugem primeru lahko seveda gre za prenos informacije iz nižjih v višjo funkcionalno enoto. 4.2. PRILAGAJANJE NA OKOLIŠČINE, KI VRŠIJO SELEKCIJO Selektivno se oblikujejo nek RED in PRAVILA ter delujejo vsebolj urejeno. Že biološki nevroni izraščajo aksone, da lahko preživijo: le s tvorbo sinaps si zagotavljajo hranivo (Na- in Ca-ione; encime, potrebne za vzdrževanje akcijskega in mirovnega potenciala ipd.). Nevroni in aksoni krnijo in odmirajo, če ne ustrezajo procesu ADAPTACIJE organizma na okolje. (Takšna celična smrt je lahko genetsko programirana vsled "izkušenj" prejšnjih generacij.) SELEKCIJO tako kot na tem fiziološkem nivoju tudi na višjih povzročajo SPECIFIČNE zunanje in notranje življenjske OKOLIŠČINE. Naše ravnanje in še prej izgradnja kognitivnih konstruktov je potemtakem usmerjena s prilagajanjem k trenutno za nas najbolj trdnemu sistemu oziroma k njegovem ohranjanju. V skladu s tem opredeljujemo dobro in slabo ("predznaki" skupkov vzorcev). Pri tem uravnotežujemo med lokalnim ali individualnim in globalnim ali kolektivnim (npr. kontekstom, prepričanjem, ravnanjem v neki situaciji; načinom dela, reševanja nekega problema; stilom življenja nasploh). Kot je bilo že povedano, je v modelu nevronskih mrež to predstavljeno z razmerjem med lokalnim in globalnim potencialom oziroma poljem, spominja tudi na številne primere iz narave (magnetni sistemi, spinska stekla itd.), vodi pa seveda tudi do sociologije, politologije ... 5. SINERGIZEM GENERIRA ŽIVLJENJE 5.1. VIŠJI MISELNI PROCESI 5.1.1. Ustvarjalnost kot paralelno-distribuiran asociativen proces, logično sklepanje pa okvirno kot asociativna veriga Paralelno-distribuiran nevronski proces laže razloži ustvarjalne procese kot pa RAZUMSKO-LOGIČNE procese, kjer so vzorci ostri ter bolj individualizirani in vsebina kodirana. Zametki slednjih so zastopani v dinamičnih vzorčnih zaporedjih, ki vase (sproti in časovno urejeno) asociativno vključujejo konkretne vsebine, ki so točno opredeljene. V teh ASOCIATIVNIH VERIGAH je skrita osnova za procese SKLEPANJA idr.: iz enega vzorca ali niza vzorcev dobimo asociacijo na novega. Nekatere strogo formalizirane izmed teh procesov moramo opravljati pozunanjeno kontrolirano: npr.matematični izračuni (kar je dokaz, da gre šele za posebno nadgradnjo nevronskih procesov). V jezikovnem procesu imajo vlogo (nižjih posplošenih) nevronov lahko npr. fonemi (zlogi), ti sestavljajo višje strukture - besede, ki so zbrane v hetero-gene sekvence (stavke) itd. V logiki so premise osnova za sklep (višji vzorec oziroma generaliziran formalni nevron). Za razliko od te "(manj naravne) sekvenčne semantike (in sintakse)" je sočasno in paralelno vizualno (ipd.) dojemanje zajeto v "paralelni asociativni semantiki". Umetniki (posebej slikarji, simfonični skladatelji in pesniki) operirajo z zgoščki vtisov in bežnih občutij, katerih osnovna lastnost je vešče in prožno ASOCIATIVNO MEŠANJE množice audio-vizualnih, spominskih idr. impulzov v nove višje vzorce (ideje). To je sama srž ustvarjanja. Vzemimo kot primer verz F. G. Lorce: "Ljudje vzdihujejo z odprtimi kitarami" Spomnimo se na slovito grafiko E. Muncha "Krik", na kateri prikaže občutje zlitja notranjega grozljivo "fluidnega" duševnega stanja z zunanjostjo (objektivno gledano seveda s subjektivnim dojemanjem te zunanjosti). Da osvežimo, kako v resnici delujejo možgani na nivoju višjih vzorcev, če operirajo paralelistično (torej ne razumsko, vzročno, sekvenčno), poglejmo še ta zgovoren odlomek iz "Koru-zarjev" M. A. Asturiasa: " 'Jutri bodo lomili naprej1, je dodal senor Tomas, toda komaj je spregovoril besedo 'lomili', se je spomnil ne le tega, kako se pod rokami maceirov lomijo mlada koruzna stebla, marveč tudi tega, kako se v ozračju lomijo odmevi navčka, ki v vasi pozvanja za umrlim tako dolgo, dokler ljudje niso popolnoma trapasti. Tilan, tilon, ti-lan, tilon... ... Roka, ki nasilno zlomi koruzno steblo, da bi storži dodobra dozoreli, je kot roka, ki razbije odmev zvonov, da dozori mrlič. Starec ni spal. Vaca Manuela seje popolnoma neslišno približala vratom " Pomešane so primerjave, miselni preskoki, onomatopoije, abstraktne metafore in simboli... 5.1.2. Od nevronskega nivoja k zdravorazumski psihologiji Še najodločneje se z nivojsko piramido ukvarja P. Smolensky (Lit 38): - nevronski (kvantitativni, mehanistični) nivo, - nižje vzorčne strukture - podsimbolni nivo, - skupki vzorcev in njihovo nadaljno klasificiranje ter analiza, - simbolna stopnja - klasična umetna inteligenca, (osnovni) logični procesi - zdravorazumska psihologija, poleg tega tudi višji formalizirani logični procesi. Nevronske mreže in njihove posplošitve torej predstavljajo mikroskopske strukture za četrto in peto makroskopsko stopnjo in se tam postopoma navezujejo na ustrezne discipline ... Asociativne nevronske mreže omogočajo tudi mentalne simulacije dogajanja (z virtualnimi slikami), predvidevanje in napovedovanje, s tem pa možnost kontrole in prilagojevanja. Na nevronskem nivoju se to začenja s tako imenovanimi časovnimi vrstami (česta tehnološka uporaba - "inteligentni sistemi"). 5.2. KOOPERACIJA IN ANTAGONIZED POSLEDICE IN POMEN 5.2.1. Občutja Višji kognitivni vzorci se oblikujejo tako, da se optimalno ujemajo med sabo. Medseboj neusklajeni vzorci se zatirajo in odmirajo, usklajeni pa krepijo in vzdržujejo drug drugega. Živčni sistem je povezan v sebi, s hormonskimi ipd. sistemi. Tako kot zunanji pritisk na mehanoreceptor vzburi ustrezen živčni sistem, ki reagira na specifičen način ("negativno"), lahko obratno tudi določeno splošno "negativno" duševno stanje vpliva na lokalno podmrežo za obdelavo živčnih impulzov mehano-receptorjev; to pa nam da OBČUTEK, da nas "stiska" (tesnoba). Asociativne nevronske mreže namreč zlahka asociirajo vzorce v eno ali drugo smer ("rešujejo inverzni problem"). Nevrofiziološki procesi so tako asociativno povezani tudi s psiho-fiziološkimi - občutji sreče, zadovoljstva ali tesnobnosti, nelagodja; bolj iz ozadja pa dobrega ali slabega razpoloženja. Spomnimo se, da se, ko smo srečni, počutimo sveže, toplo, varno, mirno, čisto, lahkotno itd. (ravno tako kot smo lahko srečni, ker smo na vamem, toplem, ker se vse ujema ...). Lahko slutimo, da proces uspešnega usklajevanja višjih vzorcev, ki meddrugim ustreza tudi poglabljanju minimumov in s tem sproščanju energije, nekako inducira občutek ugodja; zmeda "plitkih minimumov", nasičenost ali enakovrednost kontradiktomih vzorčnih grupacij, ki ne omogoča uskladitve (frustracija), pa vodijo v občutenje neugodja. Ni čudno, da je v tej nezavedni in neprekinjeni bogati nevronski dialektiki "sreča vselej opoteča". Nevronske mreže neposredno kažejo, daje bivanje (dogajanje) pogoj za bitje (obstoj) subjekta. Skratka in zelo preprosto povedano: Uvidimo, da je pogoj za srečo (to je uskla-jevalen proces, napredovanje v stilu nižanja notranje energije, s tem pridobljeni sproščeni višek pa nam je na razpolago) ali pa posledica te sreče to, da bomo nekoč deležni vsaj začasnega nujnega "povratka" - to pomeni: vzorci iščejo nove povezave in se tako vzdržujejo pri obstoju, pravzaprav prek borbe z drugimi vzorci. Morebiti je za razliko od gladke kooperacije med vzorci ali spomini (ugodje) trpljenje posledica tega uničevanja enih vzorcev zavoljo vzraščanja novih oziroma nenehnega preklapljanja nevronske mreže na višji stopnji. To je potemtakem nujnost in neizbežnost. Lahko gre za konkretno trpljenje zaradi neposrednih zunanjih razlogov ali za globje notranje borbe zaradi prestrukturiranja višjih vzorcev, pri čemer vzroki navadno sploh niso razvidni, saj gre za preveč splošne stvari. Pojave konfuznosti, razdvojenosti, melanholije, zatem odločanje itd. bi lahko na tak način razumeli: Gre za vprašanje prevlade določenega parametra urejenosti. •Slika 6: Prestrukturiranje potencialnih vrtač Kategorizacijska vloga potencialnih jam V ("lijakov") razloži izkrivljeno ("subjektivno") dojemanje časovnih, prostorskih in drugih relacij, optične in druge iluzije, hotene in nehotene predsodke, torej vsakršne tako imenovane subjektivnosti. Nevronska mreža (tudi računalniška simulacija) se lahko zmoti, zameša informacije (atrak-torji se pregnetejo) ali lahko "ponori"; vendar je tudi prožna in prilagodljiva na nove dražljaje, saj jih lahko predvidi na osnovi naučenih primerov. Zelo okvirno pa bi nadalje lahko sledili tudi kognitivnim procesom samim, vendar to že presega to kratko predstavitev. Predstavljamo si lahko, da imajo ogromne množice nevronov in sinaps (prvih je v možganih okoli bilijon, drugih 100 bilijonov) zelo veliko prostostnih stopenj in možnosti za kombinatoriko različnih vzorcev. a) dilema, frustracija b) prevlada prvi vzorec (odločitev) ali c) nastane kompromis oziroma generalizacija Naj navržem še opazko o spanju: Morebiti je meddrugim funkcija spanja tudi v deprivaciji senzornih dražljajev, ki omogočajo globje notranje prestrukturiranje oziroma vglabljanje vzorcev, posebej arhetipskih in simboliziranih asociativnih vzorcev, ki nastopajo v sanjah. (To predvidevajo tudi nekateri dvofazni učni algoritmi, kjer učni fazi sledi latentna, ko se vzorci "usedajo"). 5.2.2. Meditacija Meditacijo bi lahko smatrali kot močno projektivnen in strogo koncentriran proces oblikovanja izjemno širokih asociativnih zvez in zelo globokih, razsežnih minimumov, torej vzorčnih zvez zelo visoke stopnje, ki so strogo splošne narave. Vsaka kognitivna dejavnost nižje stopnje je hote inhibirana, kaj šele zunanji dražljaji. Taka umiritev pestre lokalne mrežne dejavnosti šele omogoči nastajanje res zelo globalnih sklopitev, ki transcendirajo vse kontradiktornosti in vse konkretnosti (Lit 26). V modelu nevronskih mrež poznamo uniformna stanja vsi nevroni so koherentni, enako aktivni (npr. vsi so prižgani ali vsi ugasnjeni). Eno in drugo ekstremno stanje (pol) predstavlja absolutni energijski minimum glede na neko podmrežo. Lahko bi si predstavljali, da se pri globoki meditaciji z dosledno izolacijo dosežejo nekakšne, sicer omejene, uniformne simetrične konfiguracije visokega reda, ki naposled tudi same zatirajo vsakršno dinamiko in (relativno) lokalno vzorčno dejavnost (mišljenje), s tem pa uvajajo globok mir, nepojmovno "praznino", in vendar občutje jasnosti. Tudi v religiji gre za absolutizirano PROJEKCIJO (vero), ki je lahko perso-nificirana (arhetipizirana) ali pa univerzalizirana, in vodi do podobnih rezultatov. Vsekakor je intencionalnost in takšna ali drugačna projektivnost življenjska (nevropsi-hološka) nuja, četudi je bolj ali manj parcialna in relativna. Sicer nastopijo eksistenčni problemi in problemi smisla. Dejavnosti nevronske mreže si namreč ni mogoče zamisliti brez dražljajev - zunanjih ali notranjih, ki jo vzpodbujajo. S tem smo se že približali najvišjemu problemu duševnega življenja - vprašanju zavesti. 5.2.3. Zavest Ta problem presega možnost razlage z nevronskimi mrežami, ki pa vendarle dajo nekaj prispevkov k tej temi. Znano je, kako se oblikujejo vzorci in kako se razpoznajo, vendar to še ne pomeni, da se samo s tem (kar zmorejo tudi računalniki) nek sistem tega tudi ZAVEDA v človeškem pomenu besede. Vsekakor je zavest PROCES, (kakor je ugotavljal že W. James), ne stanje sistema. Ta proces je kvantitativno zelo širok, s samozaokroženim REFLEKSIVNIM in REKURZIVNIM tvorjenjem vzorčnih skupkov vedno višjega reda. Zaradi topološke samozaokroženosti (mreža efektivno razen čutil nima roba, saj so nevroni povezani po principu "vsi za enega, eden za vse") se ta transcendenca lahko ponavlja takorekoč do neskončnosti. Pri običajni razumski introspekciji z nekimi vzorčnimi strukturami kontroliramo in kot "zunanje" raziskujemo neke druge vzorčne komplekse. To je zavest o nečem (pojmovna zavest). Vendar poznamo (podobno kot pravi tudi Kant) razen te običajne zavesti še "zavest samo na sebi", čisto (nepojmovno) zavest, ki ne vsebuje nekih bolj ali manj konkretnih vzorcev. To nam da slutiti, da gre pri zavesti za neko koherentno simetrično samovzdrževano dejavnost nevronskih populacij, ki je lahko vezana na neke "robne pogoje" (dražljaje in vzorce), če gre za zavest o nečem (tedaj je ta koherenca prekinjena in simetrija zlomljena), ali pa je nevezana, v "prostem teku". Prva možnost je vedno povezana z IDENTIFIKACIJO, druga pa jo transcendira ... Problema zavesti v pravem pomenu besede seveda še zdaleč nismo zaobjeli, vendar lahko v bolj omejenem smislu zavedanje tolmačimo kot (po)doživetje, ki pomeni sposobnost popolne (re)konstrukcije vzorca v nevronski konfiguraciji z (zelo) širokim območjem asociativnega privlaka. Če je naša pozornost usmerjena v eno stvar, se "ne zavedamo" druge. In še nekaj: Človek se lahko poškoduje in "obleži v nezavesti", kar je še en dokaz za to, da gre pri zavesti za globalno virtualno sistemsko dinamiko sinergetskega tipa, ki je lahko "vržena iz ritma" in tedaj ta Gestah visokega reda izgine. Zavest bi torej lahko okvirno tolmačili kot zaokroženo celoto nevro-fiziološke možganske dejavnosti (torej tiste na nivoju realno manifestiranih - bioloških nevronov in sinaps) in dejavnosti na nivoju višjih virtualnih vzorcev, njihovih skupkov, zaporedij itd., ali pa koherentne (sinhronizirane) aktivnosti (kot Gestalta posebne vrste) same na sebi. Ta celota pa je lahko razprostrta ali pa fokusirana ... 6. ŠIRŠI OKVIR; FIZIKA NA FORMALNIH NEVRONIH IN VZORCIH 6.1. KVANTNA LASTNA STANJA SO ANALOGNA VZORCEM Pri fiziki (sploh na kvantnem nivoju) (Lit 5 (str. 166-177); 9, 61, 62, 65 idr.) je marsikaj sorodno dosedaj opisanim pojavom, le da se v možganih vse odvija mnogo hitreje, temeljiteje in bežno, nestabilno, mehko. Tako imenovana "objektivna resnica" tedaj ustreza tisti "nevronski" konfiguraciji, ki oblikuje čim bolj globalni (relativno) minimum neke optimizacijske funkcije (potenciala; še natančneje: akcije). Predstavlja torej točko stabilizacije v konfiguracijskem prostoru - (fizikalnem) prostoru stanj. V skladu s to paralelno-distribuirano podprto minimizacijo, ki ima lokalno zelo standardizirane manifestacije (imenovane naravni zakoni), se bo pokazal rezultat eksperimenta! Za primer naj spomnim, da v kvantni mehaniki merimo lastna stanja. Valovno funkcijo oziroma funkcijo stanja lahko razvijemo v vrsto po njih, s tem, da so utežene z verjetnostnim koeficientom. Ta lastna stanja ustrezajo (tudi po eksaktni matematični formulaciji v Hilbertovem prostoru) vzorcem, verjetnostni koeficienti pa parametrom urejenosti. Nestacionama Schroedingerjeva enačba je poseben primer difuzijsko (distribucijsko) - reakcijske enačbe, ki izhaja iz splošne sinergetske enačbe (Lit 4,21,71). Čisto poenostavljeno bi lahko rekli, da lastno stanje predstavlja neko kondenzirano obliko materije oziroma polja - nek "strdek" (delec). (Lit 60-65) Vidimo, daje "zametek subjektivnosti" že v tej analogiji "objektivne resnice" na kvantnem nivoju in "subjektivne resnice" v možganih - gre za (naključno, vendar specifično) stabilizacijo sistema v obliki ustanovitve "vzorca"! (Nadaljno natančnejšo diskusijo zvez bomo prepustili drugi priložnosti.) Vendar naš subjektivni svet daleč nadgrajuje objektivnega, saj je v možganih odločilno rekurzivno reflektiranje in modeliranje - povzeto, zgoščeno, okoliščinam (višje: potrebam) prilagojeno imitiranje, ponarejanje zunanjega sveta. Možgani torej ustvarjajo novo sliko sveta (nov svet), ki je bolj ali manj celovita, s tem pa novo obliko "resnice". Ta v marsičem transcendira "materialistične osnove", saj operira (tudi) z visokoabstraktnimi (subjektivnimi) vzorci, ki pa so vsebinsko le nadgradnja nižjih - zunanjih (objektivnih). Skratka, prvi in drugi se po sinergetskem pristopu ravnajo po precej podobnih principih. Ta je seveda upravičen le, če nekaj obravnavamo sistemsko oziroma kot kolektivni fenomen. Ob zahtevi po detajlnejši oziroma konkretnejši predstavitvi izo- liranega individualnega fenomena se seveda nevronski pristop mora umakniti številnim v preteklosti že zelo dodelanim klasičnim znanstvenim teorijam, ki pa so zanesljivo dobra aproksimacija le v okviru svojega bolj ali manj omejenega definicijskega območja. Za nevronske mreže taisto nastopa pač na svojstven in enkraten način: so smiselna aproksimacija za splošne obravnave. 6.2. ZAKLJUČEK Nemara bolj kot na kateremkoli drugem področju se pri nevronskih mrežah maščuje vsaka parcialnost. Vse je funkcija vsega. Zato zapadamo v številne metodološke in komunikacijske probleme. Obsojeni smo na to, da se nam stvari nenehoma izmikajo. Nujno, saj je, če smo res dosledni, vsaka FIKSACIJA NEDOPUSTNA; vsak poskus "narediti rep in glavo", vsak red je paralelizmu vsiljen! Z drugimi besedami: zelo strogo gledano je že subjektiven. Raziskovalec pa se temu sploh ne more izogniti in s tem "subjekt" neizbežno kvari obravnavo "objekta" ter spodnaša "objektivnost". Gledano zelo globalno celo postaja očitno, da "lahko obravnavamo" relacijo objekt - subjekt le v enem (kot "OBJEKT-SUBJEKT"), nikakor ne ločeno. Nikoli ne moremo docela izpeljati enega iz drugega, saj gre za nedeljivo enotnost. To velja notranje tudi za "opazovalca" in "opazovano". Tukaj nujno stopamo v misticizem. Seveda ne gre za neko nadnaravno skrivnostnost, temveč za (vsaj v končni fazi) jasna empirično preverljiva - torej s specifičnim tako imenovanim višjim stanjem zavesti dosegljiva spoznanja intuitivne ali kontemplativno-meditativne narave. Nevronske mreže misticizem na določenem nivoju, ko je presežena zavoljo kompleksnosti in celovitosti kakršnakoli verbalna in simbolna (celo matematična) formulacija, legalizirajo. Seveda pa moramo pristati v analitično in formalistično konsistenten model, ki omogoča kolektivno diskusijo, kjer je to le mogoče. Mejo postavlja Goedelov zakon nepopolnosti: Vsaka adekvatna konsistentna aritmetična logika je nepopolna. Po Myhillu lahko lokalno deloma nadkrilimo to limito s širšo logiko, globalno pa neprotislovnost logičnega sistema nujno izrodi nepopolnost (Lit 1). Heisenbergovo načelo nedoločenosti ima podobno vlogo v fiziki: ne moremo fiksirati dve konjugirani opazovani količini hkrati. Nedoločljivost celotne interakcijske povezanosti onemogoča lokalno fiksacijo konkretnih observabel, saj bi le-to avtomatično zanemarilo vpliv vse ostale mreže in razbilo celovitost. Univerzum lahko asimptotično spoznavamo iz tega ali onega zornega kota. Tukaj površno nakazana alternativa je sistemski pogled, dojemanje univerzuma kot prepleta samoorganizirajočih paralelno-distribuiranih procesov, ki zaobsegajo vse nivoje - od osnovnih delcev prek možgan do človeške družbe in še dalje. Nevronske mreže so najverjetneje najbolj fundamentalen (s tem tudi najbolj primitiven) model samozaokroženega sistema, zato se lahko upravičeno uporabljajo velikopotezno in mnogostransko. Spomnimo se, da so osnova nevronskega procesiranja najbolj fundamentalne matematične operacije: seštevanje - formula (1), množenje - sklopitev v obrazcu (2), vloga predznaka (+/-) in optimizacija - variacijski račun). Globalno pa gre le za preslikavanje (reševanje sistema enačb). Obenem na zelo poljuden način "rešijo" paradoks determinizem / nedeterminizem: Nevron sprejme signale vseh drugih ("vsi za enega") - torej oni determinirajo njega. HKRATI pa posamezni nevron da svoj prispevek vsem ostalim v mreži ("eden za vse") - torej "s svojo voljo" vpliva na ostale. Če dojamemo ta proces v CELOTI, paradoksa ni. Taki paradoksi obstajajo le lokalno, če hočemo (subjektivno) fiksirati izhodišče in iz njega izpeljati vse ostalo ... Vendar kot take nevronske mreže predstavljajo LE SKELET, na katerega je navezana konkretna vsebina njenih sestavnih delov kot individuumov (ki so sicer lahko sami podsistemi). Odslej bo nujno obravnavati pojave individualno in sistemsko; še zelo osnovno, vendar hitro naraščajoče znanje o možganih pa vključiti v naše teorije (predvsem splošne) in njihove interpretacije. Za poučne diskusije se zahvaljujem dipl. biologu Matjažu Ocepku, sočlanom Društva za analitično filozofijo in filozofijo znanosti pa za vse sodelovanje. LITERATURA (V tekstu na literaturo sproti opozarjajo spodnje številke s predpono "Lit"!) * : pomembnejša in temeljitejša literatura & : poljudnejše čtivo KNJIGE: 1 MA. Arbib: Brains, Machines and Mathematics; 2. izdaja, Springer Verlag, Berlin etc., 1987. * 2 R. Beale, T. Jackson: Neural Computing (An Introduction); Adam Hilger, 1990. *& 3 A. Dobnikar: Nevronske mreže (teorija in aplikacije), Didakta, Radovljica, 1990. 4 H. Haken: Synergetic Computers and Cognition (A Top-Down Approach to Neural Nets); Springer Verlag, Berlin etc., 1991. ** 5 H. Haken, Stadler (Eds.): Synergetics of Cognition, Springer Verlag, Berlin etc., 1989. 6 R. Hecht-Nielsen: Ncurocomputing; Addison-Wesley, 1990. * 7 T. Kohonen: Self-Organization and Associative Memory; Springer, Berlin etc., 1984. * 8 R.J. Mac Gregor: Neural and Brain Modeling; Academic Press, 1987. * 9 M. Mezard, G. Parisi, MA. Virasoro: Spin Glass Theory and Beyond; World Scientific Publishing, Singapore, 1987; (zadaj Številni ponatisi člankov). 10 M.M. Rakočevič: Geni, molekuli, jezik; Naučila Knjiga, Beograd, 1990. 11 F. Šoti: Uvod v kibemetiku, RURČ, Novi Sad, 1978. & 12 M. Štrucl: Fiziologija živčevja; Medicinski Razgledi, Ljubljana, 1989. 13 R.N. Walsh, F. Vaughan (ured.): Psychologie in der Wende (Grundlagen, Methoden und Ziele der Transpcrsonalen Psychologie); Rowohlt, Hamburg, 1987 (zbornik: Capra, Grof, Maslow, Tart, Wilber idr.). 14 P.D. Wasserman: Neural Computing (Theory and Practice); Van Nostrand Reinhold, New York, 1989. & 15 Artificial Neural Networks, International Workshop IWANN 91, Proceedings / članki: -PA. Ligomenides: Cooperative Computing And Neural Networks V. Tryba, K. Goser: A. Modified Algorithm for Self-Organizing Maps based on Schroedinger Equation C. Campbell: Dynamic Thresholds and Attractor Neural Nets (F.J. Vico, F. Sandoval: Use of Genetic Algorithms in Neural Network Definition) / idr. 16 W.R. Ashby: Design for a brain; Chapman and Hall, London 1960 (reprint 1978). 17 J.L. McClelland, D.E. Rumelhart, PDP research group: Parallel distributed processing - Explorations in the Microstructure of Cognition: vol. 1: Foundations / vol.2: Psychological and Biological Models; Bradford book, MIT Press, London 1986. ** 18 R. Rosen: Life itself (... Nature, Origin and Fabrication of Life; Columbia university press, New York, 1991. 19 N. Chomsky, J. Piaget, (J. Monod), (J. Fodor), (F. Jacob), (A. Danchin), (R. Thom): Teorije jezika, teorije učenja; Izd. k. Z. Stojanoviča, Sremski Karlovci, 1990 (debata 1975). J-A. Anderson, E. Rosenfeld (Editors): Neurocomputing - Foundations of Research; MIT Press, Cambridge (Mass.), London, 1988 (zbornik pomembnejših člankov). * 21 H. Haken: Synergetics, An Introduction; Springer, 3. izd., Berlin etc., 1983. * 22 R.G. Schmidt, G. Thews: Human Physiology.) ČLANKI: 30 I. Grabeč: Uporaba izsledkov o delovanju živčevja pri simuliranju nevronskih mrež; Raziskovalec, Ljubljana, vol. 3 (1992) 49.& 31 W. Kinzel: Physics ofNeural Networks, Europhysics News, vol.21/6, junij 1990. & 32 T. Kohonen: Adaptive, Associative, and Self-Organizing Functions in Neural Computing; Applied Optics, vol.26/23, December 1987. 33 O. Markič: Explanation and connectionism; referat na simpoziju "Fil. in kognitivna znanost" Ljubljana, junij 1992 / in drugo prav tam 34 S.V.B. Aiyer, M. Niranjan, F. Fallside: A theoretical investigation into the performance of the Hopfield model; IEEE Transactions on neural networks, vol. 1, no. 2 (1990) 204. * 35 J.J. Hopfield: Neural networks and physical systems with emergent collective computational abilities; Proc. Nat. Acad. Sci. USA vol. 79 (1982) 2554. * 36 J.J. Hopfield: Neurons with graded response have collective computational properties like those of two-state neurons; Proc. NatAcad.Science.USA, vol.81 (1984) 3088-92. 37 J. Musek: Psiholoika pojmovanja in razlage metaforične simbolike; Anthropos, 5t 5-6 (1977) 45. 38 O. Markič: Konekcionizem in zdravorazumska psihologija; Slov. fil. zvez. 1/1992. & 39 M. Potrč: Folk psychology naturalized; 1991 (print). 40 A. Ule: Možnosti in protislovja teorij družbene celote, ki temeljijo na teorijah informacijskih sistemov; Anthrophos, tt.5-6, (1977) 101. 41 H. Gutfreund: From Statistical Mechanics to Neural Networks and Back; Physica A, vol. 163 (1990) 373. 42 H. Sompolinsky: Statistical Mechanics ofNeural Networks; Phys. Today, dec. 1988. 43 J.S. Denker: Neural network models of learning and adaptation; Physica 22D (1986) 216. 44 T. Kohonen: Self-organized formation of topologically correct feature maps; Biol. Cybem.,vol. 43 (1982) 59.* 45 T.D. Sanger: Optimal Unsupervised I .earning in a Single-Layer Linear Feedforward Neural Network; Neural Net, vol. 2 (1989) 459. 46 D.E. Rumelhart, G.E.Hinton, R-J.Williams: Learning representations by back-propagating errors; Nature, vol. 323 (1986) 533. 47 I. Grabec: Self-Organization of Neurons Described by Maximum- Entropy Principle; Biol.Cybem., vol.63 (1990) 403. 48 W. Pauli, C.G. Jung: Naturerldaerung und Psyche (Einfhiss Archetypischer Vorstellungen ..J Synchronizitaet als ein Prinzip akausaler Zusammenhaenge). 49 Mind and Brain; Scientific American, sept. 1992 (special issue). 50 I. Grabec, W. Sachse: Application of an intelligent signal processing system ...; J. Acoust. Soc. Am., vol.85/3 (1989) 1226. 51 Brain maps and parallel computers; TINS, vol. 13/10 (1990) 403. 52 T. Kohonen: An Introduction to Neural Computing; Neural Networks, vol. 1 (1988) 3. 53 M.B. Gordon, P. Peretto, M. Rodrigues-Girones: Learning in feedforward neural network by improving the performance; Physica A, vol. 185 (1992) 402. 54 I. Grabec: Self-Organization of Neurons Described by Maximum- Entropy Principle; Biol. Cybern., vol.63 (1990) 403. 55 J. Zupan, J. Gasteiger: New method for solving chemical problems ...; Anal. Chimica Acta 248 (1991) 1. in drugo ... Dodatne fizikalne knjige za širši kontekst: 60 B.H. Brandsen, D. Evans, J.V. Major: The Fundamental Particles, Van Nostrand Reinhold Company, London,1973. 61 L.D. Landau, E.M. Lifiic, (V.B. Berestecki, L.P. Pitajevski): Lehrbuch der Theoretischen Physik, Band III: Quantenmechanik / Band IV: Relativistische Quantenmechanik, Akademie-Verlag Berlin, 1967, 1970. 62 H. Georgi: A Unified Theory of Elementary Particles and Forces; Scientific American, april 1981, s. 40. 63 H.P. Stapp: S-Matrix Interpretation of Quantum Theory; Physical Review, vol. D3 (1971) 1303-20 * 64 H. Frauenfelder, E.M. Henley: Teilchen und Keme (Subatomare Physik), Oldenbourg, 1979. 65 F. Capra: The Tao of Physics (An Exploration of the Parallels Between Modem Physics and Eastern Mysticism), Fontana/Collins, 2. izdaja, 1982. & (66 B.L. Whorf: Jezik, misao i stvarnost; Bibl. XX. vek, Beograd, 1979 (orig.1956). ) 70 M Peruš: Nevronske mreže; 1991 in 1992. 71 M. Penil: Raziskave asociativnih nevronskih mrež s fizikalnega vidika; dipl.delo, FNT / Oddelek za fiziko, Ljubljana, 1993. 72 M. Pemi: Uporaba asociativnih nevronskih mrež; 1993 (Programer - v tisku). 73 M. Perul: Synergetic Approach to Cognition- Modeling with Neural Networks; Conference "Connectioniam and Philosophy of Mind", Bled (Slovenia), June 1993 (oddano Acti Analytici). 74 M. Perui: Vse v enem, eno v vsem (možgani in duievnost v analizi in sintezi); Ljubljana, 1993 (DZS - v pripravi).