ZAKLJUČNO POROČILO O REZULTATIH OPRAVLJENEGA RAZISKOVALNEGA DELA NA PROJEKTU V OKVIRU CILJNEGA RAZISKOVALNEGA PROGRAMA (CRP) »KONKURENČNOST SLOVENIJE 2006 - 2013« ipv^r republika S [ C V i"- I NOSILEC JAVNEGA POOSLAST; L Predstavitev osnovnih podatkov raziskovalnega projeiižta^^ agei :.ija z.a f A/jskova!.',0 cej " vi\i nepublike slcv^^;ije, ljunijarja 1. Naziv težišča v okviru CRP: r. . ._1 r -■h'K. ''mno KV/I^X'T. ricjdLü:-—iU iuuO—^ ''7'U Konkurenčno gospodarstvo in hitrejša rast šifra zadffvp' Vrc-cnc.';! 2. Šifra projekta: V2-0214 3. Naslov projekta: Računske Grid tehnologije za učinkovitejšo uporabo računahiiških virov v podjetjih 3. Naslov projekta 3.1. Naslov proj ekta v slovenskem j eziku: 3.2. Naslov projekta v angleškem jeziku: Computational grid technologies for more efficient use of computing resources in enterprises 4. Ključne besede projekta 4.1. Ključnebesedeprojekta v slovenskem jeziku: grid tehnologije, porazdeljeni sistemi, vzporedno računanje, računalniške mreže 4.2. Ključne besede projekta v angleškem jeziku: grid technologies, distributed systems, parallel computing, computer networks Obrazec ARRS-RI-CRP-ZP/2008 Stran 1 od 12 5. ^aziv nosilne raziskovalne organizacije: Institut "Jožef Stefan" 5.1. Seznam sodelujočih raziskovalnih organizacij (R0): Fakulteta za računalništvo in informatiko, Univerza v Ljubljani XLAB razvoj programske opreme in svetovanje d.o.o. 6. Sofinancer/sofinancegi: Ministrstvo za visoko šolstvo, znanost in tehnologijo 7. Šifra ter ime in priimek vodje projekta: 6875 1 Roman Trobec Datum: 10. 10.2008 Podpis vodje projekta: doc. dr. Roman Trobec Podpis in žig izvajale^ prof.dr. Ja<3mr L^arčič, direktor Institut 6 "Jožef Stefan" Ljubljana, Slovenija Obrazec ARRS-RI-CRP-ZP/2008 Stran 2 od 12 II. Vsebinska struktura zaključnega poročila o rezultatih raziskovalnega projekta v okviru CRP 1. Cilji projekta: 1.1. Ali so bili cilji projekta doseženi? a) v celoti b) delno c) ne Če b) in c), ie potrebna utemeljitev 1.2. Ali so se cilji projekta med raziskavo spremenili? a) da b) ne Če so se, je potrebna utemeljitev: Obrazec ARRS-RI-CRP-ZP/2008 Stran 3 od 12 2. Vsebinsko poročilo o realizaciji predloženega programa dela^: Po dvoletnem raziskovalno razvojnem delu na CRP projektu »Računske Grid tehnologije za učinkovitejšo uporabo računalniških virov v podjetjih« ugotavljamo, da smo v celoti dosegli zastavljene cilje. V tem času so omrežja Grid dobila tekmeca ali naslednika v obliki računanja v Oblaku (cloud computing). Bistvo je ostalo enako, opravljati računsko ali podatkovno zahtevne naloge na obstoječih račimalniških virih, ki so prostorsko porazdeljeni. Naš projekt je bil še bolj usmerjen. Želeli smo raziskati možnosti za uporabo Grid orodji in preizkusiti resnične aplikacije v podjetjih. Prvi v Sloveniji smo vzpostavili medinstitucijski testni Grid s prosto dostopno programsko opremo in izmerili njene računske in komimikacijske zmogljivosti. Razvili smo primere aplikacij, ki bi bile uporabne v manjših podjetjih. Izvedli in preizkusili smo programe s področja računsko in komunikacijsko intenzivnih računalniških simulacij, s področja optimizacije, ki zahteva manj komunikacije in s področja financ, ki zahteva dostop in napredno obdelavo porazdeljenih podatkov. Naša podmena, da se bo razvoj porazdeljenih sistemov izrazito povečal tako v raziskovalnem kot praktičnem smislu in, da bo raziskovalna tematika vključena v večino strateških IT programov, se je glede na dogajanja v svetu nedvomno potrdila. Končno poročilo o rezultatih projekta se navezuje neposredno na časovni načrt izvedbe projekta, kot je bil predstavljen v prijavi projekta. Delo na projektu je potekalo v petih delovnih sklopih v obdobju od 1.10.2006 do 30.9.2008. Ker so na projektu sodelovale tri delovne skupine, je lahko delo potekalo vzporedno. Pri vsakem delovnem sklopu smo označili nosilca del. Dodajamo tudi spisek relevantnih objav, samo tistih, ki so povezane s projektom. Z zaključkom projekta smo zaključih vse delovne sklope, ki jih v nadaljevanju podrobneje opisujemo. DELOVNI SKLOP 1: Meritve hitrosti omrežne komunikacije intranetnih in intemetnih Trajanje: 1.10.2007-1.2.2007 (ÜS) Sklop 1 je bil zaključen po načrtu. Vse meritve so bile obdelane in dokumentirane v magistrskem delu Igoija Rozmana, MR-ja iz naše raziskovahie skupine, z naslovom: »Vpliv komunikacije na vzporedno računanje v skupkih in omrežjih«, ki je že oddano na FRI. Zagovor magisterija je bil v sredini oktobra 2007. Nekaj od najzanimivejših rezultatov smo objavili v mednarodni reviji in na mednarodnih konferencah. DELOVNI SKLOP 2: Modeliranje intenzivnih računskih aplikacij v omrežnem okolju Trajanje: 1.2.2007 - 1.8.2007 (IJS) Delo na tem sklopu je bilo posvečeno modeliranju ocenjevanja zahtevnosti izvajanja vzporednih in porazdeljenih programov na omrežnih okoljih z upoštevanjem, da je čas izvajanja vsota časa, potrebnega za komunikacijo, ki smo ga izmerili v okviru delovnega sklopa 1, in za računanje, ki smo ga ocenih na podlagi števila operacij s plavajočo vejico ter izmerili čase izvajanja programov za realno simulacijo ohlajanja kolena in srca. ^ Potrebno je napisati vsebinsko raziskovalno poročilo, kjer mora biti na kratko predstavljen program dela z raziskovalno hipotezo in metodološko-teoretičen opis raziskovanja pri njenem preverjanju ali zavračanju vključno s pridobljenimi rezultati projekta. Obrazec ARRS-RI-CRP-ZP/2008 Stran 4 od 12 Potrdili smo našo domnevo, da porazdeljeni programi, ki zahtevajo obsežnejšo komunikacijo, niso najprimernejše za Grid omrežja. Poleg tega tudi računsko zahtevne aplikacije izvajamo na Gridih težje kot na računalniških skupkih, predvsem zaradi nezanesljivih računalniških virov v Grid omrežjih ter zaradi različno zmogljivih računalnikov. DELOVNI SKLOP 3: Izpeljava algoritmov za dinamično podvajanje in iskanje podatkov Trajanje: 1.10.2006 - 30.9.2008 ((FRI, XLAB) V raziskavah sklopa 3 smo zasnovali teoretične modele podatkovnih omrežij in podatkovno zahtevnih aplikacij, ki se v takih omrežjih izvajajo. Modeli služijo za ovrednotenje kakovostnih postavitev podatkov in razvoj algoritmov za podvajanje podatkov. Na podlagi izdelanih modelov smo najprej razvili nabor algoritmov za statično podvajanje, nato pa pokazali, kako take algoritme uporabiti za dinamično in porazdeljeno podvajanje v podatkovnih omrežjih. S simulacijami smo pokazali, da razviti modeli dobro opisujejo kakovostno postavitev podatkov, razviti dinamični algoritmi pa se izkažejo za boljše od obstoječih. Rezultati dela so deloma predstavljeni v doktorski disertaciji člana projektne skupine FRI Uroša Čibeja: »Podvajanje podatkov v omrežnem računanju«. Izdelali in objavili smo algoritem za iskanje podatkov v dinamičnih porazdeljenih podatkovnih zbirkah, ki vsebujejo strukturirane ali nestrukturirane podatke. Algoritem temelji na metodi optimizacije na osnovi kolonije mravelj. Iz omenjene snovi je Uroš Jovanovič, član projektne skupine XLAB, v letu 2008 končal magistrsko nalogo. DELOVNI SKLOP 4: Razvoj in izvajanje dveh tipov račimsko zahtevnih aplikacij Trajanje: 1.10.2006 - 30.8.2008 (US, XLAB) PODSKLOP 4.1, ki ga izvaja US Na podlagi rezultatov iz drugih podsklopov smo se odločiH, da bomo kot poskusni aplikaciji na omrežjih izvedli simulacijo ohlajanja kolena, ki smo jo že izvajah na vzporednem računalniku, in bo zato še bolj zanimivo in koristno primeijati čase potrebne za izvedbo simulacije. Druga aplikacija je bila reševanje inverznega problema z optimizacijskimi postopki, ki je komunikacijsko manj zahtevna in zato primernejša za izvajanje na Grid omrežjih. V prvem primeru smo zaznali pohitritve izvajanja samo pri majhnem številu računalnikov ali na računahiikih z več jedri. Pri drugem primeru pa je bila pohitritev podobna pohitritvi na računalniških skupkih, posebej še, če smo pri pisanju programa upoštevali omejeno dostopnost komunikacijskih povezav. PODSKLOP 4.2, ki ga izvaja XLAB Za potrebe analize finančnega trga je bilo potrebno razviti prototipno ogrodje, ki omogoča fleksibilno in enostavno spreminjanje algoritmov, predvsem pa kriterijskih funkcij za napovedovanje ter evalvacijo. Pri analizi imamo na voljo dva pristopa. Zelo specializirane algoritme ter hevristike, ki se naslanjajo na neke vnaprej določene finančne zakonitosti, ali pa bolj splošen in kriterijsko manj omejen pristop s hevristikami, ki temeljijo na lokalni optimizaciji. Le-ti se lažje prilagajajo različnim kriterijem, vendar pa zaradi omogočanja večje svobode potrebujejo več računske moči. Za osnovno smo izbrah hevristiko, ki temelji na genetskem algoritmu. Nadaljevali smo delo na ogrodju Galeb. Pri hevristikah z lokalno optimizacijo je potrebno najti ravnotežje med izogibanjem lokahiega minimuma ter razpoznavanjem globalnega minimuma. Zato je potrebno ustrezno prilagajanje parametrov hevristike, veliko računskega časa, testnih poizvedb in analize premikanja po Obrazec ARRS-RI-CRP-ZP/2008 Stran 5 od 12 prostoru stanj ter naknadnega analiziranja vpliv dobljenih parametrov na razpoznavanje vzorcev med finančnimi podatki. Raziskovalno in razvojno delo je bilo osredotočeno na prilagajanja hevristike genetskih algoritmov, navzkrižnega preverjanje ter analiza poteka iskanja hevristike in analize komunikacijske zahtevnosti posameznih rešitev. DELOVNI SKLOP 5: Razšiijanje in objavljanje rezultatov projekta Trajanje: 1.5.2007 - 30.9.2008 (US) 1. Iz tematike, neposredno povezane s CRP projektom, smo v obdobju dela na projektu objavili 16 relevantnih člankov (1.01), katerih bibliografski podatki so našteti v prilogi k točki 5. 2. Poročali in predstavili smo naše delo na 23 mednarodnih konferencah s področja mrež in Grid sistemov (glej prilogo k točki 5). Publicirali smo tudi štiri prispevke v monografskih publikacijah. Člani skupine so tudi uredniki, mentoiji in recenzenti, imeli smo vabljena predavanja, intervjuje in objave v poljudnih revijah. 3. Sodelovali smo s tujimi ustanovami, ki se iikvaijajo s porazdeljenimi sistemi, predvsem kot partneiji na EU projektih. 4. Sodelovali smo ali še sodelujemo na EU projektih: - DeDiSys - Dependable Distributed Systems, 6.0P, - ProSense - Promote, mobilize, reinforce and integrate wireless sensor networking research and researchers: Towards pervasive networking of WBC and the EU, 7 OP, - IVAB - Interactive Visual Analysis of Biosignals, SEE.ERA-NET, Pilot call. 5. Zasnovali in izvedli smo enostavni Web-portal projekta, ki vsebuje pregled zastavljenih ciljev, doseženih rezultatov in bazo vseh pomembnejših projektnih dokumentov. Obrazec ARRS-RI-CRP-ZP/2008 Stran 6 od 12 3. Izkoriščanje dobljenih rezultatov: 3.1. Kakšen je potencialni pomen^ rezultatov vašega raziskovalnega projekta za: ^ a) odkritje novih znanstvenih spoznanj; ^ b) izpopokiitev oziroma razširitev metodološkega instrumentarija; o) razvoj svojega temeljnega raziskovanja; d) razvoj drugih temeljnih znanosti; e) razvoj novih tehnologij in drugih razvojnih raziskav. 3.2. Označite s katerimi družbeno-ekonomskimi cilji (po metodologiji OECD-ja) sovpadajo rezultati vašega raziskovalnega projekta: a) razvoj kmetijstva, gozdarstva in ribolova - Vključuje RR, ki je v osnovi namenjen razvoju in podpori teh dejavnosti; b) pospeševanje industrijskega razvoja - vključuje RR, ki v osnovi podpira razvoj industrije, vključno s proizvodnjo, gradbeništvom, prodajo na debelo in drobno, restavracijami in hoteU, bančništvom, zavarovalnicami in drugimi gospodarskimi dejavnostmi; c) proizvodnja in racionahia izraba energije - vključuje RR-dejavnosti, ki so v fimkciji dobave, proizvodnje, hranjenja in distribucije vseh oblik energije. V to skupino je treba vključiti tudi RR vodnih virov in nuklearne energije; d) razvoj infrastrukture - Ta skupina vključuje dve podskupini: • transport in telekomunikacije - Vključen je RR, ki je usmeijen v izboljšavo in povečanje varnosti prometnih sistemov, vključno z vamosljo v prometu; • prostorsko planiranje mest in podeželja - Vključen je RR, ki se nanaša na skupno načrtovanje mest in podeželja, boljše pogoje bivanja in izboljšave v okolju; e) nadzor in skrb za okolje - Vključuje RR, ki je usmeijen v ohranjevanje fizičnega okolja. Zajema onesnaževanje zraka, voda, zemlje in spodnjih slojev, onesnaženje zaradi hrupa, odlaganja trdnih odpadkov in sevanja. Razdeljen je v dve skupini: f) zdravstveno varstvo (z izjemo onesnaževanja) - Vključuje RR - programe, ki so usmeijeni v varstvo in izboljšanje človekovega zdravja; g) družbeni razvoj in storitve - Vključuje RR, ki se nanaša na družbene in kultume probleme; h) splošni napredek znanja - Ta skupina zajema RR, ki prispeva k splošnemu napredku znanja in ga ne moremo pripisati določenim ciljem; i) obramba - Vključuje RR, ki se v osnovi izvaja v vojaške namene, ne glede na njegovo vsebino, ali na možnost posredne civilne uporabe. Vključuje tudi varstvo (obrambo) pred naravnimi nesrečami. 2 Označite lahko več odgovorov. Obrazec ARRS-RI-CRP-ZP/2008 Stran 7 od 12 3.3. Kateri so neposredni rezultati vašega raziskovalnega projekta glede na zgoraj označen potencialni pomen in razvojne cilje?_ 1. Postavitev Grid okolja na različnih institucijah in podjetjih in njihovo povezovanje. Vse je izvedeno na prosto dostopnih programih. 2. Analiza uporabnosti Grid sistemov za podjetja 3. Povezava s študijskim programom FRI, Ljubljana: -Predmeti na novem dodiplomskem imiverzitetnem programu Računalništvo in informatika 1. stopnje (program v skladu z Bolonjsko reformo, ki se bo začel izvajati v študijskem letu 2009/10): Porazdeljeni sistemi -Predmeti na novem dodiplomskem visokošolskem strokovnem programu Računalništvo in informatika (program v skladu z Bolonjsko reformo, ki se bo začel izvajati v študijskem letu 2009/10): Vzporedni in porazdeljeni sistemi in algoritmi -Predmeti na obstoječem magistrskem študiju Računalništvo in infonnatika: • Multiprocesorske arhitekture in vzporedni algoritmi • Porazdeljeni in decentralizirani informacijski sistemi •_Vzporedno računanje na skupkih računalnikov_ 3.4. Kakšni so lahko dolgoročni rezultati vašega raziskovalnega projekta glede na zgoraj označen potencialni pomen in razvojne cilje?_ 1. Pridobivanje znanja in odkrivanje novih postopkov in tehnologij v porazdeljenem računalniškem okolju. 2. Morebitno povečanje izrabe računalniških virov na vseh področjih uporabe. 3. Uvajanje porazdeljenih sistemov v zahtevnejše poslovanje podjetij._ 3.5. Kje obstaja vegetnost, da bodo vaša znanstvena spoznanja deležna zaznavnega odziva? a) v domačih znanstvenih krogih; b) v mednarodnih znanstvenih krogih; 3 c) pri domačih uporabnikih; ^ d) pri mednarodnih uporabnikih. 3.6. Kdo (poleg sofinancegev) že izraža interes po vaših spoznanjih oziroma rezultatih? -Sodelujoče podjetje XLAB d.o.o., -Turboinstitut dd, Ljubljana, -Klinični center, Ljubljana, -Institut Rudjer Boškovič, Zagreb, -VrVIS, Vienna. Obrazec ARRS-RI-CRP-ZP/2008 Stran 8 od 12 3.7. Število diplomantov, magistrov in doktoijev, ki so zaključili študij z vključenostjo v raziskovalni projekt? 15 diplom 10 magisterijev 3 doktorati 4. Sodelovanje z tujimi partnerji: 4.1. Navedite število in obliko formalnega raziskovalnega sodelovanja s tujimi raziskovalnimi institucijami._ 1. Sodelovali smo ali še sodelujemo na EU projektih: - DeDiSys - Dependable Distributed Systems, 6.0P - ProSense - Promote, mobilize, reinforce and integrate wireless sensor networking research and researchers: Towards pervasive networking of WBC and the EU, 7 OP 2. Sodelavec FRI, dr. Uroš Čibej, sodeluje z The Grid Computing and Distributed Systems (GRIDS) Laboratory, University of Melbourne (delovni obisk: 17. julij 2006 - 10. avgust 2006). Formalnega sodelovanja ni, nastala pa sta članka (COBISS 1.01, št. 6 in 7). 3. Sodelovanje na SEE.Era-NET projektu IVAB - Interactive Visual Analysis of Bio signals. 4.2. Kakšni so rezultati tovrstnega sodelovanja? -Skupni EU projekti, -Bilateralno sodelovanje (Hrvaška, Srbija, Ukraina, Austrija), -Skupna prijava aplikativnih projektov (pridobitev sofinanciranja), -Organizacija mednarodnih poletnih šol (Senzations'08), -Skupne objave. 5. Bibliografski rezultati^: Za vodjo projekta in ostale raziskovalce v projektni skupini priložite bibliografske izpise za obdobje zadnjih treh let iz COBISS-a) oz. za medicinske vede iz Inštituta za biomedicinsko informatiko. Na bibliografskih izpisih označite tista dela, ki so nastala v okviru pričujočega projekta. ^ Bibliografijo raziskovalcev si lahko natisnete sami iz spletne strani:ht^:/www.izuin.si/ Obrazec ARRS-RI-CRP-ZP/2008 Stran 9 od 12 6. Druge reference'* vodje projekta in ostalih raziskovalcev, ki izhajajo iz raziskovalnega projekta: - Projektna raziskovalna skupina je sestavljena iz raziskovalcev treh raziskovalnih organizacij, kar že samo po sebi prispeva k interdisciplinarnosti raziskav. Na FRl so bili končani 3 doktorati in dva magisterija s področja projekta. V XLABu iščejo morebitne naročnike za programsko opremo, ki smo jo razvili v okviru projekta. Na US je v projektno skupino vključenih večina raziskovalcev iz programske skupine »Vzporedni in porazdeljeni sistemi«, kar prispeva k temu, da se teoretična znanja prenašajo tudi v izvedbe uporabnih porazdeljenih računalniških programov in podatkovnih baz. Kot skupina imamo največ objav s področja porazdeljenih in vzporednih računalnikov pri nas. Okrog tematike projekta smo zbrali ključne raziskovalce, ki se ukvaija s porazdeljenimi računahdki (Internet, Grid, Clouds). Tematika projekta je v skladu z EU dokumenti in terminom "parallel and distributed computing", ki se pojavlja kot pomemben prihodnji cilj in se zanj v EU namenja dosti sredstev. Računamo, da bo tudi Slovenija v prihodnje še bolj sledila omenjenim trendom. -Vodja projekta je vabljen predavatelj na Univerzi v Salzburgu s področja vzporednih in porazdeljenih sistemov. -V okviru tega projekta bomo prenesli programsko opremo za medicinsko diagnostiko "NevroEKG" na porazdeljene sisteme in s tem povečali njeno uporabnost in učinkovitost medicinske diagnostike.__ ^ Navedite tudi druge raziskovalne rezultate iz obdobja financiranja vašega projekta, ki niso zajeti v bibliografske izpise, zlasti pa tiste, ki se nanašajo na prenos znanja in tehnologije. Navedite tudi podatke o vseh javnih in drugih predstavitvah projekta in njegovih rezultatov vključno s predstavitvami, ki so bile organizirane izključno za naročnika/naročnike projekta. Obrazec ARRS-RI-CRP-ZP/2008 Stran 10 od 12 PRILOGA 1 Povzetk/Abstract Naslov CRP projekta: Računske Grid tehnologije za učinkovitejšo uporabo računalniških virov v podjetjih Nosilec: doc. dr. Roman Trobec, Institut Jožef Stefan Sodelujoči RO: Fakulteta za računalništvo in informatiko, Univerza v Ljubljani in XLAB razvoj programske opreme in svetovanje d.o.o. Šifra in Trajanje: V2-0214, 1.10.2006 do 30.9.2008 Zaključno poročilo - povzetek Po dvoletnem raziskovalno razvojnem delu na CRP projektu ugotavljamo, da smo v celoti dosegli zastavljene cilje. V tem času so omrežja Grid dobila tekmeca ali naslednika v obliki računanja v Oblaku (cloud computing). Bistvo je ostalo enako, opravljati računsko ali podatkovno zahtevne naloge na obstoječih računalniških virih, ki so prostorsko porazdeljeni. Naš projekt je bil še bolj usmeijen. Želeli smo raziskati možnosti za uporabo Grid orodji in preizkusiti resnične aplikacije v podjetjih. Prvi v Sloveniji smo vzpostavili medinstitucijski testni Grid s prosto dostopno programsko opremo in izmerili njene računske in komimikacijske zmogljivosti. Razvili smo primere aplikacij, ki bi bile uporabne v manjših podjetjih. Izvedli in preizkusili smo programe s področja računsko in komunikacijsko intenzivnih računalniških simulacij, s področja optimizacije, ki zahteva manj komunikacije in s področja financ, ki zahteva dostop in napredno obdelavo porazdeljenih podatkov. Naša podmena, da se bo razvoj porazdeljenih sistemov izrazito povečal tako v raziskovalnem kot praktičnem smislu in da bo raziskovalna tematika vključena v večino strateških IT programov, seje glede na dogajanja v svetu nedvomno potrdila. CRP Proj ect Title: Computational grid technologies for more efficient use of computing resources in enterprises Responsible Researcher: doc. dr. Roman Trobec, Jožef Stefan Institute Cooperating Research Org.: Faculty of Computer and Information Science, University of Ljubljana and XLAB research d.o.o. Project ID and Duration: V2-0214, 1.10.2006 to 30.9.2008 Final Report - Abstract After two years of research and development work on CRP project we can conclude that the goals have been achieved to the planned extent. During this period Cloud computing arises as a competitor or successor of Grid paradigm. The essence remains the same, computational or data intensive applications have to be run on existing distributed computing resources. Our project has been focused on the analysis and potentials for the efficient implementation of Grid technologies in companies. We established, first in Slovenia, an experimental interinstitutional Grid system based on open-source software and measured its computation and communication capabilities. Different examples of applied programs have been developed for the use in small enterprises. Computation and communication intensive computer simulations, optimizations with lower requirements for communication speed, and financial applications with extensive distributed data and the need for advanced analysis of data have been developed and tested. Recent developments have confirmed our starting hypothesis that distributed systems will be an increasingly important field, both for theoretical research and for practical applications, and that research in the field will be included into almost every strategic IT programme.