Uporaba nevronskih mrež in statističnih metod pri razvoju premaznih sredstev Surface Coating Formulation Using Neural Networks and Statistical Methods N. Leskovšek, COLOR, Medvode L. Tušar, M. Tušar, SRC d.o. o, Ljubljana J. Zupan, Kemijski inštitut, Ljubljana Z metodo statističnega načrtovanja eksperimentov in modeliranja s polinomi in z nevronskimi mrežami smo razvili metodo za avtomatično določanje receptur za pečnosušeče premaze. Celotno delo je potekalo v naslednjih fazah: definicija problema, izbira načrta eksperimentov, modeliranje, statistična analiza in grafična predstavitev rezultatov. Nevronske mreže v fazi modeliranja predstavljajo vpeljavo nove metode. Ključne besede: pečnosušeči premaz, načrtovanje eksperimentov, modeliranje, nevronske mreže, statistična analiza, grafična analiza. Formidations of high solid clearcoat cured at high temperatures were examined by the statistical experimenta/ design and modelling by analytical function and neural network. The procedure can be summed up in the following phases: problem definition, experimental design selection, per-forming the experiments, modelling, statistical analysis, and graphical representation ofresults. The new contribution in the present work is the use of neural networks in the modelling phase. Key words: clearcoat, experimental design, modelling, neural networks, statistic analysis, graphical analysis. 1 Uvod Pojem, ki bo nedvomno zaznamoval devetdeseta leta našega stoletja v svetovnem gospodarstvu, je kakovost. Pri tem pa ne mislimo samo na kakovost izdelkov, marveč tudi na kakovost celotnega proizvodnega procesa. Statistično načrtovanje poskusov in modeliranje sta pomembnejši fazi v procesu zagotavljanja kakovosti. Omogočata nam, da že v fazi razvoja izdelka ali procesa zagotovimo obvladovanje kakovosti in ekonomičnost proizvodov '-2. Vsak izdelek, npr. premazno sredstvo, ki ga sestavlja več deset komponent, zahteva sistematičen pristop k optimizaciji recepture, saj različne vsebnosti posameznih komponent pogojujejo lastnosti premaza Dandanes se še vse preveč uporablja metoda poskusa in napake ("trial and error"), ki zahteva veliko število poskusov in nepredvidljiv čas razvoja novega izdelka. Pri tej metodi niti ne vemo, ali je določen lokalni ali globalni optunum recepture. V veliki večini primerov lahko določimo le lokalno izboljšanje. Zato smo se v COLOR-ju odločili za metode strogo kontroliranega statističnega načrtovanja poskusov, ki omogočajo planiran razvoj izdelkov in uspešno modeliranje. Na podlagi metod statističnega načrtovanja poskusov smo naredili modele in optimizirali recepturo pečnosušečega brezbarvnega premaza z višjo vsebnostjo suhe snovi, to pomeni z manjšo emisijo organskih topil v ozračje. Kot novost smo v fazi modeliranja uporabili nevronske mreže in dobljeni model primerjali z modelom, ki smo ga dobili z matematičnimi metodami. 2 Metode Postopek razvoja novega premaza jebil sestavljen iz sledečih faz: 1. Izbira sistema (definicija problema) • določitev dejavnikov, ki vplivajo na lastnosti izdelka . opredelitev vseh lastnosti izdelka in določitev načina merjenja le-teh, ter določitev območij znotraj katerih želimo posamezne dejavnike spreminjati in optimizirati 2. Izbira vrste eksperimentalnega načrta 3. Izvedba eksperimentov 4. Modeliranje z več metodami 5. Statistična analiza rezultatov dobljenih z različnimi modeli (grafične predstavitve rezultatov) 6. Izbira optimalne recepture. 1 Definicije problema in izbira dejavnikov ter lastnosti Določiti moramo vse dejavnike, (faktorji, neodvisne spremenljivke, parametri) za katere domnevamo, da vplivajo na kakovost oziroma lastnosti izbranega izdelka. Za vsak dejavnik posebej moramo določiti območje, znotraj katerega dejavnik lahko spreminjamo. To so spodnje in zgornje meje dejavnika. Izbrane vrednosti dejavnikov znotraj teh meja imenujemo nivoje. Izbira nivojev je odvisna od prehodnega poznavanja sistema. Pri tem moramo paziti, da ne izberemo preozkega območja, v katerem ni globalnega maksimuma. Pri opredelitvi lastnosti (odgovori, odvisne spremenljivke) izdelka si lahko v veliki meri pomagamo z zahtevami po kakovosti, kij ih postavljajo kupci izdelkov ali standardi za posamezne izdelke. Če so lastnosti določene s standardi, so ponavadi določene tudi metode za nj ihovo merjenje, sicer moramo opredeliti tudi metode merjenja. Obravnavani sistem smo določili s tremi dejavniki, od tega sta dva sestavni del recepture (koncentracija polimera in koncentracija katalizatorja), tretj i pa je temperatura zamreževanja premaza. Slednji je pomemben zato, ker imajo uporabniki različne možnosti zamreževanja premazov. Vse dejavnike smo spreminjali na treh nivojih (+1, 0, -1). Merili smo 6 lastnosti: trdoto, elastičnost, odpornost na udar in proti udar, odpornost na MIBK m oprijem premaza na podlago. Debelina premaza ter čas zamreževanja premaza sta bila pri vseh poskusih neizpremenjena. 2 Izbira vrste eksperimentalnega načrta Število eksperimentov v načrtu je odvisno od števila izbranih dejavnikov in števila nivojev posameznega dejavnika1-2. Večjeje število dejavnikov in nivojev, več eksperimentov vsebuje potreben načrt. Število eksperimentov pogosto omejuje tudi njihova cena. Izbrati moramo načrt eksperimentov, ki nam da dober opis spreminjanja lastnosti sistema v odvisnosti od dejavnikov. Uporabili smo popolni načrt za tri dejavnike na treh nivojih s 27 poskusi (Slika 1). 3 Izvedba eksperimentov Vse vzorce smo pripravili po eksperimentalnem načrtu in izvedli potrebne meritve za vseh 6 lastnosti pri vsakem vzorcu Naredili smo 27 poskusov, ki jih določa eksperimentalni načrt m 15 poskusov za validacijo modela m preizkus optimalne točke. Pri izvedbi eksperimentov moramo paziti na dve stvari: x2 2.0 1.0 0.5 120 / A J j Ji ) 5 / S. s r ✓ / V V- J r" / / 180 ž *3 V- ) r ) ) )C ) ( ^ / J A r -C r r V ) 65 75 85 Slika 1 :Tronivojski načrt za tri dejavnike, ki ga sestavlja 27 eksperimentov. Figure 1: Three level experimental design for three factors with 27 experimental points. - ponovljivost eksperimentov, - vrstni red izvajanja eksperimentov po načrtu (vrstni red izvajanja naj bo naključen). 4 Modeliranje Modeliranje bi lahko na kratko definirali kot prilagajanje odzivnih površin (response surfaces) eksperimentalnim podatkom Včasih so modeliranje izvajali predvsem z analitičnimi funkcijami (največ polinomi). Novost v tej fazi postopka in veliko prednost predstavlja modeliranje z nevronskimi mrežami5-6. Nevronske mreže so preprosta računa tniška simulacija delovanja nevronskih celic (učenja, pomnenja in odločanja). Pri modeliranju z nevronskimi mrežami in s polinomi so vhodni podatki isti. V primeru polinomov je potrebno za vsako lastnost narediti poseben model. Model za vse lastnosti skupaj lahko naredimo šele, ko izvedemo primerno transformacijo merjenih lastnosti (linearna kombinacija vseh lastnosti). Pri nevronskih mrežah pa lahko modeliramo vse lastnosti z eno samo mrežo. Obstaja več razlik med polinomskimi in nevronskimi modeli6-7-8: Polinomski model: • za vsako merjeno lastnost potrebujemo poseben model - eksplicitno podano funkcijo, • funkcija predstavlja neko naravno zakonitost, ki je ovrednotena s kvaliteto parametrov, • za napovedovanje integralne lastnosti je potrebno narediti še model, ki je v splošnem popolnoma drugačen, kot so ostali modeli posameznih lastnosti • za vse posamezne in za integralno lastnost imamo le en model - nevronsko mrežo, • posamezen nevron na izhodnem nivoju podaja vrednosti točno določene lastnosti, • učenje nevronske mreže poteka istočasno za vse lastnosti. Pri modeliranju z analitičnimi funkcijami smo uporabili polinome drugega reda. Y = Ax, +Cx, +Dx x+Ex,x+Fx,x + i ll i 2 i3 lil i 2 2 133 + Gx, x+Hx, x+Ix. x,+./ i 1 2 i 1 3 12 3 i /'= lastnosti: trdota, elastičnost, MIBK, udar, kontra udar, oprijem, integralna lastnost. A , B , C, D , E, F, G , //, /., J = izračunani parametri so i i' i i i r i iri 1 za vsako posamezno lastnost / različni. Pri tem smo za vsako lastnost premaza določili drug model. Integralno lastnost premaza, ki je funkcija vseh lastnosti skupaj, smo dobili z uporabo optimizacijskega kriterija. Zanj smo izbrali linearno kombinacijo posameznih lastnosti premaza. Pri tem smo predpostavili, da vse lastnosti enakovredno prispevajo h končni lastnosti premaza. V primeru, da je za določenega kupca ena od lastnosti premaza pomembnejša, damo tej lastnosti večji pomen tako, da ji določimo večjo utež. Pri modeliranju z nevronskimi mrežami smo uporabili 'back-propagation' algoritem5, ki sodi v skupino algoritmov z nadzorovanim učenjem. To pomeni, da mrežo učimo s tem, da spreminjamo njene uteži glede na primerjavo med izračunanimi in eksperimentalnimi vrednostmi. Z nevronskimi mrežami modeliramo tako, da najprej mrežo prilagodimo (učenje mreže) eksperimentalnim podatkom. Nato jo testiramo na podatkih, ki niso bili uporabljeni pri učenju in šele po testu lahko prilagojeno nevronsko mrežo (naučena mreža) uporabljamo kot model. Pred začetkom učenja nevronske mreže izberemo njeno arhitekturo (Slika 2). Vhodni podatki so 3 vhodni nevroni (temperatura, koncentracija katalizatorja in koncentracija polimera), izhodni podatki (6 nevronov) pa so lastnosti premaza (trdota, elastičnost, MIBK test, udar, kontra udar, oprijem) Bolj problematična je določitev števila skritih nivojev m števila nevronov na njih. V našem primeru smo izbrali samo en skriti nivo, ki ga sestavlja 20 nevronov. Na sliki 2 so prikazane samo nekatere povezave med nevroni. Dejansko je vsak nevron vhodnega nivoja povezan z vsakim nevronom skritega nivoja in vsak nevron skritega nivoja je naprej povezan z vsakim vozlom izhodnega nivoja. Arhitekturo nevronske mreže lahko določimo na podlagi izkušenj. Na koncu določimo še vrstni red podajanja vektorjev za treniranje in število iteracij učenja, ki je pogojeno z redom velikosti napak meritev. 8 yl y2 vO V4 Y& yS 6. »oriov m chodnm nh»|ll (0 l«lnoin| Slika 2: Arhitektura nevronske mreže. Krogi predstavljajo nevrone. Narisane so samo nekatere povezave med nevroni, ostale so označene s pikami. Figure 2: The architeeture of the neural netvvork. Neurons are marked vvith circles. OnIy some connections betvveen neurons are dravvn, the rest of them are marked with dots. 5 Statistična analiza podatkov in grafične predstavitve rezultatov. Statistična analiza, ki nam odgovori na vprašanji ali je model primeren in kakšna je ponovlj ivost eksperimentov, je analiza variance1. Rezultat, ki smo ga dobili, so bili modeli, ki so nam za vsako razmerje dejavnikov napovedali lastnosti premaza. Tako smo lahko na osnovi modela, za vsako točko znotraj preiskovanega prostora, določili recepturo, kot tudi lastnosti premaza. V tabeli 1 so predstavljene primerjave rezultatov analize variance za polinomske modele in neuronko mrežo. Rezultati so podani za posamezne in integralno lastnost. Iz vrednosti v tabeli 1 vidimo, da nevronske mreže predstavljajo boljši model za napovedovanje lastnosti pre-maznega sredstva. Na osnovi primerjave med F]of in Ftm so skoraj vsi modeli, razen kvadratnega in nevronskega modela za oprijem in kvadratnega modela za MIBK, primerni. Primernost izbranih dejavnikov za opis izbranih lastnosti glede na C3 in C4 je najboljša v primeru MIBK testa in nato si sledijo vrednosti za oprijem, elastičnost, trdoto, integralno lastnost, kontra udar in udar. Globalni optimum integralne lastnosti izračunamo pri kvadratnem modelu z odvajanjem, pri nevronskih mrežah pa na osnovi genetskega algoritma9. Predstavitev modela v trodimenzionalnem prostoru je omejena na predstavrtev dveh dejavnikov in ene lastnosti istočasno in sicer v obliki kontur (Slika 3) ali trodimenzionalnih grafov. Področje optimalnih lastnosti je področje maksimuma. Vse recepture, katerih točke padejo v to območje, zagotavljajo izdelke podobnih tj. optimalnih lastnosti. Graf tudi napove, kako Tabela 1: Rezultati analize variance za polinomske kvadratne modele (Model: kv.p.) in nevronsko mrežo (Model: n.m.) za modele sledečih lastnosti: trdota, elastičnost, MIBK test, udar, kontra udar, oprijem in integralne lastnosti. C, je kvadratni koren povprečja kvadratov napak. C2 je koeficient variacije, C3 je korelacijski koeficient, C4 je določitveni koeficient in C5 je standardna deviacija. Table 1: Results of analysis of variance for quadratic polynoms (Model: kv.p.) and neural network (Model: n.m.) models for hardness. elasticity, MIBK test, direct impact, reverse impact, adhesion and common propertv. C, is square root of error mean square, C, is coefficient of variation, C3 is correlation coefficient, C4 is determination coefficient and C5 is standard deviation. Lastnost Model Flof Flof-krit. Freg c, C, c, c4 c, trdota kv.p. 1.6 2.317 6.8 29.0 20.9 0.83 0.87 36.11 n.m. 0.7 2.317 11.9 28.98 20.9 0.83 0.87 24.15 elastičnost kv.p. 1.8 2.317 12.9 0.4 4.5 0.89 0.92 0.53 n.m. 1 2 7 317 IS 7 fl4? 4 5 n rq n Q"> n 30 MIBK test kv p 16.8 5 143 28 7 5.8 6 1 0 99 0 99 22 42 n.m. 3.1 3.339 145.1 5.82 6.1 0.99 0.99 9 3 udar kv.p. 0.6 2.317 4.2 17.1 24.4 0.61 0.69 11.44 n.m. 0.4 2.317 5.1 17.1 24.4 0.61 0.69 8.69 kontra udar kv.p. 1.3 2.317 3.5 21.9 39.2 0.68 0.75 18.90 n m 1 02 7 317 4 7 71 88 39 74 0 68 0 75 16 ">4 oprijem kv.p. 47.2 5.143 3.0 0.1 38.2 0.98 0.99 0 98 n.m. 25.5 5.143 8.52 0.1 38.2 0.98 0.99 0.65 skupna lastnost kv.p. 3.2 3.339 1.8 0.1 10.6 0.82 0.86 0.09 n.m. 0.9 2.317 11.6 0.1 10.6 0.82 0.86 0.05 Slika 3: Kvadratni model integralne lastnosti pri T 180°C v odvisnosti od % katalizatorja (os x,) in % polimera (os Xj) Figure 3: Quadric polynom model of common property at 180°C depending on % of catalyst (axis x,) and % of polymer (axis xA Slika 4: Nevronski model integralne lastnosti pri T=180°C v odvisnosti od % katalizatorja (os x,) in % polimera (os x2). Figure 4: Neural netvvork model at 180°C depending on % of catalyst (axis x,) and % of polvmer (axis x2). se bo spreminjala neka lastnost, če spremmjamo dejavnike in obratno. Na slikah 3 in 4 je prikazana odvisnost integralne lastnosti izdelka od koncentracije polimera in koncentracije katalizatorja pri temperaturi zamreževanja 180°C za poli-nomski (slika 3) in nevronski model (slika 4). Kot vidimo, je območje optimalnih receptur pri obeh modelih skoraj identično. Vse recepture znotraj tega območja zagotavljajo izdelku (premazu) optimalne lastnosti. Izbiro recepture lahko znotraj določenega območja spremmjamo v odvisnosti od •trenutnih pogojev (cene, zaloge) m zahtev tržišča. Opisani postopek seje izkazal kot zelo uporaben tako za razvijanje popolnoma novih izdelkov, kjer sistemov ne poznamo dobro, kot tudi za izboljševanje že obstoječih izdelkov. 3 Zahvala Avtorji se zahvaljujemo MZT, kije delo sofinanciralo. 4 Literatura 1 R.D. Moen, T.W. Nolan, L.P Provost: Improving Quality Through Planned Experimentation, McGravv-Hill, New York, 1991. 2 G. Taguchi: System of experimental design. Engineering methods to optimise quality and minimise costs, Don Clausing - Technical Editor for the English Edi-tion, UNIPUB - Kraus International Publications White Plains, New York, 1988. 3 J. T. Guthrie, J. Lin, J. Mikac: The Design and Analy- sis ofexperiments involving Mixtures: A Model Based on Spline Interpolation', JOCCA, 2 (1992), 66-76. 4 K. J. H. Kruithof, H. J. W. van den Haak: 'A Study of Structure-PropertiesRelationship in Automotive Clear-coat Binders by Statistically Designed Experiments', Journal of Coatings Technology, Vol. 62, No. 790 (1990), 47-52. 5 D. E. Rumelhart,N. L. McClelland: ParallelDistnbut-ed Processing Exploration in the Microstructure of Cognition, Vols. 1 and 2, MIT Press, Cambridge, MA, 1986. 6 J. Zupan, J. Gasteiger: Neural Netvvorks for Chemists: An Introduction, VCH, Weinheim, 1993. 7 M. Tušar, J. Zupan, J. Gasteiger: Neural netvvorks in modelling chemistrv, J- Chim. Phys, 89 (1992), 1517-1529. 8 A. P. Weijer, 1 Buydens, g. Kateman, H. M. Heuvel: Neural Netvvork used as a soft modeling technique for quantitative description of relation betvveen physical structure and mechanical properties of polyethylene terephthalene yarns, Chemometrics and Intelligent Lab-oratory Systems, 16(1992), 77-86. ' L. Daviš: Handbook of genetic algorithms, Van Nos-trand Reinhold, New York, 1991.