PRILAGAJANJE POLINOMOV Z ORTOGO- NALNIMI POLINOMI BINOMSKIH PUNKCIJ Dr. Marijan BLEJEC INSTITUT ZA STATISTIKO IN OPERA¬ CIJSKO RAZISKOVANJE PRILAGAJANJE POLINOMOV Z ORTOGO- NALNIMI POLINOMI BINOMSKIH FUNKCIJ Dr« Marijan BLEJEC INŠTITUT ZA STATISTIKO IN OPERA¬ CIJSKO RAZISKOVANJE Ljubljana 1959 O I -09- 2003 li M 2 Prilagajanje polinomov z ortogonalnimi polinomi binomskih 0. Uvod. Prilagajanje polinomov ekvidistantnim empirič¬ nim vrstam je pogost primer pri regresijski analizi in analizi časovnih vrst. Posamezne metode, ki rešujejo ta problem, imajo svoje tehnične in vsebinske prednosti in pomanjkljivosti. Ta¬ ko npr. uporaba binomskih funkcij poenostavlja tehniko izračunavanja parametrov prilagojenega polinoma, ortogo- nalni polinomi pa imajo predvsem analitične prednosti. Obravnavana metoda kombinira obe omenjeni metodi in ta¬ ko združuje prednosti obeh. 1. Binomske funkcije 1»1 Binoinski koeficienti. Obravnavana metoda je zasno¬ vana na binomskih funkcijah, ki imajo za osnovo binom¬ ske koeficiente. Binomski koeficient je definiran z /a\ : a! __ a(a-l)(a-2) ... (a-b+1) funkcij b b ! (a-b)! ^1.2.3. b Po tej definiciji velja, da je -a b ) (-a)(-a-1)(-a-2) 1 . 2.3 (-a-b+1) _ (_]_) b ( 2 ) Iz definicije binomskega koeficienta sledi ( 3 ) 2 Znano je, da je Ker je po definiciji v posebnem primeru, da je b=o, 5 degenerira v ? (r) ■£(:)■ a=o a=o N 'n+l' ,m+l. (A) (5) ( 6 ) (7> Iz lastnosti binomskih koeficientov sledi zveza r .) P 1.2 Binomske funkcije . Kot binomsko funkcijo stopnje r definirajmo celo racionalno funkcijo od x /x \ _ x(x-l) .... (x-r+l) (g \r/ 1 . 2 . r ki ima formalno obliko binomskega koeficienta reda r Binomska funkcija je z 9 definirana za vse vrednosti x. Za cele pozitivne vrednosti za x se njene vrednosti uje¬ majo z vrednostmi ustreznih binomskih koeficientov. 3 Za binomsko funkcijo definirajmo prve diference kot A X / X+1 \ r x r-1 ( 10 ) Druge diference slede iz prvih A 2 /x = A A C dl) S kompletno indukcijo pridemo do splošnega izraza, da je diferenca stopnje-k za binomsko funkcijo enaka o X r-k ( 12 ) Če definiramo kumulativo binomske funkcije K ( ) z K & ■ £ C) - G) ' x = o ^ (13) je druga kumulativa K d- ‘KI = K ( x \r+l x $ + 2 (14) in s podobnim sklepanjem kot za diference kumulativa stopnje k K k / x x .r+k (15) Glede na definiciji diferenc in kumulativ se obe opera¬ ciji dopolnjujeta v tem smislu, da je med operatorjema A k in K k zveza A k = K~ k A = 'A' ( 16 ) Za operatorje A in K velja, da so asociativni, stributivni in komutativni di- 4 A = A /\ k = K^” k = A k ^ (17) Iz definicije diferenc in kumulativ 12 in 15 sledi, da je je cela racionalna funkcija stopnje t Ker je zaradi lastnosti binomskih koeficientov za cele vrednosti x Parameter a r v polinomu binomskih funkcij je vrednost diference stopnje r v polinomu binomskih funkcij za x=o. 1.3 Zaradi zgornjih lastnosti dobimo s sistematičnim postopnim kumuliranjem iz parametrov a r vrsto vrednosti polinoma Y(x) za cele vrednosti x. (18) Polinom binomskih funkcij stopnje t (19) x\ _ o , če je x -4) r ( 20 ) in zaradi 6 velja, da je ( 21 ) Za x = o sledi iz 21, če upoštevamo 6 in 20 r A Y(o) a. r ( 22 ) 5 Za polinom tretje stopnje je npr. Iz o ~2 i n kumuliranjem tretjih diferenc dobimo vrsto dru¬ gih diferenc, iz in kumuliranjem drugih diferenc vrsto prvih diferenc, iz a Q in kumuliranjem prvih diferenc pa vrsto vrednosti polinoma Y za cele vrednosti x. X 1*4 Kumulative stvarnih vrst. Po podobnem postopku kot za kumulative binomskih funkcij izračunamo po obrazcu Y , = K k+1 Y + iČ Y (23) x+l x x x kumulative iz vrste statističnih podatkov Y , s tem,da so K r Y o =o, če je r / o Če nakažemo postopek za izračun kumulativ za vrsto z N=6 členi,dobimo: 6 K Y x ^ Y x K 1 - 2 KI. 3 K^Y. x Y 1 Y Y 2 V Y 1 Y 3 Y o +Y 1 +Y 2 2 V Y 1 Y 4 Y o +Y 1 + V Y 3 5Y o +2Y 1 +Y 2 3Y + Y, o 1 y 5 VVW y 4 4Y +3Y, +2Y,+Y, o 1 2 3 6 V 3 V T 2 6 Y o +Y l +Y 2 + W Y 5 5Y 0+ 4Y 1+ 3Y 3 +Y 4 10Y o +6Y 1+ 3Y 2 +Y 3 N-l °e= I ("T 1 Y x C l = L 1 "Tl Y X °2= L 1 N-l N-l N-x-l\ x=o x=o x=o Iz primera je nakazana struktura kumulativ in struktura vsot členov v kumulativni vrst C , C-, , Člen za x=N o 1 2 v kumulativni vrsti stopnje k+1 je obenem vsota členov od x=o do x=N-l v kumulativni vrsti stopnje k. Kot je nakazano za splošne N za C Q , C_^ in C 2 » pa moremo strukturo posplošiti na poljuben s. Tako velja, da je c s - z kS y x = kS+1 y n - D ("T 1 ) Y x (24) x=o x=o 7 - 2. Ortogonalni polinomi binomskih funkcij 2.1 Definirajmo ortogonalni polinom binomskih funkcij nom ortogonalnih polinomov do stopnje s I N-x-l\ s U r X s x k v ' k=o dobimo, če koristimo 25 in 5 (27) N-l X x=o X. N-x-l , s P N-l, t X * X J ■ r=o x=o\ L I \ N-x-l s P 1 N r \r+s+l, = Z 1 <28) r=o ali, če koristimo 24 in 25 s N-l N-l X x x=o N-x-l' p V 3 I 0 s = o,1 ...(p-1) X c, X XX * k=o x=o P k C p s = p (29) Iz 28 in 29 dobimo sistem enačb za parametre ortogonalne- ga polinoma b p t N P X b P ^- T r=o P r+s+1 N X b ? lr+p+1. = 0 = c s=o, 1, 2 ... (p-1) ( 30 ) r=o s=p 8 V matrični obliki moremo ta sistem pisati kot bB = c (31) pri čemer je b vektor parametrov b p , B matrika binomskih N r koeficientov (^ OJ -i), c pa vektor, ( 0 , 0,0 ... C ), za I T* S "T _L P katerega so vse vrednosti razen zadnje enake o, zadnja C pa je od r neodvisna količina. Če sistem enačb 31 rešimo, dobimo da je b = c. B -1 (32) oziroma zaradi narave vektorja c P L s=o C S B P _ZB_ P B p (33) Ker sta C in B p (determinanta binomskih koeficientov) p P od r neodvisna, so parametri b£ ortogonalnega polinoma X proporcionalni kofaktorjem B P , ki ustrezajo P . P členom r v vrsti p v matriki binomskih koeficientov. Ker proporcionalitetni faktor ne vpliva na ortogonalnost po¬ linoma, b P izenačimo z B p . r rp Ako preučimo kofaktor B P p =(-l) P+r (34) 9 spoznamo, da moremo parametre b p dalje reducirati. Če upoštevamo lastnost binomskih koeficientov 3, s postop¬ nim seštevanjem vrst v kofaktorju B dobimo, da je sr B P = pr (- 1 ) p+r = (-D p+r pr pr (35) Iz kolon v zadnji determinanti v 35 moremo izpostaviti faktorje v skupnem izrazu P “3T (p-k)! [nj k+1 k=o __ K (p-r) ! fdj r+1 iz vrst pa faktorje v skupnem izrazu S 1 l i+d' - H Q -o (p+s+1) ! (36) (37) Tako ostane za izračun le še determinante = d /p+s+1\ \ P-k (38) pr Nova oblika kofaktorja B P je ° pr ° B* pr (- 1 ) p+r .K.R.d (39) X* “f“ []_ Od členov v 39 je od r odvisen samo l/(p-r)! N v K, in determinanta d. Zato moremo parametre ortogonalnega polinoma ponovno reducirati. Po drugi redukciji so b p proporcionalni ■jo (-n p + r (p-r)! [N] r+1 (p+s+1 \ 1 P-k I (40) 10 Determinanto /p+s+l’ \ P" k i pr r;‘) o /p+i\ p + i ... I* +1 ) 'p+; ( P p+; \p-r j \p-r-2 j (p+2) f P+2 ' \p-r/ \p-r-2 o p+2' o (2 p l P 1 2p Ip- '2p ( 2P Ip-J \p-r-2 2p o (41) izračunamo s sukcesivnim odštevanjem po dve zaporedni vrsti, če upoštevamo 10. Z dosledno uporabo te operacije dobimo, da je jp+s+l^ l P~ k / pr p+r r j (42) Ako izraz v 40 pomnožimo z od r neodvisnim členom [V]^ + ^ in upoštevamo 42, dobimo, da so parametri ortogonalnega polinoma stopnje p proporcionalni .r^ r N P +r fn-r- 1 ) fv+r b P^ ( ~ 1} I P-r r (43) ortogonalni polinom pa enak s ■ r=o r=o ( 44 ) N=1 2.2 Izračunanje izraza x: x=o p. Za kasnejša N-l o £ x=o izračunavanja je pomembna vrednost izraza -.11 Ortogonalni polinom moremo pisati v obliki X = I.(-l)P +r l' r=o . MfolC ‘2p\/x+p\ Pl 1 /x .P A P/ + žo Cr 2p\ /x+p\ P r-f JP. + Z d ,. x . k=o • k Jx k (45) Prvi člen vsebuje najvišjo (p-to) potenco iz ortogonalne- ga polinoma, ostanek pa je možno izraziti z linearno zve¬ zo ortogonalnih polinomov do stopnje p-1. Zaradi lastnosti ortogonalnih polinomov, ki so dane z njihovo definicijo 26 in zaradi 45 velja _• 2 ■ N-l i x p ■ r x . x=o p) X+P ) + p 1 d k x k P/ k=o :! P )I x P M x=o N-l z v = r t (-l) p+r r=o /p+r\ /N-r-l\ / x \ fx+ p\ 1 r p-r j \ ?/ \ P J Ker je s preureditvijo 0 ( 7 ) ■ velja dalje Če upoštevamo 5 dobimo (46) (47) (48) ( 49 ) 12 s preureditvijo pa /N + p \ /N-r-1' p+r+1 / \ p-r N + pl, j' 2p +1) ,2p +1/ \p+r+1, (50) Če upoštevamo zveze 49 in 50, dobimo iz 48 L X /2p\/N + p \P / \2p+ 1 f ( -l)P« /p + r\ 2 /2p + 11 \ r / lp+r+1 ) r=o :5D Iz zveze 8 dobimo v posebnem primeru fr' f • i wa P\ /P+m) / P+r) 3 ,P +m j (52) S preureditvijo dobimo, da velja r-m /-p-m-l\ j = (-d r-m/ / P+r\ p+r) \ p+m r-1 (53) Razen tega je tudi f 2p + 1\ _ /2p + 1\ \P+r+l / \ p - rj (54) Če upoštevamo 52, 53 in 54, dobimo, da je dalje P p ,P P Y_ (-i) p+r ( p+r ).f 2p +1 \ = Y_ (-D p+m ( p \J p+m ]f2f p " m “ 1 \( 2p+1 )= ! r=o Ir/ \p+r+l/ m=o \m j\ p / r =o \ r-m f\ p-r/ »n = (-d 1 L m=o (_i) m ,/p +m ( - 1)S I (p m=o m (-l) P ^ _1 j = (-1) 2P = 1 ( 55 ) - 13 - če dvakrat upoštevamo zvezo 4 med binomskimi koeficienti, če vnesemo rezultat iz 55 v 51» dobimo končno S P N-l L x=o 2pWN + p\ P / \2p+ lj (56) 3. Prilagoditev polinoma ortogonalnih polinomov stvarni vrsti 3. 1 Predpostavljajmo, da je vrsta stvarnih podatkov dana z modelom Y x n I n = r + u. (57) kot vsota polinoma racionalnih funkcij stopnje n n in slučajnostne komponente U x Pogoj, ki ga po metodi najmanjših kvadratov postavljamo na oceno prilagojenega polinoma, je Zaradi lastnosti ortogonalnih polinomov iz 26, sistem normalnih enačb degenerira v N-l £ Y x X p x=o ^ N-l y x=o ( 59 ) Iz zveze 59 dobimo, da je - 14 - A P = N-l I- Y x X p x=o __ N-l L č xTo p N-l Medtem ko smo X^ že izračunali (56), moramo x=o N-l Y X šele proučiti, x=o p Če upoštevamo 44, dobimo, da je N-l £ Y x ** x=o ^ N-l p Y_ (_i)P +r fP +r l. [N-r-1 \/x x=o r= o p-r /\r / x Zaradi 2 in 5 velja, da je L (-i> ! (N~s-l\ f N-x-l' s=o r-s Če vnesemo 52 v 61, dobimo dalje N-l I -p~x 4 — ^\ r / \ p-r \ r-s , x=o v r=o s=o ' / ' ' x=o S preureditvijo spoznamo, da je p-r r N-r-1\/N-s-1 i P-r /\ r-s [N-r-l] ; [N-s-lJ r-s (p-r)! N-s-l\ f p-s v P-s J 1 P-r 9 (r-s) ( 60 ) izraz (61) (62) (65) ( 64 ) 15 - Če upoštevamo 64 in 24, je ? r - 1 -E. /N-s-l\ E- /p-sUp+r Je 0 V* = (_1) \ p-s ) C s ^ s (_1) \P-r/( n s = o - 5 ) Ker je p_s 0 lp-r = o ako je r( s in zaradi 2 in 4 je l «>'m - iptn f-3-V V P I = (~D J fp+ S (66) in končno, ako to zvezo vnesemo v 65 in upoštevamo 43 N-l x=o P x s = o z \y x = i.(-i) 2p+s ^p!; 1 R p ri °s = ( - i)P (6?) — P S s=o * 3.2 Prilagojeno funkcijo Y(x), ki je dana z ortogonal- nim polinomom n Y(x) = H A X (68) p=o P P transformiramo v polinom binomskih funkcij, če upošteva- /x' n , \ n x EU Ev? ■ r=o p=r (69) ( 70 ) 16 parametri prilagojenega polinoma binomskih funkcij. Tako dan prilagojen polinom je glede na pomen parametrov, ki sledi iz 22.neposredna osnova za izračunanje osnovni vrsti Y prilagojene vrste Y(x). A 3.3 Iz simetrije ortogonalnih polinomov proučevanega tipa vemo, da je (-l) p X p (x) (7D Na novo izhodišče x q = N-l transformirana prilagojena funkcija Y(x) pa je zaradi 2, 53 in 71 enaka n n (x) =^ A p (_1) P p = 0 X (N-l-x) =r (-1) P A J p P c — p=o /N-x-l' P»( r| r=o n ■r p = 0 P+r A b P /x-N-r p~r l r (72) Za dobljeno fransformirano funkcijo so parametri D p n H (-D P+r A p b p = AY (x = N-r-1) (73) p = o diferenca stopnje r za x=N-r-l. Zgornja ugotovitev je posebno pomembna pri ekstrapola¬ ciji prilagojene vrste vnaprej. 4. Analiza variance komponent za prilagojeni polinom 4.1 Ako vzamemo, da je v modelu proučevane vrste n Y X = Z A p x p + u x x= 0,1,... (N-l) (74) p=o - 17 U slučajna variabla za zakonitostjo porazdelitve a 2 U x = :N(o,cr ), moremo z analizo variance preskusiti zna¬ čilnost posameznih komponent prilagojenega polinoma« Pri eksperimentalnem delu če sto nastopi problem, da presku¬ šamo značilnost linearne, kvadratične, kubične itd. kom¬ ponente. Manj je zgornja predpostavka upravičena pri proučevanju časovnih vrst. Vendar tudi pri časovnih vrstah, ne glede na neizpolnjene pogoje, ki so osnova za analizo variance, dostikrat nastopi problem razstav¬ ljanja vsote kvadratov na doprinose posameznih kompo¬ nent. Ta analiza je potrebna pri odločitvi, katera funk¬ cija je primerna kot funkcija, ki jo prilagodimo ali pri analizi, koliko posamezna komponenta doprinese k skup¬ ni vsoti kvadratov oziroma variabilnosti podatkov. Zaradi lastnosti 26 ortogonalnih polinomov in zaradi 60 dobimo, da je vsota kvadratov odklonov stvarnih vredno¬ sti od vrednosti prilagoj enega polinoma SK^ N-l x=o (75) Pri tem je SKp . rN-1 E \x =0 Y * X P N-l E x 2 x=o (76) 18 N-l . r"~ 9 prispevek komponente p k skupni vsoti kvadratov 2— Y • x=o Pri predpostavkah, ki veljajo za preskušanje hipotez z analizo variance, posamezni členi SK nastopajo s po .m eno stopinjo prostosti, SK^ pa z N-n-1 stopinjami pro¬ stosti . Tako moremo z P-preskusom izraza SK. F = -, se' 2 se = SK P N-n-i (77) z m^=l in mg= N-n-1 stopinjami prostosti preskušati značilnost linearne (p=l), kvadratične (p=2) itd. kom¬ ponente. Varianca za oceno parametrov A je Jr Var A„ = o r N-l x A x=o r 12p \ P 2 ^e fN + p (2p+ 1 a ocene variance var A = - P N-l h x=o 2p 'N + p \2 P + 1, (78) (79) 4.2 Kovarianca in korelacijski koeficient med odkloni stvarnih vrednosti od vrednos t i prilagojenih polinomov. - --? y Če vrsti prilagodimo polinom stopnje n 1 2_ ^p^p ’ vrsti Z pa polinom stopnje S;. S~ A^X , je kovarianca med odkloni stvarnih vrednosti od prilagojenih polinomov enaka t 19 glede na 77 pa je vrednost korelacijskega koeficienta r YZ K YZ _ V SK^ . SK| (81) 5. Matrike koeficientov ortogonalnih polinomov binomskih funkcij 5.1 Splošna matrika koeficientov ortogonalnih polinomov binomskih funkcij V tabeli 2 podajamo splošno matriko koeficientov b^ iz 43 in vsote kvadratov vrednosti ortogonalnih polinomov Sp = ^ Xp iz 56 za poljuben N za p=o,l,k,... 10 in p. ( 82 ) Ker moremo zaposamezne p. vrste koeficientov še dalje reducirati tako, da vrsto v matriki bS delimo z največjim skupnim mnogokratnikom, v nadaljevanju podajamo^katerim pogojem mora zadoščati N, da je ^rsta deljiva z ustrezni¬ mi divizorji za p = 1 do p = 10. Npr.: p=7 :2 N=4(mod 8) 7 pomeni: koeficiente ortogonalnega polinoma b r S^ so de¬ ljivi z 2,če je število členov N v proučevani vrsti enako 4 modulo 8. 20 Tabela 1. Redukcijski faktorji koeficientov bS 21 P=8 :3 N=l,2,4,5,7,8(mod 9) :5 N=2,3 (mod 5) sil N=3,4,5,6,7»8 (mod 11) s 13 N=5,6,7,8 (mod 13) P=9 s2 N=l,3 (mod 4) s 5 N=1,2» 3 s 4(mod 5) sli N=2,3,4» 5,6, 7 9 8 j, 9 (mod 11) :13 N=4,5,6,7,8,9(mod 13) :17 N=8,9(mod 17) p=10 2 N=6(mod 8) 11 N=1,2,3,4,5,6,7,8,9,10(mod 11) 13 N=3,4,5,6,7,8,9,10 (mod 13) 17 N=7,8,9,10(mod 17) 19 N=9,10(mod 19) 5.2 Ma trika koeficientov ortogonalnih. polinomov binom- skih funkcij za p = 1(1)3 in N= 1(1)30 Za N=1 do N=50 so v tabeli 3 dani koeficienti ortogonalnih polinomov do pete stopnje p = 1(1)5.To je obseg, v katerem rešujemo običajno probleme prilagajanja polinomov. Če je N )> 50 ali p med 6 in 10 5
A. o. OV
Tabela 5. F .m) za preskušanje značilnosti za
komponente z m p =l stopinjami prostosti
Tabela je za m > 3o prirejena iz tabele za t-porazdelitev
iz zveze: F^ p (l,m) = t^ a2p (m)
35 -
6. Obrazec OPBF
Obr. OPBF 1 je prirejen za analizo statističnih vrst z
vrednostmi na enake razmake 6
Ker je predvideno, da potrebne vsote kumulativ za stvari
vrste 0^ in kumulative iz parametrov prilagojenega po¬
linoma izračunamo na računski stroj z registrirnim tra¬
kom z uporabo subtotalov, je v prvem delu le tabela z
oznako členov (stolpec 2), osnovno stvarno vrsto podatkov
r (stolpec 3) in prilagojeno vrsto podatkov Y(x) (stol-
A
pec 4). Ooseg te tabele dopušča vrste z do N=50 členi
(tolikšen je obseg tabel izračunanih matrik koeficientov
za izračunanje ortogonalnih polinomov).
V podolžnem delu obrazca je v stolpcih 5 do 10 prostor
za vs ;te kumulativ C (za prilagoditev parabol do n = 5
P
stopnje) in matriko koeficientov ortogonalnih polinomov b
iz tabele 3 za ustrezen N.
V kolono 11 vpisujemo vrednosti produktov koeficientov b
in vektorja C’ bC’.
V ifolpec 12 iz matrike koeficientov prepišemo vrednosti
za S.
V stolpec 14 vpišemo izračunane parametre ortogonalnih
polinomov A , ki jih dobimo tako, da bC’ delimo z S,upo-
števaje E oziroma spremembo predznaka za lihe parametre,
kar je naznačeno v stolpcu 13»
V stolpcu 16 je v glavi predviden prostor za vsoto kva-
Z p
Y . Vsota kvadra-
x
tov pride v poštev, če analiziramo variabilnost oziroma
vsoto kvadratov odklonov. V nadaljnje vrste te kolone
vpisujemo ustrezne prispevke posameznih komponent k skup¬
ni vsoti kvadratov. Te količine so, kot je nakazano v
JI
1
2
JZ
8
Q
_lo.
11
12
12
11
JI
•m
17
ji
19
2 n
21
22
22
21
25
■26
22
22
22
la
H
12 -
11
li¬
li
11
11
H
-m
lOu.
42
_ 43 .
11
11
-M.
-12
-18-
11
V*/
4-
£nr!
5
^/1
Ki/ t?j
V
*
iili
m 1 m
fl
O)
fe_
p
\i
P?
3
11
a
•d
M
en
p
P
p
p
o
u
’-V
a
(M j fp
ul
_. .. .. x
-dr
m
at
ČO
ll
O-
in
l*4
i
<\i X
KI
=1
cu
P
m
P
P-
J
Ul
£
P
i -<■
•o
•H
O
P