ML odhad (J, a £
Ďalšie pomocné tvrdenia
Lema 1*. Platí
(9m'x
cbc'Ax (9x
2Ax.
Dôkaz. Urobte ako cvičenie.
Nech B je regulárna n x n matica, ktorej prvky sú diferencovatelnými funkciami premennej t, čiže {B}i j =     = bi j {ť), i,j = 1,2, ...,n,
—— je n x n matica, ktorej prvky su —^-.
at ot
i,j = 1,2, ...,n
ddetB  . . ddetB 1 „
je n x n matica, ktorej prvky su ——-, i, j = 1,2, ...,n,
dB
diag~B
/{B}i,i 0
0 {B}2,2
V ó
0 0
{B}nj„ /
Značenie je rovnaké ako v kapitolke 8. "Pomocné tvrdenia" textu "Plánovanie regresného experimentu".
Lema 2*. Pre symetrickú regulárnu n x n maticu B a symetrickú maticu C platí OtrB^C = _2B-iCB-i + diaff(B-iCB-i).
dB
Dôkaz. Platí
dtrB^C
-írCB-^B-1
írCB
(1 0 0 ...x
0 0 0
0 0 0
Vo o o j
B
-tr
/l 0 0 0 0 0 0   0 0
Vo o o
-{B^CB-1}!!,
dtrB^C ^ , dB „ ,
—--= —ŕrCB ——B-
B ^CB
2
= -írCB"1
/O 1 O
1 O o
0 0 0
Vo o o j
B    = -tr
í°	i	0
1	0	0
0	0	0
Vo	0	0
B _1CB 1
= -{B-^B-1^! - {B-^B-1^! = 2{B-1CB-1}12.
Uplne analogicky dostávame
dtrB^C ^ i 9B„ ,
—--= —trCB ——B =
a pre i =/= j
teda
dtrB^C dba
= {B-1CB-1}ll = -írCB^^-B-1 = -2{B-1CB-1}
dtrB^C
=-2B"1CB"1 + díaff(B"1CB"1). □
Lema 3*. Pre symetrickú n x n maticu B platí
2B - diagB = O^B = 0.
Dôkaz. Spravte ako cvičenie.
Združenú funkciu hustoty rozdelenia náhodného výberu X„p i = (X'1;X^)' uvažovanú pri danom x (realizácia X G 1ZP) ako funkciu vektorového parametra 6 G lZq nazývame funkciou vierohodnosti
n
L(x;0) = n/(xi;0),
i=i
resp. jej logaritmus, teda
n
Z(x,0) =/(xi,x2,...,xn,0) =lnL(x;0) = 53ln/(xi;0).
i=i
Vierohodnostnými rovnicami rozumieme systém
E      d0k       = °>   k = l,2,...,q.
i=i
Majme náhodný výber X = (X'1; X2,XJJ', kde Xj ~ Np(fi, S), S je regulárna. Potom
L(x;/x,S) = |27rSrte"lSľ=i(X! -m)'S_1(xí
3
n 1 "
/(x; (i, E) = ln L(x; /x, E) =       ln |2ttE| - - ^(x, - /x/S^x, - /x).
Piati
(xj —/x)'S 1(xi — /x) = (xj — x + x — /x)'E 1(xi — x + x — /x) =
= (xí - x)'^-1 (xí - x) + (x - /x)'ST1 (x - /x) + +2(xj -x)'S_1(x- /x),
cize
^(xí - m)'S_1(xí - /x) = Xľ(x* - ^'S-^x,- - x) + n(x - /x/s^x - /x)+
1 = 1 i=l n n
+2 ^(x, - x)'S_1(x - /x) = tr ^(x, - x/XT1 (xt - x) + n (x - /x)'S_1(x - /x)
= ír
S-M^Xi-xííXi-x)'
(A) lebo
. 1=1
= ntr ■
+ n(x-/x)'S i(x-/x) +
|s-lg(reoi) j + n(x - ^'S-^X - /X),
S(reo') = i.y"(Xi-x)(xi-x)' a 2V(x,-x)řS-1(x-^ =
i=i i=i
= 2 XÍS_1(Ä - M) - "x'Sr^x - /x) j = 0.
Dostávame
(B) /(x; /x, S) = -| ln |2ttS| -\tr {e^S^} _ \tr {S^x - /x)(x - /x)'} ln2^ - ^ ln(dfŕ(e)) - |ír {iT1 [s(reaí) - (x - /x)(x - /x)'] } .
T
Teda vierohodnostné rovnice sú
di_
d /x
M=£(r-ea!)íS=š(r-ea!)
rl=/2(reaOjS = S(^ea!i
Ak n ^ p + 1, pomocou Lemy 1* dostávame z prvého systému vierohodnostných rovníc
-2(S(reaí))"1x + 2(S(reaí))"V(rea° = 0,
čiže teda
/x = X.
Ďalej budeme pokračovat bez komplikovaného značenia a využijeme ostatné lemy. Dostávame z druhého systému vierohodnostných rovníc
~?Ä iln(det™ +tr ts_1(s + (x - M)(x - /x)')] } = o,
2 {S"1 - S-^S + (x - /x)(x - /x)')^1} --díaff {XT1 - S_1(S + (x - /x)(x - /x)')*]-1} = 0,
XT1 - S-^S + (x - /x)(x - /x)')£    = 0.
Výsledné
S = S.
Chceme ukázat, že pre každú rectlizcLciu X]_,     xn je
Z(x1;     x„; x, S<reoi>) - Z(x1;x„; /x, E) ^ 0. Budeme ešte potřebovat niekolko pomocných tvrdení.
Lema 4*. Čisla Ai,Ap sw korene rovnice |Sí(rea0 — AS| = 0 práve vtady, ak sú koreňmi rovnice |E~5,Sí(rea05]-§ — A7| = 0.
Dôkaz, vyplýva z implikácií
|5(reoi) _ AS| = Q ^ |Sí(s-5sr(rea')s-5 _ A7)S^| = 0
^ |S3||s-5S(reoZ)S-5 - A/||£'| = 0 ^> \Y,-^S(real)Y,-^ - \I\ = 0,
prčom navyše platí (podlá Lemy 8.9 v texte "Plánovanie regresného experimentu"), že
p
ír(S-5 S(real)T,-i) = J2X*>    |5Hs(reoZ)£~*| = X1...Xp.
=i
5
Lema 5*. Pre x > O je lnx + 1 — x 5; 0.
Dôkaz. : Pre funkciu f (x) = ex^1 — x platí, že /(O) = -,    f (í) = 0. Pre x > O je
e
minimum tejto funkcie v tom čísle x, pre ktoré f (x) = 0. Teda f (x) = ex~1 — l = 0, čiže x = 1. Pretože /"(l) = e2:_1|2;=i = 1 > 0, v bode x = 1 funkcia /(x) nadobúda minimum. A minimálna hodnota funkcie je f (í) = 0. Pre x > 0 preto ex~1 — x ^ 0,   e11'-1 ^ x,   x — 1 ^ lnx a konečne ln x + 1 — x íí 0.
Pomocou (A), (B), Lemy 4* a Lemy 5* dostávame pre každé fi e W a S pozitivně deŕinitnú symetrickú p x p maticu:
Z(x1;     x„; x, S<reoi>) - Z(x1;x„; /x, E) =
= -|ln(deíS(reaí)) - 2írs(reo')_1S(reoZ) - ^(x-x)'S(rea'rl(x-x)+
+ ^ln(deíS) + ^írS-^í"0') + ^(x - /x/XT1 (x - /x) ^
>       In ŕŽeíS(rea') - ^ + -írS^S^) = -    2       cfeíE        2 2
2     deťĽUeťĽ^      2 2 = -|lndeí(S-ÍS(reo')S-*) - y + |írS-ÍS(reo')S-* =
= -- ln(A1...Ap) ~y + 2 (al + - + ap) =
77,
= --{lnAi + ... +lnAp + 1 + ... + 1 - Ai - ... - Ap} = = --{(lnAi + 1 - Ai) + ... + (lnAp + 1 - Ap)} ^ 0.