Link: OLE-Object-Data ALTERNATIVNÍ POSTUPY K OLS / MNČ Kromě odhadové metody OLS lze uplatnit v podstatě tyto alternativní postupy a) metodu maximální věrohodnosti (pro aplikaci nutno specifikovat hustotu rozdělení náhodných složek) b) metodu momentů (využívá se znalosti empirických momentů modelových veličin a porovnání s vypočtenými teoretickými hodnotami) c) metodu nejmenších absolutních odchylek (LAD, LAR, LAE, MAD) - uplatňuje se kritérium minimalizace součtu absolutních hodnot odchylek pozorovaných od vyrovnaných hodnot. metoda LAD v jednorovnicovém modelu kritérium LAD je v jistém směru přirozenější než OLS : původní formulace snad již Galton a Edgeworth (1888), podstatně nižší frekvence jejího uplatnění vyplývá z toho, že odhad parametrů nelze zde vyjádřit v explicitním tvaru, takže je nutno uplatnit iterační postupy. minimalizační kritérium: (1) Úlohou je nalézt hodnoty strukturních parametrů, při kterých je výraz (1) minimalizován. Součet absolutních hodnot reziduí lze psát jako výraz/kritérium odpovídající vážené metodě nejmenších čtverců WLS, kde za váhy bereme převrácené hodnoty absolutních odchylek, tedy (2) , kde , . Minimalizace takto vede k nasazení vážené metody nejmenších čtverců WLS, přičemž váhy jsou dány převrácenými hodnotami reziduálních hodnot. Výraz pro odhadnuté parametry je dán jako (3) s maticí definovanou jako Protože na počátku neznáme potřebné váhy (jmenovitě v nich obsažené reziduální hodnoty), musíme si je nějakým vhodným způsobem opatřit. Nabízí se k tomu metoda nejmenších čtverců, kterou na počátku uplatníme k získání počátečních reziduálních hodnot. Postup vedoucí k získání LAD-odhadů parametrů je tedy aplikací vážené metody nejmenších čtverců WLS, při které postupně měníme (zpřesňujeme váhy) , přičemž jejich počáteční hodnoty jsou . Dále postupujeme iteračně: krok 0 Spočteme vektor parametrů obyčejnou metodou nejmenších čtverců. Určíme vektor vyrovnaných hodnoty a odvodíme rezidua . Převrácené hodnoty jeho složek v následujícím užijeme k definici vah . kroky r = 1,2,,, Aplikací vážené metody nejmenších čtverců s užitím vzorců , získáme (první odhad) vektoru parametrů a následně vektor vyrovnaných hodnot . Opět odvodíme vektor reziduí , který dosadíme do (2) a pokračujeme váženou metodou nejmenších čtverců dle (3) . Máme Postup opakujeme do té doby, než se hodnoty parametrů přiblíží na dostatečně těsnou vzdálenost, např. na nebo.Zpravidla bereme za míru odchýlení nebo Ray C. Fair (a nejen on) zjistil, že při tomto postupu stačí nanejvýš 4 iterace, aby se zpřesňované odhady již téměř nelišily. Obvykle dokonce již rozdíly mezi odhady získanými v 2. a 3. iteraci jsou velmi malé[1]. Problém: Dost často se stává, že se velmi brzy některá (j-tá) vyrovnaná hodnota těsně přiblíží pozorované, takže příslušné j-té reziduum v s-tém kroku bude malinké a váha jemu odpovídající veličině bude naopak obrovská (to je nežádoucí, protože se setře vliv jiných reziduálních hodnot.) Řešení: Pokud se stane, že v některé iteraci bude hodnota některého rezidua nulová, pak se takové malinké reziduum nahradí nějakou malou hodnotou , např. . Uvedený postup nazval R.C.Fair metodou WLS-I. 2) Variantní postup může spočívat v tom, že se aplikuje kritérium OLS pro malá rezidua, zatímco LAD pro velká rezidua. Tzn., že váhy jsou vzaty jako zatímco Doporučení pro volbu konstanty k je , kde je medián v (seřazených) absolutních hodnotách reziduí. Jako počáteční hodnoty se doporučuje volit získané hodnoty z procedury WLS-I. Konstanta se přepočítává po každé iteraci znova.[2] Postup se nazývá metoda WLS-II. 3) Ještě další postup představuje užití vah ve tvaru , jestliže v opačném případě Hodnota se volí jako , přičemž bylo voleno jako 6 a opět jako . Hodnota byla proměnlivá od iterace k iteraci. Postup byl nazván metoda WLS-III. Pokud byly posuzovány predikce, pak tato metoda dávala z uvedené trojice nejlepší výsledky. Přestože výpočet pomocí metody LAD nepředstavuje žádný větší problém, rozdělení těchto odhadových funkcí nejsou dostatečně známa. Jsou známy podmínky, za kterých jsou konzistentní a nestranné, ale nejsou známy ani přesné tvary výrazů pro směrodatné odchylky parametrů (takže nelze přesně konstruovat intervaly spolehlivosti*/ R.Blattberg a T.Sargent [1971] ukázali, že jestliže se náhodné složky řídí druhým Laplaceovým zákonem (dvoustranné exponenciální rozdělení) s hustotou , pro kterou , Pak je maximalizace věrohodnostní funkce totožná s minimalizací součtu absolutních odchylek a a nasazená LAD- odhadová funkce je ML- odhadová funkce (pro toto rozdělení) Ověření: V případě nezávislých dvojexponenciálně rozdělených náhodných složek lze jejich sdruženou hustotu , resp. věrohodnostní funkci zapsat jako , přičemž po logaritmování dostáváme . Vzhledem k tomu, že první člen tohoto (záporného) součtu nezávisí na , je maximalizace věrohodnostní funkce rovnocenná s minimalizací. *. Dvoustranné exponenciální rozdělení je ve srovnání s normálním u vrcholu daleko více špičaté a má užší konce (ve větší vzdálenostech od střední hodnoty) ------------------------------- [1] Výsledky lze nalézt v : Taylor,L.D,: Estimation by Minimizing the Sum of Absolute Errors. In Zarembka: Frontiers in Econometrics. [2] Není důvod očekávat, že se seřazení reziduálních hodnot udrží od iterace k iteraci stejné.