Koeficient determinace



   základní definice jak pro centrované, tak pro necentrované veličiny

   

                                                               ,  kde

   

   SSR je regresní součet čtverců       

   SST je celkový součet čtverců        

   SSE je reziduální součet čtverců        

   přičemž           ;        a dále platí

   

   Poznámka:   u  SSE není třeba odečítat nulový průměr, neboť víme, že 

   ----------------------------------------------------------------------------------------------------------------------------------------

   Dále víme, že platí  , resp.  tj. , kde

   Dále uvažujme centrované proměnné  a , které jsou vyjádřeny jako odchylky od svých  průměrů :

   

   Vyjádříme-li  SSE výrazem  , pak platí

   

                     

   

                          

   

   protože   (a)  

   

   a dále     (b)  

   Poznámka : vztahy (a) a (b) platí jak pro centrované, tak pro necentrované veličiny ..

   

   

   Ověření vztahu SST=SSE+SSR obecně pro necentrované veličiny:



   SST  =

   

   SSE  =

   

   SSR  =

   

   SSE + SSR =    

   

     = 

   

        (  = SST ),  neboť

   

       , protože

   

        a dále

                                   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   

   Korigovaný (rektifikovaný) koeficient determinace:

   

                                             

   

   se užívá pro porovnání výstižnosti dvou (nebo více) specifikací regresních rovnic se stejnou
   vysvětlovanou proměnnou a různým počtem vysvětlujících proměnných (a nejvhodněji tehdy,
   jsou-li aspoň některé z vysvětlujících proměnných shodné).

   Motiv pro vyvození  :

   Vyjděme z vyjádření

                                                  , 

   které představuje jistý „kompenzační“ efekt mezi „nevystiženými variabilitami“ závisle
   proměnné při různých specifikacích vysvětlujících proměnných (při přechodu od 1 vysvětlující
   proměnné ke  proměnným).  Dělením  máme:

                                                       neboli

   

                                                      , což je „definiční tvar 2 “.

   

   Tvrzení:              Platí   s rovností toliko pro  nebo pro  .

   

   Ověření: 

   Okamžitě je vidět, že od  odečítáme součin dvou nezáporných členů, z nichž první je nulový jen
   tehdy, když  ,  a druhý tehdy, když .

   

   Vztah obou koeficientů:

   

   Pro velká  se oba tyto koeficienty determinace liší jen velmi málo, Pokud je ale počet stupňů
   volnosti  malý, bude o hodně menší než  a může nabýt i záporné hodnoty. (pak ho pokládáme za
   nulový, shodně s případem, kdy je kladný, ale hodnotou velmi malý) .

   

   Koeficient determinace  nemůže hodnotou nikdy klesnout s přidáním další vysvětlující proměnné
   do regresní rovnice. Je tomu tak zřejmě proto, že přidání jakékoli (i nevhodné) vysvětlující
   proměnné nemůže snížit stupeň korelace mezi závisle proměnnou a nejlépe ji vystihující
   lineární kombinaci z vysvětlujících proměnných.

   Korigovaný koeficient determinace  může s přidáním další vysvětlující proměnné do regresní
   rovnice klesnout. Bude tomu tak tehdy, když přidané vysvětlující proměnné způsobí menší pokles
   hodnoty , než kolik je třeba ke kompenzaci rostoucího podílu .