Cvičení 6. Neo-hebiánské učení (outstar)
Program (Outstar.exe) a data (Outstar.dat) jsou k dispozici na IS MU (studijní materiály předmětu Hybridní systémy strojového učení). Program a data si uložte do svého pracovního adresáře.
Hebbovo učení, inspirované učením zvířat (podmíněné reflexy—Pavlovovi psi), představuje alternativní učící metodu, vhodnou pro některé specifické úlohy. Bližší popis funkce viz přednášky (např. pokles aktivity, zapomínání naučeného, apod. jako parametry odlišné pro běžné sítě, např. back-propagation). Účelem cvičení je prozkoumat funkčnost výpočtového modelu outstar (modelujícího lépe biologické systémy) a vliv parametrů na výsledek učení.
a)  Spusťte simulátor OUTSTAR.EXE (ovládání je v principu stejné jako u BACKPROP.EXE ve cvičení č. 1 apod.). V menu File zvolte Set Input a vyberte vstupní data OUTSTAR.DAT (soubor obsahuje externí vzor písmene A složený z 'ľ ).
b) V menu Define zvolte Define network (definice sítě) a použijte implicitní (default) parametry rozměrů sítě načtené ze vstupních dat (jednoduchá data jsou v ASCII kódu stejně jako ve cvičení č. 1 apod.). Zkontrolujte stavové informace v levém spodním rohu obrazovky. Použijte v menu Set nabídku Set Network Parameters a nastavte parametry učení (viz přednášky) následovně:
.4=0,9 (útlum aktivity), T—0,25 (práh), x=l, _řM),05 (zapomínání), G=0,20 (učící konstanta).
Vmenu Run nastavte Run Mode na External Only. Nastavte Training Off. Inicializujte síť pomocí Initialize z menu Run. Tím se nastaví náhodně aktivity a váhy neuronu instar. Nyní proveďte j eden učící krok pomocí Start z menu a zadejte 1 na otázku how many ticks (kolik kroků). Zaznamenejte si, co jste pozorovali. Jakmile je krok (tick) ukončen, simulátor se zastaví. V menu Run nastavte Mode na Activity Decay (vymizení aktivity) a spusťte simulátor opět ojeden krok. Sledujte, co se děje. Až se simulátor zastaví, změňte Run Mode na Outstar Only a znovu spusťte simulátor na dva kroky. Zaznamenejte si, k čemu došlo.
c) V menu Run nastavte Mode na Activity Decay a spusťte simulátor na dva kroky. Nastavte Training On v menu Run a Mode na Apply both Outstar and External Simulations. Spusťte simulátor na dva kroky a zaznamenejte si výsledek.
d) Nastavte Mode na Activity Decay a spusťte simulátor nejméně na dva kroky. Nastavte Mode na Apply the Outstar Only a spusťte simulátor na dva kroky. Je síť natrénovaná?
e) Nastavte Mode na Outstar and External a nechte simulátor běžet až do doby, kdy je natrénován. Pokud usoudíte, že natrénován je, otestujte jej pomocí předchozího kroku d). Pokud natrénován není, pokračujte v tréninku. Kolik trén ovacích kroků (ticks) bylo k natrénování zapotřebí?
f)  Inicializujte síť, abyste vymazali natrénování a opakujte experimenty počínaje krokem b) pro různé hodnoty učící konstanty Ge[0...1]. Jaká je závislost rychlosti učení (celkovém počtu kroků ticks) na Gl
g) Inicializujte síť a pokuste se ji natrénovat pro nulovou hodnotu prahu (threshold) T. K čemu došlo?
h) Inicializujte síť a pokuste se ji natrénovat pro nulovou hodnotu konstanty zapomínání (forgetting) F. K čemu došlo?
i) Inicializujte síť a pokuste se ji natrénovat pro nulovou hodnotu útlumu aktivity (activity decay) A. K čemu došlo?
j) Inicializujte síť a pokuste se ji natrénovat pro stejnou hodnotu útlumu aktivity A konstanty zapomínání F. K čemu došlo? Jaký je vhodný vztah mezi A ar? (Zkuste nastavit A na menší hodnotu než má F a zkusit trénovat síť.)
k) V menu Set nastavte šum (noise) na 20-25%. Nezapomeňte v tomtéž menu zapnout šum (Noise On). Nastavte parametry sítě na rozumné hodnoty (zjištěné z předchozích experimentů). Inicializujte síť a natrénujte ji. Naučila se síť reagovat správně i v přítomnosti šumu? Jak šum ovlivnil učení? (Budete asi potřebovat několik experimentálních běhů.) Zlepšila či zhoršila přítomnost šumu schopnost učení?