Algoritmy pro CSP (pokračování) Prohledávání + konzistence Splňování podmínek prohledáváním prostoru řešení ■ podmínky jsou užívány pasivně jako test ■ přiřazuji hodnoty proměnných a zkouším co se stane ■ vestavěný prohledávací algoritmus Prologu: backtracking, triviální: generuj & testuj ■ úplná metoda (nalezneme řešení nebo dokážeme jeho neexistenci) ■ zbytečně pomalé (exponenciální): procházím i „evidentně" špatná ohodnocení Konzistenční (propagační) techniky ■ umožňují odstranění nekonzistentních hodnot z domény proměnných ■ neúplná metoda (v doméně zůstanou ještě nekonzistentní hodnoty) ■ relativně rychlé (polynomiální) Používá se kombinace obou metod ■ postupné přiřazování hodnot proměnným ■ po přiřazení hodnoty odstranění nekonzistentních hodnot konzistenčními technikami Hana Rudová, Logické programování I, 9. května 201 2 Algoritmy pro CSP Prohledávání do hloubky Základní prohledávací algoritmus pro problémy splňování podmínek Prohledávání stavového prostoru do hloubky (depth first search) Dvě fáze prohledávání s navracením ■ dopředná fáze: proměnné jsou postupně vybírány, rozšiřuje se částečné řešení přiřazením konzistení hodnoty (pokud existuje) další proměnné ■ po vybrání hodnoty testujeme konzistenci ■ zpětná fáze: pokud neexistuje konzistentní hodnota pro aktuální proměnnou, algoritmus se vrací k předchozí přiřazené hodnotě Proměnné dělíme na ■ minulé - proměnné, které už byly vybrány (a mají přiřazenu hodnotu) ■ aktuální - proměnná, která je právě vybrána a je jí přiřazována hodnota ■ budoucí - proměnné, které budou vybrány v budoucnosti Hana Rudová, Logické programování I, 9. května 2012 3 Algoritmy pro CSP Základní algoritmus prohledávání do hloubky ■ Pro jednoduchost proměnné očíslujeme a ohodnocujeme je v daném pořadí ■ Na začátku voláno jako 1 abel i ng (C, 1) proceduře labeling(G,a) if a > |uzly(G)| then return uzly(G) for V x e Da do if consistent(G,a) then % consistent(G,a) je nahrazeno FC(G,a), LA(G,a R := Tabel ing(G,a +1) if R 4s fail then return R return fail end labeling Po přiřazení všech proměnných vrátíme jejich ohodnocení ■ Procedury consistent uvedeme pouze pro binární podmínky Hana Rudová, Logické programování I, 9. května 2012 4 Algoritmy pro CSP Backtracking (BT) Príklad: backtracking Backtracking ověřuje v každém kroku konzistenci podmínek vedoucích z minulých proměnných do aktuální proměnné Backtracking tedy zajišťuje konzistenci podmínek ■ na všech minulých proměnných ■ na podmínkách mezi minulými proměnnými a aktuální proměnnou proceduře BT(G,a) Q:={(Ví, V a) e hranyCO , i < a] % hrany vedoucí z minulých proměnných do aktuální Consistent := true while Q neni prázdná a Consistent do vyber a smaž libovolnou hranu (VJt,Vm) z Q Consistent := not reviseiV^, Vm) % pokud vyradíme prvek, bude doména prázdná return Consistent end BT Hana Rudová, Logické programování I, 9. května 2012 5 Algoritmy pro CSP Kontrola dopředu (FC - forward checking) FCje rozšíření backtrackingu FC navíc zajišťuje konzistenci mezi aktuální proměnnou a budoucími proměnnými, které jsou s ní spojeny dosud nesplněnými podmínkami procedure FC(G,a) Q:={(Ví, V a) e h rany (C) , í > a] % přidání hran z budoucích do aktuální proměnné Consistent := true while Q neni prázdná a Consistent do vyber a smaž libovolnou hranu (VJt,Vm) z Q if revi se((VJt, Vm)) then Consistent := (|Djt|>0) % vyprázdnění domény znamená nekonzistenci return Consistent end FC Hrany z minulých proměnných do aktuální proměnné není nutno testovat ■ Omezení: Vu V2, V3 in 1... 3, V1# = 3xV3 ■ Stavový prostor: 4 ■ červené čtverečky: chybný pokus o instanciaci, řešení neexistuje ■ nevyplněná kolečka: nalezeno řešení ■ černá kolečka: vnitřní uzel, máme pouze částečné přiřazení Hana Rudová, Logické programování I, 9. května 201 2 6 Příklad: kontrola dopředu ■ Omezení: Vlt V2, V3 in 1... 3, c:V1#=3x V3 ■ Stavový prostor: C => fail C => fail Hana Rudová, Logické programování I, 9. května 2012 7 Algoritmy pro CSP Hana Rudová, Logické programování I, 9. května 201 2 Pohled dopředu (LA - looking aheacl) LAje rozšíření FC, navíc ověřuje konzistenci hran mezi budoucími proměnnými % začínáme s hranami do a proceduře LA(G,a) Q := {(VuVa) e h rany (C), í > a] Consistent := true while Q neni prázdná a Consistent do vyber a smaž libovolnou hranu (Vk,Vm) z Q if revi seC(Vk, Vm)) then Q := Q u {(VuVk)\(VuVk) e hrany(G), í + k, í + m, í > a] Consistent := (\Dk\ > 0) return Consistent end LA ■ Hrany z minulých proměnných do aktuální proměnné opět netestujeme ■ Tato LA procedura je založena naAC-3, lze použít i jiné AC algoritmy LA udržuje hranovou konzistenci: protože ale LA(G,a) používá AC-3, musíme zajistit iniciální konzistenci pomocí AC-3 ještě před startem prohledávání Příklad: pohled dopředu (pomocí AC-3) Omezení: V1.y2.V3 in 1...4, cl:V1#>V2, c2 : V2# = 3 x V3 Stavový prostor (spouští se iniciální konzistence se před startem prohledávání) ^ d => V1 in 2..4 V2in 1..3 C2 => V2=3 V3= 1 d => V1= 4 Ví 41 V2 3, Vo 1j v3 o Hana Rudová, Logické programování I, 9. května 2012 Algoritmy pro CSP Hana Rudová, Logické programování I, 9. května 201 2 Algoritmy pro CSP Přehled algoritmů Cvičení proměnné bt Backtracking (BT) kontroluje v kroku a podmínky c(Vi,Vfl),...,c(Vfl-i,Vfl) z minulých proměnných do aktuální proměnné Kontrola dopředu (FC) kontroluje v kroku a podmínky \^ c(V«+i,V«),...,c(V„,Vfl) z budoucích proměnných do aktuální proměnné Pohled dopředu (LA) kontroluje v kroku a podmínky ^ /I Vi(a < l < n), Vfe(a < fe 1 0. Implementace Prologu 2. Ukažte, jak je dosaženo hranové konzistence v následujícím příkladu: domain([X,Y,Z],l ,5]), X #< Y, Z#= Y+l . Literatura: ■ Matýska L, Toman D.: Implementační techniky Prologu, Informační systémy, (1 990), 21-59. http://www.i cs.muni.cz/people/matyska/vyuka/1 p/l p.html Hana Rudová, Logické programování I, 9. května 2012 13 Algoritmy pro CSP Opakování: základní pojmy ■ Konečná množina klauzulí Hlava :- Tělo tvoří program P. ■ Hlava je literál ■ Tělo je (eventuálně prázdná) konjunkce literálů Ti,... Ta, a > 0 ■ Literál je tvořen m-árním predikátovým symbolem (m/p) a m termy (argumenty) ■ Term je konstanta, proměnná nebo složený term. ■ Složený term s n termy na místě argumentů ■ Dotaz (cíl) je neprázdná množina literálů. Hana Rudová, Logické programování I, 9. května 2012 15 Implementace Prologu Interpretace Deklarativní sémantika: Hlava platí, platí-li jednotlivé literály těla. Procedurální (imperativní) sémantika: Entry: Hlava:: { call Ti call Ta } Volání procedury s názvem Hlava uspěje, pokud uspěje volání všech procedur (literálů) v těle. Procedurální sémantika = podklad pro implementaci Hana Rudová, Logické programování I, 9. května 2012 16 Implementace Prologu Abstraktní interpret Abstraktní interpret - pokračování Vstup: Logický program P a dotaz C. 1. Inicializuj množinu cílů S literály z dotazu C; S:=C 2. while ( S != empty ) do 3. Vyber AeS a dále vyber klauzuli A' : -Bi, . . . , B„ (n > 0) z programu P takovou, že 3cr : Aer = A' cr; cr je nejobecnější unifikátor. Pokud neexistuje A' nebo cr, ukonči cyklus. 4. Nahraď A v S cíli Bi až B„. 5. Aplikuj cr na C a S. 6. end while 7. Pokud S==empty, pak výpočet úspešne skončil a výstupem je C se všemi aplikovanými substitucemi. Pokud S!=empty, výpočet končí neúspěchem. Hana Rudová, Logické programování I, 9. května 2012 Implementace Prologu Nedeterminismus interpetu 1. Selekční pravidlo: výběr cíle A z množiny cílů S ■ neovlivňuje výrazně výsledek chování interpretu 2. Způsob prohledávání stromu výpočtu: výběr klauzule A' z programu P ■ je velmi důležitý, všechny klauzule totiž nevedou k úspěšnému řešení Vztah k úplnosti: 1. Selekční pravidlo neovlivňuje úplnost ■ možno zvolit libovolné v rámci SLD rezoluce 2. Prohledávání stromu výpočtu do šířky nebo do hloubky „Prozření" - automatický výběr správné klauzule ■ vlastnost abstraktního interpretu, kterou ale reálné interprety nemají Hana Rudová, Logické programování I, 9. května 2012 Implementace Prologu Kroky (3) až (5) představují redukci (logickou inferenci) cíle A. Počet redukcí za sekundu (LIPS) == indikátor výkonu implementace Věta Existuje-li instance C dotazu C, odvoditelná z programu P v konečném počtu kroků, pak bude tímto interpretem nalezena. Hana Rudová, Logické programování I, 9. května 201 2 Implementace Prologu Prohledávání do šířky 1. Vybereme všechny klauzule Ar, které je možno unifikovat s literálem A ■ nechť je těchto klauzulí q 2. Vytvoříme q kopií množiny S 3. V každé kopii redukujeme A jednou z klauzulí Ar. ■ aplikujeme příslušný nejobecnější unifikátor 4. V následujících krocích redukujeme všechny množiny Sí současně. 5. Výpočet ukončíme úspěchem, pokud se alespoň jedna z množin Sí stane prázdnou. ■ Ekvivalence s abstraktnímu interpretem ■ pokud jeden interpret neuspěje, pak neuspěje i druhý ■ pokud jeden interpret uspěje, pak uspěje i druhý Hana Rudová, Logické programování I, 9. května 201 2 Implementace Prologu Prohledávání do hloubky 1. Vybereme všechny klauzule A' i, které je možno unifikovat s literálem A. 2. Všechny tyto klauzule zapíšeme na zásobník. 3. Redukci provedeme s klauzulí na vrcholu zásobníku. 4. Pokud v nějakém kroku nenajdeme vhodnou klauzuli A', vrátíme se k předchozímu stavu (tedy anulujeme aplikace posledního unifikátoru a) a vybereme ze zásobníku další klauzuli. 5. Pokud je zásobník prázdný, končí výpočet neúspěchem. 6. Pokud naopak zredukujeme všechny literály v S, výpočet končí úspěchem. ■ Není úplné, tj. nemusí najít všechna řešení ■ Nižší paměťová náročnost než prohledávání do šířky ■ Používá se v Prologu Hana Rudová, Logické programování I, 9. května 2012 21 Implementace Prologu Reprezentace objektů ■ Beztypový jazyk ■ Kontrola „typů" za běhu výpočtu ■ Informace o struktuře součástí objektu Typy objektů ■ Primitivní objekty: ■ konstanta ■ číslo ■ volná proměnná ■ odkaz (reference) ■ Složené (strukturované) objekty: ■ struktura ■ seznam Hana Rudová, Logické programování I, 9. května 201 2 22 Implementace Prologu Reprezentace objektů II Příznaky (tags): Objekt Příznak volná proměnná FREE konstanta CONST celé číslo INT odkaz REF složený term FUNCT Obsah adresovatelného slova: hodnota a příznak. Primitivní objekty uloženy přímo ve slově Složené objekty ■ jsou instance termu ve zdrojovém textu, tzv. zdrojového termu ■ zdrojový term bez proměnných => každá instanciace ekvivalentní zdrojovému termu ■ zdrojový term s proměnnými => dvě instance se mohou lišit aktuálními hodnotami proměnných, jedinečnost zajišťuje kopírování struktur nebo sdílení struktur Hana Rudová, Logické programování I, 9. května 2012 Implementace Prologu Příklad: a(b(X),c(X,Y),d), Kopírování struktur FUNCT a/3 REF REF CONST d FUNCT c/2 REF FREE Y FUNCT b/1 FREE X Hana Rudová, Logické programování I, 9. května 201 2 Implementace Prologu Kopírování struktur II Term F s aritou A reprezentován A+l slovy: ■ funktor a arita v prvním slově ■ 2. slovo nese první argument (resp. odkaz najeho hodnotu) ■ ■ A+l slovo nese hodnotu A-tého argumentu Reprezentace vychází z orientovaných acyklických grafů: a/3 c/2 b/l X Vykopírována každá instance => kopírování struktur Termy ukládány na globální zásobník Hana Rudová, Logické programování I, 9. května 2012 Implementace Prologu Sdílení struktur II Příklad: a(b(X),c(X,Y),d) reprezentuje < a(b($l),c($l,$2),d) ; [FREE, FREE] > kde symbolem $i označujeme i-tou proměnnou. Implementace: < &kostra_termu; &rámec > (& vrací adresu objektu) Všechny instance sdílí společnou kostru_termu => sdílení struktur Sdílení struktur Vychází z myšlenky, že při reprezentaci je třeba řešit přítomnost proměnných Instance termu < kostra_termu; rámec > ■ kostra_termu je zdrojový term s očíslovanými proměnnými ■ rámec je vektor aktuálních hodnot těchto proměnných ■ i-tá položka nese hodnotu i-té proměnné v původním termu Hana Rudová, Logické programování I, 9. května 201 2 Implementace Prologu Srovnání: příklad Naivní srovnání: sdílení paměťově méně náročné Platí ale pouze pro rozsáhlé termy přítomné ve zdrojovém kódu Postupná tvorba termů: A = a(K,L,M), K = b(X), L = c(X,Y), M = d ■ Sdílení termů: kostra_a M:d kostra_b ^ kostra_c X —i Hana Rudová, Logické programování I, 9. května 2012 27 Implementace Prologu Hana Rudová, Logické programování I, 9. května 201 2 28 Implementace Prologu Srovnání: příklad - pokračování Kopírování struktur: A = a(K,L,M), K = b(X), L = c(X,Y), M = d FUNCT a/3 REF - REF - CONST d FUNCT c/2 - REF FREE Y FUNCT b/1 FREE X tj. identické jako přímé vytvoření termu a(b(X) , c(X,Y) ,d) Hana Rudová, Logické programování I, 9. května 2012 29 Implementace Prologu Řízení výpočtu Dopředný výpočet ■ po úspěchu (úspěšná redukce) ■ jednotlivá volání procedur skončí úspěchem ■ klasické volání rekurzivních procedur Zpětný výpočet (backtracking) ■ po neúspěchu vyhodnocení literálu (neúspěšná redukce) ■ nepodaří se unifikace aktuálních a formálních parametrů hlavy ■ návrat do bodu, kde zůstala nevyzkoušená alternativa výpočtu ■ je nutná obnova původních hodnot jednotlivých proměnných ■ po nalezení místa s dosud nevyzkoušenou klauzulí pokračuje dále dopředný výpočet Srovnání II ■ Složitost algoritmů pro přístup k jednotlivým argumentům ■ sdílení struktur: nutná víceúrovňová nepřímá adresace ■ kopírování struktur: bez problémů ■ jednodušší algoritmy usnadňují i optimalizace ■ Lokalita přístupů do paměti ■ sdílení struktur: přístupy rozptýleny po paměti ■ kopírování struktur: lokalizované přístupy ■ při stránkování paměti - rozptýlení vyžaduje přístup k více stránkám ■ Z praktického hlediska neexistuje mezi těmito přístupy zásadní rozdíl Hana Rudová, Logické programování I, 9. května 2012 30 Implementace Prologu Aktivační záznam ■ Volání (=aktivace) procedury ■ Aktivace sdílí společný kód, liší se obsahem aktivačního záznamu ■ Aktivační záznam uložen na lokálním zásobníku ■ Dopředný výpočet ■ stav výpočtu v okamžiku volání procedury ■ aktuální parametry ■ lokální proměnné ■ pomocné proměnné ('a la registry) ■ Zpětný výpočet (backtracking) ■ hodnoty parametrů v okamžiku zavolání procedury ■ následující klauzule pro zpracování při neúspěchu Hana Rudová, Logické programování I, 9. května 2012 31 Implementace Prologu Hana Rudová, Logické programování I, 9. května 201 2 32 Implementace Prologu Aktivační záznam a roll-back ■ Neúspěšná klauzule mohla nainstanciovat nelokální proměnné ■ a(X) : - X = b(c,Y), Y = d. ?- W = b(Z,e), a(W) . (viz instanciace Z) ■ Při návratu je třeba obnovit (roll-back) původní hodnoty proměnných ■ Využijeme vlastností logických proměnných ■ instanciovat lze pouze volnou proměnnou ■ jakmile proměnná získá hodnotu, nelze ji změnit jinak než návratem výpočtu => původní hodnoty všech proměnných odpovídají volné proměnné ■ Stopa (trail): zásobník s adresami instanciovaných proměnných ■ ukazatel na aktuální vrchol zásobníku uchováván v aktivačním záznamu ■ při neúspěchu jsou hodnoty proměnných na stopě v úseku mezi aktuálním a uloženým vrcholem zásobníku změněny na „volná" ■ Globální zásobník: pro uložení složených termů ■ ukazatel na aktuální vrchol zásobníku uchováván v aktivačním záznamu ■ při neúspěchu vrchol zásobníku snížen podle uschované hodnoty v aktivačním záznamu Hana Rudová, Logické programování I, 9. května 2012 33 Implementace Prologu Okolí a bod volby Aktivační záznam úspěšně ukončené procedury nelze odstranit z lokálního zásobníku => rozdělení aktivačního záznamu: ■ okolí (environment) - informace nutné pro dopředný běh programu ■ bod volby (choice point) - informace nezbytné pro zotavení po neúspěchu ■ ukládány na lokální zásobník ■ samostatně provázány (odkaz na předchozí okolí resp. bod volby) Důsledky: ■ samostatná práce s každou částí aktivačního záznamu (optimalizace) ■ alokace pouze okolí pro deterministické procedury ■ možnost odstranění okolí po úspěšném vykonání (i nedeterministické) procedury (pokud okolí následuje po bodu volby dané procedury) ■ pokud je okolí na vrcholu zásobníku Hana Rudová, Logické programování I, 9. května 2012 34 Implementace Prologu Rez ■ Prostředek pro ovlivnění běhu výpočtu programátorem ■ a(X) :- b(X), !, c(X). a(3). b(l). b(2). c(l). c(2). ■ Řez: neovlivňuje dopředný výpočet, má vliv pouze na zpětný výpočet ■ Odstranění alternativních větví výpočtu => odstranění odpovídajících bodů volby ■ tj. odstranění bodů volby mezi současným vrcholem zásobníku a bodem volby procedury, která řez vyvolala (včetně bodu volby procedury s řezem) => změna ukazatele na „nejmladší" bod volby => Vytváření deterministických procedur => Optimalizace využití zásobníku Hana Rudová, Logické programování I, 9. května 2012 35 Implementace Prologu