Simulované žíhanie

1. Simulované žíhanie 6. Prednáška

2. Úvod • Metóda simulovaného žíhania patrí medzi tie stochastické optimalizačné algoritmy, ktoré majú základy vo fyzike. • Algoritmus simulovaného žíhania je založený na analógii medzi žíhaním tuhých telies a optimalizačným problémom.

3. Úvod • Znázornenie fyzikálnej realizácie žíhania. Teleso sa vloží do pece, ktorá je vyhriata na vysokú teplotu Tmax. Teplota sa programovacím zariadením postupne znižuje na teplotu Tmin. Týmto spôsobom sa odstránia štruktúralne defekty vyskytujúce sa v telese.

4. Teoretické základy • Predpokladajme, že proces ochladzovania je dostatočne pomalý, potom pre každú teplotu T žíhané teleso je v tepelnej rovnováhe, ktorá je podpísaná Boltzmannovským rozdelením pravdepodobnosti toho, že pri teplote T je telesov v stave i s energiou Ei

5. Teoretické základy • Kde k je Boltzmannova konštanta a Q(T) je normalizačný faktor nazývaný partičná funkcia, kde sumácia obsahuje všetky stavy i telesa.

6. Teoretické základy • Nech teplota T klesá, potom Boltzmannovská distribúcia uprednosňuje stavy s menšou energiou. V prípade, že teplota sa blíži nule, stav s minimálnou energiou má nenulovú (jednotkovú) pravdepodobnosť. • Ak je ochladzovanie telesa príliš rýchle (telesu nie je umožnené získať tepelnú rovnováhu pre každú teplotu T), defekty v telese môžu zamrznúť za vzniku metastabilných štruktúr, ktoré sú vzdialené od mriežkovej štruktúry s najnižšou energiou.

7. Simulácia fyzikálnej evolúcie • Metropolis a spol. Navrhli Monte Carlo metódu, ktorá simuluje evolúciu systému tak, že generuje postupnosť stavov systému nasledujúcim spôsobom: • Nech je daný aktuálny stav systému (určený polohou častíc telesa), potom malá náhodná porucha je generovaná tak, že častice sú „jemne“ posunuté.

8. Simulácia fyzikálnej evolúcie • Ak rozdiel E = Eperturbed – Ecurrentmedzi porušeným a aktuálnym stavom je negatívny ( Eperturbed  Ecurrent ) potom proces pokračuje s novým porušeným stavom. V opačnom prípade, ak E ≥ 0 , pravdepodobnosť akceptovania porušeného stavu • Toto pravidlo akceptovania porušeného stavu sa nazýva Metropolisovo kritérium.

9. Priebeh Metropolisovho kritéria Pre rôzne teploty T, kde f je fixná funkčná hodnota (f=4) a f’ je nezávislá premenná braná z intervalu [0,10]. Pre klesajúce hodnoty teploty T a pre f’ > f , pravdepodobnosť Pr0 ak T0.

10. Metropolisov algoritmus • Stav systému nech je určený stavovou premennou x(vo všeobecnosti vektor obsahujúci mnoho nezávislých reálnych premenných) a energiou f(x). • Proces poruchy stavu x na iný stav x’ je formálne reprezentovaný stochastickým operátorom,x’ = Opertur(x). Stochastický chrakter tohto operátora spočíva v náhodnej zmene stav x na x’.

11. Implementácia Metropolisovho algoritmu ProcedureMetropolis_algorithm Begin k:= 0; x : = xini; while k < kmaxdo begin k : = k+1; x’ = : Opertur(x); Pr : = min ( 1, exp ( - ( f ( x’) - ( x ) ) / T )); if random < Pr then x : = x’; end; xout : = x; end;

12. Metropolisov algoritmus • Procedúra je inicializovaná tak, že počiatočný stav sa položí rovný vstupnému stavu xini, opakuje sa kmax krát (toto číslo musí byť dostatočne veľké k tomu, aby sa dosiahla tepelná rovnováha), symbol Opertur modifikuje aktuálny stav x na x’. Akceptovanie nového stavu je riešené pomocou Metropolisovho kritéria realizovaného pre teplotu T. Po skončení Metropolisovho algoritmu výstupný stav xout je posledný stav x.

13. Simulované žíhanie - algoritmus procedure Simulated_annealing begin xini : randomly generated; T := Tmax while T>Tmindo begin Metropolis_algorithm(xini,xout,kmax,T) xini:=xout T: = a*T end; xopt:=xout; end;

14. Simulované žíhanie • Implementácia simulovaného žíhania, vstupné parametre sú Tmin, Tmax , kmax, α, výstupný parameter je xopt . Algoritmus je inicializovaný náhodným generovaním počiatočného stavu xini a maximálnou teplotou Tmax. While – cyklus sa opakuje tak dlho, pokiaľ platí T > Tmin, teplota T sa znižuje pomocou parametra α vzťahom T : = α * T. Po ukončení while-cyklu výsledný stav xout je považovaný za výsledné riešenie označené xopt .

15. Simulované žíhanie • Jeden zo základných problémov simulovaného žíhania je špecifikácia teplôt Tmin, Tmaxa pravidlá pre znižovanie teploty T. • V literatúre boli navrhnuté rôzne schémy, ako určiť tieto parametre simulovaného žíhania. • V praktických aplikáciách sa dobre osvedčil najjednoduchší prístup pre ochladzovanie (multiplikatívny prístup parametra α) a počiatočná teplota zvolená tak, aby približne 50% porušených stavov bolo akceptovaných Metropolisovým algoritmom.

16. Vzťah k štatistickej fyzike • Základný predpoklad štatistickej fyziky je, že fyzika mnohočasticových systémov je kompatibilná so štatistickými súbormi a že časové stredné hodnoty mechanických veličín systému v rámci mikroskopickej rovnováhy sú rovné odpovedajúcim stredným hodnotám nad súbormi. • V štatistickej fyzike boli definované vhodné veličiny popisujúce fyzikálne vlastnosti systému, a tiež bolo ukázané, ako počítať tieto veličiny pomocou rovnovážneho rozdelenia stavov systému. • Ukazuje sa, že v tepelnej rovnováhe rozdelenie pravdepodobnosti je určené Boltzmannovým rozdelením. Vzťah medzi štatistickou fyzijou a simulovaným žíhaním môže byť študovaný pomocou formalizmu štatistickej fyziky.

17. Vzťah k štatistickej fyzike • Uvažujme funkciu f definovanú nad diskrétnou a konečnou doménou D • Rozdelenie pravdepodobnosti stavu x(t.j. premennej x z D), ktoré je výsledkom Metropolisovho algoritmu realizovaného pre teplotu T, je určené vzťahmi

18. Vzťah k štatistickej fyzike • Pre naše ďalšie úvahy bude vhodné poznať hustotu funkčných hodnôt y=f(x) , ktorá je určená takto • Kde D(y)  D je množina obsahujúca všetky xD pre ktoré platí y=f(x)

19. Vzťah k štatistickej fyzike „Makroskopické veličiny“ • Stredná hodnota funkcie f(x) • Stredná hodnota funkcie f2(x)

20. 3. Disperzia funkcie f(x) 4. Entropia 4. Špecifické telo

21. Hustota funkčných hodnôt vyhovuje týmto asymptotickým podmienkam • Kde yopt=f(xopt) je optimálna hodnota funkcie f(x) odpovedajúca globálnemu minimu. Druhý asymptotický vzťah je veľmi dôležitý pre metódu simulovaného žíhania; podľa tejto formula ak teplota T sa blíži k nule (cezrovnovážne stavy), potom pravdepodobnosť výskytu stavu odpovedajúcemu globálnemu minimu je jednotková.

22. Modelové výpočty • Nech zobrazenie f:D={0,1}n→AR+,s definičným oborom obsahujúcim binárne vektory dĺžky N, je definované takto • kde |x|=∑xije L1 norma vektora x={0,1}N, 0≤|x|≤N. Parameter p je ohraničený podmienkou 0≤p≤N. Pre p<N táto funkcia má dve minimá, prvé minimum je f(x)=1, pre |x|=0, druhé (globálne) minimum je f(x) =0, pre |x|=N. Parameter p určuje stupeň deceptívnosti(falošnosti tejto funkcie)

23. Modelové výpočty

24. Modelové výpočty • Operátor Operturb z Metropolisovho algoritmu transformujúci binárny vektor x={0,1}Nna iný binárny vektor x’={0,1}Nje v tomto prípade realizovaný pomocou operátora mutácie Omut(terminológia je prevzatá z genetického algoritmu) • K tomu aby sme mohli vypočítať makroskopické veličiny musíme poznať kardinality množín D(y)pre funkciu. Pre N=10 a pre p=4 a p=7, sú kardinality nasledovné: • p=4: • p=7:

25. Modelové výpočty • Priebehy makroskopických veličín vypočítaných teoreticky pomocou formúl pre parametre p=1,4,7,9(diagramy A-E).

26. Modelové výpočty

27. Paralelné simulované žíhanie • Táto verzia simulovaného žíhania bola s úspechom použitá pre riešenie komplikovaných kombinatoriálnych grafovo teoretických problémov, kde štandardná verzia simulovaného žíhania nie je schopné poskytnúť globálne riešenie. • Základná idea paralelného simulovaného žíhania spočíva v súčasnom aplikovaní simulovaného žíhania na množinu P stavov x,x’,x’’,… ktoré sú „synchronizované“ tak, že Metropolisvocé agloritmy bežiace nad nimi majú rovnakú teplotu. • K interakcii stavov je použitá operácia kríženia.

28. Paralelné simulované žíhanie • Schematické znázornenie paralelnéh simulovaného žíhania. Na jednotlivé stavy (znázornená čiernymi blokmi) sú aplikované nezávislé Metropolisove algoritmy s rovnakou teplotou T. Šípky znázorňujú, že stavy medzi sebou interagujú s malou pravdepodobnosťou Pcross.