Lokális optimalizáció

1. Lokális optimalizáció • Feladat:f(x)lokális minimumának meghatározása • 0. Adott egy kezdeti pont:x0 • Jelöljünk ki egy új xi pontot, ahol (lehetőleg) f (xi ) ≤ f (xi-1 ) • Vizsgáljuk meg a leállási kritériumot: • Ha teljesül, akkor előre a 3. pontba • Ha nem, akkor vissza az 1. pontba • Vége

2. Lokális optimalizáció • Amire figyelni kell : • A kezdőpont kijelölésétől függ a végeredmény • (ha egyáltalán lesz) • Az egyes módszerek konvergencia tulajdonságai eltérőek • A nem megfelelő leállási kritérium következménye : • Rossz eredmény / végtelen számítás

3. Lokális optimalizáció • A módszerek csoportosítása: • „Direkt” vagy „derivált mentes” módszerek : csak f (x) kell • „Gradiens alapú” módszerek : f ’(x) illetve f ’’(x) is kell • A módszer kiválasztásánál felmerülő kérdések: • Deriválható-e egyáltalán f (x) ? • Mekkora f (x) kiszámításának a költsége ? • Mekkora f ’(x) kiszámításának a kötsége ?

4. Lokális optimalizáció • Direkt módszerek : • Intervallum felezés • Nelder-Mead szimplex módszer ( NEM LP! ) • Gradiens alapú módszerek : • Legmeredekebb ereszkedés módszere

5. Lokális optimalizáció Nelder-Mead szimplex módszer 2D • Szimplex n dimenzióban: n+1 csúcspontból álló poligon. • Minden csúcsra kiszámítjuk f (x)-et. • Műveletek: • Tükrözés • Zsugorítás • Nyújtás

6. Lokális optimalizáció Nelder-Mead szimplex módszer • Jellemzők: • Rendkívül stabil • Olcsó f (x) esetén jó • Rosszul konvergál

7. Lokális optimalizáció Intervallum felezés („Golden Section Search”) Rokon : Függvény zérushelyeinek keresése intervallum felezéssel Különbség : A minimum 2 helyett csak 3 ponttal képezhető le Zérushely : f (x1 ) × f (x2 ) < 0 Minimum : f (x2 ) < f (x1 ) és f (x2 ) < f (x3 )

8. Lokális optimalizáció • A középső pontok f (x) értékei alapján jelöljük ki az új pontot • Mégpedig a kisebb fv. értékű középső és a szélső pont közé • A túloldali szélső pont kiesik • Az új pont kijelölésénél az aranymetszés szabályai szerint osztjuk ketté az intervallumot x0 x1 x2 x3 x2’ – x1’ = G · (x3 – x2) G ≈ 0.381966 x0’ x1’ x3’ x2’

9. Lokális optimalizáció • Legmeredekebb ereszkedés („Steepest descent”) • Csak deriválható függvények esetén alkalmazható • Számtalan módszer alapját adja • Valamelyik rokonát célszerű alkalmazni

10. Lokális optimalizáció Gradiens függvény Kezdőpont

11. Lokális optimalizáció Az f (x1, x2) függvény értéke a metszet mentén az α lépés-nagyság függvényében Metszet a legnagyobb lejtés d = - g (x1, x2) irányában

12. Lokális optimalizáció Ha a minimumot választottuk, ott az irány menti derivált 0, ezért a következő lépés merőleges lesz A legkisebb f (x1, x2)-t eredményező lépés után

13. Lokális optimalizáció Cikk-cakk a lokális minimumig

14. Lokális optimalizáció • Lehetőségek • Hibrid módszerek létrehozása • Lendület ill. adaptivitás bevezetése a konvergencia gyorsítására • Kezdeti pont intelligens kiválasztása • Leállási feltételek fejlesztése • …