kukacos#151
Pusztán gradiensek alapján nem lehet globális optimumot találni. Ha szétnézek, és lokálisan látom, hogy arra emelkedik az út, akkor azon elindulva nincs rá garancia, hogy a Mount Everestre jutok, valószínűbb, hogy csak a Kékesre. Ráadásul a gradiens nincs "listázva" egy keresési problémában sem. Ha az lenne, kár lenne keresgélni, csak integrálni kellene a függvényt. Az én példámnak az felel meg, amikor a sík Alföldön emelek valahol egy vakondtúrást, neked meg ezt kell megtalálnod. Méregetheted a lokális gradienst ahogy akarod, azon kívül, hogy *minden* pontban megméred, azaz random végigkeresed az egész Alföldet, nem tehetsz túl sokat.
Megnéztem a belinkelt oldalt is. Hát, az ott leírtak alapján ez a HRS sima random mintavétel + lokális optimumkeresés, megspékelve azzal, hogy egyszerre csak egy 2D vetületben keresgéli a lokális optimumot, aztán cserél dimenziót. Ez annyira alap technika, hogy még talán szerzője sincs, mint az összeadásnak. Természetesen a globális optimumra nézve semmilyen garanciája nincs. Az, hogy ebben a konkrét problémában viszonylag gyorsan megtalálta, az a mázliján és a kedvező problémán múlt. Nem is írja, hogy hogy generálta ezt a konkrét példát, amit bemutat, pedig épp az lenne lényeges: valahogy a kapcsolós példából (ahol a 6 kapcsoló 2-4 állapotáról beszél) átcsúszik a szépen differenciálható végső ábrákra, amelyek nyilván nem a kapcsolós példához tartoznak. A kapcsolós esetben egyetlen pont lenne kék (az az alrendezés, ahol kigyullad a lámpa), míg az összes többi szürke (a lámpa nem ég). Történetesen ez épp egybeesik az én vakondtúrásos példámmal és nem lehet szépen megoldani, akármilyen okos is legyen egy algoritmus. Az algoritmusa a lokális gradienskeresésnél simán lehalna: minden pont - a vakondtúráson kívül - lokális optimum, szóval az egész teret random végig kell keresnie. Másképp: ha random beállítod a kapcsolókat és a lámpa nem ég, honnan tudhatnád, melyik kapcsolót kell átkapcsolni, hogy közelebb juss az "égő lámpa" állapothoz?
Van még pár érdekes dolog az oldalon, pl. "folytonos oksági térben várható, hogy az okozatok is folytonosan képződnek le (Aki tudja miért van ez így, jelentkezzen!)" - régi trükk triviálisnak beállítani egy könnyen kritizálható állítást, pedig ez szimplán nem igaz. Szakadékhoz közelítve folytonosan változik a lábaim helyzete, de a szakadékot elérve a következmények viszont radikálisan megváltoznak.