Využití umělých neuronových sítí k urychlení evolučních algoritmů

• Název práce v češtině: Využití umělých neuronových sítí k urychlení evolučních algoritmů
• Název v anglickém jazyce: Utilizing artificial neural networks to accelerate evolutionary algorithms
• Klíčová slova: optimalizace, evoluční algoritmus, neuronová síť, náhradní model, regrese
• Klíčová slova anglicky: optimization, evolutional algorithm, neural network, surrogate model, regression
• Akademický rok vypsání: 2008/2009
• Typ práce: diplomová práce
• Jazyk práce: čeština
• Ústav: Katedra softwarového inženýrství (32-KSI)
• Vedoucí / školitel: prof. RNDr. Ing. Martin Holeňa, CSc.
• Řešitel: MUDr. Mgr. Antonín Wimberský - zadáno a potvrzeno stud. odd.
• Datum přihlášení: 27.10.2008
• Datum zadání: 27.10.2008
• Datum a čas obhajoby: 05.09.2011 10:30
• Datum odevzdání elektronické podoby: 05.08.2011
• Datum odevzdání tištěné podoby: 05.08.2011
• Datum proběhlé obhajoby: 05.09.2011
• Oponenti: Mgr. Jakub Gemrot, Ph.D.

Zásady pro vypracování

Student se nejdříve seznámí s principy optimalizace pomocí evolučních algoritmů a se základy umělých neuronových sítí. Bude přitom věnovat pozornost i urychlení evoluční optimalizace empirických funkcí pomocí regresního modelu cílové funkce. S využitím prostudované literatury analyzuje možnosti použití některých typů umělých neuronových sítí pro konstrukci takových regresních modelů. Několik nejslibnějších z nich rozpracuje až do implementovatelné podoby a zahrne je do prototypové implementace. Na závěr porovná implementovaná řešení na několika testovacích funkcích pro evoluční algoritmy, jakož i na alespoň jedné databázi hodnot empirické cílové funkce z reálné aplikace, kterou dostane od vedoucího práce.

Seznam odborné literatury

* Genetic Algorithm and Direct Search Toolbox, version 2. The MathWorks, Inc.: Natick, 2004.
* Y. Jin, A comprehensive survey of fitness approximation in evolutionary computation. Soft Compuing, 9 (2005) 3?12.
* Y. Jin, M. Hüsken, M. Olhofer, B. Sendhoff. Neural networks for fitness approximation in evolutionary optimization. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 281?306.
* Neural Network Toolbox User's Guide, version 4. The MathWorks, Inc.: Natick, 2005.
* Y.S. Ong, P.B. Nair, A.J. Keane, K.W. Wong, Surrogate-assisted evolutionary optimization frameworks for high-fidelity engineering design problems. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 307?331.
* H. Ulmer, F. Streichert, A. Zell, Model assisted evolution strategies. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 333?355.

Předběžná náplň práce

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, objevování nejzajímvějších informací v dostupných datech či další typy optimalizačních úloh, při nichž lze hodnoty cílové funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami cílové funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu cílové funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty cílové funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty cílové funkce používají empirickou cílovou funcki jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. K nejslibnějším regresním modelům patří některé typy umělých neuronových sítí, které mají tzv. univerzální aproximační schopnost, zejména vícevrstvé perceptrony a RBF sítě. Výzkum využitelnosti takových typů umělých neuronových sítí k urychlení evoluční optimalizace empirických funkcí je však teprve na samém počátku. Příspěvkem k němu by měla být i navrhovaná diplomová práce.