Introduction of modern computational intelligence methods (evolutionary algorithms, machine learning and
related fields) and their application to solving of real problems. Basic knowledge of machine learning, neural
networks and evolutionary algorithms is required.
Last update: T_KTI (05.05.2015)
Představení moderních metod z oblasti výpočetní inteligence (evoluční algoritmy, strojové učení a příbuzné obory) a
jejich aplikace na řešení reálných problémů. Předpokládá se znalost základů strojového učení, neuronových sítí a
evolučních algoritmů.
Aim of the course -
Last update: T_KTI (05.05.2015)
Teach advanced methods combining evolutionary algorithms, neural networks, and other computational intelligence methods. Deepen the knowledge from the introductory courses on neural networks, machine learning, data mining and evolutionary algorithms. The seminar will be focused on working with real data and the cooperation of various methods while solving difficult problems from the areas of optimization, learning and modelling.
Last update: T_KTI (05.05.2015)
Naučit pokročilé metody kombinující přístupy evolučních algoritmů, neuronových sítí a dalších metod výpočetní inteligence. Rozšířit poznatky ze základních přednášek o neuronových sítích, strojovém učení, dobývání znalostí a evolučních algoritmú. Důraz bude kladen na práci s reálnými daty a na využití kombinace různých přístupů při řešení problémů z oblastí optimalizace, učení a modelování.
Course completion requirements -
Last update: Mgr. Martin Pilát, Ph.D. (13.10.2017)
In order to pass the course, the student must obtain the credit, which is given for a presentation of group project created as part of the seminar.
Last update: Mgr. Martin Pilát, Ph.D. (13.10.2017)
Podmínkou pro zakončení předmětu je získání zápočtu, který je udělován za prezentaci skupinových projektů vypracovaných na semináři.
Literature -
Last update: T_KTI (05.05.2015)
[1] Trevor Hastie, Robert Tibshirani, Jerome Friedman. The elements of statistical learning. Vol. 2, no. 1., Springer, 2009.
[2] Alex A. Freitas. Data Mining and Knowledge Discovery with Evolutionary Algorithms, Springer, 2002.
[3] Yoshua Bengio, Ian J. Goodfellow, and Aaron Courville. Deep Learning. MIT Press, 2015 (in print), [online: http://www.iro.umontreal.ca/~bengioy/dlbook]
[4] Charu C. Aggarwal: Data Mining - The Textbook. Springer 2015, ISBN 978-3-319-14141-1
[5] Thomas Bäck, Christophe Foussette, and Peter Krause. Contemporary Evolution Strategies. Springer Science & Business Media, 2013.
[6] P. Brazdil, C. Giraud Carrier, C. Soares, R. Vilalta: Metalearning. Springer, 2009.
Last update: T_KTI (05.05.2015)
[1] Trevor Hastie, Robert Tibshirani, Jerome Friedman. The elements of statistical learning. Vol. 2, no. 1., Springer, 2009.
[2] Alex A. Freitas. Data Mining and Knowledge Discovery with Evolutionary Algorithms, Springer, 2002.
[3] Yoshua Bengio, Ian J. Goodfellow, and Aaron Courville. Deep Learning. MIT Press, 2015 (in print), [online: http://www.iro.umontreal.ca/~bengioy/dlbook]
[4] Charu C. Aggarwal: Data Mining - The Textbook. Springer 2015, ISBN 978-3-319-14141-1
[5] Thomas Bäck, Christophe Foussette, and Peter Krause. Contemporary Evolution Strategies. Springer Science & Business Media, 2013.
[6] P. Brazdil, C. Giraud Carrier, C. Soares, R. Vilalta: Metalearning. Springer, 2009.
Syllabus -
Last update: T_KTI (05.05.2015)
The subject aims at deepening of the knowledge from the following areas with the focus on their application to real data from different competitions (e.g. Kaggle, conference competitions, …).
Combination of evolutionary algorithms and machine learning - surrogate modelling; hybrid models, relation between local and global search, memetic algorithms; evolution and metalearning
Advanced models of neural networks - Echo State Network, Long Short Term Memory Network, autoencoders, convolution networks, Boltzmann machines, deep networks
Last update: T_KTI (05.05.2015)
Předmět se zaměří na prohloubení znalostí z následujících oblastí s důrazem na jejich aplikace na reálná data, např. z různých aktuálních soutěží (Kaggle, konferenční soutěže, apod.)
Kombinace evolučních algoritmů a strojového učení - náhradní modelování; hybridní modely, vztah lokálního a globálního prohledávání, memetické algoritmy; využití evoluce v metaučení
Pokročilé metody evolučních algoritmů - CMA-ES, práce s omezujícími podmínkami
Jádrové metody - support vector machines (klasifikace, regrese), jádrové neuronové sítě (Radial basis function networks, kernel networks)
Semi-supervised learning - samoučení, generativní modely, Semi-Supervised Support Vector Machines, algoritmy založené na grafech (graph-based methods)
Pokročilé modely neuronových sítí - Echo State Network, Long Short Term Memory Network, autoenkodéry, konvoluční sítě, restricted boltzmann machines, deep networks