Deep Learning for Symbolic Regression

• Název práce v češtině: Hluboké učení pro symbolickou regresi
• Název v anglickém jazyce: Deep Learning for Symbolic Regression
• Klíčová slova: hluboké učení|symbolická regrese|transformer
• Klíčová slova anglicky: deep learning|symbolic regression|transformer
• Akademický rok vypsání: 2021/2022
• Typ práce: diplomová práce
• Jazyk práce: angličtina
• Ústav: Katedra teoretické informatiky a matematické logiky (32-KTIML)
• Vedoucí / školitel: Mgr. Martin Pilát, Ph.D.
• Řešitel: skrytý - zadáno a potvrzeno stud. odd.
• Datum přihlášení: 16.02.2022
• Datum zadání: 16.02.2022
• Datum potvrzení stud. oddělením: 08.03.2022
• Datum a čas obhajoby: 15.06.2022 09:00
• Datum odevzdání elektronické podoby: 05.05.2022
• Datum odevzdání tištěné podoby: 16.05.2022
• Datum proběhlé obhajoby: 15.06.2022
• Oponenti: Mgr. Roman Neruda, CSc.

Zásady pro vypracování

Úkolem symbolické regrese je najít na základě zadaných vstupů a výstupů předpis funkce, která tyto body generuje. Tradičně se pro řešení tohoto problému používá genetické programování, ale v posledních letech se rozvíjejí i metody založené na hlubokém učení. Jejich výhodou je, že jsou schopné odhadnout předpis funkce jen na základě vstupních dat, bez potřeby další optimalizace. Cílem práce je právě vytvoření takové hluboké neuronové sítě.

Student nastuduje dostupnou literaturu týkající se problému symbolické regrese. Na základě získaných informací potom navrhne vlastní algoritmus založený na hlubokém učení, který bude tento problém schopný řešit, a porovná ho s existujícími algoritmy.

Seznam odborné literatury

[1] Goodfellow, Ian, Yoshua Bengio, and Aaron Courville. _Deep learning_. MIT press, 2016.
[2] Valipour, Mojtaba, Bowen You, Maysum Panju, and Ali Ghodsi. "SymbolicGPT: A Generative Transformer Model for Symbolic Regression." arXiv preprint arXiv:2106.14131 (2021).
[3] Petersen, Brenden K., Mikel Landajuela Larma, Terrell N. Mundhenk, Claudio Prata Santiago, Soo Kyung Kim, and Joanne Taery Kim. "Deep symbolic regression: Recovering mathematical expressions from data via risk-seeking policy gradients." In International Conference on Learning Representations. 2021.
[4] Biggio, Luca, Tommaso Bendinelli, Alexander Neitz, Aurelien Lucchi, and Giambattista Parascandolo. "Neural Symbolic Regression that Scales." In International Conference on Machine Learning, pp. 936-945. PMLR, 2021.