Hluboké učení (11504)
Základní informace | |||||||||
| Univerzita Karlova | |||||||||
| Hluboké učení | |||||||||
| běží přijímací řízení | |||||||||
| Prezenční | |||||||||
| angličtina | |||||||||
| Hluboké učení | |||||||||
| Cílem kurzu je poskytnout ucelený úvod do hlubokých neuronových sítí, které dosahují vynikající úspěšnosti při zpracování a generování obrázků, textu a řeči. Kurz se zaměřuje jak na teorii od základů po nejnovější pokroky, tak na praktické implementace v jazyce Python a frameworku PyTorch (studenti implementují a trénují hluboké neuronové sítě provádějící klasifikaci obrazu, segmentaci obrazu, detekci objektů, morfologické značkování, lemmatizaci, rozpoznávání řeči, porozumění čtenému textu a generování obrázků). Jsou vyžadovány základní znalosti algebry a jazyka Python, ale není nutná předchozí znalost umělých neuronových sítí; výhodou je základní znalost strojového učení. Studenti pracují buď samostatně, nebo v malých týmech na týdenních úkolech, včetně soutěžních úloh, kde je cílem dosáhnout co nejlepších výsledků z odevzdaných řešení. |
|||||||||
| Kurz pokrývá následující techniky a úlohy: • Dopředné hluboké neuronové sítě (základní architektury a aktivační funkce; optimalizační algoritmy) • Regularizace hlubokých modelů (L2, dropout, label smoothing, batch normalization) • Konvoluční neuronové sítě (klasifikace obrazu, segmentace obrazu, rozpoznání objektů v obrazu, dotrénování předtrénovaných modelů) • Rekurentní neuronové sítě (LSTM, GRU, seq2seq) • Transformer architektura • Zpracování přirozeného jazyka (distribuovaná a kontextualizovaná reprezentace slov, BERT, morfologické značkování, rozpoznávání pojmenovaných entit, lemmatizace, strojový překlad) • Hluboké generativní modely (variační autoenkodéry, generativní protivnické sítě, difúzní modely, generování obrazu a řeči) • Strukturovaná predikce (CTC a rozpoznání řeči, seq2seq) • Úvod do hlubokého zpětnovazebního učení |
|||||||||
| Uchazeči by měli mít základní znalosti programování v jazyce Python a základní znalosti algebry (matice, vektory) a matematické analýzy (co je derivace). Tyto znalosti je ale případně možné získat v průběhu kurzu samostudiem. Předchozí znalosti strojového učení nejsou nutné. | |||||||||
| Znalosti: Student popíše a vysvětlí základní stavební kameny hlubokých neuronových sítí (FFN, RNN, CNN, Transformer), základní architektury (zpracování a generování obrazu, textu, řeči), optimalizační algoritmy (SGD, Adam) a regularizační techniky (dropout, batch norm, …). Student charakterizuje základní frameworky a hardwarové akcelerátory pro implementaci hlubokých sítí. Dovednosti: Student implementuje výše uvedené základní architektury ve frameworku pro implementaci hlubokých neuronových sítí. Student dokáže k trénování využít HW akcelerátor. Student porozumí odbornému vědeckému článku z oblasti hlubokého učení. Kompetence: Student navrhne způsob řešení nové (jemu dosud neznámé) úlohy z oblasti zpracování obrazu, textu, řeči a sám ho naimplementuje a vyhodnotí. |
|||||||||
| https://ufal.mff.cuni.cz/courses/npfl138 | |||||||||
|
|||||||||
Akreditace | |||||||||
| 11000 - Univerzita Karlova | |||||||||
| 249/24 | |||||||||
| 29.5.2024 | |||||||||
| 29.5.2034 | |||||||||
Podrobné informace | |||||||||
| 8 | |||||||||
| 210 (v hodinách celkem) | |||||||||
| délka kurzu je včetně očekávané domácí práce (to je přesně z žádosti o akreditaci; vychází pak 26.25 hodin práce na jeden kredit; tato hodnota musí být v rozsahu 25-30). Samotná přímá výuka činí necelých 50 šedesátiminutých hodin (65 vyučovacích hodin o délce 45 minut), zbytek je samostatná práce. | |||||||||
| 1 | |||||||||
| Vývoj a analýzy softwaru a aplikací (0613) | |||||||||
| Hodnocený úkol Písemná zkouška |
|||||||||
|
|||||||||
| 17.2.2025 | |||||||||
| 29.5.2034 | |||||||||
 |
|||||||||
 |
|||||||||
| Institucionální mechanismus zajišťování kvality | |||||||||
| Zajišťuje RVH UK v rámci procesu vnitřního zajišťování kvality | |||||||||
| Ensured by CU’s IEB as a part of the internal quality assurance process | |||||||||
Termín kurzu a místo konání | |||||||||
| 18.02.2025 | |||||||||
| 30.9.2025 | |||||||||
| samotné přednášky končí 22. května 2025, úkoly je možné vypracovávat do 30. června 2025, zkoušku je možné složit do konce akademického roku | |||||||||
| 2024/2025 | |||||||||
| letní semestr | |||||||||
| Malostranské náměstí 25 , 118 00, Praha | |||||||||
| S5 / S3 / S9 (jsou dvě paralelní přednášky, dvě paralelní cvičení a nepovinná konzultace; vše je vždy z jedné z uvedených učeben) | |||||||||
Informace pro uchazeče | |||||||||
|
|||||||||
| 5000 Kč / kurz | |||||||||
| 03.02.2025 | |||||||||
| 09.03.2025 | |||||||||
| Bc. Magdaléna Kokešová | |||||||||
| magdalena.kokesova@matfyz.cuni.cz | |||||||||
| 95155 1630 | |||||||||
|
|||||||||
Informace k zápisu | |||||||||
|
|||||||||