Information theory - NMMB210
|
|
||
Last update: doc. Mgr. Petr Kaplický, Ph.D. (30.05.2019)
|
|
||
Last update: doc. Mgr. Štěpán Holub, Ph.D. (18.05.2021)
Zápočet se uděluje za účast na cvičeních a za zápočtovou písemku. Zápočet je předpokladem připuštění ke zkoušce. Předmět je zakončen ústní zkouškou. |
|
||
Last update: doc. Mgr. Petr Kaplický, Ph.D. (30.05.2019)
Thomas M. Cover, Joy A. Thomas: Elements of Information Theory, Wiley 2006. |
|
||
Last update: doc. Mgr. Petr Kaplický, Ph.D. (30.05.2019)
Entropie a její vlastnosti: maximalizace entropie, podmíněná entropie, vzájemná informace, data processing theorem, Fanovo lemma. Kódování zdroje: Huffmanovo kódování, typické posloupnosti, střední délka zprávy. Kapacita kanálu a Shannonovy věty: obecný případ, binární symetrický kanál, gaussovský kanál. Skrytý Markovův model. Viterbiho a Fanův dekódovací algoritmus. |