Linear Regression - NMSA407

• Title: Lineární regrese
• Form of teaching: lecture+practicals
• Guaranteed by: Department of Probability and Mathematical Statistics (32-KPMS)
• Faculty: Faculty of Mathematics and Physics
• Actual: from 2023
• Duration in semesters: 1
• Semester: winter
• E-Credits: 8
• Hours per week, examination: winter s.:4/2, C+Ex [HT]
• Capacity: unlimited
• Maximum number of enrolled students: unlimited
• Min. number of students: unlimited
• 4EU+: no
• Virtual mobility / capacity: no
• State of the course: taught
• Language: English, Czech
• Teaching methods: full-time
• Additional information: https://www2.karlin.mff.cuni.cz/~kulich/vyuka/linreg/index.html
• Repeated enrollment: 2 / 2 / 2 / 2
• Guarantor: doc. Mgr. Michal Kulich, Ph.D.
• Teacher(s): doc. Mgr. Michal Kulich, Ph.D.; doc. Ing. Marek Omelka, Ph.D.
• Class: M Mgr. PMSE; M Mgr. PMSE > Povinné
• Classification: Mathematics > Probability and Statistics
• Is co-requisite for: NMST444
• Is pre-requisite for: NMST432, NMEK511, NMSA562, NMST434, NMST531, NMST431, NMST438, NMEK432, NMST511, NMST564, NMST412, NMST422, NMST424, NMEK450, NMST450, NMST436, NMFM404
• Is interchangeable with: NSTP195, NSTP194
• In complex pre-requisite: NMFP406
• Is complex co-requisite for: NMST545

Annotation

English

Linear regression model, also without classical assumptions (normality, constant variance, uncorrelated errors), simultaneous testing, residual analysis and regression diagnostics.

Last update: T_KPMS (02.05.2014)

Czech

Lineární regresní model, též bez splnění klasických předpokladů (normalita, konstantní rozptyl, nekorelované chyby), simultánní testování, reziduální analýza a regresní diagnostika.

Last update: T_KPMS (02.05.2014)

Aim of the course

English

To teach students how to model the dependence of the expected value of continuous random variables on both quantitative and qualitative variables.

Last update: T_KPMS (16.05.2013)

Czech

Naučit studenty modelovat závislost střední hodnoty spojitých náhodných veličin na kvantitativních i kvalitativních proměnných.

Last update: T_KPMS (16.05.2013)

Course completion requirements

English

The subject is finalized by a tutorial credit and an exam. Only the students who have obtained the tutorial credit can attempt to take the exam. The exam has two parts: written and oral.

Tutorial credit requirements:

1. Regular small assignments: A student needs to prepare acceptable solutions to at least 10 out of 12 tutorial class assignments. An assignment can be solved either during the corresponding tutorial class or the solution needs to be submitted within a pre-specified deadline.

2. Project: A student needs to submit a project satisfying the requirements given in the assignment. A corrected version of an unsatisfactory project can be resubmitted once.

Last update: Kulich Michal, doc. Mgr., Ph.D. (15.09.2026)

Czech

Předmět je zakončen zápočtem a zkouškou. Konání zkoušky je podmíněno předchozím získáním zápočtu. Zkouška je písemná a ústní.

Požadavky na zápočet:

1. Pravidelné úlohy: Student musí odevzdat přijatelná řešení alespoň 10 ze 12 zadaných úloh. Řešení je možné připravit během cvičení anebo je vypracovat jako samostatnou práci a odevzdat v předepsaném termínu.

2. Projekt: Je nutno odevzdat zápočtový projekt splňující požadavky zadání. Neuspokojivý projekt je možné jednou opravit.

Last update: Kulich Michal, doc. Mgr., Ph.D. (15.09.2026)

Literature

Základní
KHURI, A. I. Linear Model Methodology. Chapman & Hall/CRC: Boca Raton, 2010, xx+542 s. ISBN: 978-1-58488-481-1.

ZVÁRA, K. Regrese. Matfyzpress: Praha, 2008, 253 s. ISBN: 978-80-7378-041-8.

Doporučená doplňková
DRAPER, N. R., SMITH, H. Applied Regression Analysis, Third Edition. John Wiley & Sons: New York, 1998, xx+706 s. ISBN: 0-471-17082-8.

SEBER, G. A. F., LEE, A. J. Linear Regression Analysis, Second Edition. John Wiley 7 Sons: Hoboken, 2003, xvi+557 s. ISBN: 0-471-41540-5.

WEISBERG, S. Applied Linear Regression, Third Edition. John Wiley & Sons: Hoboken, 2005, xvi+310 s. ISBN: 0-471-66379-4.

ANDĚL, J. Základy matematické statistiky, druhé opravené vydání. Matfyzpress: Praha, 2007, 358 s. ISBN: 80-7378-001-1.

CIPRA, T. Finanční ekonometrie. Ekopress: Praha, 2008, 538 s. ISBN: 978-80-86929-43-9.

ZVÁRA, K. Regresní analýza. Academia: Praha, 1989, 245 s. ISBN: 80-200-0125-5.

Last update: T_KPMS (20.04.2016)

Teaching methods

English

This course requires personal presence, no distant teaching components will be available.

Last update: Kulich Michal, doc. Mgr., Ph.D. (03.09.2022)

Czech

Výuka předmětu probíhá výhradně prezenčním způsobem.

Last update: Kulich Michal, doc. Mgr., Ph.D. (03.09.2022)

Course assessment methods and requirements for successful completion, grading scheme

English

Exam is composed of two parts

• written part composed of theoretical assignments;

• oral part with questions corresponding to topics covered by lectures.

Problems assigned during exam are based on topics presented during lectures and also correspond to topics covered by exercise classes. Assigned problems correspond to the syllabus into extent covered by lectures.

Exam grade will be based on point evaluation of the written part and evaluation of the oral part.

Last update: Kulich Michal, doc. Mgr., Ph.D. (15.09.2026)

Czech

Zkouška sestává ze dvou částí

• písemná část sestávající z teoretických problémů;

• ústní část sestávající z otázek pokrývajících látku probíranou během přednášek.

Problémy zadané u zkoušky vycházejí z odpřednesené látky a současně odpovídají tomu, co bylo procvičováno na cvičení. Zadané problémy odpovídají sylabu předmětu v rozsahu, který byl prezentován na přednášce.

Známka ze zkoušky se stanoví na základě bodového ohodnocení písemné části a hodnocení výkonu u ústní části.

Last update: Kulich Michal, doc. Mgr., Ph.D. (15.09.2026)

Syllabus

English

1. Introduction - Simple linear regression

2. Linear regression model, least squares method

3. Properties of LS estimates

4. Statistical inference in LR model

5. Predictions

6. Model Checking and Diagnostic Methods (residuals)

7. Transformation of the response

8. Parametrization of a single covariate

9. Interactions

10. Analysis of variance (ANOVA) models

11. Multiple tests and simultaneous confidence intervals

12. Regression model with multiple covariates

13. Regression Models With Heteroskedastic Data (weighted least squares, sandwich estimation)

14. Sources of Bias in Regression Estimation (Covariate measurement errors, sampling bias)

Last update: Kulich Michal, doc. Mgr., Ph.D. (02.08.2023)

Czech

1. Úvod - jednoduchá lineární regrese

2. Lineární regresní model, metoda nejmenších čtverců

3. Vlastnosti odhadů metodou nejmenších čtverců

4. Statistická inference v LR modelu

5. Predikce

6. Ověřování modelu a regresní diagnostika I. (residua)

7. Transformace odezvy

8. Parametrizace jednoho regresoru

9. Interakce

10. Analýza rozptylu (ANOVA)

11. Simultánní testy a intervaly spolehlivosti

12. Regresní modely s více regresory

13. Heteroskedasticita: Vážené nejmenší čtverce, sandwichové odhady

14. Chyby v regresorech, chybějící pozorování regresorů

Last update: Kulich Michal, doc. Mgr., Ph.D. (02.08.2023)

Course registration requirements

English

• Vector spaces, matrix calculus;

• Probability space, conditional probability, conditional distribution, conditional expectation;

• Elementary asymptotic results (laws of large numbers, central limit theorem for i.i.d. random variables and vectors, Cramér-Wold theorem, Cramér-Slutsky theorem);

• Foundations of statistical inference (statistical test, confidence interval, standard error, consistency);

• Basic procedures of statistical inference (asymptotic tests on expected value, one- and two-sample t-test, one-way analysis of variance, chi-square test of independence);

• Maximum-likelihood theory including asymptotic results and the delta method;

• Working knowledge of R, a free software environment for statistical computing and graphics (https://www.r-project.org).

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (25.05.2018)

Czech

• Vektorové prostory, maticový počet;

• Pravděpodobnostní prostor, podmíněná pravděpodobnost, podmíněné rozdělení, podmíněná střední hodnota;

• Základní asymptotické výsledky (zákony velkých čísel, centrální limitní věta pro i.i.d. náhodné veličiny a vektory, Cramér-Woldova věta, Cramér-Slutského věta);

• Základy statistické inference (statistický test, interval spolehlivosti, směrodatná chyba, konzistence);

• Základní postupy statistické inference (asymptotické testy o střední hodnotě, jedno a dvouvýběrový t-test, analýza rozptylu jednoduchého třídění, chí-kvadrát test nezávislosti);

• Teorie maximální věrohodnosti včetně asymptotických výsledků a delta metody;

• Pracovní znalost prostředí R, volně šiřitelného prostředí pro statistické výpočty a grafiku (https://www.r-project.org).

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (25.05.2018)