Probability Theory for Machine Learning

Eigenaar	Bachelor Kunstmatige Intelligentie
Coördinator	Daniel Worrall
Onderdeel van	Minor Kunstmatige Intelligentie, jaar 1Bachelor Kunstmatige Intelligentie, jaar 2Bachelor Bèta-gamma, major Kunstmatige Intelligentie, jaar 2Bachelor Future Planet Studies, major Kunstmatige Intelligentie, jaar 2Bachelor Future Planet Studies, major Kunstmatige Intelligentie, jaar 3

Studiewijzer 2018/2019

Globale inhoud

Modern machine learning methods are based on mathematical concepts, especially from probability theory and statistics. This course treats these concepts in detail. This will lay the groundwork for a solid understanding of advanced machine learning methods taught in other courses. Additionally, the mathematical theory will be made more concrete through programming exercises.

Studiemateriaal

Literatuur

• Information Theory, Inference, and Learning Algorithms

• Pattern Recognition and Machine Learning

Overig

• Material will be made available digitally

Leerdoelen

At the end of the course, the student is able to:

• describe problems using probabilistic notation;
• know a list of common probability distirbutions and how they can be applied to real-life problems;
• apply the laws of probability to multi-dimensional situations;
• describe the properties of the multivariate Gaussian distribution;
• manipulate formulas involving expectations, variances and covariances;
• derive formulas for probability distributions (in particular including posterior, predictive, and marginal likelihood distributions in Bayesian statistics) using the operations of marginalization and conditioning;
• interpret the implications of properties of the prior, posterior and predictive distributions;
• compute the maximum likelihood and maximum a posteriori estimators;
• interpret linear regression from a Bayesian viewpoint;
• perform practical Bayesian model comparison;
• implement these methods and computations in the programming language Python.

Onderwijsvormen

• Hoorcollege
• Werkcollege
• Laptopcollege

All examinable material will be presented in the hoorcolleges. This material will be reinforced in the werkcollege and laptopcollege sessions.

Verdeling leeractiviteiten

Aanwezigheid

Aanwezigheidseisen opleiding (OER-B):

• Voor practica en werkgroepbijeenkomsten met opdrachten geldt een aanwezigheidsplicht. De invulling van deze aanwezigheidsplicht kan per vak verschillen en staat aangegeven in de studiewijzer. Wanneer studenten niet voldoen aan deze aanwezigheidsplicht kan het onderdeel niet met een voldoende worden afgerond.
  

Aanvullende eisen voor dit vak:

The student must hand in at least 5 out of 6 werkcollege homeworks and 5 out of 6 laptopcollege homeworks to be eligible to pass the course.

Toetsing

Onderdeel en weging	Details
Eindcijfer
15% Homework
15% Laptop homework
35% Midterm exam
35% Final exam

Inzage toetsing

Annoucements will be made on Canvas.

Opdrachten

6 written homeworks and 6 laptop homeworks. Everything is graded. Group submissions are forbidden. Feedback will be via Canvas.

Fraude en plagiaat

Dit vak hanteert de algemene 'Fraude- en plagiaatregeling' van de UvA. Hier wordt nauwkeurig op gecontroleerd. Bij verdenking van fraude of plagiaat wordt de examencommissie van de opleiding ingeschakeld. Zie de Fraude- en plagiaatregeling van de UvA: http://student.uva.nl

Weekplanning

Rooster

Het rooster van dit vak is in te zien op DataNose.

Aanvullende informatie

Aanbevolen voorkennis: Students are expected to have sufficient knowledge of the following topics: basis calculus, and basic linear algebra (as taught in the first year KI courses); basic programming skills (in Python/numpy).

The course will be given in English.

Verwerking vakevaluaties

Hieronder vind je de aanpassingen in de opzet van het vak naar aanleiding van de vakevaluaties.

Contactinformatie

Coördinator

• Daniel Worrall