Ecole d'ingénieur et centre de recherche en Sciences du numérique
 

Techniques avancées d'inference statistique

[ASI]
T Enseignement Technique


Résumé

Ce cours se concentre sur les principes de l'apprentissage automatique à partir des données et la quantification de l'incertitude, en complétant et enrichissant le cours Introduction à l'apprentissage statistique. En particulier, le cours est divisé en deux parties principales qui correspondent aux paradigmes d'apprentissage supervisés et non supervisés. La présentation du matériel suit un fil conducteur basé sur l'approche de modélisation probabiliste des données, de sorte que de nombreux algorithmes classiques, tels que les « least-square » et les « k-means », peuvent être considérés comme des cas particuliers de problèmes d'inférence pour des modèles probabilistes plus généraux. La prise de vue probabiliste permet également au cours de dériver des algorithmes d'inférence pour une classe de modèles non paramétriques qui ont des connexions étroites avec des réseaux neuronaux et des « support vector machines ». Comme dans le cas du cours Introduction à l'apprentissage statistique, l'accent n'est pas mis sur le description algorithmique des méthodes, mais plutôt sur leurs fondements mathématiques et statistiques. Ce cours avancé est complété par des sessions de laboratoire pour guider les élèves à travers la conception et la validation des méthodes développées dans les cours.

Méthodes d'enseignement et d'apprentissage: Cours et laboratoires (de préférence un étudiant par groupe)

Règles du cours: La participation aux séances de laboratoire est obligatoire

Bibliographie

·         Pattern Recognition and Machine Learning (2006). C. M. Bishop, Springer

·         A First Course in Machine Learning (2011). S. Rogers, M. Girolami, CRC press.

Préalable Requis

Connaissance de base de l'algèbre et du calcul différentiel et intégral

Description

Le cours couvrira une sélection des sujets suivants:

·         Introduction

o   Récapitulatif de l'algèbre linéaire et du calcul différentiel et intégral

o   Aperçu de la théorie des probabilités

·          Apprentissage supervisé

o   Régression linéaire

o   Classification linéaire

o   Classification Bayésienne

o   Méthodes « kernel »pour la régression non linéaire et la classification

·         L'apprentissage non supervisé

o   K-means et Kernel K_means

o   Modèles de Gaussian Mixture

o   Analyse des composantes principales (PCA) et Kernel PCA

·         Thèmes avancés

o   Dirichlet Processes

o   Gaussian Processes

o   Inférence variationnelle

o   Markov chain Monte Carlo

 

Résultats d'apprentissage:

·         Être en mesure d'identifier les éléments clés composant un modèle probabiliste donné

·         Être capable de reconnaître la pertinence de différents modèles probabilistes en raison d'un problème d'apprentissage automatique

·         Être capable d'utiliser les techniques appropriées pour dériver des algorithmes prababilistiques d'apprentissage automatique

·         Être capable de développer des logiciels de preuve de concept pour établir des analyses de données à l'aide d'algorithmes probabilistes d'apprentissage automatique

Nb heures:42.00, at least 4 Lab sessions (12 hours)

évaluation: Exercice évalué (25%) et examen final écrit (75%)

Nombre d'heures: 42.00
Nombre d'heures par semaine: 3.00