Ecole d'ingénieur et centre de recherche en Sciences du numérique
 

Apprentissage automatique pour systèmes de communication

[MALCOM]
T Enseignement Technique


Résumé

Ce cours présente les concepts et méthodes fondamentaux de l’apprentissage automatique (AA), en mettant l’accent sur les applications des communications et des réseaux sans fil. Après une brève introduction (cours intensif adapté aux connaissances préalables de la classe) de plusieurs algorithmes importants et de leurs fondements théoriques, nous illustrons les aspects clés de leur application pratique aux systèmes de communication. Nous étudierons les applications couvrant différentes couches et configurations de systèmes, telles que la couche physique (canaux de propagation, transmission du signal, détection) et l'allocation de ressources dans la couche liaison/accès. Nous nous concentrerons sur l'apprentissage distribué et à grande échelle dans les réseaux sans fil avec certaines contraintes (ressources, calcul, latence, etc.). Enfin, nous soulignerons les principaux défis à relever pour concrétiser les promesses de l’apprentissage automatique pour les réseaux de communication.

Enseignement et méthodes d'apprentissage : Sessions orales, exercices, TPs et devoirs, y compris la résolution de problèmes et la programmation de méthodes apprises. Chaque session commence par résumer les concepts clés de la session précédente. Une partie de chaque session orale est consacrée à des exemples illustratifs et des exercices.

Règles du cours: venir aux TPs est obligatoire (25% de la note finale). La présence aux TPs est obligatoire. La présence à des sessions orales est fortement recommandée.

Bibliographie

  • S. Shalev-Shwartz and S. Ben-David, “Understanding Machine Learning”, Cambridge University Press
  • M. Mohri, A. Rostamizadeh, and A. Talwalkar, “Foundations of Machine Learning”, MIT Press
  • J. Friedman, R. Tobshirani, T. Hastie, “The Elements of Statistical Learning”, Springer

Préalable Requis

Connaissances de base en algèbre linéaire, en probabilités et en analyse réelle.

Description

1. Préliminaires (bases de l’AA)

  • Apprentissage supervisé (régression linéaire et logistique)
  • Classification (SVM)
  • Apprentissage non supervisé (AR, géométrique, etc.)
  • Réseaux génératifs (GAN, VAE)
  • Réseaux profonds

 

2. Applications aux systèmes de communication

  • Estimation et prédiction de canaux sans fil
  • Couche PHY: modulation, codage, détection, MIMO, formation de faisceau, non-linéarités, systèmes de bout en bout
  • Allocation des ressources: contrôle de puissance, ordonnancement
  • Gestion du trafic
  • Gestion du spectre: détection, accès
  • Réseaux de véhicules, Internet des objets (IoT)

 

3. Apprentissage distribué dans les systèmes de communication avec contraintes

  • Optimisation distribuée, descente de gradient stochastique dans des systèmes à ressources limitées
  • Apprentissage en périphérie
  • Apprentissage fédéré
  • AA à faible latence
  • Techniques évitant les traînards (stragglers)

 

4. Aspects théoriques

  • Représentation et approximation
  • Optimisation et apprentissage en ligne
  • Généralisation (concentration de mesure, complexité de Rademacher, dimension VC)

 

5. Sujets spéciaux

  • Réduction de la complexité: quantification, binarisation
  • Apprentissage actif par lots
  • Apprentissage par transfert
  • Apprentissage « few-shot »

Résultats de l'Apprentissage:

  • comprendre et maîtriser les bases de l'apprentissage automatique
  • être capable d'appliquer des algorithmes d'apprentissage automatique aux problèmes de système de communication
  • comprendre les aspects de la communication impliqués dans les réseaux utilisant apprentissage automatique
  • être capable de suivre les développements récents dans les réseaux de neurones et l’apprentissage automatique

 

Heures: 42.00 (3hr exercices, 3hr TP).

Evaluation: TP (25%), Examen final (75%.) - écrit. Projet optionnel (20% bonus)