Ecole d'ingénieur et centre de recherche en télécommunications

Théorie de l'information

[InfoTheo]
T Enseignement Technique


Résumé

  • A partir de 1948, année de publication du papier fondamental de Shannon « A mathematical theory of communications » la théorie de l'information a joué un rôle très important dans le développement des télécommunications modernes d'aujourd'hui.
  • La théorie de l'information étudie les limites théoriques ultimes de la compression des données, du codage de source, du codage de canal, et donne les lignes pour guider le développement des algorithmes pratiques de traitement du signal et du codage.
  • Ce cours présente la théorie de l'information au niveau introductoire.
  • Les implications pratiques des résultats théoriques sont mises en évidence à travers plusieurs exemples.

Préalable Requis

Stochastic

Description

  • Entropie, divergence et information mutuelle : définitions et relations élémentaires
  • Codage de source sans perte : le théorème de la compression de source, codage de Huffman, compression de données universelles, codage de Lempel-Ziv
  • Codage de canal : le théorème du codage de canal, la fonction de fiabilité et les exposants d'erreur
  • Le canal Gaussien : capacité du canal Gaussien avec bruit blanc, avec bruit coloré, le canal avec interférences entre symboles
  • Codage de source avec pertes : la fonction de distorsion, compression de sources Gaussiennes, la quantisation vectorielle
  • Sujets avancés en théorie de l'information multi-terminaux : le min-cut max-flow borné sur la région de capacité d'un réseau, le canal à accès multiples, le canal broadcast, le canal avec interférence.
Nombre d'heures: 42.00
Nombre d'heures par semaine: 3.00
Forme du contrôle: examen écrit