Êtes-vous un étudiant de l'EPFL à la recherche d'un projet de semestre?
Travaillez avec nous sur des projets en science des données et en visualisation, et déployez votre projet sous forme d'application sur Graph Search.
Concept
Canal binaire symétrique
Résumé
Alice veut transmettre un message à Bob. Un canal binaire symétrique est un canal discret où Alice transmet une suite d’éléments de l'ensemble et où la probabilité d'erreur dans la transmission d'un symbole est de , pour 0 et pour 1 (d'où la symétrie). Ce canal est sans mémoire, c'est-à-dire qu'aucune archive des messages n'est conservée.
En communication, un problème classique est d'envoyer de l'information d'une source à une destination via un canal de communication, en présence de bruit. Le codage de canal est l'ensemble des solutions à ce problème que sont les codes correcteurs.
L'idée du canal binaire symétrique est qu'il est utile de modéliser le bruit de canal. Dans ce modèle, chaque bit de données transmis est inversé avec une probabilité et est transmis sans erreur avec la probabilité complémentaire de . Le paramètre détermine (c'est-à-dire qu'il définit uniquement) le canal binaire symétrique dont il est question.
Sans perte de généralité, on peut supposer que .
En effet, si , le message codé ne dépend pas du message d'origine et si , on ajoute à chaque bit du code et on est revenu au cas général.
La capacité du canal est la quantité d'information que l'on peut y faire transiter ; elle est définie par où est la variable aléatoire en entrée du canal, la variable aléatoire en sortie et est l'information mutuelle. On cherche la distribution de qui maximise la quantité d'information transmise.
Posons que suit une loi de Bernoulli de paramètre ; suit alors une loi de Bernoulli de paramètre . L'information mutuelle est donnée par :où est l'entropie de Shannon de la loi de Bernoulli : elle atteint son maximum de en . Cet argument est obtenu lorsque , c'est-à-dire lorsque est uniforme. Le maximum est donc obtenu pour la loi uniforme, et la capacité du canal est :
Une solution simple pour se prémunir de ce type de bruit est d'envoyer plusieurs copies de chaque bit devant être transmis : c'est le code de répétition. Rendre l'information redondante est l'idée derrière le codage de canal, bien que ces techniques puissent être beaucoup plus élaborées (voir théorie des codes).
Source officielle
À propos de ce résultat
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.
Proximité ontologique