L'algorithme de Baum-Welch est un algorithme utilisé pour réestimer les paramètres d'un modèle de Markov caché. Il utilise l'algorithme forward-backward et porte les noms de Leonard E. Baum et .
L'algorithme de Baum-Welch est un cas particulier d'une généralisation de l'algorithme espérance-maximisation (GEM).
Un des problèmes liés aux modèles de Markov cachés (HMM) est de trouver un modèle qui maximise la probabilité d'une séquence d'observations , c'est-à-dire de déterminer le modèle qui explique le mieux la séquence. Le problème est qu'il n'est pas possible de trouver un tel modèle de façon analytique. L'algorithme de Baum-Welch est un algorithme itératif, qui permet d'estimer les paramètres du modèle qui maximisent la probabilité d'une séquence d'observables.
L'algorithme de Baum-Welch converge vers un maximum local.
Avant de décrire le processus d'estimation, nous avons besoin de savoir:
le nombre prévu de transitions d'un état en et
le nombre prévu de transitions d'un état i à l'état j dans
Définissons d'abord la probabilité d'être dans l'état à l'instant et dans l'état à l'instant , étant donné une observation et le modèle .
avec la probabilité de transition de l'état vers l'état , et la probabilité d'observer lorsque l'on est dans l'état , et où les valeurs et définies ci après peuvent se calculer simplement avec l'algorithme forward-backward.
La figure montre une vue schématique partielle des éléments nécessaires pour le calcul de .
Nous définissons aussi la probabilité d'être dans l'état à l'instant ,
En sommant sur le temps, on obtient:
le nombre prévu de transitions d'un état dans l'observation
Et en faisant la même chose avec , nous obtenons:
le nombre prévu de transitions d'un état à l'état dans l'observation
Le fonctionnement de la procédure itérative est le suivant :
Partir d'un modèle initial qui peut être choisi aléatoirement.
Réaliser le calcul des transitions et symboles émis qui sont les plus probables selon le modèle initial.
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.