Cette séance de cours couvre le concept des chaînes de Markov et leurs applications dans les algorithmes, en se concentrant sur l'échantillonnage Markov Chain Monte Carlo. L'instructeur explique l'objectif d'échantillonnage à partir de la distribution stationnaire d'une chaîne de Markov, en soulignant l'importance du taux de convergence et du temps de mélange. La séance de cours se penche sur l'algorithme de Metropolis-Hastings, détaillant le processus de construction d'une chaîne de Markov avec une distribution limite souhaitée. Il traite également de la conception des probabilités d'acceptation et des critères d'apériodicité et d'irréductibilité. La séance de cours conclut en soulignant l'importance de l'équilibre détaillé dans l'échantillonnage des distributions «dures».