Cette séance de cours présente les chaînes de Markov, en discutant des propriétés élémentaires telles que la matrice de transition, les classes communicantes et les processus stochastiques. Il couvre la définition d'un processus stochastique, de vecteurs de probabilité et de matrices de transition. La séance de cours explore également la propriété de Markov, les théorèmes d'équivalence et les conséquences des chaînes de Markov.