Couvre la probabilité appliquée, les chaînes de Markov et les processus stochastiques, y compris les matrices de transition, les valeurs propres et les classes de communication.
Explore les classes communicantes dans les chaînes de Markov, en distinguant les classes transitoires et récurrentes, et approfondit les propriétés de ces classes.
Explore la convergence de la chaîne de Markov, en mettant l'accent sur la distribution invariante, la loi des grands nombres et le calcul des récompenses moyennes.
