Estimateur de Laplace–Bayes

En théorie des probabilités et en statistiques, l'estimateur de Laplace–Bayes (ou règle de succession de Laplace) est une formule permettant de donner une approximation du terme a posteriori de la formule de Bayes. Elle a été introduite au siècle pour répondre au problème : quelle la probabilité que le Soleil se lève demain ? Soit des variables aléatoires indépendantes à valeur binaire (0 ou 1). On suppose qu'elles suivent toutes une distribution de Bernouilli de même paramètre p. Autrement dit, la probabilité que = 1 vaut p), la valeur de p étant inconnue. Alors : On parle de succès quand = 1. La formule précédent dit donc que la probabilité d'avoir un succès à l'étape n+1 sachant qu'il y a eu s succès entre l'étape 1 et l'étape n vaut . Laplace a utilisé la règle de succession pour calculer la probabilité que le soleil se lève demain, étant donné qu'il s'est levé tous les jours depuis les dernières années. On obtient un facteur d'environ ×365,25, ce qui donne une cote de 1826251:1 en faveur du lever du soleil demain. Cependant, l'hypothèse de base pour utiliser la règle de succession serait que nous n'avons aucune connaissance préalable de la question de savoir si le soleil se lèvera ou non demain. Soit p, la probabilité de succès sur chaque essai. Cette probabilité est supposée constante mais inconnue et incertaine. Nous la considérons donc comme une variable aléatoire et lui attribuons une distribution de probabilité pour exprimer notre incertitude. Soit Xi ayant la valeur 1 si l’on observe un « succès » sur le ième essai, et ayant la valeur 0 dans le cas contraire. Chaque Xi a ainsi pour valeur 0 ou 1 et suit donc une distribution de Bernoulli. Supposons que ces Xi soient conditionnellement indépendants pour une probabilité p donnée. Nous pouvons alors utiliser le théorème de Bayes pour trouver la distribution de probabilité conditionnelle de p étant donné les données Xi (i = 1, ..., n). Pour la mesure de la probabilité a priori de p, nous attribuons à cette v.a.