Concept
En statistique, la borne Cramér-Rao exprime une borne inférieure sur la variance d'un estimateur sans biais, basée sur l'information de Fisher. Elle est aussi appelée borne de Fréchet-Darmois-Cramér-Rao (ou borne FDCR) en l'honneur de Maurice Fréchet, Georges Darmois, Harald Cramér et Calyampudi Radhakrishna Rao. Elle énonce que l'inverse de l'information de Fisher, , d'un paramètre θ, est un minorant de la variance d'un estimateur sans biais de ce paramètre (noté ). Si le modèle est régulier, la borne de Cramer Rao peut s'écrire : où L(X;θ) est la fonction de vraisemblance. Dans certains cas, aucun estimateur non biaisé n'atteint la borne inférieure. Dans le cas d'une distribution normale multivariée à d dimensions : les éléments de la matrice d'information de Fisher sont où « tr » désigne la trace. Prenons un échantillon de observations indépendantes de moyenne inconnue et de variance connue. L'information de Fisher est alors un scalaire donné par la formule et la borne de Cramér-Rao est donnée par la formule Supposons que X est un vecteur aléatoire qui suit une loi normale d'espérance connue et de variance inconnue . Considérons T l'estimateur de : Alors T est non biaisé pour , car . Quelle est la variance de T ? Le premier terme est le quatrième moment centré et vaut , le second est le carré de la variance, soit . Donc : Quelle est l'information de Fisher de cet exemple ? Le score V est défini par : avec L étant la fonction de vraisemblance. Donc, dans ce cas, L'information de n évènements indépendants étant seulement n fois l'information d'un seul évènement, soit . L'inégalité de Cramér-Rao donne : Dans ce cas, on a donc égalité. On dit alors que l'estimateur est efficace. Cette inégalité repose sur deux conditions faibles de régularité des densités de probabilité, , et l'estimateur : L'information de Fisher est toujours définie ; de manière équivalente, pour tout tel que , soit fini. L'intégration par rapport à x et la différentiation par rapport à θ peuvent être échangées dans le calcul de T ; soit encore, si le second membre est fini.