Asymptotiquement sans biais

Imaginez une méthode qui estime la proportion de succès dans une population. Sur de petits échantillons, elle donne en moyenne une valeur un peu trop basse. Quand on augmente la taille des échantillons, ce décalage moyen se réduit jusqu'à devenir arbitrairement petit. La méthode est alors asymptotiquement sans biais. Elle n'est pas forcément juste en moyenne pour chaque taille finie : c'est la disparition progressive du décalage qui compte.

Un estimateur est une variable aléatoire calculée à partir d'un échantillon pour approcher un paramètre inconnu. On note θ le paramètre visé et T_n l'estimateur construit avec un échantillon de taille n. Son biais est l'écart entre son espérance mathématique et θ.

L'estimateur T_n est asymptotiquement sans biais lorsque ${\lim }_{n\to \mathrm{\infty }}(\mathbb{E}[T_n]-\theta )=0\backslash lim\_\{n\; \backslash to\; \backslash infty\}\; \backslash left(\backslash mathbb\{E\}[T\_n]-\backslash theta\backslash right)=0$. Autrement dit, son espérance tend vers le paramètre quand n augmente. La propriété concerne une suite d'estimateurs et suppose que les espérances considérées existent.

Si le biais vaut déjà zéro pour toute taille n, l'estimateur est sans biais et vérifie automatiquement la propriété asymptotique. La réciproque est fausse : un biais non nul à chaque taille finie peut néanmoins tendre vers zéro. Cette condition ne décrit ni la dispersion autour de l'espérance ni la convergence des valeurs observées vers θ.

Une population produit un succès avec une proportion vraie p égale à 0,6. On prélève un échantillon de taille n selon un plan où chaque observation a une probabilité p de produire un succès. La proportion observée est notée X̄_n. On étudie l'estimateur T_n obtenu en multipliant X̄_n par n/(n + 1).

1. La proportion observée a pour espérance p. L'espérance de T_n vaut donc $\mathbb{E}[T_n]=\frac{n}{n+1}p\backslash mathbb\{E\}[T\_n]=\backslash frac\{n\}\{n+1\}p$.

2. Pour n = 4, l'espérance de T₄ est 4/5 × 0,6 = 0,48. Son biais vaut 0,48 − 0,6 = −0,12. L'estimateur n'est donc pas sans biais à cette taille.

3. Pour n = 99, l'espérance devient 99/100 × 0,6 = 0,594 et le biais vaut −0,006.

4. En général, le biais vaut $\mathrm{Biais}(T_n)=-\frac{p}{n+1}\backslash operatorname\{Biais\}(T\_n)=-\backslash frac\{p\}\{n+1\}$. Sa valeur absolue tend vers zéro lorsque n tend vers l'infini : T_n est asymptotiquement sans biais.

Le contrôle consiste à remplacer n par 4 puis 99 dans −0,6/(n + 1) : on retrouve −0,12 et −0,006. La représentation de l'espérance en fonction de n montre qu'elle reste sous 0,6 tout en s'en rapprochant.

Lorsqu'on étudie un estimateur, on calcule son biais en fonction de la taille n. S'il n'est pas nul, on examine sa limite. Un biais qui tend vers zéro autorise la qualification « asymptotiquement sans biais » ; sinon, il faut conserver la correction ou choisir un autre estimateur.

Dans une étude par simulation, on répète des échantillonnages de même taille et on moyenne les estimations. On recommence pour plusieurs tailles : le déplacement de cette moyenne vers la valeur de référence renseigne sur le biais, tandis que l'étalement des résultats renseigne sur la variance.

Pour comparer deux méthodes, la disparition du biais ne suffit pas. Si leurs estimations ont des dispersions très différentes, on examine aussi la variance ou l'erreur quadratique moyenne. Un estimateur sans biais à toute taille reste préférable lorsque cette garantie exacte est requise.

Estimateur sans biais. Son espérance égale exactement le paramètre pour chaque taille admise. Dans l'exemple, T₄ a un biais de −0,12 : il est seulement asymptotiquement sans biais, même si ce biais finit par disparaître.

Estimateur convergent. La convergence en probabilité concerne la chance que la valeur observée reste loin du paramètre. L'absence asymptotique de biais ne porte que sur l'espérance. Une suite peut avoir la bonne espérance limite tout en restant très dispersée.

Variance qui tend vers zéro. Cette propriété décrit le resserrement des estimations autour de leur propre moyenne. Elle ne garantit pas que cette moyenne vise le bon paramètre : un estimateur constant égal à une constante connue c a une variance nulle, mais un biais égal à c − θ, non nul lorsque c ≠ θ.

Une grande taille n'est pas un seuil universel. Dans l'exemple, le biais absolu vaut 0,6/(n + 1). Pour le rendre inférieur à 0,01, il faut n ≥ 60 ; pour une autre suite d'estimateurs, la décroissance peut être bien plus lente. Il faut calculer une borne adaptée à la précision recherchée.

Une limite d'espérances exige leur existence. Si T_n n'a pas d'espérance finie pour certaines tailles, son biais au sens donné ici n'est pas défini. Il faut alors étudier une autre propriété de convergence ou modifier l'estimateur.

Un petit biais ne garantit pas une estimation précise. Une forte variance peut produire des valeurs individuelles très éloignées de θ, même quand le biais est nul ou presque nul. Il faut contrôler conjointement le centrage et la dispersion, selon le but de l'inférence.

L'espérance mathématique précise la moyenne théorique utilisée pour définir le biais d'un estimateur.

La variance d'une variable aléatoire complète l'étude en mesurant la dispersion que le biais ne décrit pas.

La convergence en probabilité permet de distinguer le comportement des valeurs observées de celui de leur seule espérance.