Probabilités et statistiquesNotion · Glossaire
Iid
L'acronyme iid signifie indépendantes et identiquement distribuées. Une suite de variables aléatoires X_1, X_2, ..., X_n est dite iid si toute sous-famille finie de variables est mutuellement indépendante et si toutes les variables suivent la même loi de probabilité. C'est l'hypothèse fondamentale de la statistique classique : les observations d'un échantillon sont modélisées comme des tirages iid. Sous les hypothèses de moments requises, notamment l'intégrabilité pour la loi des grands nombres et une variance finie pour le théorème central limite classique, ces théorèmes s'appliquent aux suites iid et fondent une grande partie de l'inférence statistique.
Sommaire
Ce que vous allez apprendre
- Distinguer indépendance et identité de loi.
- Vérifier les deux conditions sur quatre lancers de pièce.
- Reconnaître les cas où l’hypothèse iid échoue.
- Relier le cadre iid aux grands théorèmes limites classiques.
En clair
Imaginez quatre lancers d’une même pièce, effectués sans que l’un influence le suivant. Chaque lancer produit une nouvelle valeur. La pièce ne changeant pas, pile garde la même probabilité à chaque fois.
Ces résultats sont indépendants et identiquement distribués, abrégé en iid. « Indépendants » signifie que connaître certains résultats ne renseigne pas sur les autres. « Identiquement distribués » signifie que chaque résultat obéit à la même règle probabiliste.
Définition
Une famille de variables aléatoires est dite iid lorsqu’elle vérifie deux conditions distinctes. Premièrement, les variables sont mutuellement indépendantes : toute information sur un sous-ensemble d’entre elles laisse inchangée la loi des autres. Deuxièmement, elles ont toutes la même loi de probabilité. Elles ont donc la même fonction de répartition et, lorsque ces quantités existent, la même espérance et la même variance.
Notons X1, …, Xn les variables et A1, …, An des ensembles de valeurs possibles. L’indépendance mutuelle impose, pour tout choix de ces ensembles :
Le caractère identiquement distribué impose en plus que la probabilité P(Xi ∈ A) soit la même pour chaque indice i et pour tout ensemble A.
Un échantillon aléatoire issu d’une population fixée est souvent modélisé par des observations iid. Sous les hypothèses propres à chaque résultat, ce cadre permet notamment d’appliquer la loi des grands nombres et le théorème central limite. Il s’agit toutefois d’une hypothèse de modèle, et non d’une propriété garantie par toute collecte de données.
Un exemple, pas à pas
Une même pièce équilibrée est lancée quatre fois, chaque lancer étant réalisé indépendamment des autres.
Données : pile est codé par 1 et face par 0 ; chaque valeur vaut 1 avec probabilité 1/2 et 0 avec probabilité 1/2 ; la suite observée est pile, face, pile, pile, soit 1, 0, 1, 1.
Données : pile est codé par 1 et face par 0 ; chaque valeur vaut 1 avec probabilité 1/2 et 0 avec probabilité 1/2 ; la suite observée est pile, face, pile, pile, soit 1, 0, 1, 1.
1. Chaque variable Xi, qui code le résultat du lancer numéro i, suit la même loi : elle vaut 1 ou 0 avec la même probabilité 1/2. La condition « identiquement distribuées » est satisfaite par le protocole.
2. L’indépendance des lancers donne la probabilité de toute suite précise en multipliant quatre facteurs égaux :
Les quatre variables sont donc iid dans ce modèle.
3. Pour la suite 1, 0, 1, 1, la somme des valeurs est 3. La moyenne observée vaut donc 3/4, soit 0,75. Cette valeur ne prouve pas à elle seule que les lancers sont iid ; cette propriété vient des hypothèses du protocole.
4. Un contrôle vérifiable consiste à compter les 16 suites possibles de quatre zéros ou uns. Comme chacune a une probabilité de 1/16, leur probabilité totale vaut bien 16 × 1/16 = 1.
En pratique
Dans une enquête, on peut modéliser les réponses comme iid lorsque chaque personne est sélectionnée indépendamment selon le même mécanisme et répond sans influencer les autres. Si les personnes sont recrutées par foyers ou par classes, un modèle par groupes est préférable, car des réponses proches peuvent être dépendantes.
En simulation, on produit des répétitions iid en conservant la même loi et en utilisant des tirages indépendants. Si un paramètre change au cours des répétitions, les variables ne sont plus identiquement distribuées ; il faut alors décrire explicitement cette évolution.
Pour des mesures successives dans le temps, l’hypothèse iid doit être examinée avant d’employer les outils statistiques classiques. Une tendance, une saisonnalité ou une dépendance entre instants invite plutôt à choisir un modèle de série temporelle.
À ne pas confondre
Même loi et indépendance. Deux variables peuvent avoir la même loi sans être indépendantes. Si le second résultat recopie toujours le premier, leurs distributions sont identiques, mais connaître l’un détermine l’autre.
Indépendance et même loi. Deux variables peuvent être indépendantes tout en suivant des lois différentes. Deux pièces lancées séparément, l’une équilibrée et l’autre biaisée, donnent des résultats indépendants mais non identiquement distribués.
Iid et échangeabilité. Une famille échangeable conserve la même loi jointe quand on permute ses indices. Toute famille iid est échangeable, mais la réciproque est fausse : des tirages sans remise sont échangeables tout en étant dépendants.
Limites et pièges
L’indépendance deux à deux ne suffit pas en général. Prenons deux bits équilibrés indépendants X et Y, puis un troisième bit Z qui vaut leur somme modulo 2. Les trois variables ont la même loi et chaque paire est indépendante, mais la valeur de deux bits détermine le troisième. Il faut vérifier l’indépendance mutuelle de toute la famille.
Répéter une valeur ne crée pas des tirages iid. Si X2 est toujours égal à X1, les deux variables ont la même loi, mais elles sont parfaitement dépendantes. Il faut modéliser la valeur commune ou la dépendance, pas deux observations iid.
Un tirage sans remise crée une dépendance. Dans une urne contenant un nombre fini de boules, le premier tirage modifie les probabilités du suivant. La taille charnière est deux tirages : dès le second, l’indépendance échoue, sauf situation dégénérée. Il faut utiliser un modèle sans remise.
Une loi stable doit être justifiée. Si une machine se dérègle ou si une population évolue, les observations successives peuvent rester indépendantes sans avoir la même distribution. Une variation des fréquences selon le temps signale qu’un modèle non identiquement distribué est plus adapté.
Pour aller plus loin
La première loi des grands nombres montre pourquoi une moyenne d’observations répétées se stabilise sous des hypothèses adaptées.
Le théorème central limite décrit l’approximation de la somme centrée et normalisée de nombreuses variables iid dans son cadre classique.
L’espérance mathématique précise la valeur théorique vers laquelle la moyenne empirique peut tendre.
Explorez les mathématiques autrement
Retrouvez nos magazines, podcasts et jeux pour explorer les mathématiques autrement.
Découvrir les offres