Corrélées (variables aléatoires)

Imaginez quatre situations où deux valeurs sont relevées ensemble. Quand les grandes valeurs de la première variable accompagnent plutôt les grandes valeurs de la seconde, elles évoluent dans le même sens. Si elles accompagnent plutôt les petites, elles évoluent en sens opposés.

La corrélation résume cette tendance linéaire. Son signe indique le sens de la liaison et sa valeur absolue, sa force. Une valeur proche de zéro ne garantit toutefois pas que les variables n'ont aucun lien : une dépendance courbe peut échapper à cet indicateur.

Deux variables aléatoires de variances finies sont corrélées au sens linéaire lorsque leur covariance n'est pas nulle. La covariance compare leurs écarts simultanés à leurs moyennes. En notant X et Y les variables, et E leur espérance, elle s'écrit $\mathrm{Cov}(X,Y)=E[(X-E[X])(Y-E[Y])]\backslash operatorname\{Cov\}(X,Y)=E[(X-E[X])(Y-E[Y])]$. Une covariance positive indique que les écarts ont plutôt le même signe ; une covariance négative indique qu'ils ont plutôt des signes opposés.

Lorsque les écarts-types de X et Y, notés σ_X et σ_Y, sont strictement positifs, le coefficient de corrélation linéaire de Pearson est $r=\frac{\mathrm{Cov}(X,Y)}{{\sigma }_X{\sigma }_Y}r=\backslash frac\{\backslash operatorname\{Cov\}(X,Y)\}\{\backslash sigma\_X\backslash sigma\_Y\}$. Il est sans unité et appartient à l'intervalle [−1 ; 1]. Une valeur proche de 1 signale une forte liaison linéaire croissante ; une valeur proche de −1, une forte liaison linéaire décroissante. Une valeur proche de 0 signale seulement une faible liaison linéaire.

Si X et Y sont indépendantes et possèdent les moments nécessaires, leur covariance est nulle. La réciproque est fausse en général : deux variables peuvent être dépendantes tout en ayant une covariance nulle. Une covariance non nulle suffit donc à exclure l'indépendance.

On choisit au hasard l'une de quatre issues équiprobables. Les couples de valeurs (X ; Y) sont (1 ; 2), (2 ; 1), (3 ; 4) et (4 ; 3). Chaque issue a donc la probabilité 1/4. La figure associée permet de voir la tendance croissante, malgré l'ordre inversé dans chaque paire de points voisine.

1. Les moyennes de X et de Y valent chacune (1 + 2 + 3 + 4)/4 = 5/2.

2. Les produits des écarts aux moyennes valent successivement 3/4, 3/4, 3/4 et 3/4. Leur moyenne donne donc $\mathrm{Cov}(X,Y)=\frac{3}{4}\backslash operatorname\{Cov\}(X,Y)=\backslash frac\{3\}\{4\}$.

3. Les variances de X et de Y valent chacune $\frac{(-3\mathrm{/}2{)}^2+(-1\mathrm{/}2{)}^2+(1\mathrm{/}2{)}^2+(3\mathrm{/}2{)}^2}{4}=\frac{5}{4}\backslash frac\{(-3/2)^2+(-1/2)^2+(1/2)^2+(3/2)^2\}\{4\}=\backslash frac\{5\}\{4\}$. Leurs écarts-types valent donc √5/2.

4. Le coefficient de Pearson est $r=\frac{3\mathrm{/}4}{(\sqrt{5}\mathrm{/}2)(\sqrt{5}\mathrm{/}2)}=\frac{3}{5}=\mathrm{0,6}r=\backslash frac\{3/4\}\{(\backslash sqrt\{5\}/2)(\backslash sqrt\{5\}/2)\}=\backslash frac\{3\}\{5\}=0\{,\}6$. Il est positif, mais inférieur à 1 : les points suivent une tendance croissante sans être exactement alignés. Le contrôle consiste à recalculer les quatre produits d'écarts, tous égaux à 3/4.

Dans un nuage de points, on observe d'abord la forme globale. Si elle ressemble à une bande droite montante ou descendante, le coefficient de Pearson résume utilement son orientation et son resserrement. Si la forme est courbe, il faut plutôt étudier cette relation non linéaire.

Pour comparer des séries mesurées dans des unités différentes, on privilégie le coefficient de Pearson à la covariance. Comme il est sans unité, son ordre de grandeur reste comparable, à condition que la relation linéaire soit pertinente.

Avant d'interpréter le résultat, on repère les valeurs extrêmes. Si quelques points isolés changent fortement le coefficient, on présente aussi le nuage de points et l'analyse avec puis sans ces observations, au lieu de retenir un nombre unique.

Corrélation et causalité. Une corrélation constate une liaison linéaire entre deux variables ; elle n'établit pas que l'une produit l'autre. Si deux mesures augmentent ensemble sous l'action d'une troisième variable, le coefficient peut être élevé sans relation causale directe.

Covariance et coefficient de Pearson. La covariance dépend des unités et de leur échelle, tandis que Pearson la normalise entre −1 et 1. Convertir une longueur de mètres en centimètres modifie la covariance, mais pas le coefficient de Pearson si la conversion est affine croissante.

Corrélation et coefficient de détermination. Le coefficient de Pearson r conserve le sens de la liaison. Son carré r² est non négatif et, dans une régression linéaire simple avec constante, mesure la part de variabilité expliquée par la droite. Une corrélation de −0,8 donne r² = 0,64, pas −0,64.

Zéro ne signifie pas indépendance. Si X prend équiprobablement les valeurs −1, 0 et 1, et si Y = X², alors Y est entièrement déterminée par X. Pourtant, la symétrie donne une covariance nulle. Il faut examiner la forme de la dépendance, pas seulement Pearson.

Un écart-type nul bloque le calcul. Si une variable est constante, son écart-type vaut 0 et le dénominateur du coefficient de Pearson s'annule. Le coefficient n'est alors pas défini ; il ne faut pas lui attribuer la valeur 0.

Les valeurs extrêmes peuvent dominer. Un point très éloigné du reste peut créer, masquer ou inverser une tendance linéaire. Le symptôme est un coefficient qui change fortement lorsqu'on retire ce point. On vérifie le nuage et on documente séparément l'observation.

Un coefficient proche de ±1 ne prouve pas l'égalité. Les valeurs ±1 correspondent à une relation affine exacte lorsque les variances sont positives. Entre ces bornes, aucun seuil universel ne sépare une corrélation « forte » d'une corrélation « faible » : le contexte et la précision des données restent nécessaires.

La fiche Covariance détaille la quantité signée placée au numérateur du coefficient de Pearson et l'effet des unités de mesure.

La fiche coefficient de corrélation approfondit la normalisation de la covariance et la lecture des valeurs comprises entre −1 et 1.