matrice de corrélation

Prenons trois colonnes de nombres décrivant les mêmes observations. Pour chaque paire de colonnes, on regarde si leurs valeurs ont tendance à monter ensemble, à évoluer en sens contraire ou sans liaison linéaire nette. La matrice de corrélation rassemble ces comparaisons dans une grille carrée.

Chaque case vaut entre −1 et 1. Une valeur proche de 1 signale une évolution linéaire dans le même sens ; une valeur proche de −1, dans le sens opposé. La diagonale vaut 1, car elle compare chaque colonne à elle-même. La grille se lit en miroir de part et d'autre de cette diagonale.

Considérons un vecteur formé de p variables aléatoires réelles X₁, …, X_p. Chacune doit avoir une variance finie et strictement positive. La matrice de corrélation R est la matrice carrée d'ordre p dont la case située à la ligne i et à la colonne j est le coefficient de corrélation linéaire de Pearson entre X_i et X_j : $R_{ij}=\mathrm{Cor}(X_i,X_j)=\frac{\mathrm{Cov}(X_i,X_j)}{{\sigma }_i{\sigma }_j}R\_\{ij\}=\backslash operatorname\{Cor\}(X\_i,X\_j)=\backslash frac\{\backslash operatorname\{Cov\}(X\_i,X\_j)\}\{\backslash sigma\_i\backslash sigma\_j\}$, où σ_i et σ_j sont leurs écarts-types.

Si Σ désigne la matrice de variance-covariance et D la matrice diagonale des écarts-types, la normalisation s'écrit : L'inverse de D existe précisément parce qu'aucun écart-type n'est nul. Cette opération efface les unités et ramène chaque covariance à l'intervalle [−1, 1].

La matrice R est symétrique, puisque la covariance ne dépend pas de l'ordre des deux variables. Sa diagonale est composée de 1. Elle est aussi semi-définie positive : pour tout vecteur réel u, la quantité $u^{\mathsf{T}}Ruu^\{\backslash mathsf\; T\}Ru$ est positive ou nulle. Par conséquent, toutes ses valeurs propres sont positives ou nulles. Ces contraintes sont liées : une grille symétrique à diagonale 1 et à coefficients compris entre −1 et 1 n'est pas nécessairement une matrice de corrélation si elle échoue au test de semi-définie positivité.

Une matrice de corrélation comporte d'abord p lignes et p colonnes, toutes indexées par la même liste de variables. La case (i, j) porte la corrélation entre la variable de la ligne et celle de la colonne. La diagonale principale compare chaque variable à elle-même : ses p cases valent donc 1. Les cases hors diagonale décrivent les paires de variables distinctes.

La moitié inférieure dépend entièrement de la moitié supérieure, car les cases (i, j) et (j, i) sont égales. Tous les coefficients dépendent eux-mêmes de la matrice de covariance et des écarts-types utilisés pour la normaliser. Enfin, la semi-définie positivité impose une cohérence globale entre les cases : on ne peut pas choisir séparément chaque corrélation par paire. Ces données suffisent à construire la matrice, à contrôler sa validité et à étudier ses valeurs propres.

Considérons quatre observations fictives de trois variables sans unité. Les données sont X = (7, 9, 11, 13), Y = (7, 11, 9, 13) et Z = (13, 11, 9, 7). Leur moyenne commune vaut 10.

1. Centrons les trois séries en retirant 10 : X devient (−3, −1, 1, 3), Y devient (−3, 1, −1, 3) et Z devient (3, 1, −1, −3).

2. Les trois sommes de carrés valent 20. Les produits croisés totalisent 16 pour X et Y, −20 pour X et Z, puis −16 pour Y et Z. Le même diviseur apparaîtrait dans les covariances et les variances ; il se simplifie dans chaque corrélation.

3. Nous obtenons donc $r_{XY}=\frac{16}{\sqrt{20\times 20}}=\mathrm{0,8}r\_\{XY\}=\backslash frac\{16\}\{\backslash sqrt\{20\backslash times20\}\}=0\{,\}8$, $r_{XZ}=\frac{-20}{\sqrt{20\times 20}}=-1r\_\{XZ\}=\backslash frac\{-20\}\{\backslash sqrt\{20\backslash times20\}\}=-1$ et $r_{YZ}=\frac{-16}{\sqrt{20\times 20}}=-\mathrm{0,8}r\_\{YZ\}=\backslash frac\{-16\}\{\backslash sqrt\{20\backslash times20\}\}=-0\{,\}8$.

4. Plaçons ces résultats, leurs symétriques et les 1 de la diagonale : La figure matérialise la structure exacte de cette matrice.

5. Contrôlons le cas extrême : les valeurs centrées de Z sont exactement les opposées de celles de X, d'où la corrélation −1. La troisième variable apporte ici une dépendance linéaire exacte ; la matrice est donc singulière, tout en restant semi-définie positive.

Dans un jeu de données comportant plusieurs colonnes numériques, la matrice donne une première vue des liaisons linéaires par paire. On inspecte les coefficients proches de 1 ou de −1, puis on revient aux observations et aux graphiques pour vérifier la forme réelle de la liaison.

Lorsque les variables sont exprimées sur des échelles très différentes, travailler avec la matrice de corrélation permet de les comparer après normalisation. Si les unités et les amplitudes doivent au contraire rester visibles, la matrice de covariance est plus informative.

Avant une analyse multivariée, une corrélation égale à 1 ou à −1 signale une relation affine exacte dans les données observées. On peut alors rechercher une colonne redondante. Un coefficient seulement proche de ces extrêmes invite à examiner la précision des données plutôt qu'à supprimer automatiquement une variable.

Matrice de covariance. Ses cases conservent les unités et leur amplitude dépend de l'échelle des variables. La matrice de corrélation divise chaque covariance par deux écarts-types : mesurer une longueur en mètres ou en centimètres change la covariance, mais pas la corrélation si la conversion est positive.

Coefficient de détermination. Une corrélation r est signée et varie de −1 à 1. Dans une régression linéaire simple avec constante, le coefficient de détermination vaut r² ; une corrélation de −0,8 donne alors 0,64, pas −0,8. Cette identité ne s'étend pas telle quelle à tout modèle.

Lien de causalité. Une grande valeur absolue décrit une association linéaire, pas une cause. Deux colonnes peuvent évoluer ensemble sous l'effet d'une troisième variable. Pour trancher, il faut un protocole ou un modèle causal ; la seule matrice ne suffit pas.

Variance nulle. Si une variable est constante, son écart-type vaut 0 et la division qui définit sa corrélation est impossible. Il faut retirer cette variable de la matrice ou signaler ses coefficients comme non définis, jamais les remplacer automatiquement par 0.

Dépendance non linéaire. Une corrélation proche de 0 n'établit pas l'indépendance. Une relation en U peut produire des contributions linéaires qui se compensent. Il faut alors tracer les couples de valeurs et employer une mesure adaptée à la forme observée.

Valeurs atypiques. Quelques observations éloignées peuvent déplacer fortement un coefficient de Pearson. Le symptôme est une corrélation qui change beaucoup lorsqu'une seule ligne est examinée ou retirée. On vérifie la donnée, on montre le nuage de points et on mène une analyse de sensibilité.

Coefficients incompatibles. Les bornes [−1, 1] ne suffisent pas. Pour trois variables ayant toutes la même corrélation ρ hors diagonale, la semi-définie positivité exige $-\frac{1}{2}\le \rho \le 1-\backslash frac12\backslash leq\backslash rho\backslash leq1$. Choisir ρ = −0,9 respecte les bornes case par case, mais produit une valeur propre −0,8 : cette grille n'est pas une matrice de corrélation valide.

Le coefficient de corrélation détaille la mesure placée dans chaque case et l'interprétation de son signe et de sa valeur absolue.

La covariance permet de revenir à la grandeur non normalisée dont la matrice de corrélation est construite.

La notion de valeur propre éclaire le contrôle de semi-définie positivité et le cas d'une matrice singulière.