Probabilités et statistiquesNotion · Glossaire
coefficient de détermination
Le coefficient de détermination, noté R², est la mesure de la qualité d'un modèle de régression linéaire. Il est égal au carré du coefficient de corrélation linéaire de Pearson dans le cas d'une régression simple avec constante, lorsque ce coefficient est défini. Pour le R² usuel calculé sur les données ayant servi à l'ajustement, avec une constante et une variance observée non nulle, sa valeur est comprise entre 0 et 1 et représente la proportion de la variance totale de la variable dépendante qui est expliquée par la (ou les) variable(s) indépendante(s) du modèle. Un R² de 1 correspond à un ajustement parfait, tandis qu'un R² de 0 signifie que le modèle n'explique aucune part de la variabilité observée.
Sommaire
Ce que vous allez apprendre
- Relier R² à la réduction de la somme des carrés des écarts.
- Recalculer un R² de 0,98 à partir de quatre observations.
- Distinguer R² du coefficient de corrélation et d'une erreur exprimée dans l'unité des données.
- Reconnaître les cas d'un R² indéfini, négatif ou trompeusement élevé.
En clair
Quatre personnes étudient pendant 1, 2, 3 et 4 heures, puis obtiennent les scores 2, 3, 5 et 6. Une droite résume la tendance : plus le temps augmente, plus le score monte. Cependant, les points ne tombent pas tous exactement sur cette droite.
Le coefficient de détermination, noté R², compare les écarts restant autour de la droite aux écarts initiaux autour du score moyen. Ici, R² vaut 0,98 : la droite rend compte de 98 % de la variation des quatre scores. Cette valeur décrit l'ajustement aux données observées, pas la réussite de chaque prédiction.
Définition
Le coefficient de détermination, noté R², mesure la part de la variabilité d'une variable dépendante que reproduit un modèle de régression. Il compare les prédictions du modèle à une référence simple : prédire partout la moyenne des valeurs observées.
Pour n observations, la valeur observée numéro i est notée yi, sa prédiction est notée ŷi et la moyenne observée est notée ȳ. Le coefficient s'écrit . Le numérateur additionne les carrés des erreurs de prédiction. Le dénominateur mesure la dispersion totale autour de la moyenne. Ainsi, R² = 0,98 signifie que le modèle réduit de 98 % cette somme d'écarts au carré sur l'échantillon étudié.
Pour une régression linéaire ajustée par moindres carrés avec une constante, sur les données ayant servi à l'ajustement, R² est compris entre 0 et 1. La valeur 1 signale des prédictions exactement égales aux observations ; la valeur 0 ne fait pas mieux que la moyenne. Dans une régression simple avec constante, lorsque les deux variables ont une variance non nulle, R² est le carré du coefficient de corrélation linéaire de Pearson entre les deux variables. En régression multiple, il ne se réduit pas au carré d'une corrélation prise isolément. Si toutes les valeurs observées sont identiques, la dispersion totale est nulle et cette formule ne définit pas R².
Un exemple, pas à pas
On observe les durées d'étude x de 1, 2, 3 et 4 heures, avec les scores y de 2, 3, 5 et 6 points. Leurs moyennes valent 2,5 heures et 4 points. On ajuste une droite avec constante.
1. Ajuster la droite. La somme des produits des écarts vaut 7 ; celle des carrés des écarts de x vaut 5. La pente est 7/5 = 1,4 et l'ordonnée à l'origine, 4 − 1,4 × 2,5 = 0,5. La prédiction s'écrit .
2. Calculer les prédictions. Pour 1, 2, 3 et 4 heures, la droite donne successivement 1,9 ; 3,3 ; 4,7 et 6,1 points.
3. Mesurer les erreurs restantes. Les différences entre scores et prédictions valent 0,1 ; −0,3 ; 0,3 et −0,1. Leur somme de carrés vaut .
4. Mesurer la dispersion initiale. Autour de la moyenne 4, la somme totale des carrés vaut .
5. Former le rapport et contrôler. On obtient . En régression simple avec constante, le contrôle par la corrélation donne aussi .
La droite explique 98 % de la variation des scores autour de leur moyenne. Les segments entre points et droite représentent les erreurs du numérateur.
En pratique
Après avoir ajusté une régression, R² quantifie ce que le modèle restitue des variations observées. Si l'objectif est de prévoir de nouvelles données, une mesure calculée sur des données mises de côté est préférable : le R² d'ajustement ne garantit pas la qualité hors échantillon.
Pour comparer deux modèles construits sur la même variable dépendante et le même échantillon, R² donne un premier repère. Si les modèles n'ont pas le même nombre de variables explicatives, le R² ajusté ou une validation sur des données séparées évite de récompenser automatiquement l'ajout de variables.
Le graphique des résidus complète toujours la valeur globale. Un motif courbe, un éventail ou un point très isolé peut rester visible malgré un R² élevé ; il faut alors revoir la forme du modèle, la variabilité des erreurs ou l'influence de cette observation.
À ne pas confondre
Coefficient de détermination et coefficient de corrélation. R² mesure une part de variabilité expliquée et ne porte pas de signe. Le coefficient de Pearson r indique aussi le sens de la liaison linéaire. Dans une régression simple avec constante, r = −0,8 et r = 0,8 donnent tous deux R² = 0,64.
R² et significativité statistique. Un R² élevé décrit l'ajustement, mais ne teste pas à lui seul si une relation observée peut être distinguée du hasard. Pour trancher cette question, on examine un test adapté, son incertitude et les hypothèses du modèle.
R² et erreur de prédiction. R² est sans unité et rapporte l'erreur à la dispersion des observations. Une erreur quadratique moyenne s'exprime dans l'unité au carré de la variable étudiée ; sa racine, la RMSE, s'exprime dans l'unité de cette variable. Pour savoir si une RMSE de 2 points est acceptable, cette dernière mesure donne l'échelle concrète que R² ne fournit pas.
Limites et pièges
Valeurs observées constantes. Si toutes les valeurs yi sont égales, la somme totale des carrés au dénominateur vaut 0. Le rapport devient indéfini. Il faut signaler l'absence de variabilité à expliquer plutôt que publier un R².
R² négatif. La borne 0 à 1 vaut pour l'ajustement usuel par moindres carrés avec constante, évalué sur ses données d'apprentissage. Sans constante ou sur de nouvelles données, R² peut passer sous 0 : le modèle fait alors pire que la prédiction par la moyenne de référence.
Valeur élevée, modèle inadéquat. Un R² proche de 1 n'établit ni causalité ni adéquation complète. Des résidus structurés ou une observation influente sont des symptômes visibles. Il faut examiner les résidus et le contexte avant de retenir le modèle.
Ajout de variables. Sur le même échantillon, le R² ordinaire ne diminue pas lorsqu'on ajoute une variable explicative, même peu utile. Une hausse minime n'est donc pas une preuve suffisante d'amélioration. Le R² ajusté ou une évaluation hors échantillon tient compte de ce piège.
Pour aller plus loin
La fiche Régression linéaire détaille la construction de la droite dont R² évalue la qualité d'ajustement.
La fiche coefficient de corrélation précise la grandeur dont le carré égale R² en régression simple avec constante.
Explorez les mathématiques autrement
Retrouvez nos magazines, podcasts et jeux pour explorer les mathématiques autrement.
Découvrir les offres