paradoxe de Simpson

Deux méthodes traitent des dossiers standards et difficiles. La méthode A réussit mieux que B parmi les dossiers standards, puis encore parmi les dossiers difficiles. Pourtant, si A reçoit surtout des dossiers difficiles et B surtout des dossiers standards, le taux global de B peut devenir supérieur.

Ce renversement est le paradoxe de Simpson. L'addition ne se trompe pas : elle mélange des groupes qui n'ont ni la même difficulté ni le même poids dans les deux méthodes.

Le paradoxe de Simpson, ou effet de Yule-Simpson, est un renversement produit par l'agrégation de données. Deux groupes A et B sont comparés selon un même indicateur dans plusieurs sous-groupes. A peut avoir une valeur supérieure à B dans chacun d'eux, tandis que B a la valeur supérieure lorsque tous les effectifs sont réunis. Une tendance peut aussi simplement disparaître après agrégation.

Pour chaque groupe, la valeur globale est une moyenne pondérée des valeurs par sous-groupe. Si p_i est la valeur observée dans le sous-groupe i et w_i sa part dans le groupe comparé, alors $p={\sum }_i{w}_i{p}_{i}p=\backslash sum\_i\; w\_i\; p\_i$, avec des poids dont la somme vaut 1. Quand les poids diffèrent fortement entre A et B, les moyennes globales ne comparent plus la même composition. La variable qui définit les sous-groupes peut alors jouer le rôle de variable confondante. Dans l'enseignement, ce mécanisme est aussi nommé effet de structure.

Le phénomène a été décrit indépendamment par George Udny Yule en 1903 et Edward H. Simpson en 1951. Il intervient notamment en sciences sociales, en statistiques médicales et dans les essais cliniques, plus généralement dès que des données hétérogènes sont comparées.

Soient deux groupes A et B, comparés dans les mêmes sous-groupes numérotés par i. Si la valeur p_A,i est supérieure à p_B,i pour chaque i, cette inégalité n'impose pas le même ordre aux valeurs globales.

Les parts w_A,i et w_B,i de chaque sous-groupe peuvent en effet différer : Si ces pondérations placent surtout A dans les sous-groupes à faible valeur et B dans ceux à forte valeur, il est possible que p_A soit inférieure à p_B.

La recherche d'un effet de Simpson a un sens lorsque deux groupes sont mesurés avec le même indicateur et peuvent être ventilés selon une même variable de sous-groupe. Il faut connaître, pour chaque case, le nombre de cas et le nombre de succès : les seuls pourcentages ne donnent pas les poids de l'agrégation.

Trois contrôles sont utiles : comparer A et B dans chaque sous-groupe, calculer leurs valeurs globales, puis comparer la répartition des sous-groupes entre A et B. Une différence de composition peut contribuer à un renversement, mais elle ne suffit pas à le rendre possible pour tous les taux et ne le garantit pas.

Contre-cas : si A et B comportent exactement les mêmes proportions de dossiers standards et difficiles, leurs moyennes utilisent les mêmes poids. Aucune inversion n'est alors possible lorsque A est strictement meilleure dans les deux catégories. La comparaison stratifiée reste néanmoins utile pour décrire les écarts.

Deux méthodes A et B traitent des dossiers standards ou difficiles. Pour A, 9 dossiers standards sur 10 et 30 dossiers difficiles sur 100 réussissent. Pour B, 80 dossiers standards sur 100 et 2 dossiers difficiles sur 10 réussissent.

1. Dossiers standards. A obtient 9 ÷ 10 = 90 %, contre 80 ÷ 100 = 80 % pour B. A est devant.
2. Dossiers difficiles. A obtient 30 ÷ 100 = 30 %, contre 2 ÷ 10 = 20 % pour B. A est encore devant.
3. Tous les dossiers. A totalise 39 succès sur 110, soit environ 35,5 %. B totalise 82 succès sur 110, soit environ 74,5 %. Cette fois, B est devant.

Le graphique met en regard les taux par difficulté et les taux agrégés. Il rend visible le changement de pondération : A traite 100 dossiers difficiles sur 110, tandis que B traite 100 dossiers standards sur 110.

Le contrôle se refait sur les effectifs : 9 + 30 = 39 et 10 + 100 = 110 pour A ; 80 + 2 = 82 et 100 + 10 = 110 pour B. L'inversion ne vient donc pas d'une erreur de calcul, mais de compositions opposées.

Dans un essai clinique, le taux global peut favoriser un traitement surtout administré à des patients moins sévèrement atteints. Lorsque la gravité est disponible, on examine aussi les taux par niveau de gravité au lieu de s'en tenir au total.

En sciences sociales, deux populations peuvent différer par âge, territoire ou catégorie. Si ces compositions sont déséquilibrées, la comparaison globale est complétée par des comparaisons dans des groupes homogènes.

Devant tout classement fondé sur une moyenne ou un taux, le bon réflexe consiste à demander quels effectifs ont servi de poids. Si l'ordre change selon le niveau d'agrégation, les deux résultats doivent être rapportés avec leur composition.

Une erreur de calcul. Dans un paradoxe de Simpson, les taux par sous-groupe et le taux global sont tous correctement calculés. Le cas tranche en recalculant les numérateurs et dénominateurs : l'ordre s'inverse encore, car les poids ont changé.

Une contradiction logique. Les affirmations « A réussit mieux parmi les dossiers standards » et « B réussit mieux au total » ne portent pas sur la même population pondérée. Elles peuvent donc être vraies simultanément.

Une simple association trompeuse. Toute corrélation globale trompeuse n'est pas un paradoxe de Simpson. Le critère distinctif est la disparition ou l'inversion de la tendance quand on conditionne sur les sous-groupes pertinents.

Des pourcentages sans effectifs. Les valeurs 90 %, 80 %, 30 % et 20 % ne suffisent pas à retrouver les totaux. Sans les quatre effectifs, les poids restent inconnus ; il faut demander les numérateurs et les dénominateurs avant de conclure.

Une variable cachée mal choisie. Découper les données au hasard peut produire des sous-groupes peu interprétables. Il faut justifier la variable de stratification par son lien avec l'indicateur et avec la composition des groupes, sans déduire automatiquement une causalité.

Le cas charnière de poids identiques. Si A et B ont la même part de chaque sous-groupe, leurs valeurs globales utilisent les mêmes coefficients. Une supériorité stricte de A dans chaque sous-groupe demeure alors stricte au total ; le renversement exige des pondérations différentes.

Choisir automatiquement le résultat ventilé. Le niveau pertinent dépend de la question posée. Pour comparer des performances à difficulté donnée, on stratifie ; pour décrire le nombre réel de succès dans chaque population, le total conserve un sens descriptif.

L'article Simpson, au-delà des apparences prolonge l'étude du paradoxe et aide à examiner ce que l'agrégation masque dans une comparaison statistique.