La droite des moindres carrés
La régression linéaire simple cherche la droite y = a + bx qui décrit le mieux l’évolution de y en fonction de x. « Le mieux » signifie qu’elle minimise la somme des carrés des écarts verticaux entre les points et la droite : c’est la méthode des moindres carrés, appelée aussi ajustement affine.
Les formules
- Pente b = (nΣxy − ΣxΣy) ÷ (nΣx² − (Σx)²), soit cov(x, y) ÷ V(x)
- Ordonnée à l’origine a = ȳ − b × x̄
- Coefficient de corrélation r = cov(x, y) ÷ (σx × σy)
- Coefficient de détermination R² = r²
Exemple chiffré
| x | 1 | 2 | 3 | 4 | 5 |
|---|---|---|---|---|---|
| y | 2 | 4,1 | 5,9 | 8,2 | 9,9 |
- Σx = 15, Σy = 30,1, Σxy = 110,2, Σx² = 55.
- Pente : (5 × 110,2 − 15 × 30,1) ÷ (5 × 55 − 15²) = 99,5 ÷ 50 = 1,99.
- Ordonnée à l’origine : (30,1 − 1,99 × 15) ÷ 5 = 0,05.
- Droite : y = 0,05 + 1,99x.
- r ≈ 0,9992 et R² ≈ 0,998.
- Prévision pour x = 6 : 0,05 + 1,99 × 6 = 11,99.
Lire le coefficient r
| |r| | Intensité de la liaison linéaire | |—|—| | 0,9 à 1 | très forte | | 0,7 à 0,9 | forte | | 0,4 à 0,7 | modérée | | moins de 0,4 | faible |
Le signe de r donne le sens : positif si y augmente avec x, négatif sinon.
Les précautions
- Tracer le nuage de points d’abord : une forme courbe demande un autre modèle, par exemple exponentiel après passage au logarithme.
- Les valeurs aberrantes : un seul point extrême peut fausser la pente.
- La dispersion autour de la droite doit être comparable pour toutes les valeurs de x.
- L’indépendance des observations, souvent mise à mal dans les séries chronologiques.
Corrélation n’est pas causalité
Les ventes de glaces et les noyades augmentent toutes deux en été, sans que l’une cause l’autre : c’est la chaleur qui agit sur les deux. La régression décrit une association ; établir une causalité demande une expérience ou un protocole d’étude rigoureux.
Avec un tableur ou une calculatrice
Les fonctions PENTE, ORDONNEE.ORIGINE, COEFFICIENT.CORRELATION et DROITEREG d’un tableur, ou le mode statistiques d’une calculatrice de lycée, donnent les mêmes résultats que ce calculateur pour un ajustement affine.