La droite qui passe par les points : la régression

Si vous élargissez l'espace en rayon accordé au café dans un supermarché, les ventes augmentent-elles ? L'intuition dit oui. Mais de combien ? Que vaut un mètre de rayon supplémentaire, en paquets ?

La méthode qui répond à cela est l'outil le plus ancien et le plus utilisé de la statistique : la régression. L'idée tient en une phrase — ajustez une droite aux points, puis posez-lui des questions.

Douze semaines de café

Nous avons douze semaines de données. Deux nombres par semaine : la longueur de rayon accordée au café et le nombre de paquets vendus. L'espace vaut trois, six ou neuf unités ; les ventes vont de 346 à 672.

Placez les points sur un graphique et une chose saute aux yeux : les semaines à trois unités se regroupent en bas, celles à neuf en haut. Mais la dispersion à l'intérieur de chaque groupe est réelle. Avec le même espace, une semaine a vendu 560 paquets et une autre 672. L'espace en rayon ne détermine donc pas les ventes ; il ne fait que les influencer.

Quelle droite ?

On peut faire passer une infinité de droites dans un nuage de points. Laquelle est « la bonne » ?

Les moindres carrés posent un critère net : prenez la distance verticale de chaque point à la droite, élevez-la au carré, additionnez le tout. La droite qui rend cette somme minimale l'emporte.

Sur les données du café, le calcul donne cette droite : une unité de rayon supplémentaire vaut en moyenne 34,6 paquets par semaine. Le « ça augmente » intuitif est devenu un nombre.

Là où la droite se tait

L'erreur la plus courante consiste à prolonger la droite au-delà des données. Les observations se situent entre trois et neuf unités. Sur le papier, la droite file à l'infini et répondra volontiers à « et si on lui donnait cent unités ? ». Cette réponse ne repose sur rien.

Une droite de régression ne parle que dans l'intervalle qui l'a nourrie. Dès que vous en sortez, vous cessez de produire des prévisions et commencez à produire des vœux.

Plus d'une variable

Dans la vraie vie, l'espace en rayon ne détermine pas seul les ventes : le prix, la saison, la publicité et les campagnes des concurrents comptent aussi. La même idée s'étend à plusieurs variables, chacune avec son coefficient.

Avec une réserve : si les variables se ressemblent trop, le modèle s'embrouille. Ajoutez à la fois « longueur de rayon » et « surface de rayon » — deux colonnes mesurant presque la même chose — et le calcul ne peut plus démêler laquelle agit.

Si la relation est une courbe plutôt qu'une droite, la même méthode s'applique aux courbes. Le plus surprenant : un modèle contenant des termes au carré ou au cube reste dit « linéaire », car la linéarité se cherche non dans les variables mais dans les coefficients.

Et c'est de l'apprentissage automatique

La régression est aujourd'hui autant au programme d'un cours d'apprentissage automatique que d'un cours de statistique. La différence tient moins à la méthode qu'aux habitudes.

La tradition de l'apprentissage automatique coupe les données en deux : elle ajuste la droite sur une partie et la teste sur celle qu'elle a mise de côté. Pourquoi ? Parce qu'il est facile à un modèle d'expliquer les données qu'il a vues ; la vraie question est ce qu'il fait sur celles qu'il n'a pas vues.

Parce qu'elle s'entraîne sur des données étiquetées et produit une prédiction numérique, la régression relève par définition de l'apprentissage supervisé. Autrement dit : le premier pas sur la route de l'apprentissage profond, c'est cette droite tracée à travers douze semaines de ventes de café.

Selim Kusursuz

Fondateur et auteur 5 contenus

Étudie les systèmes et réseaux informatiques à Paris-Saclay, parcours Systèmes autonomes. Travaille en mathématiques et en informatique. Parle couramment le français, l’anglais et le turc.

Voir tous ses articles