Statistique descriptive à deux variables

Considérons un échantillon de \(n\) individus sur lequel nous observons deux variables quantitatives

\(\textcolor{white}{\cdot} \quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad X = \{x_{1}, x_{2}, . . . , x_{k}\}\)

et

\(\textcolor{white}{\cdot} \quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad Y = \{ y_{1}, y_{2}, . . . , y_{l}\}\)

ayant respectivement \(k\) et \(l\) modalités.

A chaque couple \((x_{i} ,y_{j})\) correspond une case du tableau statistique à double entrées, où figurent en lignes les modalités de \(X\) et en colonnes les modalités de \(Y\) . Le nombre d'éléments présentant à la fois les modalités \(x_{i}\) et \(y_{j}\) est l'effectif du couple \((x_{i} ,y_{j})\) que l'on note \(n_{i j}\).

Les quantités \(n_{ij}\) sont appelées les effectifs conjoints.

Le tableau de contingence représente la distribution conjointe du couple \((X, Y)\).

Les quantités \(n_{i.}\) \((i=1,...,k)\) et \(n_{.j}\) \((j=1,...,l)\), appelées effectifs marginaux, sont définies de la façon suivante:

\(\textcolor{white}{\cdot} \quad\quad\quad\quad\quad\quad\quad\quad\quad\quad n_{i.}=\displaystyle\sum_{j=1}^{l}n_{ij}; \quad \quad n_{.j}=\displaystyle\sum_{i=1}^{k}n_{ij}.\)

Elles vérifient

\(\textcolor{white}{\cdot} \quad\quad\quad\quad \quad\quad\quad\quad\quad\quad\quad\quad \displaystyle\sum_{i=1}^{k}n_{i.}=\displaystyle\sum_{j=1}^{l}n_{.j}=n=n_{..}.\)

On dit que les variables \(X\) et \(Y\) sont indépendantes si, et seulement si :

\(f_{ij} =f_{i.}\times f_{.j}\) ou \(n_{ij} =\displaystyle\frac{n_{i.}n_{.j}}{n}\), \(\forall i = 1, . . . , k\) et \(\forall j = 1, . . . , l\).

Pour étudier l'intensité de la liaison entre deux variables quantitatives \(X\) et \(Y\) observées sur \(n\) individus, le graphique habituel est le nuage de points (ou diagramme de dispersion).

Il fait correspondre à chaque couple \((x_{i},y_{i})\) un point d'abscisse \(x_{i}\) et d'ordonnée \(y_{i}\) dans un repère cartésien.

Ce graphique permet de voir si les points sont groupés autour d'une droite ou d'une courbe, ou s'ils sont totalement dispersés.

Le coefficient de corrélation permet d'apprécier l'intensité de la liaison linéaire entre les deux variables \(X\) et \(Y\):

•   \(| r_{X,Y}|=1\) est équivalent à l'existence d'une relation linéaire exacte entre les deux variables.

• Si le coefficient de corrélation est positif, les points sont alignés le long d'une droite croissante.

• Si le coefficient de corrélation est négatif, les points sont alignés le long d'une droite décroissante.

• Si le coefficient de corrélation est nul ou proche de zéro, il n'y a pas de dépendance linéaire. On peut cependant avoir une dépendance non linéaire avec un coefficient de corrélation nul.

Plus précisément il est d'usage de considérer que:

• \(0,95 \leq \mid r_{X,Y} \mid \leq 1\) correspond à une très forte corrélation.

• \(0,70 \leq \mid r_{X,Y} \mid < 0,95\) correspond à une forte corrélation.

• \(\mid r_{X,Y} \mid < 0,70\)  correspond à une faible corrélation.

Soit un ensemble de \(n\) observations \((x_{i},y_{i})\), \(i=1,\cdots,n\) de deux variables quantitatives \(X\) et \(Y\).

\(X\) est la variable explicative.

\(Y\) est la variable estimée (ou expliquée) qui est liée linéairement à \(X\).

Lorsque l'on dispose d'un nuage de points qui a un aspect linéaire, on peut essayer de tracer "à main levée" la droite d'équation \(Y=aX+b\) qui caractérise ce nuage et lire graphiquement les valeurs de \(a\) et \(b\).

Cette méthode peu objective est rarement utilisée.

La méthode des moindres carrées est souvent utilisée pour estimer \(a\) et \(b\).

La régression de \(Y\) en \(X\)  postule que la connaissance des valeurs de \(X\) permet de prévoir celles de \(Y\). Il s'agit donc de prévision et l'objectif est de minimiser l'erreur de prévision c'est-à-dire l'écart entre les valeurs observées de \(Y\) et les valeurs estimées de \(Y\) par la relation \(Y=aX+b\). Les erreurs seront donc les distances à la droite par rapport à l'axe des ordonnées.

En observant le figure ci-dessous pour illustration, on constate que lorsque l'on cherche à exprimer \(Y\) en fonction de\( X\), on peut affecter à chaque valeur observée \(y_{i}\) une valeur estimée par la droite de régression . L'erreur d'estimation sur l'individu \(i\) est donc représentée par un segment vertical qui joint les deux points.

Comme on souhaite obtenir un ajustement optimal, il faut définir un critère général définissant la qualité d'ajustement de l'ensemble des valeurs à la droite proposée.

La première solution qui vient à l'esprit est la minimisation de la somme des erreurs. Ce critère est discutable car des erreurs positives et négatives peuvent se compenser et l'on pourrait obtenir un ajustement optimal sans même que la droite ne passerait pas par tous les points du nuage.

La  solution qui est la plus souvent retenue en statistique est appelée critère des moindres carrés et consiste à minimiser de la somme des carrés des erreurs. Ce critère est apparemment correct car il n'y a pas de compensation entre les erreurs positives et négatives. 

L'équation de la droite de régression Y=aX+b qui minimise le carré des écarts entre valeurs observées et valeurs estimées est obtenue à l'aide des deux formules suivantes :

La droite des moindres carrés (ou de régression) de \(Y\) en \(X\) a donc pour équation: \(\textcolor{white}{\cdot} \quad\quad\quad\quad D_{Y/X}: Y=aX+b,\quad \hbox{avec}\,\,a=\displaystyle\frac{cov(X,Y)}{var(X)}\quad\quad\hbox{et}\,\, b=\overline{Y}-a\overline{X}.\)

La régression de \(X\) en  Y part inversement du fait que les valeurs de \(X\) dépendent de celles de \(Y\), c'est-à-dire postule que la connaissance des valeurs de \(Y\) permet de prévoir celles de \(X\). Cette fois-ci, il s'agit donc de minimiser l'erreur de prévision sur \(X\) c'est-à-dire la distance entre les valeurs observées de \(X\) et les valeurs  estimées de \(X\) par la relation \(X=a'Y+b'\). Les erreurss seront donc la distance à la droite par rapport à l'axe des abscisses et non plus par rapport à l'axe ordonnées comme précédemment.

En observant le figure ci-dessous pour illustration, on constate que lorsque l'on cherche à exprimer \(X\) en fonction de \(Y\), on peut affecter à chaque valeur observée \(x_{i}\) une valeur estimée par la droite de régression . L'erreur d'estimation sur l'individu \(i\) est donc égal au segment horizontal qui joint les deux points.

On suit une démarche analogue à celle qui a donné la droite des moindres carrés de \(Y\) en \(X\). On

cherche \`{a} ajuster une droite \(D_{X/Y}\) d'équation \(X=a'Y +b'\) au nuage de points.

On obtient la droite des moindres carrés de \(X\) en \(Y\):

\(\textcolor{white}{\cdot} \quad\quad\quad\quad D_{X/Y}: X=a'Y+b',\quad \hbox{avec}\,\,a'=\displaystyle\frac{cov(X,Y)}{var(Y)}\quad\quad\hbox{et}\,\, b'=\overline{X}-a'\overline{Y}.\)