Modèles statistiques classiques

Les modèles statistiques sont une classe de modèles mathématiques qui supposent l’existence d’un mécanisme sous-jacent expliquant le processus de génération des observations ou données et qui tentent d’en donner une formalisation mathématique approximative. Plus concrètement, ils s’intéressent à expliquer une variable aléatoire d’intérêt à travers une fonction qui s’exprime et implique très souvent d’autres variables aléatoires . La première, la variable Y est souvent dénommée variable de réponse, variable à expliquer ou variable dépendante ou encore variable à prédire, alors que les autres variables sont dénommées variables explicatives, prédictives ou encore variables indépendantes. On distingue notamment :

Dans...

Maintenant, on pourrait s’interroger sur le recours au T-Test dans le cas où l’on dispose de plus de deux échantillons, ou plus spécifiquement où l’on dispose de trois échantillons ? On peut penser utiliser un T-Test en couplant deux à deux les moyennes, ce qui revient à comparer la moyenne de l’échantillon à celle de , de à celle de et finalement de à . Ça pourrait fonctionner si ça n’impliquait pas un risque d’erreur de Type I plus important (voir dans le précédent chapitre pour la définition). En effet, si l’on fixe ce risque pour chaque T-Test à 5 % comme on a l’habitude de faire, pour la comparaison combinée des trois T-Test, en supposant les échantillons indépendants, on se retrouve avec un risque d’erreur de Type I égal à , ce qui est évidemment trop élevé pour un risque d’erreur de Type I surtout si on a un nombre K élevé de moyennes.

Ainsi, l’ANOVA est un palliatif pour résoudre cette inflation du risque d’Alpha ou d’erreur de Type I qui implique une dégradation du niveau de confiance quand le nombre K d’échantillons augmente. Autre part l’ANOVA s’interprète dans le cas de plan d’expérience comme une relation qui explique une variable de réponse Y continue (par exemple le poids d’un sujet test, le volume des ventes, etc.) par un certain nombre de variables prédictives qualitatives (par exemple, un traitement médical, emplacement des magasins de ventes, etc.), en l’occurrence dénommées facteurs, dont les différentes modalités ou niveaux représentent des groupes qui s’apparentent donc aux échantillons dont...

Les modèles de régression sont ceux qui traitent dans une logique exploratoire et surtout prédictive la relation entre une variable continue Y et p variables explicatives . Concrètement, on suppose qu’il existe une relation entre Y une variable continue et X = () qui se formalise de manière générale comme suit :

Réaliser une régression consiste à retrouver une formule de prévision Y par X, avec , le terme d’erreur ou résidu qui est une variable aléatoire totalement indépendante de X qui suit une loi normale et :

Où , appelée fonction hypothèse (puisqu’on ne la connaît pas, elle juste supposée), capture l’information systémique de Y connaissant X ce qui se traduit par l’égalité suivante :

Et le reste est contenu dans le terme d’erreur . Ainsi, on comprend que pour que soit la plus représentative possible de (la prévision de Y), il faudrait que soit minimale.