Apprendre par cœur, est-ce judicieux ? Les nouvelles perspectives du sur-apprentissage
De Claire Boyer
Nous présenterons en premier lieu les grands concepts de l'apprentissage statistique supervisé, i.e. comment à partir d'exemples (X_i,Y_i) étiquetés, les X_i étant des variables d'entrée, et les Y_i étant des étiquettes associées, on peut construire un prédicteur prenant en entrée seulement les variables X_i, et telle que sa sortie soit proche de la vraie étiquette Y_i. Évidemment, le prédicteur doit être pertinent sur les exemples (X_i,Y_i), dits d'entraînement, mais surtout on cherche à ce qu'il soit pertinent sur des données (X,Y) copies indépendantes des (X_i,Y_i), que le prédicteur n'a pas vues lors de son entraînement.
Ensuite nous étudierons un exemple simple de prédicteur qui n'est qu'une fonction linéaire en les entrées X_i, et nous illustrerons différents régimes dits de sur-apprentissage, c'est-à-dire quand le prédicteur apprend par cœur ses données d'entraînement et ne commet donc aucune erreur de prédiction sur le jeu d'apprentissage.
