Bases du machine learning · Évaluation de modèles

Surapprentissage et sous-apprentissage

Un modèle qui mémorise les données d'entraînement au lieu d'apprendre le schéma (surapprentissage), ou un modèle trop faible pour même l'apprendre (sous-apprentissage).

Commencer une leçon sur Surapprentissage et sous-apprentissage

À apprendre d'abord

• Compromis biais-variance: Un modèle trop simple a un biais élevé (sous-apprend) ; un modèle trop flexible a une variance élevée (surapprend), et on ne peut pas minimiser les deux à la fois.

Mène à

• Régularisation (L1/L2): Pénaliser les poids élevés du modèle pendant l'entraînement pour qu'il ne puisse pas surapprendre en mémorisant le bruit.

Notions liées

• Régularisation (L1/L2): Pénaliser les poids élevés du modèle pendant l'entraînement pour qu'il ne puisse pas surapprendre en mémorisant le bruit.
• Validation croisée: Découper les données de plusieurs façons différentes et faire la moyenne des performances, pour qu'un découpage chanceux ou malchanceux ne vous induise pas en erreur.