Taux d’apprentissage

Le taux d’apprentissage est un hyperparamètre crucial dans l’entraînement des modèles d’apprentissage machine, en particulier dans les réseaux de neurones. Il détermine l’ampleur des ajustements apportés aux poids du modèle à chaque mise à jour pendant l’entraînement. Un taux d’apprentissage trop élevé peut conduire le modèle à converger trop rapidement vers une solution sous-optimale, tandis qu’un taux trop bas peut ralentir considérablement le processus d’apprentissage.

Exemple : Imaginez que vous essayez d’apprendre le golf et que le taux d’apprentissage représente à quelle vitesse vous ajustez votre swing en fonction des conseils de votre entraîneur. Si vous changez votre swing drastiquement à chaque fois (un taux d’apprentissage élevé), vous pourriez ne pas améliorer efficacement votre technique. À l’inverse, si vous ajustez à peine votre swing (un taux d’apprentissage faible), il pourrait vous falloir très longtemps pour vous améliorer.

Retourner à l'index du lexique