Ensembles d'entraînement et de test

Retournons dans Playground pour tester les ensembles d'entraînement. et les ensembles de test.

Cliquez sur l'icône + pour afficher un rappel de la signification des points orange et bleus.

Dans la visualisation:

• Chaque point bleu représente un exemple d'une classe de données (par exemple, spam).
• Chaque point orange représente un exemple d'une autre classe de données (par par exemple, n'est pas du spam).
• La couleur d'arrière-plan représente la prédiction du modèle concernant l'endroit où les exemples de cette couleur. Un point bleu sur fond bleu signifie que le modèle prédit correctement cet exemple. À l'inverse, avec un point bleu sur fond orange, cela signifie que le modèle une prédiction incorrecte pour cet exemple.

Cet exercice fournit à la fois un ensemble d'évaluation et un ensemble d'entraînement, tous deux issus le même ensemble de données. Par défaut, la visualisation n'affiche que les données d'entraînement défini. Si vous souhaitez également afficher l'ensemble de test, cliquez sur cochez la case Show test data (Afficher les données de test) juste en dessous de la visualisation. Dans la visualisation, notez la distinction suivante:

• Les exemples d'entraînement ont des contours blancs.
• Les exemples de test ont un contour noir.

Tâche 1:exécutez Playground avec les paramètres fournis en effectuant la suivantes:

1. Cliquez sur le bouton Lecture/Pause:
2. Observez l'évolution des valeurs de perte d'évaluation et de perte d'entraînement.
3. Lorsque les valeurs de perte d'évaluation et de perte d'entraînement cessent d'évoluer ou une seule fois de temps en temps, appuyez sur le bouton Lecture/Pause pour mettre en pause Playground.

Notez le delta entre la perte d'évaluation et la perte d'entraînement. Nous essaierons de réduire ce delta dans les tâches suivantes.

Tâche 2:effectuez les opérations suivantes:

1. Appuyez sur le bouton Réinitialiser.
2. Modifiez la section Apprentissage taux de conversion.
3. Cliquez sur le bouton Lecture/Pause:
4. Laissez Playground s'exécuter pendant au moins 150 époques.

Le delta entre la perte d'évaluation et la perte d'entraînement est-il inférieur ou avec ce nouveau taux d'apprentissage ? Que se passe-t-il si vous modifiez à la fois Le taux d'apprentissage taille de lot ?

Tâche 3 (facultative):un curseur intitulé Pourcentage des données d'entraînement vous permet de contrôler la proportion de données d'entraînement par rapport aux données de test. Par exemple : lorsque la valeur est définie sur 90%, l'ensemble d'entraînement utilise 90% des données les 10% restants sont utilisés pour l'ensemble de test.

Procédez comme suit :

1. Réduisez le pourcentage des données d'entraînement de 50% à 10%.
2. Testez le taux d'apprentissage et la taille de lot, et prenez des notes les résultats.

La modification du pourcentage de données d'entraînement modifie-t-elle de machine learning que vous avez découverts lors de la tâche 2 ? Si oui, pourquoi ?

---

---

Cliquez sur l'icône Plus pour afficher la réponse à la tâche 1.

Avec un taux d'apprentissage défini sur 3 (paramètre initial), La perte d'évaluation est nettement supérieure à la perte d'entraînement.

Cliquez sur l'icône Plus pour obtenir la réponse à la tâche 2.

En réduisant le taux d'apprentissage (à 0,001, par exemple), La perte d'évaluation tombe à une valeur beaucoup plus proche de la perte d'entraînement. Dans la plupart des exécutions, L'augmentation de la taille de lot n'a aucune incidence sur la perte d'entraînement ni sur le test de manière significative. Cependant, pour un faible pourcentage d'exécutions, l'augmentation Une taille de lot de 20 ou plus entraîne une légère baisse de la perte de test. sous la perte d'entraînement.

Les ensembles de données de Playground sont générés de manière aléatoire. Par conséquent, nos les réponses peuvent ne pas toujours correspondre exactement aux vôtres.

Cliquez sur l'icône Plus pour afficher la réponse à la tâche 3.

Réduire considérablement le pourcentage de données d'entraînement de 50% à 10 % diminue le nombre de points de données dans l'ensemble d'entraînement. Avec si peu de données, une taille de lot élevée et un taux d'apprentissage élevé provoquent un saut dans le modèle d'entraînement de façon anarchique (saut de manière répétée au-delà du point minimum).