Regularización para lograr simplicidad: Ejercicio de Playground

Examen de regularización L2

Este ejercicio contiene un conjunto de datos de entrenamiento inconsistente y pequeño. En este tipo de conjunto, el sobreajuste representa un problema real. Por suerte, la regularización puede ayudar.

Este ejercicio consiste en tres tareas relacionadas. Para simplificar las comparaciones en las tres tareas, realiza cada tarea en una pestaña independiente.

  • Tarea 1: Ejecuta el modelo especificado al menos 500 etapas. Ten en cuenta lo siguiente:
    • La pérdida de la prueba.
    • El delta entre la pérdida de prueba y la pérdida de entrenamiento.
    • Las ponderaciones aprendidas de los atributos y las combinaciones de atributos. (El espesor relativo de cada línea que va de ATRIBUTOS a RESULTADO representa la ponderación aprendida para ese atributo o combinación de atributos. Si colocas el cursor sobre cada línea, puedes ver los valores exactos de las ponderaciones).
  • Tarea 2 (te recomendamos realizar esta tarea en una pestaña separada): Aumenta la tasa de regularización de 0 a 0.3. Luego, ejecuta el modelo al menos 500 etapas y busca las respuestas a las siguientes preguntas:
    • ¿En qué se diferencia las pérdidas de prueba en la Tarea 2 y en la Tarea 1?
    • ¿En qué se diferencian los valores delta entre la pérdida de prueba y la pérdida de entrenamiento en la Tarea 2 y en la Tarea 1?
    • ¿En qué se diferencian las ponderaciones aprendidas de cada atributo y cada combinación de atributos en la Tarea 2 y en la Tarea 1?
    • ¿Qué indican los resultados sobre la complejidad del modelo?
  • Tarea 3: Experimenta con la tasa de regularización, intenta encontrar el valor óptimo.

(Las respuestas se muestran después del ejercicio).



Enviar comentarios sobre…

Curso intensivo de aprendizaje automático