Tasa de aprendizaje y convergencia
Este es el primero de varios ejercicios de Playground. Playground es un programa desarrollados especialmente para que se enseñen los principios del aprendizaje automático. En este curso, cada ejercicio de Playground incluye una zona de pruebas incorporada con ajustes predeterminados.
Cada ejercicio de Playground genera un conjunto de datos. La etiqueta de esto conjunto de datos tiene dos valores posibles. Podrías pensar en esas dos valores posibles, como spam, “no es spam” o “árboles sanos” frente a árboles enfermos. El objetivo de la mayoría de los ejercicios es ajustar varios hiperparámetros para crear un modelo que clasifica (separa o distingue) con éxito uno el valor de etiqueta de la otra. La mayoría de los conjuntos de datos contienen cierto cantidad de ruido que hará imposible clasificar correctamente todos los ejemplos.
Haz clic en el ícono de signo más para obtener una explicación de la visualización del modelo.
Cada ejercicio de Playground muestra una visualización de la estado del modelo. Por ejemplo, aquí hay una visualización:
Ten en cuenta lo siguiente sobre la visualización del modelo:
- Cada eje representa un atributo específico. En el caso de las opciones spam y no spam, los atributos podrían ser el recuento de palabras y el número de destinatarios del correo electrónico.
- Cada punto traza los valores de los atributos de un ejemplo de los datos, como un correo electrónico.
- El color del punto representa la clase a la que pertenece el ejemplo. Por ejemplo, los puntos azules pueden representar correos electrónicos que no son spam, mientras que los puntos anaranjados pueden representar los correos electrónicos de spam.
- El color de fondo representa la predicción del modelo de dónde los ejemplos de ese color. Un fondo azul alrededor de un punto azul significa que el modelo predice ese ejemplo de forma correcta. Por el contrario, un fondo anaranjado alrededor de un punto azul significa que el modelo está para predecir un ejemplo de forma incorrecta.
- Los fondos azules y naranjas están en escala. Por ejemplo, el lado izquierdo de la visualización es de color azul continuo, pero se atenúa gradualmente a blanco en el centro de la visualización. Puedes pensar en la intensidad del color como una sugerencia la confianza del modelo en su suposición. Entonces, la luz azul continua significa que el modelo confía mucho en su suposición, y azul claro significa que el modelo es menos seguro. (La visualización del modelo que se muestra en la figura está realizando un mal trabajo de predicción).
Usa la visualización para juzgar el progreso de tu modelo. ("Excelente: la mayoría de los puntos azules tienen un fondo azul" o "¡Oh, no! Los puntos azules tienen un fondo anaranjado"). Más allá de los colores, Playground también muestra la pérdida actual del modelo numéricamente. ("¡Oh, no! La pérdida está aumentando en lugar de disminuir").
La interfaz de este ejercicio proporciona tres botones:
| Ícono | Nombre | Qué hace |
|---|---|---|
|
Restablecer | Restablece las iteraciones a 0. Restablece las ponderaciones del modelo aprendiste. |
|
Paso | Avanza una iteración. Con cada iteración, el modelo cambios, a veces de forma sutil y otras drásticas. |
|
Volver a generar | Genera un nuevo conjunto de datos. No restablece las iteraciones. |
En este primer ejercicio de Playground, experimentarás con la tasa de aprendizaje realizando dos tareas.
Tarea 1: Observa el menú Tasa de aprendizaje que se encuentra en la parte superior derecha de Playground. La tasa de aprendizaje dada (3) es muy alta. Observar cómo afecta a tu modelo esa alta tasa de aprendizaje haciendo clic en el “Paso” 10 o 20 veces. Después de cada iteración inicial, observa cómo el modelo la visualización cambian drásticamente. Incluso es posible que notes inestabilidad después de que el modelo parece haber convergido. Observa también las líneas que se ejecutan de x1 y x2 a la visualización del modelo. Las ponderaciones de estas líneas indican los pesos de esos atributos en el modelo. Es decir, un la línea gruesa indica un peso alto.
Tarea 2: Haz lo siguiente:
- Presiona el botón Restablecer.
- Reduce la tasa de aprendizaje.
- Presiona el botón Paso muchas veces.
¿Cómo afectó la reducción de la tasa de aprendizaje a la convergencia? Examina los la cantidad de pasos necesarios para que el modelo converja y, de manera constante, el modelo converge. Experimenta con valores aún más bajos de la tasa de aprendizaje. ¿Puedes considerar que una tasa de aprendizaje es demasiado lenta para ser útil? (Verás busca un debate justo debajo del ejercicio).