Tasso di apprendimento e convergenza
Questo è il primo di diversi esercizi di Playground. Playground è un programma sviluppati appositamente per questo corso, per insegnare i principi del machine learning. Ogni esercizio del parco giochi in questo corso include un parco giochi incorporato un'istanza con i predefiniti.
Ogni esercizio Playground genera un set di dati. L'etichetta per ha due valori possibili. Si potrebbe pensare a questi due possibili valori come spam, non spam o forse alberi sani o alberi malati. L'obiettivo della maggior parte degli esercizi è modificare vari iperparametri per creare un modello che classifica (separa o distingue) dell'altro. Tieni presente che la maggior parte dei set di dati contiene un certo rumore che renderà impossibile una classificazione ogni esempio.
Fai clic sull'icona Più per una spiegazione della visualizzazione del modello.
Ogni esercizio Playground mostra una visualizzazione lo stato desiderato del modello. Ad esempio, ecco una visualizzazione:
Tieni presente quanto segue per la visualizzazione del modello:
- Ciascun asse rappresenta una caratteristica specifica. In caso di spam o non spam, come il conteggio delle parole e il numero di destinatari email.
- Ogni punto traccia i valori delle caratteristiche per un esempio dei dati, come un'email.
- Il colore del punto rappresenta la classe a cui appartiene l'esempio. Ad esempio, i punti blu possono rappresentare le email che non sono spam, mentre i punti arancioni possono rappresentare le email di spam.
- Il colore di sfondo rappresenta la previsione del modello del punto in cui gli esempi di quel colore. Uno sfondo blu intorno a un punto blu significa che il modello prevede correttamente l'esempio. Al contrario, uno sfondo arancione attorno a un pallino blu indica che il modello a prevedere erroneamente l'esempio.
- I blu e gli arancioni sullo sfondo sono scalati. Ad esempio, il lato sinistro di la visualizzazione è blu fissa, ma passa gradualmente al bianco al centro della visualizzazione. L'intensità del colore è un suggerimento l'affidabilità del modello nella sua ipotesi. Il blu indica che il modello è molto sicura della sua ipotesi e l'azzurro significa che il modello è meno sicura. (La visualizzazione del modello mostrata nella figura mostra un lavoro di previsione scadente.)
Usa la visualizzazione per valutare i progressi del modello. ("Eccellente: la maggior parte dei punti blu ha uno sfondo blu" oppure "Oh, no! I punti blu hanno uno sfondo arancione.") Oltre i colori, Playground mostra numericamente anche la perdita attuale del modello. ("Oh, no! la perdita sta aumentando anziché diminuirla.")
L'interfaccia di questo esercizio presenta tre pulsanti:
| Icona | Nome | Descrizione |
|---|---|---|
|
Reimposta | Reimposta Iterazioni su 0. Reimposta i pesi assegnati al modello hai già imparato. |
|
Passaggio | Avanza di un'iterazione. A ogni iterazione, il modello cambiamenti, a volte in modo lieve e a volte drastico. |
|
Rigenera | Genera un nuovo set di dati. Non reimposta Iterazioni. |
In questo primo esercizio di Playground, sperimenterai il tasso di apprendimento completando due attività.
Attività 1: osserva il menu Tasso di apprendimento in alto a destra di Parco giochi. Il tasso di apprendimento specificato (3) è molto elevato. Osservazione in che modo questo tasso di apprendimento elevato influisce sul modello facendo clic sul "Passaggio" 10 o 20 volte. Dopo ogni iterazione iniziale, nota come il modello cambia drasticamente. Potresti persino notare una certa instabilità dopo che il modello sembra essere giunto alla convergenza. Nota anche che le linee in esecuzione da x1 e x2 alla visualizzazione del modello. I pesi queste linee indicano i pesi delle caratteristiche nel modello. Vale a dire che una linea spessa indica uno spessore elevato.
Attività 2: svolgi i seguenti passaggi:
- Premi il pulsante Reimposta.
- Ridurre il tasso di apprendimento.
- Premi il pulsante Passaggio diverse volte.
In che modo il tasso di apprendimento più basso ha influito sulla convergenza? Esamina sia la il numero di passaggi necessari per la convergenza del modello e anche il livello di e il modello converge costantemente. Sperimenta con valori ancora più bassi di tasso di apprendimento. Riesci a trovare un tasso di apprendimento troppo lento per essere utile? (Dovrai trova una discussione appena sotto l'esercizio.)