Tempo uczenia się i zgodność
To jest pierwsze z kilku ćwiczeń w Playground. Playground to program, opracowanych specjalnie na potrzeby tego kursu, by nauczyć zasad systemów uczących się. Każde ćwiczenie w ramach tego kursu zawiera wbudowany plac zabaw instancji z gotowymi ustawieniami.
Każde ćwiczenie w Playground generuje zbiór danych. Etykieta tego elementu zbiór danych ma 2 możliwe wartości. Są to „spam” bądź „nie spam” albo „zdrowe drzewa” zamiast „chore drzewa”. Celem większości ćwiczeń jest poprawienie różnych hiperparametrów w celu model, który z powodzeniem klasyfikuje (rozdziela lub rozróżnia) jeden etykiety z drugiej. Większość zbiorów danych zawiera ilość szumu, która uniemożliwia skuteczne sklasyfikowanie każdy przykład.
Aby dowiedzieć się więcej o wizualizacji modelu, kliknij ikonę plusa.
Każde ćwiczenie w Playground pokazuje wizualizację bieżącego stanu modelu. Oto wizualizacja:
Uwaga na temat wizualizacji modelu:
- Każda oś reprezentuje określoną funkcję. W przypadku spamu mogą to być np. liczba słów i liczba odbiorców e-mail.
- Każda kropka pokazuje wartości cech dla jednego przykładu danych, takiego jak e-maila.
- Kolor kropki wskazuje na klasę, do której należy przykład. Na przykład niebieskie kropki mogą oznaczać e-maile, które nie są spamem, a pomarańczowe kropki mogą oznaczać e-maile ze spamem.
- Kolor tła reprezentuje przewidywane miejsce występowania przykładów taki kolor. Niebieskie tło wokół niebieskiej kropki oznacza, że model poprawnie przewiduje ten przykład. I odwrotnie: pomarańczowe tło wokół niebieskiej kropki oznacza, że model błędnie przewidując dany przykład.
- Niebieskie i pomarańczowe kolory tła są skalowane. Na przykład po lewej stronie wizualizacja ma pełny niebieski kolor, ale stopniowo staje się biały w środku wizualizacji. Intensywność kolorów wskazuje, pewność modelu w swojej przypuszczalnej postaci. Świeci kolorem niebieskim oznacza, że model jest bardzo pewny swojej przypuszczenia, a jasnoniebieski oznacza, że model jest mniej pewny siebie. (Wizualizacja modelu widoczna na grafice słabe zadanie prognozowania).
Użyj wizualizacji, aby ocenić postęp modelu. („Doskonale—większość niebieskich kropek ma niebieskie tło” lub – O, nie! Niebieskie punkty mają pomarańczowe tło”). Więcej niż kolory, Playground wyświetla też liczbową stratę modelu. strata rośnie, a nie spada”).
W interfejsie tego ćwiczenia znajdują się 3 przyciski:
| Ikona | Nazwa | Działanie |
|---|---|---|
|
Resetuj | Resetuje wartość Iteracji do wartości 0. Resetuje wszystkie wagi przypisane przez model już się nauczyłeś. |
|
Krok | Przejdź o jedną iterację. Przy każdej iteracji model zmienia się, czasami subtelnie, a czasem znacząco. |
|
Wygeneruj ponownie | Generuje nowy zbiór danych. Nie resetuje iteracji. |
W ramach pierwszego ćwiczenia na platformie Playground tempo uczenia się przez wykonanie 2 zadań.
Zadanie 1. Zwróć uwagę na menu Tempo uczenia się w prawym górnym rogu Playground. Podany wskaźnik uczenia się (3) jest bardzo wysoki. Obserwuj jak to wysokie tempo uczenia się wpływa na model. Kliknij „Krok” 10 lub 20 razy. Po każdej wczesnej iteracji zwróć uwagę, jak model sposób wizualizacji treści działa diametralnie. Możesz nawet zauważyć pewne niestabilność po zbieżności modelu. Zwróć też uwagę na uruchomione linie od x1 i x2 do wizualizacji modelu. Wagi te linie wskazują wagi tych cech w modelu. Oznacza to, że gruba linia oznacza dużą wagę.
Zadanie 2. Wykonaj te czynności:
- Kliknij przycisk Resetuj.
- Obniż Tempo uczenia się.
- Naciśnij kilka razy przycisk Krok.
Jak niższe tempo uczenia się wpłynęło na zbieżność? Przyjrzyj się liczby kroków niezbędnych do zbieżności modelu, a także to, jak płynnie i stopniowo zbiega się z modelem. Eksperymentuj z jeszcze niższymi wartościami tempo uczenia się. Czy tempo uczenia się nie jest dla Ciebie zbyt wolne? (Potrzebne informacje znajdziesz dyskusję poniżej ćwiczenia).