Uczenie maszynowe byłoby znacznie prostsze, gdyby wszystkie krzywe strat wyglądały tak samo przy pierwszym trenowaniu modelu:
Niestety krzywe strat są często trudne do zinterpretowania. Wykorzystaj swoją intuicję dotyczącą krzywych strat, aby rozwiązać ćwiczenia na tej stronie.
Ćwiczenie 1. Oscylacyjna krzywa strat
Jakie 3 rzeczy możesz zrobić, aby poprawić krzywą strat przedstawioną na rysunku 21?
Porównaj swoje dane ze schematem danych, aby wykryć złe przykłady, a potem usuń je ze zbioru treningowego.
Tak, to dobra praktyka w przypadku wszystkich modeli.
zmniejszyć tempo nauki;
Tak, zmniejszanie szybkości uczenia się często jest dobrym pomysłem podczas debugowania problemu z trenowaniem.
Zmniejsz zbiór treningowy do niewielkiej liczby wiarygodnych przykładów.
Chociaż ta technika brzmi sztucznie, w istocie jest dobrym pomysłem. Zakładając, że model zbiega się na małym zbiorze wiarygodnych przykładów, możesz stopniowo dodawać więcej przykładów, aby sprawdzić, które z nich powodują wahania krzywej strat.
Zwiększ liczbę przykładów w zbiorze treningowym.
To kusząca propozycja, ale jest bardzo mało prawdopodobne, że rozwiąże Twój problem.
Zwiększ tempo uczenia się.
Ogólnie unikaj zwiększania szybkości uczenia się, gdy krzywa uczenia się modelu wskazuje na problem.
Ćwiczenie 2. Krzywa strat z ostrym skokiem
Które 2 z podanych stwierdzeń wskazują na możliwe przyczyny gwałtownego wzrostu strat widocznego na rysunku 22?
Dane wejściowe zawierają co najmniej 1 wartość NaN, np. wartość spowodowaną dzieleniem przez 0.
Jest to częstsze zjawisko, niż mogłoby się wydawać.
Dane wejściowe zawierają dużą liczbę wartości odstających.
Czasami z powodu nieprawidłowego mieszania partii partia może zawierać wiele wartości odstających.
Zbyt niski współczynnik uczenia się.
Bardzo niskie tempo uczenia się może wydłużyć czas trenowania, ale nie jest przyczyną dziwnej krzywej straty.
Współczynnik regularyzacji jest za wysoki.
To prawda, że bardzo wysoka regularyzacja może uniemożliwić modelowi konwergencję, ale nie spowoduje dziwnej krzywej utraty przedstawionej na rysunku 22.
Ćwiczenie 3. Strata w testach różni się od straty w treningu
Które z tych stwierdzeń najlepiej opisuje przyczynę tej różnicy między krzywą utraty funkcji celu w przypadku zbiorów danych do trenowania i testowania?
Model zbyt dobrze pasuje do zbioru treningowego.
Tak, prawdopodobnie tak jest. Możliwe rozwiązania:
- Uprość model, np. przez zmniejszenie liczby cech.
- Zwiększ stopień regularyzacji.
- Upewnij się, że zbiór treningowy i testowy są statystycznie równoważne.
Tempo uczenia się jest za wysokie.
Gdyby szybkość uczenia się była zbyt wysoka, krzywa strat dla zbioru treningowego prawdopodobnie nie wyglądałaby tak samo.
Ćwiczenie 4. Krzywa strat się zacina
Które z tych stwierdzeń jest najbardziej prawdopodobnym wyjaśnieniem nieregularnej krzywej strat pokazanej na rysunku 24?
Zbiór danych do trenowania nie jest dobrze posortowany.
To jest możliwe. Na przykład zbiór treningowy zawierający 100 obrazów psów, a potem 100 obrazów kotów może powodować wahania wartości funkcji utraty podczas trenowania modelu. Dokładnie wymieszaj przykłady.
Współczynnik regularyzacji jest za wysoki.
Jest to mało prawdopodobne.
zbiór treningowy zawiera zbyt wiele cech;
Jest to mało prawdopodobne.