Halaman ini diterjemahkan oleh Cloud Translation API.

Menafsirkan Kurva Kehilangan

Machine learning akan menjadi mudah jika semua kurva kerugian terlihat seperti ini saat pertama kali kami melatih model:

Plot menunjukkan kurva kerugian yang ideal saat melatih model machine learning.
Kurva kerugian memetakan kerugian pada sumbu y terhadap jumlah langkah pelatihan pada sumbu x. Seiring bertambahnya jumlah langkah pelatihan, kerugian akan dimulai secara tinggi, kemudian menurun secara eksponensial, dan akhirnya meratakan hingga mencapai kerugian minimum.

Namun, pada kenyataannya, kurva kurva bisa sangat sulit untuk ditafsirkan. Gunakan pemahaman Anda tentang kurva kerugian untuk menjawab pertanyaan berikut.

1. Model Saya Tidak Akan Latih!

Teman Anda, Mel, dan Anda melanjutkan pengerjaan prediktor unicorn. Berikut adalah kurva kerugian pertama Anda.

Plot kurva kerugian dengan sumbu yang sama seperti plot sebelumnya. Di sini, kerugian tidak merata, tetapi meningkat dan menurun secara tidak menentu, sehingga plot berosilasi.

Jelaskan masalahnya dan cara Mel dapat memperbaikinya:

Klik ikon plus untuk meluaskan bagian dan mendapatkan jawabannya.

Model Anda tidak dikonvergensi. Coba langkah-langkah proses debug ini:

Periksa apakah fitur Anda dapat memprediksi label dengan mengikuti langkah-langkah dalam Proses Debug Model.
Periksa data Anda berdasarkan skema data untuk mendeteksi contoh yang buruk.
Jika pelatihan terlihat tidak stabil, seperti dalam plot ini, kurangi kecepatan pembelajaran untuk mencegah model memantul di ruang parameter.
Sederhanakan set data Anda menjadi 10 contoh yang dapat diprediksi oleh model Anda. Mendapatkan kerugian yang sangat rendah pada set data yang dikurangi. Kemudian, lanjutkan proses debug model di set data lengkap.
Sederhanakan model Anda dan pastikan model tersebut mengungguli dasar pengukuran Anda. Kemudian secara bertahap tambahkan kerumitan ke model.

2. Kehilangan Saya Meledak!

Mel menunjukkan kurva lain. Apa yang salah dan bagaimana cara memperbaikinya? Tulis jawaban Anda di bawah.

plot kurva kerugian yang menunjukkan bagaimana kerugian menurun hingga jumlah langkah pelatihan tertentu, lalu tiba-tiba meningkat dengan langkah-langkah pelatihan lebih lanjut.

Jelaskan masalah dan cara Mel dapat memperbaikinya:

Klik ikon plus untuk meluaskan bagian dan menampilkan jawabannya.

Peningkatan kerugian yang besar biasanya disebabkan oleh nilai-nilai yang tidak wajar dalam data input. Kemungkinan penyebabnya adalah:

NaN dalam data input.
Ledakan gradien karena data yang tidak wajar.
Pembagian dengan nol.
Logaritma dari angka nol atau negatif.

Untuk memperbaiki kerugian yang meledak, periksa data yang tidak wajar dalam batch Anda, dan dalam data yang direkayasa. Jika anomali tampak bermasalah, selidiki penyebabnya. Sebaliknya, jika anomali tampak seperti data luar, pastikan pencilan didistribusikan secara merata di antara batch dengan mengacak data.

3. Metrik Saya Bertentangan!

Mel ingin kita belajar lagi. Apa yang salah dan bagaimana cara memperbaikinya? Tulis jawaban Anda di bawah.

Gambar menampilkan dua plot. Plot di sebelah kiri menunjukkan kurva kerugian yang ideal.
Plot di sebelah kanan menunjukkan metrik penarikan yang tetap di angka 0 meskipun jumlah langkah pelatihan semakin banyak.

Jelaskan masalahnya dan cara Mel dapat memperbaikinya:

Klik ikon plus untuk memperluas bagian dan menampilkan jawabannya.

Penarikan terhenti di 0 karena probabilitas klasifikasi contoh Anda tidak pernah lebih tinggi dari batas untuk klasifikasi positif. Situasi ini sering terjadi dalam masalah dengan ketidakseimbangan class yang besar. Ingat bahwa library ML, seperti TF Keras, biasanya menggunakan ambang batas default 0,5 untuk menghitung metrik klasifikasi.

Coba langkah-langkah berikut:

Turunkan batas klasifikasi Anda.

Periksa metrik invarian batas, seperti AUC.

4. Kerugian Pengujian Terlalu Tinggi.

Mel menunjukkan kurva kerugian untuk pelatihan dan pengujian set data dan menanyakan "Apa yang salah?" Tulis jawaban Anda di bawah ini.

plot kurva kerugian yang menunjukkan perbedaan antara pelatihan dan kerugian pengujian saat model dilatih.

Jelaskan masalahnya dan cara Mel dapat memperbaikinya:

Klik ikon plus untuk meluaskan bagian dan menampilkan jawabannya.

Model Anda cocok dengan data pelatihan. Coba lakukan langkah berikut:

Kurangi kapasitas model.
Tambahkan regulerisasi.
Pastikan pemisahan pelatihan dan pengujian setara secara statistik.

5. Model Saya Mengalami Masalah

Anda sabar saat Mel kembali beberapa hari kemudian dengan kurva lainnya. Apa yang salah dan bagaimana cara memperbaikinya?

plot kurva kerugian yang menunjukkan kerugian yang mulai bertemu dengan pelatihan, tetapi kemudian menampilkan pola berulang yang terlihat seperti gelombang persegi panjang.

Jelaskan masalahnya dan cara Mel dapat memperbaikinya:

Klik ikon plus untuk meluaskan bagian dan menampilkan jawabannya.

Kehilangan Anda menunjukkan perilaku seperti langkah yang berulang. Kemungkinan data input yang dilihat oleh model Anda sendiri menunjukkan perilaku berulang. Pastikan bahwa pengacakan menghapus perilaku berulang dari data input.

Berhasil!

"Semuanya berjalan lancar!" Mel berseru. Dia bersandar ke kursinya dengan penuh kemenangan dan mengheningkan napas. Kurvanya akan terlihat bagus dan Anda berhasil dengan prestasi. Mel dan Anda meluangkan waktu untuk membahas pemeriksaan tambahan berikut guna memvalidasi model Anda.

metrik di dunia nyata

dasar pengukuran

kerugian mutlak untuk masalah regresi

metrik lain untuk masalah klasifikasi

Plot yang menunjukkan kurva penurunan yang bertemu.

Sebelumnya

Periksa Pemahaman Anda

Berikutnya

Metrik Model