Jaringan Neural Multikelas

Sebelumnya, Anda menjumpai model klasifikasi biner yang dapat memilih di antara dua pilihan, seperti apakah:

  • Email tertentu merupakan spam atau bukan.
  • Tumor tertentu bersifat ganas atau jinak.

Dalam modul ini, kita akan menyelidiki klasifikasi kelas jamak, yang dapat dipilih dari beberapa kemungkinan. Contoh:

  • Apakah anjing ini merupakan anjing jenis beagle, basset, atau pelacak?
  • Apakah bunga ini merupakan bunga jenis Iris Sibirica, Iris Jerman, Iris Versicolor, atau Dwarf Bearded Iris?
  • Apakah pesawat itu merupakan pesawat jenis Boeing 747, Airbus 320, Boeing 777, atau Embraer 190?
  • Apakah suatu gambar adalah apel, beruang, permen, anjing, atau telur?

Beberapa permasalahan kelas jamak di dunia nyata melibatkan pemilihan dari jutaan kelas yang berbeda. Misalnya, pada model klasifikasi kelas jamak yang dapat mengidentifikasi gambar apa saja.

Jaringan Neural Kelas Jamak

  • Peluang yang didapat dalam regresi logistik dapat digunakan untuk masalah kelas biner.
    • spam/bukan spam
    • klik/bukan klik
  • Bagaimana dengan masalah kelas jamak?
    • apel, pisang, mobil, ahli jantung, ..., tanda jalan, zebra, kebun binatang
    • merah, oranye, kuning, hijau, biru, nila, ungu
    • hewan, sayur, mineral
  • Menghasilkan keluaran yang unik untuk setiap kemungkinan kelas
  • Dilatih menggunakan sinyal "kelas saya" lawan "semua kelas lainnya"
  • Dapat memanfaatkan jaringan dalam, atau dengan memanfaatkan model terpisah
Jaringan neural dengan lima lapisan tersembunyi dan lima lapisan keluaran.
  • Memberikan batasan tambahan: Mengharuskan keluaran dari semua simpul satu vs. semua untuk berjumlah total 1,0
  • Batasan tambahan membantu agar pelatihan dikonvergensi dengan cepat
  • Selain itu, memungkinkan keluaran untuk diinterpretasikan sebagai kemungkinan
Jaringan neural dalam dengan lapisan masukan, dua lapisan tersembunyi yang tidak memiliki karakteristik khusus, lalu lapisan Softmax, dan terakhir lapisan keluaran dengan jumlah simpul yang sama dengan lapisan Softmax.
  • Klasifikasi Kelas Jamak Label Tunggal:
    • Contoh adalah anggota dari satu kelas saja.
    • Adanya batas antar kelas yang saling terpisah.
    • Kelas dapat dienkode dalam kerugian (loss).
    • Gunakan satu kerugian softmax untuk setiap kemungkinan kelas.
  • Klasifikasi Kelas Jamak Multi-Label:
    • Contoh mungkin merupakan anggota dari lebih dari satu kelas.
    • Tidak ada tambahan batasan pada keanggotaan kelas yang dapat digunakan.
    • Satu kerugian regresi logistik untuk setiap kemungkinan kelas.
  • Full SoftMax
    • Brute force; melakukan penghitungan untuk semua kelas.
  • Full SoftMax
    • Brute force; melakukan penghitungan untuk semua kelas.
  • Sampling Kandidat
    • Melakukan penghitungan untuk semua label positif, namun hanya menghitung sampel negatif acak.