Glosarium Machine Learning: Model Gambar

Halaman ini berisi istilah glosarium Model Gambar. Untuk semua istilah glosarium, klik di sini.

J

augmented reality

#image

Teknologi yang menempatkan gambar yang dihasilkan komputer di sudut pandang pengguna tentang dunia nyata, sehingga memberikan tampilan gabungan.

{i>autoencoder<i}

#language
#image

Sistem yang mempelajari cara mengekstrak informasi yang paling penting dari input. Autoencoder adalah kombinasi dari encoder dan decoder. Autoencoder mengandalkan proses dua langkah berikut:

  1. Encoder memetakan input ke format lossy dimensi lebih rendah (menengah).
  2. Decoder membuat versi lossy dari input asli dengan memetakan format dimensi yang lebih rendah ke format input asli berdimensi lebih tinggi.

Autoencoder dilatih secara menyeluruh dengan meminta decoder mencoba merekonstruksi input asli dari format perantara encoder sedekat mungkin. Karena format perantara lebih kecil (dimensi lebih rendah) daripada format aslinya, autoencoder dipaksa untuk mempelajari informasi apa dalam input yang penting, dan output tidak akan identik dengan input sepenuhnya.

Contoh:

  • Jika data input adalah grafik, salinan yang tidak tepat akan mirip dengan grafik asli, tetapi sedikit dimodifikasi. Mungkin salinan yang tidak tepat menghilangkan noise dari grafis asli atau mengisi beberapa piksel yang hilang.
  • Jika data input berupa teks, autoencoder akan menghasilkan teks baru yang meniru (tetapi tidak sama persis) dengan teks aslinya.

Lihat juga autoencoder variatif.

model auto-regresif

#language
#image
#AI generatif

model yang menyimpulkan prediksi berdasarkan prediksi sebelumnya sendiri. Misalnya, model bahasa auto-regresif memprediksi token berikutnya berdasarkan token yang diprediksi sebelumnya. Semua model bahasa besar berbasis Transformer bersifat auto-regresif.

Sebaliknya, model gambar berbasis GAN biasanya tidak regresi otomatis karena menghasilkan gambar dalam satu penerusan maju dan tidak secara iteratif dalam langkah-langkah berikutnya. Namun, model pembuatan gambar tertentu bersifat regresif otomatis karena model tersebut menghasilkan gambar secara bertahap.

B

kotak pembatas

#image

Dalam gambar, koordinat (x, y) persegi panjang di sekitar area menarik, seperti pada gambar di bawah.

Foto duduk di sofa. Kotak pembatas hijau dengan koordinat kiri atas (275, 1271) dan koordinat kanan bawah (2954, 2761) membatasi tubuh

C

konvolusi

#image

Dalam matematika, berbicara santai, campuran dua fungsi. Dalam machine learning, konvolusi mencampur filter konvolusional dan matriks input untuk melatih bobot.

Istilah "konvolusi" dalam machine learning sering kali merupakan cara singkat untuk merujuk pada operasi konvolusional atau lapisan konvolusional.

Tanpa konvolusi, algoritma machine learning harus mempelajari bobot terpisah untuk setiap sel dalam tensor besar. Misalnya, pelatihan algoritme machine learning pada gambar 2K x 2K akan dipaksa untuk menemukan bobot terpisah 4 juta. Berkat konvolusi, algoritma machine learning hanya perlu menemukan bobot untuk setiap sel dalam filter konvolusional, sehingga secara drastis mengurangi memori yang diperlukan untuk melatih model. Saat filter konvolusional diterapkan, filter tersebut hanya direplikasi di seluruh sel sehingga setiap sel dikalikan dengan filter.

filter konvolusional

#image

Salah satu dari dua aktor dalam operasi konvolusional. (Aktor lainnya adalah potongan dari matriks input.) Filter konvolusional adalah matriks yang memiliki peringkat yang sama dengan matriks input, tetapi bentuknya lebih kecil. Misalnya, dengan matriks input 28x28, filter dapat berupa matriks 2D yang lebih kecil dari 28x28.

Dalam manipulasi fotografi, semua sel dalam filter konvolusional biasanya diatur ke pola konstan satu dan nol. Dalam machine learning, filter konvolusional biasanya diisi dengan angka acak, lalu jaringan melatih nilai yang ideal.

lapisan konvolusional

#image

Lapisan jaringan neural dalam tempat filter konvolusional meneruskan matriks input. Misalnya, pertimbangkan filter konvolusional 3x3 berikut:

Matriks 3x3 dengan nilai berikut: [[0,1,0], [1,0,1], [0,1,0]]

Animasi berikut menunjukkan lapisan konvolusional yang terdiri dari 9 operasi konvolusional yang melibatkan matriks input 5x5. Perhatikan bahwa setiap operasi konvolusional bekerja pada potongan matriks input 3x3 yang berbeda. Matriks 3x3 yang dihasilkan (di sebelah kanan) terdiri dari hasil dari 9 operasi konvolusional:

Animasi yang menampilkan dua matriks. Matriks pertama adalah matriks
          5x5: [[128,97,53,201,198], [35,22,25,200,195],
          [37,24,28,197,182], [33,28,92,195,179], [31,1]
          Matriks kedua adalah matriks 3x3: [[181.303.618], [115.338.605], [169.351.560]].
          Matriks kedua dihitung dengan menerapkan filter konvolusional [[0, 1, 0], [1, 0, 1], [0, 1, 0]] di berbagai subset 3x3 dalam matriks 5x5.

jaringan neural konvolusional

#image

Jaringan neural dengan setidaknya satu lapisan adalah lapisan konvolusional. Jaringan neural konvolusional umum terdiri dari beberapa kombinasi lapisan berikut:

Jaringan neural konvolusional mengalami sukses besar dalam jenis masalah tertentu, seperti pengenalan citra.

operasi konvolusional

#image

Operasi matematika dua langkah berikut:

  1. Perkalian berbasis elemen dari filter konvolusional dan potongan matriks input. (Potongan matriks input memiliki peringkat dan ukuran yang sama dengan filter konvolusional.)
  2. Penjumlahan semua nilai dalam matriks produk yang dihasilkan.

Misalnya, pertimbangkan matriks input 5x5 berikut:

Matriks 5x5: [[128,97,53,201,198], [35,22,25,200,195],
          [37,24,28,197,182], [33,28,92,195,179], [31,40,1007].

Sekarang bayangkan filter konvolusional 2x2 berikut:

Matriks 2x2: [[1, 0], [0, 1]]

Setiap operasi konvolusional melibatkan irisan 2x2 dari matriks input tunggal. Misalnya, kita menggunakan irisan 2x2 di kiri atas matriks input. Jadi, operasi konvolusi pada irisan ini terlihat sebagai berikut:

Menerapkan filter konvolusional [[1, 0], [0, 1]] ke bagian 2x2 kiri atas matriks input, yaitu [[128,97], [35,22]].
          Filter konvolusional menyisakan 128 dan 22 secara utuh, tetapi angka 97 dan 35 menjadi nol. Dengan demikian, operasi konvolusi akan menghasilkan nilai 150 (128+22).

Lapisan konvolusional terdiri dari serangkaian operasi konvolusional, masing-masing bekerja pada bagian matriks input yang berbeda.

D

pengayaan data

#image

Membuat-buat peningkatan rentang dan jumlah contoh pelatihan dengan mengubah contoh yang sudah ada untuk membuat contoh tambahan. Misalnya, anggaplah gambar adalah salah satu fitur Anda, tetapi set data Anda tidak berisi contoh gambar yang memadai bagi model untuk mempelajari pengaitan yang berguna. Idealnya, tambahkan gambar berlabel secukupnya ke set data Anda agar model Anda dapat dilatih dengan benar. Jika tidak memungkinkan, augmentasi data dapat memutar, melebarkan, dan merefleksikan setiap gambar untuk menghasilkan banyak varian gambar asli, yang mungkin menghasilkan data berlabel yang cukup guna memungkinkan pelatihan yang sangat baik.

jaringan neural konvolusional yang dapat dipisahkan secara mendalam (sepCNN)

#image

Arsitektur jaringan neural konvolusional berdasarkan Inception, tetapi modul Inception diganti dengan konvolusi yang dapat dipisahkan depthwise. Juga dikenal sebagai Xception.

Konvolusi yang dapat dipisahkan kedalamannya (juga disingkat sebagai konvolusi yang dapat dipisahkan) memfaktorkan konvolusi 3-D standar menjadi dua operasi konvolusi terpisah yang lebih efisien secara komputasi: pertama, konvolusi kedalaman, dengan kedalaman 1 (n smartln mainkan sertakan 1), lalu kedua, dengan panjang bi

Untuk mempelajari lebih lanjut, lihat Xception: Deep Learning dengan Depthwise Separable Convolutions.

downsampling (pengurangan sampel)

#image

Istilah yang kelebihan muatan yang dapat berarti salah satu dari hal berikut:

  • Mengurangi jumlah informasi dalam fitur untuk melatih model dengan lebih efisien. Misalnya, sebelum melatih model pengenalan gambar, lakukan downsampling pada gambar beresolusi tinggi ke format beresolusi lebih rendah.
  • Melatih contoh class yang terlalu rendah dan tidak proporsional untuk meningkatkan pelatihan model pada class yang kurang terwakili. Misalnya, dalam set data kelas tidak seimbang, model cenderung mempelajari banyak hal tentang kelas utama dan tidak cukup tentang kelas minoritas. Penurunan sampel membantu menyeimbangkan jumlah pelatihan pada kelas mayoritas dan minoritas.

F

penyesuaian

#language
#image
#AI generatif

Tiket pelatihan khusus tugas kedua yang dilakukan pada model terlatih untuk mengoptimalkan parameternya untuk kasus penggunaan tertentu. Misalnya, urutan pelatihan lengkap untuk beberapa model bahasa besar adalah sebagai berikut:

  1. Pra-pelatihan: Latih model bahasa besar pada set data umum yang luas, seperti semua halaman Wikipedia berbahasa Inggris.
  2. Penyesuaian: Latih model terlatih untuk melakukan tugas tertentu, seperti merespons kueri medis. Fine-tuning biasanya melibatkan ratusan atau ribuan contoh yang berfokus pada tugas tertentu.

Sebagai contoh lainnya, urutan pelatihan lengkap untuk model gambar besar adalah sebagai berikut:

  1. Pra-pelatihan: Latih model gambar besar pada set data gambar umum yang luas, seperti semua gambar di Wikimedia commons.
  2. Penyelarasan: Latih model yang telah dilatih sebelumnya untuk melakukan tugas tertentu, seperti membuat gambar orca.

Penyesuaian dapat memerlukan kombinasi dari strategi berikut:

  • Mengubah semua parameter model terlatih yang ada. Hal ini terkadang disebut fine-tuning penuh.
  • Hanya memodifikasi beberapa parameter model terlatih yang ada (biasanya, lapisan yang paling dekat dengan lapisan output), sekaligus mempertahankan parameter lain yang ada tanpa perubahan (biasanya, lapisan yang paling dekat dengan lapisan input). Lihat penyesuaian parameter efisien.
  • Menambahkan lebih banyak lapisan, biasanya di atas lapisan yang ada yang paling dekat dengan lapisan output.

Fine-tuning merupakan bentuk pembelajaran transfer. Dengan demikian, fine-tuning mungkin menggunakan fungsi kerugian atau jenis model yang berbeda dari yang digunakan untuk melatih model terlatih. Misalnya, Anda dapat menyesuaikan model gambar besar yang telah dilatih sebelumnya untuk menghasilkan model regresi yang menampilkan jumlah burung dalam gambar input.

Bandingkan dan bandingkan fine-tuning dengan istilah berikut:

G

AI generatif

#language
#image
#AI generatif

Bidang transformatif yang sedang berkembang tanpa definisi formal. Meskipun demikian, sebagian besar pakar setuju bahwa model AI generatif dapat membuat ("menghasilkan") konten yang meliputi semua hal berikut:

  • kompleks
  • koheren
  • asli

Misalnya, model AI generatif dapat membuat esai atau gambar yang canggih.

Beberapa teknologi sebelumnya, termasuk LSTM dan RNN, juga dapat menghasilkan konten yang asli dan koheren. Beberapa pakar memandang teknologi awal ini sebagai AI generatif, sementara pakar lain merasa bahwa AI generatif sejati memerlukan output yang lebih kompleks daripada yang dapat dihasilkan oleh teknologi sebelumnya.

Berbeda dengan ML prediktif.

I

pengenalan gambar

#image

Sebuah proses yang mengklasifikasikan objek, pola, atau konsep dalam sebuah gambar. Pengenalan citra juga dikenal sebagai klasifikasi gambar.

Untuk mengetahui informasi selengkapnya, lihat Praktik ML: Klasifikasi Gambar.

persimpangan melintasi union (IoU)

#image

Perpotongan dua himpunan yang dibagi dengan gabungannya. Dalam tugas deteksi gambar machine learning, IoU digunakan untuk mengukur akurasi kotak pembatas yang diprediksi oleh model sehubungan dengan kotak pembatas ground-truth. Dalam hal ini, IoU untuk kedua kotak tersebut adalah rasio antara area tumpang tindih dan area total, dan nilainya berkisar dari 0 (tidak ada tumpang tindih antara kotak pembatas yang diprediksi dan kotak pembatas kebenaran dasar) hingga 1 (kotak pembatas yang diprediksi dan kotak pembatas kebenaran dasar memiliki koordinat yang sama persis).

Misalnya, pada gambar di bawah ini:

  • Kotak pembatas yang diprediksi (koordinat yang membatasi tempat model memprediksi letak tabel malam dalam lukisan) ditandai dengan warna ungu.
  • Kotak pembatas kebenaran dasar (koordinat yang membatasi lokasi tabel malam dalam lukisan) ditandai dengan warna hijau.

Lukisan Van Gogh &#39;Vincent&#39;s Bedroom in Arles&#39;, dengan dua kotak pembatas berbeda di sekeliling meja malam di samping tempat tidurnya. Kotak pembatas kebenaran dasar (berwarna hijau) membatasi meja malam dengan sempurna. Kotak
          pembatas yang diprediksi (berwarna ungu) di-offset 50% ke bawah dan di sebelah kanan
          kotak pembatas kebenaran dasar; kotak ini menutupi seperempat kanan bawah
          tabel malam, tetapi meleset ke sisa tabel.

Di sini, persimpangan kotak pembatas untuk prediksi dan kebenaran dasar (di bawah kiri) adalah 1, dan gabungan kotak pembatas untuk prediksi dan kebenaran dasar (di bawah kanan) adalah 7, sehingga IoU-nya adalah \(\frac{1}{7}\).

Gambar yang sama seperti di atas, tetapi dengan setiap kotak pembatas dibagi menjadi empat
          kuadran. Total ada tujuh kuadran, karena kuadran kanan bawah kotak pembatas kebenaran dasar dan kuadran kiri atas kotak pembatas yang diprediksi saling tumpang tindih. Bagian
          yang tumpang-tindih ini (ditandai dengan warna hijau) merepresentasikan
          persimpangan, dan memiliki area 1. Gambar yang sama seperti di atas, tetapi dengan setiap kotak pembatas dibagi menjadi empat
          kuadran. Total ada tujuh kuadran, karena kuadran kanan bawah kotak pembatas kebenaran dasar dan kuadran kiri atas kotak pembatas yang diprediksi saling tumpang tindih.
          Seluruh bagian dalam yang diapit kedua kotak pembatas
          (ditandai dengan warna hijau) merepresentasikan gabungan, dan memiliki
          area 7.

K

keypoint

#image

Koordinat fitur tertentu pada gambar. Misalnya, untuk model pengenalan gambar yang membedakan spesies bunga, keypoint mungkin adalah bagian tengah setiap kelopak, batang, benang sari, dan seterusnya.

L

tempat terkenal

#image

Sinonim dari keypoint.

S

MNIST

#image

Set data domain publik yang dikompilasi oleh LeCun, Cortes, dan Burges yang berisi 60.000 gambar, setiap gambar menunjukkan cara manusia menulis digit tertentu dari 0–9 secara manual. Setiap gambar disimpan sebagai array bilangan bulat berukuran 28x28, dengan setiap bilangan bulat adalah nilai hitam putih antara 0 dan 255, inklusif.

MNIST adalah set data kanonis untuk machine learning, yang sering digunakan untuk menguji pendekatan machine learning baru. Untuk mengetahui detailnya, lihat Database MNIST untuk Digit Tulisan Tangan.

P

penggabungan

#image

Mengurangi matriks (atau matriks) yang dibuat oleh lapisan konvolusional sebelumnya ke matriks yang lebih kecil. Penggabungan biasanya melibatkan penggunaan nilai maksimum atau rata-rata di seluruh area gabungan. Misalnya, kita memiliki matriks 3x3 berikut:

Matriks 3x3 [[5,3,1], [8,2,5], [9,4,3]].

Operasi penggabungan, seperti operasi konvolusional, membagi matriks tersebut menjadi beberapa potongan, lalu menggeser operasi konvolusional tersebut dengan langkah. Misalnya, operasi penggabungan membagi matriks konvolusional menjadi irisan 2x2 dengan langkah 1x1. Seperti yang digambarkan diagram berikut, ada empat operasi penggabungan. Bayangkan bahwa setiap operasi penggabungan mengambil nilai maksimum dari keempatnya dalam irisan tersebut:

Matriks input adalah 3x3 dengan nilai: [[5,3,1], [8,2,5], [9,4,3]].
          Submatriks 2x2 kiri atas dari matriks input adalah [[5,3], [8,2]], sehingga
          operasi penggabungan di kiri atas menghasilkan nilai 8 (yang
          merupakan maksimum 5, 3, 8, dan 2). Submatriks 2x2 kanan atas dari matriks input
          adalah [[3,1], [2,5]], sehingga operasi penggabungan di kanan atas menghasilkan
          nilai 5. Submatriks 2x2 kiri bawah dari matriks input adalah
          [[8,2], [9,4]], sehingga operasi penggabungan di kiri bawah menghasilkan nilai
          9. Submatriks 2x2 kanan bawah dari matriks input adalah
          [[2,5], [4,3]], sehingga operasi penggabungan di kanan bawah menghasilkan nilai
          5. Singkatnya, operasi penggabungan menghasilkan matriks 2x2
          [[8,5], [9,5]].

Penggabungan membantu memberlakukan invariansi translasi dalam matriks input.

Penggabungan untuk aplikasi visi dikenal lebih formal sebagai penggabungan spasial. Penerapan deret waktu biasanya merujuk pada penggabungan sebagai penggabungan sementara. Kurang formal, penggabungan sering disebut subsampling atau downsampling.

model terlatih

#language
#image
#AI generatif

Model atau komponen model (seperti vektor penyematan) yang telah dilatih. Terkadang, Anda harus memasukkan vektor penyematan yang telah dilatih ke dalam jaringan neural. Di lain waktu, model Anda akan melatih vektor embedding itu sendiri, bukan mengandalkan embedding terlatih.

Istilah model bahasa terlatih mengacu pada model bahasa besar yang telah melalui pra-pelatihan.

pra-pelatihan

#language
#image
#AI generatif

Pelatihan awal model pada set data besar. Beberapa model terlatih adalah raksasa yang kikuk dan biasanya harus ditingkatkan melalui pelatihan tambahan. Misalnya, pakar ML dapat melatih model bahasa besar terlebih dahulu pada set data teks yang luas, seperti semua halaman bahasa Inggris di Wikipedia. Setelah pra-pelatihan, model yang dihasilkan dapat disempurnakan lebih lanjut melalui salah satu teknik berikut:

R

invariansi rotasi

#image

Dalam masalah klasifikasi gambar, kemampuan algoritma agar berhasil mengklasifikasikan gambar meskipun orientasi gambar berubah. Misalnya, algoritme masih dapat mengidentifikasi raket tenis apakah itu mengarah ke atas, ke samping, atau ke bawah. Perhatikan bahwa invariansi rotasi tidak selalu diinginkan; misalnya, 9 terbalik tidak boleh diklasifikasikan sebagai 9.

Lihat juga invarian translasi dan invariansi ukuran.

S

invariansi ukuran

#image

Dalam masalah klasifikasi gambar, kemampuan algoritma agar berhasil mengklasifikasikan gambar meskipun ukuran gambar berubah. Misalnya, algoritma masih dapat mengidentifikasi kucing apakah menggunakan 2 juta piksel atau 200 ribu piksel. Perhatikan bahwa bahkan algoritma klasifikasi gambar terbaik pun masih memiliki batas praktis terkait invariansi ukuran. Misalnya, algoritma (atau manusia) cenderung tidak mengklasifikasikan gambar kucing yang hanya menggunakan 20 piksel dengan benar.

Lihat juga invariansi translasional dan invariansi rotasi.

penggabungan spasial

#image

Lihat penggabungan.

langkah

#image

Dalam operasi konvolusional atau penggabungan, delta di setiap dimensi dari rangkaian irisan input berikutnya. Misalnya, animasi berikut menunjukkan langkah (1,1) selama operasi konvolusional. Oleh karena itu, irisan input berikutnya memulai satu posisi di sebelah kanan bagian input sebelumnya. Saat operasi mencapai tepi kanan, irisan berikutnya sepenuhnya ke kiri, tetapi satu posisi di bawah.

Matriks input 5x5 dan filter konvolusional 3x3. Karena langkahnya (1,1), filter konvolusional akan diterapkan 9 kali. Potongan konvolusional pertama mengevaluasi submatriks 3x3 kiri atas dari matriks input. Bagian kedua mengevaluasi submatriks 3x3 tengah atas. Potongan konvolusional ketiga mengevaluasi submatriks 3x3 kanan atas.  Slice keempat mengevaluasi submatriks 3x3 kiri tengah.
     Slice kelima mengevaluasi submatriks 3x3 tengah. Slice keenam mengevaluasi submatriks 3x3 kanan tengah. Slice ketujuh mengevaluasi submatriks 3x3 di kiri bawah.  Bagian kedelapan mengevaluasi submatriks 3x3 tengah bawah. Slice kesembilan mengevaluasi submatriks 3x3 kanan bawah.

Contoh sebelumnya menunjukkan langkah dua dimensi. Jika matriks input memiliki tiga dimensi, jangkanya juga akan memiliki tiga dimensi.

subsampling

#image

Lihat penggabungan.

T

suhu

#language
#image
#AI generatif

Hyperparameter yang mengontrol tingkat keacakan output model. Suhu yang lebih tinggi menghasilkan output yang lebih acak, sedangkan suhu yang lebih rendah menghasilkan output yang lebih sedikit.

Memilih suhu terbaik bergantung pada aplikasi tertentu dan properti yang diinginkan dari output model. Misalnya, Anda mungkin akan meningkatkan suhu saat membuat aplikasi yang menghasilkan output materi iklan. Sebaliknya, Anda mungkin akan menurunkan suhu saat membangun model yang mengklasifikasikan gambar atau teks untuk meningkatkan akurasi dan konsistensi model.

Suhu sering digunakan dengan softmax.

invariansi translasi

#image

Dalam masalah klasifikasi gambar, kemampuan algoritme agar berhasil mengklasifikasikan gambar meskipun posisi objek dalam gambar berubah. Misalnya, algoritma masih dapat mengidentifikasi, apakah itu berada di tengah frame atau di ujung kiri frame.

Lihat juga invariansi ukuran dan invariansi rotasi.