Inferensi Statis (Offline) vs. Dinamis (Online): Memeriksa Pemahaman Anda

Inferensi Statis (Offline)

Pelajari opsi di bawah.

Dalam inferensi offline, kita membuat prediksi pada sejumlah besar data sekaligus yang serupa. Kemudian, tempatkan prediksi tersebut dalam tabel pencarian untuk digunakan nanti. Manakah dari pernyataan berikut ini yang benar mengenai inferensi offline?
Kita akan memiliki prediksi untuk semua input yang memungkinkan.
Tidak, kita tidak akan memiliki prediksi untuk semua input yang memungkinkan. Ini adalah salah satu kekurangan dari inferensi offline. Kita hanya dapat menampilkan prediksi untuk contoh-contoh yang telah diketahui. Tidak masalah jika sekumpulan hal yang kita prediksi terbatas, seperti kota-kota dunia. Namun untuk hal-hal seperti kueri pengguna yang memiliki item long-tail yang tidak biasa atau langka, kita mungkin tidak dapat memberikan cakupan lengkap menggunakan sistem inferensi offline.
Setelah membuat prediksi, kita dapat melakukan verifikasi sebelum prediksi tersebut diterapkan.
Ini adalah salah satu hal yang berguna tentang inferensi offline. Kita dapat memeriksa dan memverifikasi semua prediksi sebelum digunakan.
Untuk input yang diberikan, kita dapat menampilkan prediksi lebih cepat daripada dengan inferensi online.
Salah satu kelebihan dari inferensi offline adalah setelah prediksi ditulis ke beberapa tabel pencarian, prediksi tersebut dapat ditampilkan dengan latensi minimal. Tidak ada komputasi fitur atau inferensi model yang perlu dilakukan pada waktu permintaan.
Kita harus memantau sinyal input dengan teliti dalam rentang waktu yang lama.
Ini adalah salah satu kasus yang mana kita sebenarnya tidak perlu memantau sinyal input dalam rentang waktu yang lama. Hal ini karena setelah prediksi ditulis ke tabel pencarian, kita tidak lagi bergantung pada fitur input. Perhatikan bahwa setiap pembaruan model berikutnya akan memerlukan tahapan verifikasi input yang baru.
Kita akan dapat bereaksi dengan cepat terhadap perubahan di dunia.
Tidak, ini adalah kekurangan dari inferensi offline. Kita harus menunggu hingga kumpulan prediksi baru telah ditulis ke tabel pencarian sebelum kita dapat memberikan respons secara berbeda berdasarkan perubahan apa pun di dunia.

Inferensi Dinamis (Online)

Pelajari opsi di bawah.

Inferensi dinamis (online) berarti membuat prediksi berdasarkan permintaan. Artinya, dalam inferensi online, kita menempatkan model yang dilatih pada server dan mengeluarkan permintaan inferensi sesuai kebutuhan. Manakah dari pernyataan berikut yang benar terkait inferensi dinamis?
Anda dapat memberikan prediksi untuk semua item yang memungkinkan.
Ya, ini adalah kelebihan dari inferensi online. Setiap ada permintaan akan diberi skor. Inferensi online menangani distribusi long-tail (yang berisi banyak item langka), seperti spasi dari semua kalimat yang memungkinkan, yang ditulis dalam ulasan film.
Anda dapat melakukan verifikasi prediksi sebelum digunakan.
Secara umum, tidak mungkin melakukan verifikasi semua prediksi sebelum digunakan karena prediksi dibuat berdasarkan permintaan. Namun, Anda dapat memantau kualitas prediksi agregat untuk memberikan beberapa tingkat pemeriksaan kesehatan, tetapi tindakan ini akan memberi sinyal alarm kebakaran hanya setelah api menyebar.
Anda harus memantau sinyal input dengan teliti.
Ya. Sinyal dapat berubah tiba-tiba karena masalah upstream, sehingga merusak prediksi kita.
Saat melakukan inferensi online, Anda tidak perlu khawatir tentang latensi prediksi (waktu keterlambatan untuk menampilkan prediksi) sebanyak saat melakukan inferensi offline.
Latensi prediksi sering kali menjadi masalah yang nyata dalam inferensi online. Sayangnya, Anda tidak dapat serta merta memperbaiki masalah latensi prediksi dengan menambahkan lebih banyak server inferensi.