Anda dapat memilih salah satu strategi inferensi berikut:
inferensi offline, yang berarti bahwa Anda membuat semua prediksi yang memungkinkan dalam jumlah banyak, menggunakan MapReduce atau yang serupa. Kemudian, Anda menulis prediksi ke SSTable atau Bigtable, dan melakukan feed pada prediksi tersebut ke tabel pemeta/cache.
inferensi online, yang berarti bahwa Anda memprediksi permintaan, menggunakan server.
Pelajari lebih lanjut inferensi statis vs. dinamis dalam video berikut (2 mnt).
Inferensi Statis vs. Dinamis
Paradigma Sistem ML: Inferensi
Inferensi Offline
Membuat semua prediksi yang memungkinkan dalam sebuah tumpukan, menggunakan MapReduce atau yang serupa.
Menulis ke tabel, kemudian melakukan feed pada prediksi tersebut ke tabel pemetaan/cache.
Inferensi Online
Memprediksi permintaan menggunakan server.
Paradigma Sistem ML: Inferensi
Inferensi Offline
Membuat semua prediksi yang memungkinkan dalam sebuah tumpukan, menggunakan MapReduce atau yang serupa.
Menulis ke tabel, kemudian melakukan feed pada prediksi tersebut ke tabel pemetaan/cache.
Kelebihan: tidak perlu khawatir tentang biaya inferensi.
Kelebihan: kemungkinan dapat menggunakan kuota tumpukan.
Kelebihan: dapat melakukan verifikasi prediksi pada data sebelum digunakan untuk memengaruhi dunia nyata.
Paradigma Sistem ML: Inferensi
Inferensi Offline
Membuat semua prediksi yang memungkinkan dalam sebuah tumpukan, menggunakan MapReduce atau yang serupa.
Menulis ke tabel, kemudian melakukan feed pada prediksi tersebut ke tabel pemetaan/cache.
Kelebihan: tidak perlu khawatir tentang biaya inferensi.
Kelebihan: kemungkinan dapat menggunakan kuota tumpukan.
Kelebihan: dapat melakukan verifikasi prediksi pada data sebelum digunakan untuk memengaruhi dunia nyata.
Kekurangan: hanya dapat memprediksi hal-hal yang kita ketahui -- tidak cocok untuk kasus dengan banyak item langka.
Kekurangan: latensi pembaruan mungkin butuh berjam-jam atau berhari-hari.
Paradigma Sistem ML: Inferensi
Inferensi Online
Memprediksi permintaan menggunakan server.
Kelebihan: dapat memprediksi item baru apa pun yang muncul -- cocok untuk kasus dengan banyak item langka.
Paradigma Sistem ML: Inferensi
Inferensi Online
Memprediksi permintaan menggunakan server.
Kelebihan: dapat memprediksi item baru apa pun yang muncul -- cocok untuk kasus dengan banyak item langka.
Kekurangan: penghitungan yang intensif dan latensi yang sensitif dapat membatasi kompleksitas model.
Kekurangan: kebutuhan pemantauan lebih intensif.
Ringkasan Perkuliahan Video
Berikut ini pro dan kontra dari inferensi offline:
Pro: Tidak perlu khawatir tentang biaya inferensi.
Pro: Kemungkinan dapat menggunakan kuota tumpukan atau beberapa MapReduce berukuran besar.
Pro: Dapat melakukan verifikasi prediksi sebelum digunakan untuk memengaruhi dunia nyata.
Kontra: Hanya dapat memprediksi hal-hal yang kita ketahui — tidak cocok untuk kasus dengan banyak item langka.
Kontra: Latensi pembaruan kemungkinan diukur dalam hitungan jam atau hari.
Berikut ini pro dan kontra dari inferensi online:
Pro: Dapat memprediksi item baru apa pun yang muncul — cocok untuk kasus dengan banyak item langka.
Kontra: Penghitungan yang intensif dan latensi yang sensitif dapat membatasi kompleksitas model.