Inferensi Statis vs. Dinamis

Anda dapat memilih salah satu strategi inferensi berikut:

  • inferensi offline, yang berarti bahwa Anda membuat semua prediksi yang memungkinkan dalam jumlah banyak, menggunakan MapReduce atau yang serupa. Kemudian, tulis prediksi ke SSTable atau Bigtable, lalu masukkan prediksi tersebut ke tabel cache/pencarian.
  • inferensi online, yang berarti bahwa Anda memprediksi permintaan, menggunakan server.

Pelajari lebih lanjut inferensi statis vs. dinamis dalam video berikut (2 mnt).

Inferensi Statis vs. Dinamis

Inferensi Offline

  • Membuat semua prediksi yang memungkinkan dalam batch, menggunakan mapReduce atau yang serupa.
  • Tulis ke tabel, lalu masukkan data ini ke tabel cache/pencarian.

Inferensi Online

  • Memprediksi permintaan, menggunakan server.

Inferensi Offline

  • Membuat semua prediksi yang memungkinkan dalam batch, menggunakan mapReduce atau yang serupa.
  • Tulis ke tabel, lalu masukkan data ini ke tabel cache/pencarian.
  • Kelebihan: tidak perlu khawatir tentang biaya inferensi.
  • Kelebihan: kemungkinan dapat menggunakan kuota batch.
  • Kelebihan: dapat melakukan verifikasi prediksi pada data sebelum digunakan untuk memengaruhi dunia nyata.

Inferensi Offline

  • Membuat semua prediksi yang memungkinkan dalam batch, menggunakan mapReduce atau yang serupa.
  • Tulis ke tabel, lalu masukkan data ini ke tabel cache/pencarian.
  • Kelebihan: tidak perlu khawatir tentang biaya inferensi.
  • Kelebihan: kemungkinan dapat menggunakan kuota batch.
  • Kelebihan: dapat melakukan verifikasi prediksi pada data sebelum digunakan untuk memengaruhi dunia nyata.
  • Kekurangan: hanya dapat memprediksi hal-hal yang kita ketahui -- tidak cocok untuk kasus dengan banyak item langka.
  • Kekurangan: latensi update mungkin butuh waktu berjam-jam atau berhari-hari.

Inferensi Online

  • Memprediksi permintaan, menggunakan server.
  • Kelebihan: dapat memprediksi item baru apa pun yang masuk -- cocok untuk kasus dengan banyak item langka.

Inferensi Online

  • Memprediksi permintaan, menggunakan server.
  • Kelebihan: dapat memprediksi item baru apa pun yang masuk -- cocok untuk kasus dengan banyak item langka.
  • Kekurangan: komputasi yang intensif dan latensi yang sensitif dapat membatasi kompleksitas model.
  • Kekurangan: kebutuhan pemantauan lebih intensif.

Ringkasan Perkuliahan Video

Berikut ini pro dan kontra dari inferensi offline:

  • Pro: Tidak perlu khawatir tentang biaya inferensi.
  • Pro: Kemungkinan dapat menggunakan kuota batch atau beberapa MapReduce berukuran besar.
  • Pro: Dapat melakukan verifikasi prediksi sebelum digunakan untuk memengaruhi dunia nyata.
  • Kontra: Hanya dapat memprediksi hal-hal yang kita ketahui — tidak cocok untuk kasus dengan banyak item langka.
  • Kekurangan: Latensi update kemungkinan diukur dalam hitungan jam atau hari.

Berikut ini pro dan kontra dari inferensi online:

  • Pro: Dapat memprediksi item baru apa pun yang masuk — cocok untuk longtail.
  • Kontra: Komputasi yang intensif dan latensi yang sensitif dapat membatasi kompleksitas model.
  • Kontra: Kebutuhan pemantauan lebih intensif.