靜態推論與動態推論

您可以選擇下列任一推論策略:

  • 離線推論:您可以使用 MapReduce 或類似的程式碼,批次進行所有可能的預測。然後將預測結果寫入 SSTable 或 Bigtable,並將其動態饋給至快取/對照表。
  • 「線上推論」是指透過伺服器隨選預測。

請觀看以下影片 (2 分鐘),進一步瞭解靜態與動態推論功能。

靜態與動態推論

離線推論

  • 使用 Mapreduce 或類似方式,一次進行所有可能的預測結果。
  • 寫入資料表,然後動態饋給/對照表。

線上推論

  • 使用伺服器隨選預測。

離線推論

  • 使用 Mapreduce 或類似方式,一次進行所有可能的預測結果。
  • 寫入資料表,然後動態饋給/對照表。
  • 缺點:您不需要擔心推論成本。
  • 缺點:可能使用批次配額。
  • 缺點:可在推送前對資料進行預測後驗證。

離線推論

  • 使用 Mapreduce 或類似方式,一次進行所有可能的預測結果。
  • 寫入資料表,然後動態饋給/對照表。
  • 缺點:您不需要擔心推論成本。
  • 缺點:可能使用批次配額。
  • 缺點:可在推送前對資料預測後進行驗證。
  • 缺點:只能預測所知道的資訊,無法長期預測。
  • 停機時間:更新延遲時間可能是數小時或數天。

線上推論

  • 使用伺服器隨選預測。
  • 缺點:可預測任何新商品出現時,對長尾來說很實用。

線上推論

  • 使用伺服器隨選預測。
  • 缺點:可預測任何新商品出現時,對長尾來說很實用。
  • 缺點:會耗用大量運算資源且易受延遲影響,可能會讓模型複雜度降低。
  • 缺點:監控需求會比較複雜。

視訊講座摘要

以下是離線推論的優缺點:

  • 優點:您不用擔心推論成本。
  • 專家:可能使用批次配額或大量的 MapReduce。
  • 專家:可在推送前驗證預測結果。
  • 缺點:只能預測所知道的資訊,對長尾來說很糟糕。
  • 答:更新延遲時間可能是數小時或數天。

以下是線上推論的優缺點:

  • 優點:可在任何新項目進行預測,對長尾來說非常有用。
  • 缺點:運算密集、受到延遲影響,可能會限制模型的複雜度。
  • 缺點:監控需求會增加。