静态推理与动态推理 (Static vs. Dynamic Inference)

您可以选择以下任一推理策略:

  • 离线推理,指的是使用 MapReduce 或类似方法批量进行所有可能的预测。然后,将预测记录到 SSTable 或 Bigtable 中,并将它们提供给一个缓存/查询表。
  • 在线推理,指的是使用服务器根据需要进行预测。

观看以下视频(2 分钟),详细了解静态推理与动态推理。

静态推理与动态推理

离线推理

  • 使用 MapReduce 或类似方法批量进行所有可能的预测。
  • 记录到表格中,然后提供给缓存/查询表。

在线推理

  • 使用服务器根据需要进行预测。

离线推理

  • 使用 MapReduce 或类似方法批量进行所有可能的预测。
  • 记录到表格中,然后提供给缓存/查询表。
  • 优点:不需要过多担心推理成本。
  • 优点:可以使用批量方法。
  • 优点:可以在推送之前对数据预测执行后期验证。

离线推理

  • 使用 MapReduce 或类似方法批量进行所有可能的预测。
  • 记录到表格中,然后提供给缓存/查询表。
  • 优点:不需要过多担心推理成本。
  • 优点:可以使用批量方法。
  • 优点:可以在推送之前对数据预测执行后期验证。
  • 缺点:只能对我们知晓的数据进行预测,不适用于存在长尾的情况。
  • 缺点:更新可能延迟数小时或数天。

在线推理

  • 使用服务器根据需要进行预测。
  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。

在线推理

  • 使用服务器根据需要进行预测。
  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。
  • 缺点:计算量非常大,对延迟较为敏感,可能会限制模型的复杂度。
  • 缺点:监控需求更多。

以下是离线推理的优缺点:

  • 优点:不需要过多担心推理成本。
  • 优点:可以使用批量方法或某些巨型 MapReduce 方法。
  • 优点:可以在推送之前对预测执行后期验证。
  • 缺点:只能对我们知晓的数据进行预测,不适用于存在长尾的情况。
  • 缺点:更新可能延迟数小时或数天。

以下是在线推理的优缺点:

  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。
  • 缺点:计算量非常大,对延迟较为敏感,可能会限制模型的复杂度。
  • 缺点:监控需求更多。