静态推断与动态推断

您可以选择以下任一推断策略:

  • 离线推断,指的是使用 MapReduce 或类似方法批量进行所有可能的预测。然后,将预测结果写入 SSTable 或 Bigtable 中,再将其馈送至缓存/对照表。
  • 在线推断,指的是使用服务器按需进行预测。

请观看以下视频(2 分钟),详细了解静态推断与动态推断。

静态推断与动态推断

离线推断

  • 使用 mapreduce 或类似方法批量进行所有可能的预测。
  • 写入表中,然后提供给缓存/对照表。

在线推断

  • 使用服务器按需进行预测。

离线推断

  • 使用 mapreduce 或类似方法批量进行所有可能的预测。
  • 写入表中,然后提供给缓存/对照表。
  • 优点:不需要过多担心推断成本。
  • 优点:可以使用批量配额。
  • 优点:可以在推送之前对数据预测执行后期验证。

离线推断

  • 使用 mapreduce 或类似方法批量进行所有可能的预测。
  • 写入表中,然后提供给缓存/对照表。
  • 优点:不需要过多担心推断成本。
  • 优点:可以使用批量配额。
  • 优点:可以在推送之前对数据预测执行后期验证。
  • 缺点:只能对我们了解的信息进行预测,不适用于存在长尾的情况。
  • 缺点:更新可能延迟数小时或数天。

在线推断

  • 使用服务器按需进行预测。
  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。

在线推断

  • 使用服务器按需进行预测。
  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。
  • 缺点:计算量非常大,对延迟较为敏感,可能会限制模型的复杂性。
  • 缺点:监控需求更多。

视频讲座总结

以下是离线推理的优缺点:

  • 优点:无需担心推断成本。
  • 优点:可以使用批量配额或某些巨大的 MapReduce。
  • 优点:可以在推送之前对预测进行后期验证。
  • 缺点:只能预测我们了解的事物,不适用于存在长尾的情况。
  • 缺点:更新可能延迟数小时或数天。

以下是在线推断的优缺点:

  • 优点:可在新项目加入时对其进行预测,非常适合存在长尾的情况。
  • 缺点:计算密集型,对延迟敏感,可能会限制模型的复杂性。
  • 缺点:监控需求更多。