查看以下选项。

动态(在线)推断是指根据需要做出预测。也就是说,在在线推断中,我们会将经过训练的模型放到服务器上,并根据需要发出推断请求。以下哪些关于动态推断的说法是正确的?
您可以针对所有可能的内容提供预测。
是,这是在线推断的优势。收到的请求都会获得一个分数。在线推断会处理长尾分布情况(包含许多罕见条目的分布),例如电影评价中所有可能的句子的空间。
您可以先对预测进行后期验证,然后再使用它们。
一般来说,在使用任何预测之前都无法对其进行后期验证,因为预测是按需进行的。不过,您可以监控总体预测特性,以提供一定程度的健全性检查,但仅在火灾扩散之后才会发出火灾警报声。
您必须仔细监控输入信号。
是。信号可能会由于上游问题而突然发生变化,从而损害我们的预测。
执行在线推断时,您无需像执行离线推断时那样担心预测延迟时间(返回预测的延迟时间)。
预测延迟通常是在线推断中真正关注的问题。遗憾的是,您不一定可以通过添加更多推断服务器来解决预测延迟时间问题。