請查看下列選項。

動態 (線上) 推論代表進行隨選預測。也就是說,在線上推論中,我們會將訓練過的模型放在伺服器上,並視需求發出推論要求。關於動態推論,下列敘述何者正確?
您可以為所有可能的項目提供預測。
是的,這是線上推論的優點。所有傳入的要求都會獲得分數。線上推論會處理長尾分佈 (含有很多稀有項目的情況),例如電影評論中所有可能的句子空間。
您可以先使用預測功能,之後再進行預測。
一般來說,由於預測是以隨選方式進行,因此無法進行所有預測。不過,您可能需要監控匯總預測品質,以便提供一定程度的完整性檢查,但只會在火災傳播後發出火災警報。
您必須密切監控輸入訊號。
可以。信號可能會因為上游問題而突然改變,進而影響我們的預測。
在執行線上推論時,您無須擔心預測延遲時間 (傳回預測的延遲時間) 要比執行離線推論來得多。
預測延遲時間往往是線上推論中的實際問題。但很遺憾地,透過加入更多推論伺服器,不一定能修正預測延遲問題。