Confira as opções abaixo.

A inferência dinâmica (on-line) significa fazer previsões sob demanda. Ou seja, em inferências on-line, colocamos o modelo treinado em um servidor e emitimos solicitações de inferência conforme necessário. Quais das opções a seguir são verdadeiras sobre inferência dinâmica?
Você pode fornecer previsões para todos os itens possíveis.
Sim, essa é a força de inferência on-line. Qualquer solicitação recebida receberá uma pontuação. A inferência on-line lida com distribuições de cauda longa (com muitos itens raros), como o espaço de todas as frases possíveis escritas em avaliações de filmes.
É possível fazer a pós-verificação das previsões antes que elas sejam usadas.
Em geral, não é possível fazer uma verificação pós-verificação de todas as previsões antes que elas sejam usadas porque estão sendo feitas sob demanda. No entanto, é possível monitorar as qualidades de previsão agregadas para fornecer algum nível de verificação de integridade, mas elas sinalizarão alarmes de incêndio somente após o incêndio já ter se espalhado.
Monitore atentamente os sinais de entrada.
Sim. Os indicadores podem mudar inesperadamente por problemas upstream, prejudicando nossas previsões.
Ao realizar inferências on-line, não é necessário se preocupar com a latência de previsão (o tempo de atraso para previsões) nem com a inferência off-line.
A latência de previsão costuma ser uma preocupação real na inferência on-line. Infelizmente, não é possível corrigir problemas de latência na previsão ao adicionar mais servidores de inferência.