Confira as opções abaixo.
A inferência dinâmica (on-line) significa fazer previsões sob demanda. Ou seja,
em inferências on-line, colocamos o modelo treinado em um servidor e emitimos
solicitações de inferência conforme necessário. Quais das opções a seguir são verdadeiras sobre
inferência dinâmica?
Você pode fornecer previsões para todos os itens possíveis.
Sim, essa é a força de inferência on-line. Qualquer solicitação recebida
receberá uma pontuação. A inferência on-line lida com distribuições de cauda longa (com muitos itens raros), como o espaço de todas as frases possíveis escritas em avaliações de filmes.
É possível fazer a pós-verificação das previsões antes que elas sejam usadas.
Em geral, não é possível fazer uma verificação pós-verificação de todas as previsões antes que elas sejam usadas porque estão sendo feitas sob demanda. No entanto, é possível monitorar
as qualidades de previsão agregadas para fornecer algum nível de
verificação de integridade, mas elas sinalizarão alarmes de incêndio somente após
o incêndio já ter se espalhado.
Monitore atentamente os sinais de entrada.
Sim. Os indicadores podem mudar inesperadamente por problemas upstream,
prejudicando nossas previsões.
Ao realizar inferências on-line, não é necessário se preocupar com a latência de previsão (o tempo de atraso para previsões) nem com a inferência off-line.
A latência de previsão costuma ser uma preocupação real na inferência on-line.
Infelizmente, não é possível corrigir problemas de latência na previsão ao adicionar mais servidores de inferência.