Explora las siguientes opciones.

Inferencia dinámica (en línea) significa realizar predicciones a pedido. Es decir, en la inferencia en línea, colocamos el modelo entrenado en un servidor y emitimos solicitudes de inferencia según sea necesario. ¿Cuáles de las siguientes afirmaciones sobre la inferencia dinámica son verdaderas?

Puedes proporcionar predicciones para todos los elementos posibles.

Sí, esta es una fortaleza de la inferencia en línea. Se asignará una puntuación a todas las solicitudes que ingresen. La inferencia en línea maneja distribuciones de cola larga (aquellas con muchos elementos raros), como el espacio de todas las oraciones posibles escritas en reseñas de películas.

Puedes realizar una verificación posterior de las predicciones antes de que se usen.

En general, no es posible realizar una verificación posterior de todas las predicciones antes de que se utilicen porque las predicciones se realizan a pedido. Sin embargo, puedes supervisar potencialmente las calidades de predicción agregadas para proporcionar cierto nivel de comprobación de estado, pero estas señalarán las alarmas recién después de que se hayan propagado.

Debe supervisar cuidadosamente los indicadores de entrada.

Sí. Las señales podrían cambiar repentinamente debido a problemas ascendentes, lo que perjudicaría nuestras predicciones.

Cuando realizas inferencias en línea, no necesitas preocuparte por la latencia de predicción (el tiempo de retardo para mostrar predicciones) como cuando realizas inferencias sin conexión.

La latencia de predicción suele ser una preocupación real en la inferencia en línea. Lamentablemente, no es posible corregir los problemas de latencia de las predicciones si agregas más servidores de inferencia.