Esplora le opzioni seguenti.
Per inferenza dinamica (online) si intende l'esecuzione di previsioni on demand. In altre parole,
l'inferenza online, posiziona il modello addestrato su un server
e invia le richieste di inferenza secondo necessità. Quali delle seguenti affermazioni sull'inferenza dinamica sono vere?
Puoi fornire previsioni per tutti i possibili elementi.
Sì, è un punto di forza dell'inferenza online. A tutte le richieste ricevute viene assegnato un punteggio. L'inferenza online gestisce le distribuzioni long-tail (quelle con molti elementi rari), come lo spazio di tutte le possibili frasi scritte nelle recensioni dei film.
Puoi eseguire la post-verifica delle previsioni prima che vengano utilizzate.
In generale, non è possibile effettuare una post-verifica di tutte le previsioni prima che vengano utilizzate perché le previsioni vengono effettuate on demand. Tuttavia, puoi potenzialmente monitorare le qualità previste delle previsioni per fornire un certo livello di controllo di integrità, ma questi segnaleranno gli allarmi antincendio solo dopo che l'incendio si è già diffuso.
Devi monitorare attentamente gli indicatori di input.
Sì. Gli indicatori potrebbero cambiare improvvisamente a causa di problemi a monte,
danneggiando le nostre previsioni.
Quando esegui l'inferenza online, non devi preoccuparti della latenza di previsione (il tempo di attesa per la previsione delle previsioni) tanto quanto quando esegui l'inferenza offline.
La latenza della previsione è spesso una preoccupazione reale nell'inferenza online.
Sfortunatamente, non è possibile risolvere i problemi di latenza di previsione aggiungendo altri server di inferenza.