Découvrez les options ci-dessous.
Avec l'inférence hors ligne, les prédictions
concernent un grand nombre de données
une fois.
Nous plaçons ensuite ces prédictions dans une table de recherche en vue d'une utilisation ultérieure.
Parmi les affirmations suivantes concernant l'inférence hors ligne, lesquelles sont vraies ?
Nous devons créer des prédictions pour toutes les entrées possibles.
Oui, nous devrons faire des prédictions
pour toutes les entrées possibles et
les stocker dans un cache ou un tableau
de conversion pour utiliser l'inférence hors ligne.
C'est l'un des inconvénients de l'inférence hors ligne. Nous ne pourrons
générer une prédiction pour les exemples que nous avons déjà
connaître. Cela ne pose aucun problème si l'ensemble des éléments
est limitée, comme toutes les villes du monde ou tous les éléments d'une table de base de données.
Mais pour les entrées de forme libre, comme les requêtes utilisateur qui ont une longue traîne
des articles inhabituels ou rares, nous ne serons pas en mesure de fournir une couverture complète.
avec un système d'inférence hors ligne.
Après avoir généré les prédictions, nous pouvons les vérifier avant de les appliquer
de l'IA générative.
C'est en effet l'un des aspects les plus utiles de l'inférence hors ligne. Nous pouvons
et vérifier l'intégrité de toutes nos prédictions
utilisé.
Pour une entrée donnée, nous pouvons livrer une prédiction plus rapidement qu'avec
l'inférence en ligne.
L'un des grands avantages de l'inférence hors ligne est qu'une fois
les prédictions ont été écrites dans une table de recherche,
avec une latence minimale. Aucun calcul de caractéristiques ni modèle
l'inférence doit être effectuée au moment de la requête.
Nous devrons surveiller attentivement nos signaux d'entrée sur une longue
une période donnée.
C'est le seul cas où il n'est pas
nécessaire de surveiller les entrées
ces signaux sur une longue période. En effet, une fois que
ont été écrites dans une table de conversion, nous ne sommes plus
en fonction des caractéristiques d'entrée. Notez que toute mise à jour ultérieure
du modèle nécessitera une nouvelle série
de vérification des entrées.
Nous serons en mesure de réagir rapidement à l'évolution du monde.
Non, il s'agit d'un inconvénient de l'inférence hors ligne. Nous devons attendre
tant qu'un nouvel ensemble de prédictions n'a pas été écrit dans la recherche
avant de pouvoir réagir différemment en fonction des changements
dans le monde entier.