Inférence statique ou dynamique

Restez organisé à l'aide des collections Enregistrez et classez les contenus selon vos préférences.

Vous pouvez choisir l'une des stratégies d'inférence suivantes:

  • L'inférence hors ligne, qui implique la création groupée de toutes les prédictions possibles à l'aide de MapReduce ou d'une méthode similaire. Vous allez ensuite écrire les prédictions dans une table SSTable ou Bigtable, puis les alimenter dans une table de cache/recherche.
  • L'inférence en ligne, qui implique des prédictions à la demande à l'aide d'un serveur.

Pour en savoir plus sur l'inférence statique et l'inférence dynamique, regardez la vidéo suivante (2 min).

Inférence statique ou dynamique

Inférence hors connexion

  • effectuer toutes les prédictions possibles dans un traitement par lot à l'aide d'une réduction de carte ou similaire ;
  • Écrire dans une table, puis les alimenter dans une table de mise en cache/de recherche

Inférence en ligne

  • Effectuer des prédictions à la demande à l'aide d'un serveur

Inférence hors connexion

  • effectuer toutes les prédictions possibles dans un traitement par lot à l'aide d'une réduction de carte ou similaire ;
  • Écrire dans une table, puis les alimenter dans une table de mise en cache/de recherche
  • Avantage : vous n'avez pas à vous soucier du coût de l'inférence.
  • Avantage : il est possible d'utiliser des quotas de lots.
  • Avantage: les prédictions peuvent être vérifiées avant d'être transférées.

Inférence hors connexion

  • effectuer toutes les prédictions possibles dans un traitement par lot à l'aide d'une réduction de carte ou similaire ;
  • Écrire dans une table, puis les alimenter dans une table de mise en cache/de recherche
  • Avantage: vous n'avez pas à vous soucier du coût de l'inférence.
  • Avantage: il est possible d'utiliser des quotas de lots.
  • Avantage : les prédictions peuvent être vérifiées avant d'être utilisées.
  • Inconvénient: les prédictions ne peuvent être générées que pour les exemples connus, ce qui n'est pas optimal pour les requêtes de longue traîne.
  • Inconvénient : la latence des mises à jour est probablement mesurée en heures ou en jours.

Inférence en ligne

  • Effectuer des prédictions à la demande à l'aide d'un serveur
  • Avantage: les prédictions sont générées à mesure que les requêtes sont effectuées, ce qui est idéal pour les requêtes de longue traîne.

Inférence en ligne

  • Effectuer des prédictions à la demande à l'aide d'un serveur
  • Avantage : les prédictions sont générées à mesure que les requêtes sont effectuées, ce qui est idéal pour les requêtes de longue traîne.
  • Inconvénient : le calcul est intensif et sensible à la latence, ce qui peut limiter la complexité du modèle.
  • Inconvénient : les besoins en surveillance sont plus importants.

Résumé du cours vidéo

Voici les avantages et les inconvénients de l'inférence hors connexion:

  • Avantage: le coût de l'inférence est limité.
  • Avantage: il est possible d'utiliser des quotas de lots ou un MapReduce géant.
  • Avantage: les prédictions peuvent être vérifiées avant d'être appliquées.
  • Inconvénient: les prédictions ne peuvent être prédites que pour les requêtes de longue traîne.
  • Inconvénient: la latence des mises à jour est généralement mesurée en heures ou en jours.

Voici les avantages et les inconvénients de l'inférence en ligne:

  • Avantage: les prédictions sont générées à mesure que les requêtes sont effectuées, ce qui est idéal pour les requêtes de longue traîne.
  • Inconvénient: les ressources de calcul sont importantes et sensibles à la latence, ce qui peut limiter la complexité du modèle.
  • Inconvénient: les besoins en surveillance sont plus importants.