LLM sur Android avec Keras et TensorFlow Lite

1. Quel framework permet de convertir le modèle LLM dans un format compatible avec les appareils mobiles ?

   Keras

   PyTorch

   Core ML

   TensorFlow Lite

2. Quelle est la principale difficulté rencontrée lors du déploiement de grands modèles de langage sur des appareils Android ?

   Absence de modèles LLM pré-entraînés

   Difficulté à trouver des ensembles de données adaptés.

   Puissance de calcul et mémoire limitées

   Bande passante Internet élevée requise.

3. Quel est l'avantage de quantifier le modèle au cours du processus de conversion ?

   Elle permet d'effectuer l'entraînement sur un ensemble de données plus volumineux.

   Cela simplifie l'architecture du modèle.

   Elle améliore la justesse du modèle.

   Elle réduit la taille du modèle et améliore la latence.

4. Complétez la phrase

   Saisissez un ou plusieurs mots pour compléter la phrase.

   La bibliothèque de haut niveau qui simplifie le développement de modèles de TLN à l'aide de TensorFlow est ___.

5. Comment le guide recommande-t-il de préparer les données textuelles pour le modèle LLM ?

   convertir les données textuelles en représentations numériques ;

   Conservez les données textuelles dans leur format brut.

   Prétraiter les données textuelles en les tokenisant

   Toutes les réponses ci-dessus

Envoyer les réponses