Conception de requêtes pour Gemini Nano

Lorsque vous utilisez l'API Prompt, vous pouvez utiliser des stratégies spécifiques pour personnaliser vos prompts et obtenir des résultats optimaux. Cette page décrit les bonnes pratiques à suivre pour mettre en forme les prompts pour Gemini Nano.

Pour obtenir des conseils plus généraux sur le prompt engineering, consultez le livre blanc sur le prompt engineering, le prompt engineering pour l'IA générative et les stratégies de conception de prompts.

Vous pouvez également utiliser l' optimiseur zero-shot pour affiner et améliorer automatiquement les prompts. Il peut cibler des modèles sur l'appareil tels que gemma-3n-e4b-it.

Bonnes pratiques pour la rédaction de prompts

Lorsque vous concevez des prompts pour l'API Prompt, utilisez les techniques suivantes :

• Fournissez des exemples pour l'apprentissage contextuel. Ajoutez des exemples bien répartis à votre prompt pour montrer à Gemini Nano le type de résultat que vous attendez.

  Envisagez d'utiliser la fonctionnalité de mise en cache des préfixes lorsque vous utilisez l'apprentissage contextuel, car fournir des exemples allonge le prompt et augmente le temps d'inférence.

• Soyez concis. Les préambules verbeux avec des instructions répétées peuvent produire des résultats qui ne sont pas optimaux. Veillez à ce que votre prompt soit ciblé et précis. Si vous devez répéter une directive courte qui guide le comportement du modèle, envisagez d'utiliser des instructions système.

• Structurez les prompts pour générer des réponses plus efficaces, comme cet exemple de modèle de prompt qui définit clairement les instructions, les contraintes et les exemples.

• Limitez la longueur de la sortie. Les vitesses d'inférence des LLM dépendent fortement de la longueur de la sortie. Réfléchissez attentivement à la manière de générer la sortie la plus courte possible pour votre cas d'utilisation et effectuez un post-traitement manuel pour structurer la sortie au format choisi. Pour vous assurer que la sortie de la réponse est au format de votre choix, utilisez l'API de sortie structurée.

• Ajoutez des délimiteurs. Utilisez des délimiteurs tels que <background_information>, <instruction>, et ## pour séparer les différentes parties de votre prompt. L'utilisation de ## entre les composants est particulièrement essentielle pour Gemini Nano, car elle réduit considérablement le risque que le modèle n'interprète pas correctement chaque composant.

• Privilégiez une logique simple et une tâche plus ciblée. Si vous avez du mal à obtenir de bons résultats avec un prompt nécessitant un raisonnement en plusieurs étapes (par exemple, faites d'abord X, si le résultat de X est A, faites M ; sinon, faites N ; puis faites Y...), envisagez de diviser la tâche et de laisser chaque appel Gemini Nano gérer une tâche plus ciblée, tout en utilisant du code pour enchaîner plusieurs appels. Si vous devez effectuer une tâche complexe et nécessitant beaucoup de raisonnement en une seule fois, envisagez d'utiliser le mode de réflexion.

• Utilisez des valeurs de température plus basses pour les tâches déterministes. Pour les tâches telles que l'extraction d'entités ou la traduction qui ne reposent pas sur la créativité, envisagez de commencer par une valeur temperature de 0.2, puis ajustez-la en fonction de vos tests.