Prompt-Design für Gemini Nano

Wenn Sie die Prompt API verwenden, können Sie bestimmte Strategien anwenden, um Ihre Prompts anzupassen und optimale Ergebnisse zu erzielen. Auf dieser Seite werden Best Practices für das Formatieren von Prompts für Gemini Nano beschrieben.

Allgemeinere Anleitungen zum Prompt Engineering finden Sie im Whitepaper zu Prompt Engineering, unter Prompt Engineering für generative KI und unter Strategien für das Prompt-Design.

Alternativ können Sie den Zero-Shot-Optimizer verwenden, um Prompts automatisch zu optimieren und zu verbessern. Dieser kann auf On-Device-Modelle wie gemma-3n-e4b-it ausgerichtet werden.

Prompt-Design – Best Practices

Verwenden Sie beim Erstellen von Prompts für die Prompt API die folgenden Techniken:

  • Beispiele für das In-Context-Lernen angeben: Fügen Sie Ihrem Prompt gut verteilte Beispiele hinzu, um Gemini Nano zu zeigen, welche Art von Ergebnis Sie erwarten.

    Wenn Sie In-Context-Learning verwenden, sollten Sie die Funktion Präfix-Caching in Betracht ziehen, da Beispiele den Prompt verlängern und die Inferenzzeit verlängern.

  • Fassen Sie sich kurz. Ausführliche Präambeln mit wiederholten Anweisungen können zu suboptimalen Ergebnissen führen. Halten Sie Ihren Prompt fokussiert und prägnant. Wenn Sie eine kurze Anweisung wiederholen müssen, die das Verhalten des Modells steuert, sollten Sie Systemanweisungen verwenden.

  • Prompts strukturieren, um effektivere Antworten zu generieren. Verwenden Sie dazu z. B. diese Prompt-Beispielvorlage, in der Anweisungen, Einschränkungen und Beispiele klar definiert sind.

  • Kurze Ausgaben: Die Geschwindigkeit der LLM-Inferenz hängt stark von der Ausgabelänge ab. Überlegen Sie genau, wie Sie die kürzestmögliche Ausgabe für Ihren Anwendungsfall generieren können, und führen Sie eine manuelle Nachbearbeitung durch, um die Ausgabe im ausgewählten Format zu strukturieren. Mit der Structured Output API können Sie dafür sorgen, dass die Antwortausgabe im gewünschten Format erfolgt.

  • Trennzeichen hinzufügen Verwenden Sie Trennzeichen wie <background_information>, <instruction> und ##, um verschiedene Teile Ihres Prompts voneinander zu trennen. Die Verwendung von ## zwischen Komponenten ist besonders wichtig für Gemini Nano, da sie die Wahrscheinlichkeit deutlich verringert, dass das Modell jede Komponente nicht richtig interpretiert.

  • Einfache Logik und eine fokussiertere Aufgabe bevorzugen: Wenn Sie mit einem Prompt, der mehrstufige Problemlösung erfordert (z. B. Führe zuerst X aus. Wenn das Ergebnis von X A ist, führe M aus, andernfalls N. Führe dann Y aus...), nur schwer gute Ergebnisse erzielen, sollten Sie die Aufgabe aufteilen und jeden Gemini Nano-Aufruf eine fokussiertere Aufgabe erledigen lassen. Verwenden Sie Code, um mehrere Aufrufe zu verketten. Wenn Sie eine komplexe, denkintensive Aufgabe auf einmal bewältigen müssen, sollten Sie den Denkmodus verwenden.

  • Niedrigere Temperaturwerte für deterministische Aufgaben verwenden: Bei Aufgaben wie der Extraktion von Einheiten oder der Übersetzung, die nicht auf Kreativität beruhen, sollten Sie mit einem temperature-Wert von 0.2 beginnen und diesen Wert basierend auf Ihren Tests anpassen.