Podczas korzystania z interfejsu Prompt API możesz stosować określone strategie, aby dostosować prompty i uzyskać optymalne wyniki. Na tej stronie opisujemy sprawdzone metody formatowania promptów dla Gemini Nano.
Więcej ogólnych wskazówek dotyczących tworzenia promptów znajdziesz w tych materiałach: Prompt Engineering whitepaper, Prompt Engineering for Generative AI i Prompt design strategies.
Możesz też automatycznie udoskonalać i ulepszać prompty za pomocą
optymalizatora zero-shot, który może kierować reklamy na modele na urządzeniu, takie jak
gemma-3n-e4b-it.
Sprawdzone metody projektowania promptów
Podczas projektowania promptów dla interfejsu Prompt API stosuj te techniki:
Podawaj przykłady do uczenia w kontekście. Dodaj do promptu dobrze rozłożone przykłady, aby pokazać Gemini Nano, jakiego rodzaju wyniku oczekujesz.
Jeśli korzystasz z uczenia w kontekście learning, rozważ użycie funkcji buforowania prefiksów, ponieważ podawanie przykładów wydłuża prompt i zwiększa czas wnioskowania.
Zadbaj o zwięzłość. Długie wstępy z powtarzającymi się instrukcjami mogą dawać suboptymalne wyniki. Skup się na promptach i zadbaj o ich zwięzłość. Jeśli musisz powtórzyć krótką dyrektywę, która kieruje zachowaniem modelu, rozważ użycie instrukcji systemowych.
Strukturyzuj prompty , aby generować skuteczniejsze odpowiedzi, np. ten przykładowy szablon promptu, który jasno określa instrukcje, ograniczenia i przykłady.
Zadbaj o krótki wynik. Szybkość wnioskowania LLM jest w dużym stopniu zależna od długości wyniku. Zastanów się, jak możesz wygenerować najkrótszy możliwy wynik w swoim przypadku użycia, i przeprowadź ręczną postprocessing, aby ustrukturyzować wynik w wybranym formacie. Aby mieć pewność, że odpowiedź będzie w preferowanym formacie, użyj interfejsu Structured Output API.
Dodaj ograniczniki. Użyj ograniczników, takich jak
<background_information>,<instruction>, i##, aby oddzielić od siebie różne części swojego promptu. Używanie##między komponentami jest szczególnie ważne w przypadku Gemini Nano, ponieważ znacznie zmniejsza prawdopodobieństwo, że model nieprawidłowo zinterpretuje każdy komponent.Wybieraj prostą logikę i bardziej skoncentrowane zadanie. Jeśli masz trudności z uzyskaniem dobrych wyników za pomocą promptu wymagającego wieloetapowego rozumowania (np. najpierw wykonaj X, jeśli wynik X to A, wykonaj M; w przeciwnym razie wykonaj N; potem wykonaj Y...), rozważ podzielenie zadania i pozwól, aby każde wywołanie Gemini Nano obsługiwało bardziej skoncentrowane zadanie, a do łączenia wielu wywołań użyj kodu. Jeśli musisz od razu rozwiązać złożone zadanie wymagające intensywnego rozumowania, rozważ użycie trybu myślenia.
W przypadku zadań deterministycznych używaj niższych wartości temperatury. W przypadku zadań takich jak wyodrębnianie encji czy tłumaczenie, które nie wymagają kreatywności, zacznij od wartości
temperaturerównej0.2i dostosuj ją na podstawie testów.