При использовании Prompt API существуют определенные стратегии, которые можно применять для настройки подсказок и получения оптимальных результатов. На этой странице описаны лучшие практики форматирования подсказок для Gemini Nano.
Для получения более общих рекомендаций по проектированию с использованием подсказок см. документ «Проектирование с использованием подсказок» , «Проектирование с использованием подсказок для генеративного ИИ» и «Стратегии проектирования с использованием подсказок» .
В качестве альтернативы, для автоматической доработки и улучшения подсказок можно использовать оптимизатор с нулевым количеством попыток , который может быть ориентирован на модели устройств, такие как gemma-3n-e4b-it .
Передовые методы оперативного проектирования
При разработке подсказок для Prompt API используйте следующие методы:
Приведите примеры контекстного обучения . Добавьте в задание хорошо распределенные примеры, чтобы показать Gemini Nano, какого результата вы ожидаете.
При использовании контекстного обучения рекомендуется использовать функцию кэширования префиксов , поскольку предоставление примеров увеличивает длину запроса и время выполнения вывода.
Будьте краткими . Многословные вступительные фразы с повторяющимися инструкциями могут привести к неоптимальным результатам. Держите подсказку в фокусе и будьте лаконичны. Если вам нужно повторить короткую директиву, которая управляет поведением модели, рассмотрите возможность использования системных инструкций .
Структурируйте подсказки , чтобы получать более эффективные ответы, например, используя этот пример шаблона подсказки , который четко определяет инструкции, ограничения и примеры.
Старайтесь, чтобы выходные данные были короткими . Скорость вывода LLM сильно зависит от длины выходных данных. Тщательно продумайте, как сгенерировать максимально короткие выходные данные для вашего варианта использования, и выполните ручную постобработку для структурирования выходных данных в выбранном формате. Чтобы гарантировать, что выходные данные будут в желаемом формате, используйте API структурированных выходных данных .
Добавьте разделители . Используйте разделители, такие как
<background_information>,<instruction>и##чтобы разделить различные части вашего запроса. Использование##между компонентами особенно важно для Gemini Nano, поскольку это значительно снижает вероятность того, что модель неправильно интерпретирует каждый компонент.Отдавайте предпочтение простой логике и более целенаправленной задаче . Если вам сложно добиться хороших результатов с помощью запроса, требующего многоэтапного рассуждения (например, сначала выполните X, если результат X равен A, выполните M; в противном случае выполните N; затем выполните Y... ), рассмотрите возможность разбить задачу на части и позволить каждому вызову Gemini Nano обрабатывать более целенаправленную задачу, используя код для объединения нескольких вызовов. Если же вам необходимо решить сложную, требующую интенсивного рассуждения задачу за один раз, рассмотрите возможность использования режима мышления .
Для детерминированных задач используйте более низкие значения температуры . Для таких задач, как извлечение сущностей или перевод, которые не требуют творческого подхода, начните с значения
temperature0.2и корректируйте это значение на основе проведенных тестов.