프롬프트 API를 사용할 때는 프롬프트를 맞춤설정하고 최적의 결과를 얻기 위해 사용할 수 있는 특정 전략이 있습니다. 이 페이지에서는 Gemini Nano의 프롬프트 형식을 지정하기 위한 권장사항을 설명합니다.
일반적인 프롬프트 엔지니어링 안내는 프롬프트 엔지니어링 백서, 생성형 AI를 위한 프롬프트 엔지니어링, 프롬프트 설계 전략을 참고하세요.
또는 프롬프트를 자동으로 개선하고 정제하려면 gemma-3n-e4b-it와 같은 온디바이스 모델을 타겟팅할 수 있는 제로샷 옵티마이저를 사용하세요.
프롬프트 설계 권장사항
프롬프트 API의 프롬프트를 설계할 때는 다음 기법을 사용하세요.
컨텍스트 학습을 위한 예시를 제공합니다. 프롬프트에 잘 분산된 예시를 추가하여 Gemini Nano에 원하는 결과의 종류를 보여주세요.
인컨텍스트 학습을 사용할 때는 접두사 캐싱 기능을 사용하는 것이 좋습니다. 예를 제공하면 프롬프트가 길어지고 추론 시간이 늘어나기 때문입니다.
간결하게 작성하세요. 반복되는 안내가 포함된 장황한 서문은 최적의 결과를 생성하지 못할 수 있습니다. 프롬프트는 핵심에 집중하고 간단명료하게 작성하세요.
프롬프트를 구조화하여 더 효과적인 대답을 생성합니다. 예를 들어 안내, 제약 조건, 예시를 명확하게 정의하는 이 샘플 프롬프트 템플릿을 참고하세요.
출력을 짧게 유지 LLM 추론 속도는 출력 길이에 크게 좌우됩니다. 사용 사례에 가장 짧은 출력을 생성하는 방법을 신중하게 고려하고 원하는 형식으로 출력을 구조화하기 위해 수동 후처리를 실행하세요.
구분자 추가
<background_information>,<instruction>,##와 같은 구분 기호를 사용하여 프롬프트의 여러 부분을 구분합니다. 구성요소 간에##를 사용하는 것은 특히 Gemini Nano에 중요합니다. 모델이 각 구성요소를 올바르게 해석하지 못할 가능성을 크게 줄여주기 때문입니다.간단한 로직과 더 집중된 작업을 선호 여러 단계의 추론이 필요한 프롬프트 (예: X를 먼저 실행하고 X의 결과가 A이면 M을 실행하고 그렇지 않으면 N을 실행한 다음 Y를 실행하세요...)로 좋은 결과를 얻기 어려운 경우 작업을 나누고 각 Gemini Nano 호출이 더 집중된 작업을 처리하도록 하고 코드를 사용하여 여러 호출을 연결하는 것이 좋습니다.
결정론적 작업에는 낮은 강도 값을 사용하세요. 창의성에 의존하지 않는 엔티티 추출 또는 번역과 같은 작업의 경우
0.2의temperature값으로 시작하고 테스트를 기반으로 이 값을 조정하는 것이 좋습니다.