使用 Prompt API 時,您可以運用特定策略自訂提示,獲得最佳結果。本頁說明 Gemini Nano 提示格式的最佳做法。
如需更一般的提示工程指南,請參閱提示工程白皮書、生成式 AI 的提示工程和提示設計策略。
或者,如要自動修正及改善提示,可以使用零樣本最佳化工具,這項工具可指定裝置端模型,例如 gemma-3n-e4b-it。
提示設計的最佳做法
設計 Prompt API 的提示時,請使用下列技巧:
提供符合情境的學習示例。在提示中加入分布均勻的範例,向 Gemini Nano 說明您期望的結果類型。
使用情境內學習功能時,建議使用前置字元快取功能,因為提供範例會使提示變長,並增加推論時間。
簡明扼要。如果前言冗長且重複指示,可能會產生不盡理想的結果。提示應簡潔有力,如果需要重複提供引導模型行為的簡短指令,建議使用系統指令。
結構完整的提示詞可生成更實用的回覆,例如這個範例提示詞範本,清楚定義了指令、限制和範例。
輸出內容應簡短有力。LLM 推論速度很大程度取決於輸出長度。請仔細考量如何為您的用途產生最短的輸出內容,並手動後續處理,以所選格式建構輸出內容。如要確保回覆輸出內容採用偏好的格式,請使用 Structured Output API。
新增分隔符號。使用
<background_information>、<instruction>和##等分隔符號,將提示的不同部分分開。在元件之間使用##對於 Gemini Nano 尤其重要,因為這樣可大幅降低模型無法正確解讀每個元件的機率。偏好簡單的邏輯和更專注的任務。如果發現提示需要多步驟推理 (例如「先執行 X,如果 X 的結果是 A,則執行 M;否則執行 N;然後執行 Y...」),難以獲得良好結果,請考慮將工作拆開,讓每次 Gemini Nano 呼叫處理更專注的工作,同時使用程式碼將多個呼叫串連在一起。如果需要一次處理複雜且需要大量推論的任務,建議使用思考模式。
針對確定性工作使用較低的溫度值。對於不依賴創意的工作 (例如實體擷取或翻譯),建議從
temperature值0.2開始,並根據測試結果調整這個值。