直接存取 Gemini Nano 模型，傳送自訂要求

透過 ML Kit 的直接模型存取權 (com.google.mlkit:genai-prompt)，您可以使用 GenerativeModel 類別，將自訂自然語言要求傳送至裝置端的 Gemini Nano 基礎模型。直接存取模型可接受文字或多模態 (圖片和文字) 輸入，支援用戶端管理的多輪對話 (List<Content> 搭配 USER 和 MODEL 角色和 sessionId)，並輸出文字或輸入結構化輸出。

您可以將直接模型存取權用於多種用途，包括：

用途

範例

圖像解讀

分析相片並分類，例如「寵物」、「食物」或「旅遊」。

Shorts 翻譯

翻譯外送員和顧客之間的簡短訊息。

引導式摘要

根據使用者的特定興趣，總結餐廳評論。

實體擷取

從電子郵件討論串擷取近期活動的重要詳細資料。

內容生成靈感

建議日記提示。

智慧文件掃描

從收據圖片中擷取項目並分類。

文字分類

將顧客評論分類為正面、中立或負面。

直接存取模型與特定工作 API

除了直接存取 Gemini Nano 基礎模型，自訂提示詞外，ML Kit 還提供預先設定的 API，用於專屬語音、圖片和文字工作：語音辨識、圖片說明、摘要、校對、重寫等。文字和圖片 Tasks API 會在共用基礎模型上，使用工作專屬特徵類型和微調過的 LoRA 轉接器。下表列出各個方法的優點：

考慮度

直接存取模型 (GenerativeModel)

文字和圖片 Tasks API

整合工作

高。

需要投入更多心力，才能完成提示工程和品質查驗。

公路旅行

這些 API 會在基礎模型上使用特定任務的功能類型和微調過的 LoRA 適應器，因此較不費力。不必直接與 LLM 互動。

彈性

彈性更高，因為您可以自訂提示、管理多輪對話情境、強制執行類型結構化結構定義，或在 GenerativeModel 之上建構更高階的代理工作流程 (AgentRunner)。

彈性較低。每個任務專屬 API 都有固定的 LoRA 微調功能和內建提示，具備下列特性：

  • 圖片說明簡短籠統。
  • 摘要只能有 1 到 3 個項目符號。
  • 重寫功能僅支援預先定義的樣式。

一般來說，如果需要更多自訂選項和彈性，請直接存取模型；如果是一般工作，不需要自訂邏輯，則使用工作專屬 API。

程式碼範例