ML Kit 的 GenAI API 可發揮 Gemini Nano 的強大功能，協助應用程式執行工作。這些 API 可透過高階介面，為熱門用途提供即用品質。ML Kit GenAI API 是建構在 AICore 之上，這是一種 Android 系統服務，可在裝置上執行 GenAI 基礎模型，藉此提供各種功能，例如在本機處理資料，進而提升應用程式功能和使用者隱私權。
ML Kit GenAI API 支援下列功能：
GenAI API 的優點
與其他現有的機器學習套件功能類似，GenAI API 完全在裝置上執行，因此可提供下列優點：
- 輸入、推論和輸出資料會在本機處理
- 即使沒有穩定的網路連線也能使用
- 每次 API 呼叫都不會產生額外的伺服器費用
此外，由於 GenAI API 是建構在 AICore 之上，並由 Gemini Nano 提供動力，因此每個應用程式都能使用裝置上共用的 Gemini Nano 模型。這樣一來，如果裝置上已有模型，就不會需要等待下載，進而節省儲存空間。如要進一步瞭解 AICore 如何隔離要求以保護隱私權，請參閱本文。
串流與非串流
ML Kit GenAI API 提供串流和非串流選項，可用於接收結果。串流 API 會在回應產生時逐步提供回應，提供持續的資料流。相反地，非串流 API 會等到整個回應完成後，再將其傳回為單一區塊。
請為長篇回應選擇串流 API，以便更快取得初始回饋。非串流 API 更適合用於簡短回應，或處理結果時以批次處理。
確認裝置支援情形
ML Kit GenAI API 可用於下列裝置，且我們計畫將支援範圍擴大至其他裝置：
- Google：Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
- Honor：Magic 7 Pro、Magic 7
- iQOO：iQOO 13
- Motorola：Razr 60 Ultra
- OnePlus：OnePlus 13、OnePlus 13s
- OPPO：Find N5、Find X8、Find X8 Pro
- POCO：POCO F7 Ultra
- realme：realme GT 7 Pro
- Samsung：Galaxy S25、Galaxy S25+、Galaxy S25 Ultra
- vivo：vivo X200、vivo X200 Pro
- Xiaomi：Xiaomi 15 Ultra、Xiaomi 15
特定語言的支援情況可能會因裝置的設定和已下載至裝置的型號而異。
每個應用程式的配額
AICore 會為每個應用程式強制執行推論配額。也就是說，如果在短時間內發出過多 GenAI API 要求，就會收到 ErrorCode.BUSY 回應。收到這類錯誤時，建議您使用指數輪詢重試要求。
背景使用
只有在應用程式是前景應用程式時，才允許 GenAI API 推論。在應用程式不在前景時使用 API (包括使用前景服務)，會因目前缺少背景使用配額而導致 ErrorCode.BUSY 回應。
程式碼範例
如要取得這段程式碼，請查看下列範例：