Die GenAI APIs von ML Kit nutzen die Leistungsfähigkeit von Gemini Nano, um Ihre Apps bei Aufgaben zu unterstützen. Diese APIs bieten über eine übergeordnete Benutzeroberfläche eine sofort einsatzbereite Qualität für gängige Anwendungsfälle. Die ML Kit GenAI APIs basieren auf AICore, einem Android-Systemdienst, der die Ausführung von GenAI-Grundlagenmodellen auf dem Gerät ermöglicht. So können Funktionen wie erweiterte App-Funktionen und verbesserter Datenschutz für Nutzer durch lokale Datenverarbeitung ermöglicht werden.
Die ML Kit GenAI APIs unterstützen die folgenden Funktionen:
- Zusammenfassung: Artikel oder Chatunterhaltungen als Aufzählungsliste zusammenfassen.
- Korrekturlesen: Optimieren Sie kurze Inhalte, indem Sie die Grammatik optimieren und Rechtschreibfehler korrigieren.
- Umformulieren: Sie können kurze Nachrichten in verschiedenen Tonlagen oder Stilen umformulieren.
- Bildbeschreibung: Generiert eine kurze Beschreibung eines bestimmten Bilds.
Vorteile von GenAI APIs
Ähnlich wie andere vorhandene ML Kit-Funktionen werden GenAI APIs vollständig auf dem Gerät ausgeführt und bieten daher folgende Vorteile:
- Eingabe-, Inferenz- und Ausgabedaten werden lokal verarbeitet
- Die Funktionsweise bleibt ohne zuverlässige Internetverbindung unverändert
- Keine zusätzlichen Serverkosten für jeden API-Aufruf
Da GenAI APIs auf AICore basieren und von Gemini Nano unterstützt werden, kann jede App das freigegebene Gemini Nano-Modell auf dem Gerät verwenden. So müssen Sie nicht warten, bis ein Modell heruntergeladen wird, wenn es bereits auf einem Gerät vorhanden ist. Außerdem wird so Speicherplatz gespart. Weitere Informationen zum Isolieren von Anfragen durch AICore zum Schutz der Privatsphäre
Streaming und nicht-Streaming
ML Kit GenAI APIs bieten sowohl Streaming- als auch Nicht-Streaming-Optionen zum Empfangen von Ergebnissen. Die Streaming API liefert Antworten inkrementell, sobald sie generiert werden, und sorgt so für einen kontinuierlichen Datenfluss. Im Gegensatz dazu wartet die nicht streamende API, bis die gesamte Antwort vollständig ist, bevor sie als einzelner Block zurückgegeben wird.
Wählen Sie die Streaming API für längere Antworten aus, da so ein schnelleres erstes Feedback möglich ist. Die API ohne Streaming eignet sich besser für kurze Antworten oder wenn Ergebnisse in Batches verarbeitet werden.
Geräteunterstützung
Die ML Kit GenAI APIs sind auf den folgenden Geräten verfügbar. Die Unterstützung soll auf weitere Geräte ausgeweitet werden:
- Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Magic 7 Pro, Magic 7
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15
Die Verfügbarkeit bestimmter Sprachunterstützung kann je nach Konfiguration des Geräts und den Modellen variieren, die auf das Gerät heruntergeladen wurden.
Kontingent pro Anwendung
AICore erzwingt ein Inferenzkontingent pro App. Das bedeutet, dass zu viele GenAI API-Anfragen in kurzer Zeit zu einer ErrorCode.BUSY-Antwort führen. Wenn Sie einen solchen Fehler erhalten, können Sie den exponentiellen Backoff verwenden, um die Anfrage noch einmal zu senden.
Hintergrundnutzung
GenAI API-Inferenzen sind nur zulässig, wenn die App die oberste App im Vordergrund ist. Wenn Sie die API verwenden, während sich die App nicht im Vordergrund befindet, einschließlich der Verwendung eines Dienstes im Vordergrund, erhalten Sie aufgrund des derzeit fehlenden Kontingents für die Hintergrundnutzung eine ErrorCode.BUSY-Antwort.
Beispielcode
Den Code finden Sie in den folgenden Beispielen: