As APIs de IA generativa do ML Kit aproveitam o poder do Gemini Nano para ajudar seus apps a executar tarefas. Essas APIs oferecem qualidade pronta para uso em casos de uso comuns por meio de uma interface de alto nível. As APIs de IA generativa do Kit de ML são criadas com base no AICore, um serviço de sistema Android que permite a execução no dispositivo de modelos de base da IA generativa para facilitar recursos como a funcionalidade aprimorada do app e a privacidade do usuário melhorada processando dados localmente.
As APIs GenAI do ML Kit oferecem suporte aos seguintes recursos:
- Resumo: resuma artigos ou conversas de chat como uma lista com marcadores.
- Revisão: aprimore conteúdos curtos refinando a gramática e corrigindo erros de ortografia.
- Reescrita: reescreva mensagens curtas em tons ou estilos diferentes.
- Descrição da imagem: gera uma breve descrição de uma determinada imagem.
Benefícios das APIs de IA generativa
Assim como outros recursos do Kit de ML, as APIs do GenAI são executadas totalmente no dispositivo e oferecem os seguintes benefícios:
- Os dados de entrada, inferência e saída são processados localmente
- A funcionalidade permanece a mesma sem uma conexão de Internet confiável
- Não há custo de servidor adicional incorrido para cada chamada de API
Além disso, como as APIs da GenAI são criadas com base no AICore e são alimentadas pelo Gemini Nano, todos os apps podem usar o modelo compartilhado do Gemini Nano que está no dispositivo. Isso evita a necessidade de esperar o download de um modelo se ele já existir em um dispositivo e, por sua vez, economiza espaço de armazenamento. Saiba mais sobre como o AICore isola as solicitações para proteger a privacidade.
Streaming e não streaming
As APIs GenAI do ML Kit oferecem opções de streaming e não streaming para receber resultados. A API de streaming envia respostas de forma incremental conforme elas são geradas, fornecendo um fluxo contínuo de dados. Por outro lado, a API não de streaming espera até que a resposta inteira seja concluída antes de retornar como um único bloco.
Escolha a API de streaming para respostas longas, porque ela permite um feedback inicial mais rápido. A API não de streaming é mais adequada para respostas curtas ou ao processar resultados em lotes.
Suporte do dispositivo
As APIs GenAI do ML Kit estão disponíveis nos seguintes dispositivos, com planos de expandir o suporte a outros dispositivos:
- Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL e Pixel 9 Pro Fold
- Honor: Magic 7 Pro, Magic 7
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15
A disponibilidade de suporte a idiomas específicos pode variar de acordo com a configuração e os modelos que foram transferidos para o dispositivo.
Cota por aplicativo
O AICore aplica uma cota de inferência por app. Isso significa que fazer muitas
solicitações da API GenAI em um curto período resultará em uma resposta
ErrorCode.BUSY. Ao receber esse erro, use a espera exponencial para
tentar a solicitação novamente.
Uso em segundo plano
A inferência da API GenAI só é permitida quando o app é o aplicativo em primeiro plano
principal. O uso da API quando o app não está em primeiro plano, incluindo
o uso de um serviço em primeiro plano, resultará em uma resposta ErrorCode.BUSY devido à
falta atual de cota de uso em segundo plano.
Código de amostra
Para conferir esse código, confira estes exemplos: