Mengirim permintaan kustom dengan akses model langsung Gemini Nano

Dengan akses model langsung ML Kit (com.google.mlkit:genai-prompt), Anda dapat mengirim permintaan bahasa alami kustom di perangkat ke model dasar Gemini Nano melalui class GenerativeModel. Akses model langsung menerima input teks atau multimodal (gambar dan teks), mendukung percakapan multi-turn yang dikelola klien (List<Content> dengan peran USER dan MODEL serta sessionId), dan memunculkan output teks atau output terstruktur yang diketik.

Anda dapat menggunakan akses model langsung untuk berbagai kasus penggunaan, termasuk berikut ini:

Kasus penggunaan

Contoh

Pemahaman gambar

Menganalisis foto untuk klasifikasi, seperti "hewan peliharaan", "makanan", atau "perjalanan".

Terjemahan singkat

Menerjemahkan pesan singkat antara pengemudi pengiriman dan pelanggan.

Ringkasan terpandu

Meringkas ulasan restoran berdasarkan minat spesifik pengguna.

Ekstraksi entity

Mengekstrak detail penting tentang acara mendatang dari rangkaian pesan email.

Inspirasi pembuatan konten

Menyarankan perintah untuk entri diari.

Pemindaian dokumen cerdas

Mengekstrak dan mengategorikan item dari gambar tanda terima.

Klasifikasi teks

Mengklasifikasikan ulasan pelanggan ke dalam kategori positif, netral, atau negatif.

Akses model langsung versus API khusus tugas

Selain akses langsung ke model dasar Gemini Nano untuk perintah kustom, ML Kit menyediakan API yang telah dikonfigurasi sebelumnya untuk tugas ucapan, gambar, dan teks khusus: Pengenalan Ucapan, Deskripsi Gambar, Ringkasan, Pemeriksaan Tata Bahasa, Penulisan Ulang, dan lainnya. API tugas teks dan gambar menggunakan jenis fitur khusus tugas dan adaptor LoRA yang telah disesuaikan di atas model dasar bersama. Tabel berikut menguraikan manfaat setiap pendekatan:

Pertimbangan

Akses model langsung (GenerativeModel)

Tasks API teks dan gambar

Upaya integrasi

Tinggi.

Memerlukan lebih banyak upaya untuk diterapkan, karena rekayasa perintah dan jaminan kualitas.

Rendah.

Memerlukan lebih sedikit upaya, karena API ini menggunakan jenis fitur khusus tugas dan adaptor LoRA yang telah di-fine-tune di atas model dasar. Tidak perlu bekerja langsung dengan LLM.

Fleksibilitas

Lebih fleksibel, karena Anda dapat menyesuaikan prompt, mengelola konteks multi-turn, menerapkan skema terstruktur yang diketik, atau membangun alur kerja agentic (AgentRunner) tingkat tinggi di atas GenerativeModel.

Kurang fleksibel. Setiap API khusus tugas memiliki fine-tuning LoRA tetap dan perintah bawaan yang memiliki karakteristik berikut:

  • Deskripsi gambar bersifat umum dan singkat.
  • Ringkasan hanya boleh terdiri dari 1-3 poin.
  • Penulisan ulang hanya mendukung gaya yang telah ditentukan.

Sebagai aturan umum, gunakan akses model langsung saat Anda memerlukan lebih banyak penyesuaian dan fleksibilitas, serta gunakan API khusus tugas untuk tugas standar yang tidak memerlukan logika kustom.

Kode contoh