Desain perintah untuk Gemini Nano

Saat menggunakan Prompt API, ada strategi khusus yang dapat Anda gunakan untuk menyesuaikan perintah dan menerima hasil yang optimal. Halaman ini menjelaskan praktik terbaik untuk memformat perintah untuk Gemini Nano.

Untuk panduan rekayasa perintah yang lebih umum, lihat Whitepaper Rekayasa Perintah, Rekayasa Perintah untuk AI Generatif, dan Strategi desain perintah.

Atau, untuk otomatis menyempurnakan dan meningkatkan kualitas perintah, Anda dapat menggunakan pengoptimal zero-shot, yang dapat menargetkan model di perangkat seperti gemma-3n-e4b-it.

Praktik terbaik desain perintah

Saat mendesain perintah untuk Prompt API, gunakan teknik berikut:

  • Berikan contoh untuk pembelajaran dalam konteks. Tambahkan contoh yang didistribusikan dengan baik ke perintah Anda untuk menunjukkan kepada Gemini Nano jenis hasil yang Anda harapkan.

    Pertimbangkan untuk menggunakan fitur caching awalan saat Anda menggunakan pembelajaran dalam konteks, karena memberikan contoh akan membuat perintah menjadi lebih panjang dan meningkatkan waktu inferensi.

  • Berikan informasi yang ringkas. Pembukaan yang panjang dengan petunjuk berulang dapat menghasilkan hasil yang kurang optimal. Buat perintah Anda tetap fokus dan langsung pada intinya. Jika Anda perlu mengulangi petunjuk singkat yang memandu perilaku model, pertimbangkan untuk menggunakan petunjuk sistem.

  • Strukturkan perintah untuk menghasilkan respons yang lebih efektif, seperti contoh template perintah ini yang dengan jelas menentukan petunjuk, batasan, dan contoh.

  • Buat output tetap singkat. Kecepatan inferensi LLM sangat bergantung pada panjang output. Pertimbangkan dengan cermat cara Anda dapat menghasilkan output sesingkat mungkin untuk kasus penggunaan Anda dan lakukan pasca-pemrosesan manual untuk menyusun output dalam format yang dipilih. Untuk membantu memastikan output respons dalam format pilihan Anda, gunakan Structured Output API.

  • Tambahkan pembatas. Gunakan pembatas seperti <background_information>, <instruction>, dan ## untuk membuat pemisahan antara berbagai bagian perintah Anda. Menggunakan ## di antara komponen sangat penting untuk Gemini Nano, karena hal ini secara signifikan mengurangi kemungkinan model gagal menafsirkan setiap komponen dengan benar.

  • Pilih logika sederhana dan tugas yang lebih fokus. Jika Anda merasa kesulitan untuk mencapai hasil yang baik dengan perintah yang memerlukan penalaran multi-langkah (misalnya, lakukan X terlebih dahulu, jika hasil X adalah A, lakukan M; jika tidak, lakukan N; lalu lakukan Y...), pertimbangkan untuk membagi tugas dan biarkan setiap panggilan Gemini Nano menangani tugas yang lebih fokus, sambil menggunakan kode untuk menggabungkan beberapa panggilan. Jika Anda perlu menangani tugas yang kompleks dan memerlukan penalaran yang intensif sekaligus, pertimbangkan untuk menggunakan mode berpikir.

  • Gunakan nilai temperatur yang lebih rendah untuk tugas deterministik. Untuk tugas seperti ekstraksi atau terjemahan entitas yang tidak bergantung pada kreativitas, pertimbangkan untuk memulai dengan nilai temperature sebesar 0.2, dan sesuaikan nilai ini berdasarkan pengujian Anda.