הוראות להגדרת המערכת

הוראות מערכת מאפשרות לכם לתת למודל פרסונה, להגדיר את הטון של התשובות שלו או לספק כללים ספציפיים שהוא חייב לפעול לפיהם. ההוראות האלה נפרדות מההנחיה של המשתמש, והמודל מתייחס אליהן בעדיפות גבוהה יותר כדי להבטיח שהוא יתנהג כמצופה.

תרחישים נפוצים לדוגמה:

  • הגדרת פרסונה: לדוגמה, "תשמש כמורה פרטי למתמטיקה".
  • הגדרת פורמט פלט: לדוגמה, "תמיד תענה בנקודות".
  • הגדרת אילוצים: לדוגמה, "אל תענה על שאלות בנושא פוליטיקה".

דרישות מוקדמות

ההוראות למערכת פועלות במכשירים עם Gemini Nano V3 ומעלה. רשימת המכשירים הנתמכים זמינה במאמר בנושא תמיכה במכשירים ב-Prompt API.

מגבלות

לא מומלץ להשתמש בהוראות מערכת עם שמירת קידומות במטמון. באופן כללי, כדאי להשתמש בהוראות מערכת להוראות קצרות שמגדירות איך המודל צריך להתנהג. כדאי להשתמש בשמירת מטמון של תחיליות אם צריך לחזור על חלק גדול מההנחיה בשאילתות שונות ורוצים לשפר את הביצועים.

איך משתמשים בהוראות מערכת

כדי לספק הוראות למערכת, יוצרים אובייקט SystemInstruction ומעבירים אותו אל כלי הבנייה GenerateContentRequest:

import com.google.mlkit.genai.prompt.SystemInstruction
import com.google.mlkit.genai.prompt.TextPart
import com.google.mlkit.genai.prompt.generateContentRequest

// 1. Define the system instruction
val systemInstruction =
    SystemInstruction("You are a concise assistant. Answer in 2 sentences or less.")

// 2. Create the request
val request = generateContentRequest(TextPart("How does photosynthesis work?")) {
    this.systemInstruction = systemInstruction
}

// 3. Run inference
try {
    val response = generativeModel.generateContent(request)
    println(response.candidates.firstOrNull()?.text)
} catch (e: GenAiException) {
    // Handle SDK-specific exceptions
}

כדי לפשט עוד יותר את הקוד, אפשר להעביר את הוראות המערכת ישירות אל generateContentRequest כלי ליצירת בקשות:

val request = generateContentRequest(
    SystemInstruction("You are a pirate. Speak like one."),
    TextPart("What is the weather like today?")
) {
    // Optional configurations like temperature
    temperature = 0.7f
}

שיטות מומלצות

ריכזנו כאן כמה שיטות מומלצות לשימוש בהוראות מערכת:

  • היו ברורים וישירים: המודל פועל טוב יותר לפי הוראות ברורות וישירות מאשר לפי הוראות מעורפלות. לדוגמה:
    • לא ברור (מומלץ להימנע): "אל תכתוב יותר מדי. נסה להיות מועיל וידידותי, ותעצב את הפלט בצורה נאה".
    • ברור (מומלץ): "אתה עוזר ידידותי לתמיכת לקוחות. הגבל את התשובות שלך למקסימום של 3 משפטים. עצב את כל הרשימות באמצעות תבליטים".
  • היו תמציתיים: הוראות מערכת הן כלי רב עוצמה, אבל הוראות ארוכות מדי עלולות לצרוך את חלון ההקשר המוגבל של המודל.
  • קחו בחשבון את מספר הטוקנים: ודאו שהלוגיקה של ספירת הטוקנים כוללת את הוראות המערכת כדי למנוע הערכת חסר של גודל הבקשה. מומלץ להגביל את הוראות המערכת ל-150 מילים (100-200 טוקנים).
  • בדיקה ושיפור: התנהגות המודל יכולה להשתנות בהתאם לניסוח. כדאי לבדוק עם קלט משתמשים שונים כדי לוודא שהמודל שומר על האישיות שלו באופן עקבי.