כשמשתמשים ב-Prompt API, יש אסטרטגיות ספציפיות שאפשר להשתמש בהן כדי להתאים אישית את ההנחיות ולקבל תוצאות אופטימליות. בדף הזה מפורטות שיטות מומלצות לעיצוב הנחיות ל-Gemini Nano.
לקבלת הנחיות כלליות יותר בנושא הנדסת פרומפטים, אפשר לעיין במסמך המידע בנושא הנדסת פרומפטים, במאמר הנדסת פרומפטים ל-AI גנרטיבי ובמאמר אסטרטגיות לעיצוב פרומפטים.
לחלופין, כדי לשפר ולחדד את ההנחיות באופן אוטומטי, אפשר להשתמש באופטימיזציה ללא דוגמאות, שיכולה לטרגט מודלים במכשיר כמו gemma-3n-e4b-it.
שיטות מומלצות לעיצוב הנחיות
כשיוצרים הנחיות ל-Prompt API, כדאי להשתמש בטכניקות הבאות:
לספק דוגמאות ללמידה בהקשר. כדי להראות ל-Gemini Nano איזה סוג תוצאה אתם מצפים לקבל, כדאי להוסיף להנחיה דוגמאות מגוונות.
כדאי להשתמש בתכונה prefix caching כשמשתמשים בלמידה בהקשר, כי מתן דוגמאות מאריך את ההנחיה ומגדיל את זמן ההסקה.
השם צריך להיות תמציתי. הקדמות ארוכות עם הוראות שחוזרות על עצמן עלולות להניב תוצאות לא אופטימליות. ההנחיה צריכה להיות ממוקדת ותמציתית. אם אתם צריכים לחזור על הנחיה קצרה שמכוונת את התנהגות המודל, כדאי להשתמש בהוראות מערכת.
מבנה הפרומפטים משפיע על התשובות שמתקבלות. למשל, תבנית הפרומפט לדוגמה הזו מגדירה בבירור את ההוראות, המגבלות והדוגמאות.
הקפידו שהפלט יהיה קצר. מהירויות ההסקה של מודלים גדולים של שפה (LLM) תלויות מאוד באורך הפלט. כדאי לחשוב היטב איך אפשר ליצור את הפלט הקצר ביותר האפשרי לתרחיש השימוש שלכם, ולבצע עיבוד ידני אחרי העיבוד כדי לבנות את הפלט בפורמט שבחרתם. כדי לוודא שהפלט של התשובה יהיה בפורמט המועדף, אפשר להשתמש ב-Structured Output API.
הוספת תווי הפרדה. כדי ליצור הפרדה בין חלקים שונים בהנחיה, אפשר להשתמש בתווים מפרידים כמו
<background_information>,<instruction>ו-##. השימוש ב-##בין רכיבים חשוב במיוחד ל-Gemini Nano, כי הוא מפחית באופן משמעותי את הסיכוי שהמודל לא יצליח לפרש כל רכיב בצורה נכונה.העדפה של לוגיקה פשוטה ומשימה ממוקדת יותר. אם קשה לכם להשיג תוצאות טובות עם הנחיה שדורשת נימוק רב-שלבי (לדוגמה, קודם תבצע את פעולה X, אם התוצאה של X היא A, תבצע את פעולה M, אחרת תבצע את פעולה N, ואז תבצע את פעולה Y...), כדאי לחלק את המשימה ולתת לכל קריאה של Gemini Nano לטפל במשימה ממוקדת יותר, תוך שימוש בקוד כדי לשרשר כמה קריאות יחד. אם אתם צריכים לבצע משימה מורכבת שדורשת הרבה חשיבה בבת אחת, כדאי לכם להשתמש במצב חשיבה.
שימוש בערכי טמפרטורה נמוכים יותר למשימות דטרמיניסטיות. למשימות כמו חילוץ ישויות או תרגום שלא מסתמכות על יצירתיות, מומלץ להתחיל עם ערך
temperatureשל0.2, ולשנות את הערך הזה בהתאם לתוצאות הבדיקות.