קצב הלמידה והתכנסות

זהו התרגיל הראשון מתוך כמה תרגילים ב-Playground. Playground היא תוכנית שפותחו במיוחד בשביל הקורס הזה כדי ללמד עקרונות של למידת מכונה. כל תרגיל Playground בקורס הזה כולל מגרש משחקים מוטמע מכונה עם הגדרות קבועות מראש.

כל תרגיל ב-Playground יוצר מערך נתונים. התווית של יש שני ערכים אפשריים. אפשר לחשוב על שני הסוגים האלה ערכים אפשריים כספאם לעומת לא ספאם או אולי 'עצים בריאים' לעומת עצים חולים. המטרה של רוב התרגילים היא לכוונן היפר-פרמטרים שונים מודל שמסווג (מפריד או מבדיל) בהצלחה לתווית אחרת. שימו לב שרוב מערכי הנתונים מכילים ערך מסוים של כמות הרעשים שלא תאפשר לסווג בהצלחה כל הדוגמאות.

לוחצים על סמל הפלוס כדי לקבל הסבר על התצוגה החזותית של המודל.

בכל תרגיל ב-Playground יש תצוגה חזותית של במצב של המודל. לדוגמה, הנה תצוגה חזותית:

חשוב לשים לב לנקודות הבאות לגבי התצוגה החזותית של המודל:

• כל ציר מייצג תכונה ספציפית. במקרה של ספאם לעומת לא ספאם, התכונות יכולות להיות ספירת המילים ומספר הנמענים באימייל.
  הערה: ערכים מתאימים בצירים תלויים בנתוני התכונות. ערכי הצירים שלמעלה לא הגיוניים לספירת המילים או למספר הנמענים, כי שניהם לא יכולים להיות שליליים.
• כל נקודה מציגה את ערכי המאפיינים לדוגמה אחת של הנתונים, כמו אימייל.
• הצבע של הנקודה מייצג את המחלקה שאליה שייכת הדוגמה. לדוגמה, הנקודות הכחולות יכולות לייצג הודעות אימייל שאינן ספאם בעוד שהנקודות נקודות כתומות יכולות לייצג הודעות ספאם.
• צבע הרקע מייצג את החיזוי של המודל איפה דוגמאות יש למצוא את הצבע הזה. רקע כחול מסביב לנקודה כחולה פירושו שהמודל חוזים נכון את הדוגמה הזו. לעומת זאת, רקע כתום מסביב לנקודה כחולה מציין שהמודל לחזות את הדוגמה באופן שגוי.
• רקעים כחולים ותפוזים מוגדלים. לדוגמה, החלק השמאלי של התצוגה החזותית מופיעה בצבע כחול רציף, אבל היא הופכת בהדרגה ללבן במרכז. של התצוגה החזותית. ניתן לחשוב על חוזק הצבע כרומז רמת הביטחון של המודל בניחוש שלו. המשמעות של כחול אחיד היא שהמודל בטוח מאוד בנוגע לניחוש שלו, והמשמעות של תכלת בהיר יש פחות ביטחון. (ההדמיה של המודל שמוצגת באיור פעולת החיזוי לא טובה.)

השתמשו בתצוגה החזותית כדי לבחון את התקדמות המודל שלכם. ("מצוינת — לרוב הנקודות הכחולות יש רקע כחול" או "אוי לא! לנקודות הכחולות יש רקע כתום". מעבר לצבעים, Playground מציג גם את רמת האובדן הנוכחית של המודל באופן מספרי. ("אוי לא! האובדן עולה במקום למטה).

הממשק לתרגיל זה כולל שלושה לחצנים:

סמל	שם	תיאור
	איפוס	איפוס איטרציות ל-0. איפוס כל המשקולות שהיו למודל שכבר למדנו.
	שלב	מתקדמים איטרציה אחת. בכל איטרציה, המודל ולפעמים באופן מעודן ולפעמים משמעותי.
	יצירה מחדש	יוצרת קבוצת נתונים חדשה. לא מתבצע איפוס של איטרציות.

בתרגיל הראשון הזה ב-Playground התנסות של למידת מכונה באמצעות ביצוע שתי משימות.

משימה 1: שימו לב לתפריט קצב למידה בפינה השמאלית העליונה של מגרש משחקים. קצב הלמידה הנתון - 3 - גבוה מאוד. תצפית איך שיעור הלמידה הגבוה משפיע על המודל שלכם בלחיצה על 'שלב' 10 או 20 פעמים. אחרי כל חזרה מוקדמת, שימו לב איך המודל שינויים משמעותיים בהצגה החזותית. יכול להיות שגם תהיה חוסר יציבות אחרי שנראה שהמודל התכנס. לשים לב גם לקווים שפועלים מ-x₁ ו-x₂ ועד להדמיה של המודל. המשקולות של הקווים האלה מציינים את המשקולות של אותן תכונות במודל. כלומר, קו עבה מציין משקל גבוה.

משימה 2: מבצעים את הפעולות הבאות:

1. לוחצים על הלחצן איפוס.
2. להוריד את שיעור הלמידה.
3. לוחצים על לחצן השלב כמה פעמים.

איך שיעור הלמידה הנמוך השפיע על ההתכנסות? לבדוק גם את את מספר הצעדים שנדרש כדי שהמודל יתכנס, וגם את מידת החלקיות המודל מתכנס בצורה סדירה. התנסו עם ערכים נמוכים עוד יותר של קצב הלמידה. האם קצב הלמידה איטי מדי ולא מועיל? (תהיה לך פתחו דיון מתחת לתרגיל.)

---

---

לוחצים על סמל הפלוס כדי לנהל דיון על משימה 2.

בגלל האופי הלא מוגדר של תרגילים ב-Playground, אנחנו לא יכולים תמיד לספק תשובות שמתאימות במדויק למערך הנתונים שלכם. עם זאת, שיעור למידה של 0.1 התמזג ביעילות עבורנו. ההתכנסות של שיעורי למידה קטנים יותר נמשכה הרבה יותר זמן. כלומר קטן יותר שיעורי הלמידה היו איטיים מדי מכדי להיות מועילים.