קל לארגן דפים בעזרת אוספים
אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.
בדוק את ההבנה שלך: גודל אצווה
האפשרויות מפורטות בהמשך.
כשמבצעים ירידה הדרגתית בקבוצת נתונים גדולה, איזה מגודלי האצווה הבאים צפוי להיות יעיל יותר?
החבילה המלאה.
חישוב ההדרגתיות מקבוצה מלאה אינו יעיל. כלומר, בדרך כלל ניתן לחשב את ההדרגתיות בצורה יעילה יותר (ובדיוק באותה מידה) מאצווה קטנה יותר מאשר מאצווה מלאה גדולה בהרבה.
אצוות קטנות או אפילו אצוות של דוגמה אחת (SGD).
באופן מפתיע, ביצוע ירידה הדרגתית על קבוצה קטנה או אפילו על קבוצה של דוגמה אחת הוא בדרך כלל יעיל יותר מהאצווה המלאה. אחרי הכול, מציאת ההדרגתיות של דוגמה אחת
הרבה יותר נמוכה ממציאת השיפוע של מיליוני דוגמאות.
כדי להבטיח דגימה מייצגת טובה, האלגוריתם אוסף עוד אצווה קטנה אקראית (או אצווה אחת) בכל איטרציה.
