تنظيم صفحاتك في مجموعات
يمكنك حفظ المحتوى وتصنيفه حسب إعداداتك المفضّلة.
تحقق من فهمك: حجم الدفعة
اطّلِع على الخيارات أدناه.
عند تنفيذ خوارزمية انحدار التدرج على مجموعة بيانات كبيرة، أي من أحجام الدُفعات التالية سيكون أكثر فعالية؟
الدفعة الكاملة
حساب التدرج من دفعة كاملة غير فعال. ويعني ذلك أنّه
يمكن عادةً حساب التدرج بكفاءة أكبر (وبدقة
وبدقة أكبر) من دفعة أصغر من دُفعة كاملة أكبر بكثير.
دفعة صغيرة أو حتى دفعة من مثال واحد (SGD).
ما يثير الدهشة هو أنّ أداء انحدار التدرج على دفعة صغيرة أو حتى على دفعة واحدة من مثال يكون عادةً أكثر فعالية من تنفيذ خوارزمية انحدار التدرج بالكامل. فالعثور على التدرج لمثال واحد أرخص بكثير من العثور على تدرج ملايين الأمثلة.
ولضمان الحصول على عيّنة تمثيلية جيدة، تخصّص الخوارزمية
دفعة صغيرة عشوائية أخرى (أو دُفعة واحدة) في كل
تكرار.
