الانحدار الخطي: تمرين خوارزمية انحدار التدرج

في هذا التمرين، ستراجع الرسم البياني لبيانات كفاءة استهلاك الوقود من تمرين المَعلمات. ولكن في هذه المرة، ستستخدم طريقة "النزول التدريجي" للتعرّف على قيمتَي الوزن والانحياز المثاليَّتَين لنموذج خطي يقلّل من الخسارة.

أكمِل المهام الثلاث أسفل الرسم البياني.

يمكن أن ينتج عن هذا التصميم التفاعلي المرئي ومضات عند ضبطه على معدل تعلّم مرتفع، ما قد يؤثر في الأشخاص الذين يعانون حساسية للضوء.

المهمة 1: اضبط شريط تمرير معدّل التعلّم أسفل الرسم البياني على 0.03. انقر على الزر بدء لتشغيل عملية الانحدار التدريجي.

ما هي المدة التي يستغرقها تدريب النموذج للوصول إلى الحد الأدنى الثابت لقيمة الخسارة؟ ما هي قيمة MSE عند تقارب النموذج؟ ما هي قيمتا الوزن والانحياز اللتان تؤديان إلى هذه القيمة؟

انقر على رمز الإضافة للاطّلاع على الحلّ

عندما ضبطنا معدّل التعلّم على 0.03، تقارب النموذج في غضون 30 ثانية تقريبًا، وحقّق متوسط مربّع الخطأ (MSE) بقيمة 2.67 مع قيمتَي الوزن والانحياز البالغتين 1.14- و20.389 على التوالي. يشير ذلك إلى أنّنا اخترنا قيمة معدّل تعلّم جيدة.

المهمة 2: انقر على الزر إعادة الضبط أسفل الرسم البياني لإعادة ضبط قيمتَي "الوزن" و"التحيّز" في الرسم البياني. اضبط شريط تمرير معدّل التعلّم على قيمة تقريبية تبلغ ^1.10e–5. انقر على الزر بدء لتشغيل عملية الانحدار التدريجي.

ما الذي تلاحظه بشأن المدة التي يستغرقها تدريب النموذج للتقارب هذه المرة؟

انقر على رمز الإضافة لعرض الحلّ

بعد عدة دقائق، لم يتم بعد دمج تدريب النموذج. تؤدي التعديلات الصغيرة على قيم "الوزن" و"التحيّز" إلى قيم خسارة أقل قليلاً. يشير ذلك إلى أنّ اختيار معدّل تعلّم أعلى سيسمح لعملية نزول التدرّج بالعثور على قيم الأوزان والانحياز المثالية بشكل أسرع.

المهمة 3: انقر على الزر إعادة الضبط أسفل الرسم البياني لإعادة ضبط قيمتَي "الوزن" و"التحيّز" في الرسم البياني. اضبط شريط تمرير معدّل التعلّم على قيمة تصل إلى 1. انقر على الزر بدء لتشغيل عملية الانحدار التدريجي.

ماذا يحدث لقيم الخسارة أثناء تنفيذ خوارزمية انحدار التدرّج؟ كم من الوقت سيستغرق تدريب النموذج للوصول إلى حالة التقارب هذه المرة؟

انقر على رمز الإضافة لعرض الحلّ

تتفاوت قيم الفقدان بشكل كبير عند القيم المرتفعة (متوسط الخطأ التربيعي أكبر من 300). يشير ذلك إلى أنّ معدّل التعلّم مرتفع جدًا، ولن يصل تدريب النموذج إلى نقطة التقارب أبدًا.