الشبكات العصبونية: العُقد والطبقات المخفية

لبناء شبكة عصبية تتعلم اللاخطية ، ابدأ بهيكل النموذج المألوف التالي: نموذج خطي على شكل $y' = b + w_1x_1 + w_2x_2 + w_3x_3$.

يمكننا تصور هذه المعادلة كما هو موضح أدناه، حيث أن $x_1$ و$x_2$ و$x_3$ هي عقد الإدخال الثلاثة لدينا (باللون الأزرق)، و$y'$ هي عقدة الإخراج لدينا (باللون الأخضر).

التمرين 1

في النموذج أعلاه، تم تهيئة قيم الوزن والانحياز عشوائيًا. قم بتنفيذ المهام التالية للتعرف على واجهة البرنامج واستكشاف النموذج الخطي. يمكنك تجاهل قائمة "دالة التنشيط" المنسدلة حاليًا؛ سنتناول هذا الموضوع لاحقًا في الوحدة.

  1. انقر فوق زر التشغيل (▶️) الموجود أعلى الشبكة لحساب قيمة عقدة الإخراج لقيم الإدخال $x_1 = 1.00$ و $x_2 = 2.00$ و $x_3 = 3.00$.

  2. انقر على العقدة الثانية في طبقة الإدخال ، ثم زد القيمة من 2.00 إلى 2.50. لاحظ أن قيمة عقدة الإخراج تتغير. حدد عقد الإخراج (باللون الأخضر) واطلع على لوحة العمليات الحسابية لمعرفة كيفية حساب قيمة الإخراج.

  3. انقر على عقدة الإخراج (باللون الأخضر) لعرض قيم معلمات الوزن ($w_1$، $w_2$، $w_3$) والانحياز ($b$). قلّل قيمة الوزن لـ $w_3$ (لاحظ مجددًا أن قيمة عقدة الإخراج والحسابات أدناه قد تغيرت). ثم، زد قيمة الانحياز. راجع كيف أثرت هذه التغييرات على مخرجات النموذج.

إضافة طبقات إلى الشبكة

لاحظ أنه عند تعديل قيم الوزن والانحياز للشبكة في التمرين 1 ، لم يتغير الارتباط الرياضي العام بين المدخلات والمخرجات. لا يزال نموذجنا نموذجًا خطيًا.

لكن ماذا لو أضفنا طبقة أخرى إلى الشبكة، بين طبقة الإدخال وطبقة الإخراج؟ في مصطلحات الشبكات العصبية، تسمى الطبقات الإضافية بين طبقة الإدخال وطبقة الإخراج بالطبقات المخفية ، وتسمى العقد الموجودة في هذه الطبقات بالخلايا العصبية .

تُحسب قيمة كل عصبون في الطبقة المخفية بنفس طريقة حساب مخرجات النموذج الخطي: بجمع حاصل ضرب كل مدخل من مدخلاته (العصبونات في طبقة الشبكة السابقة) في معامل وزن فريد، بالإضافة إلى الانحياز. وبالمثل، تُحسب قيمة العصبونات في الطبقة التالية (هنا، طبقة المخرجات) باستخدام قيم عصبونات الطبقة المخفية كمدخلات.

تُمكّن هذه الطبقة المخفية الجديدة نموذجنا من إعادة تجميع بيانات الإدخال باستخدام مجموعة أخرى من المعاملات. هل يُمكن أن يُساعد هذا نموذجنا على تعلّم العلاقات غير الخطية؟

التمرين 2

لقد أضفنا طبقة مخفية تحتوي على أربعة خلايا عصبية إلى النموذج.

انقر فوق زر التشغيل (▶️) الموجود أعلى الشبكة لحساب قيمة عقد الطبقة المخفية الأربعة وعقدة الإخراج لقيم الإدخال $x_1 = 1.00$ و $x_2 = 2.00$ و $x_3 = 3.00$.

ثم استكشف النموذج، واستخدمه للإجابة على الأسئلة التالية.

كم عدد المعلمات (الأوزان والانحيازات) التي يحتوي عليها نموذج الشبكة العصبية هذا؟
4
كان نموذجنا الأصلي في التمرين 1 يحتوي على أربعة معلمات: w 11 و w 21 و w 31 و b. ولأن هذا النموذج يحتوي على طبقة مخفية، فهناك المزيد من المعلمات.
12
لاحظ أن العدد الإجمالي للمعلمات يشمل كلاً من المعلمات المستخدمة لحساب قيم العقدة في الطبقة المخفية من قيم الإدخال، والمعلمات المستخدمة لحساب قيمة الإخراج من قيم العقدة في الطبقة المخفية.
16
لاحظ أن العدد الإجمالي للمعلمات يشمل كلاً من معلمات الوزن ومعلمات الانحياز.
21
تُستخدم أربعة معايير لحساب كل قيمة من قيم العقد الأربع في الطبقة المخفية: ثلاثة أوزان (وزن لكل قيمة مُدخلة) وانحياز، ليصبح المجموع ستة عشر معيارًا. ثم تُستخدم خمسة معايير لحساب قيمة المُخرجات: أربعة أوزان (وزن لكل عقدة في الطبقة المخفية) وانحياز. وبذلك، تحتوي هذه الشبكة العصبية على واحد وعشرين معيارًا.

حاول تعديل معلمات النموذج، ولاحظ التأثير على قيم عقدة الطبقة المخفية وقيمة الإخراج (يمكنك مراجعة لوحة الحسابات أدناه لمعرفة كيفية حساب هذه القيم).

هل يستطيع هذا النموذج تعلم اللاخطية؟

نعم
انقر على كل عقدة في الطبقة المخفية وعقدة الإخراج، وراجع العمليات الحسابية أدناه. ما الذي تلاحظه بشأن كل هذه العمليات الحسابية؟
لا

إذا نقرت على كل عقدة من العقد الموجودة في الطبقة المخفية وقمت بمراجعة العمليات الحسابية أدناه، فسترى أن جميعها خطية (تتضمن عمليات الضرب والجمع).

إذا نقرت بعد ذلك على عقدة الإخراج وراجعت الحساب أدناه، فسترى أن هذا الحساب خطي أيضًا. الحسابات الخطية التي تُجرى على مخرجات الحسابات الخطية تكون خطية أيضًا، مما يعني أن هذا النموذج لا يمكنه تعلم اللاخطية.