مسرد مصطلحات التعلم الآلي: أساسيات تعلّم الآلة

تحتوي هذه الصفحة على مصطلحات مسرد مصطلحات "أساسيات تعلّم الآلة". للاطّلاع على جميع مصطلحات مسرد المصطلحات، انقر هنا.

جيم

الدقة

#fundamentals

عدد التوقّعات للتصنيف الصحيح مقسومًا على إجمالي عدد عبارات البحث المقترحة. والمقصود:

$$\text{Accuracy} = \frac{\text{correct predictions}} {\text{correct predictions + incorrect predictions }}$$

على سبيل المثال، أي نموذج يقدم 40 توقعًا صحيحًا و10 تنبؤات غير صحيحة سيكون له دقة:

$$\text{Accuracy} = \frac{\text{40}} {\text{40 + 10}} = \text{80%}$$

التصنيف الثنائي: يوفّر أسماء محددة للفئات المختلفة من عبارات البحث المقترحة الصحيحة والتوقّعات غير الصحيحة. إذًا، تكون معادلة الدقة للتصنيف الثنائي على النحو التالي:

$$\text{Accuracy} = \frac{\text{TP} + \text{TN}} {\text{TP} + \text{TN} + \text{FP} + \text{FN}}$$

المكان:

• TP هو عدد النتائج الموجبة الصحيحة (التوقعات الصحيحة).
• TN هو عدد النتائج السلبية الصحيحة (توقّعات صحيحة).
• القيمة FP هي عدد النتائج الموجبة الخاطئة (توقعات غير صحيحة).
• FN هو عدد المعايير السالبة الخاطئة (عبارات بحث مقترحة غير صحيحة).

المقارنة بين الدقة والتباين من خلال الدقة والتذكُّر:

انقر على الرمز للحصول على ملاحظات إضافية.

على الرغم من أنه مقياس قيّم لبعض المواقف، إلا أن الدقة تكون مضللة للغاية بالنسبة للآخرين. ومن الجدير بالذكر أنّ الدقة عادةً ما تكون مقياسًا ضعيفًا لتقييم نماذج التصنيف التي تعالج مجموعات البيانات غير المتوازنة الفئات.

على سبيل المثال، لنفترض أن الثلج يتساقط فقط 25 يومًا من كل قرن في مدينة معينة شبه استوائية. نظرًا لأن الأيام التي لا يوجد بها ثلوج (الفئة السالبة) تتجاوز عددًا كبيرًا من الأيام المصحوبة بالثلوج (الفئة الموجبة)، فإن مجموعة بيانات الثلج لهذه المدينة غير متوازنة الفئتين. تخيل نموذج التصنيف الثنائي الذي من المفترض أن يتنبأ بتساقط الثلوج أو عدم تساقط الثلوج كل يوم، ولكنه يتنبأ ببساطة بـ "عدم تساقط الثلوج" كل يوم. وهذا النموذج دقيق للغاية ولكن لا تتوفر له أي قدرة تنبؤية. يلخص الجدول التالي النتائج التي تعود إلى قرن من التوقعات:

الفئة	رقم
TP	0
تونس	36500
FP	25
FN	0

وبالتالي، تتّسم دقة هذا النموذج بما يلي:

accuracy = (TP + TN) / (TP + TN + FP + FN)
accuracy = (0 + 36500) / (0 + 36500 + 25 + 0) = 0.9993 = 99.93%

على الرغم من أن الدقة بنسبة 99.93٪ تبدو وكأنها نسبة مثيرة للإعجاب، فإن النموذج في الواقع ليس له قوة تنبؤية.

وعادةً ما يكون الدقة والتذكُّر أكثر فائدة من المقاييس الدقة في تقييم النماذج المدربة على مجموعات البيانات غير المتوازنة الفئات.

---

دالّة التفعيل

#fundamentals

يشير ذلك المصطلح إلى دالة تتيح للشبكات العصبية تعلُّم العلاقات غير الخطية (المعقدة) بين السمات والتصنيف.

تشمل وظائف التفعيل الشائعة ما يلي:

• ReLU
• الشهادة السينية

لا تكون مخططات دوال التنشيط خطوطًا مستقيمة فردية أبدًا. على سبيل المثال، يتكون مخطط دالة تنشيط ReLU من خطين مستقيمين:

ويبدو مخطط دالة التفعيل السيني على النحو التالي:

انقر على الرمز لعرض مثال.

في الشبكة العصبية، تعالج دوال التفعيل المجموع المرجح لجميع المدخلات في خلية عصبية. لحساب المجموع المرجح، تجمع الخلية العصبية المنتجات ذات القيم والأوزان ذات الصلة. لنفترض على سبيل المثال أن المدخلات ذات الصلة بالخلية العصبية تتكون مما يلي:

قيمة الإدخال	الوزن الذي يمكن إدخاله
2	-1.3
-1	0.6
3	0.4

وعندئذ يكون المجموع المرجح هو:

weighted sum = (2)(-1.3) + (-1)(0.6) + (3)(0.4) = -2.0

لنفترض أن مصمم هذه الشبكة العصبية يختار الدالة السينية لتكون دالة التفعيل. في هذه الحالة، تحسب الخلية العصبية المتغير السيني بقيمة -2.0، وهو ما يساوي 0.12 تقريبًا. وبالتالي، تمرر الخلية العصبية 0.12 (بدلاً من -2.0) إلى الطبقة التالية في الشبكة العصبية. ويوضح الشكل التالي الجزء ذي الصلة من العملية:

---

الذكاء الاصطناعي

#fundamentals

هي برامج أو model غير بشري يمكنه حلّ المهام المعقدة. على سبيل المثال، برنامج أو نموذج يترجم نصًا أو برنامجًا أو نموذجًا لتحديد الأمراض من خلال الصور الإشعاعية يُظهر كلاهما الذكاء الاصطناعي.

يُعدّ التعلّم الآلي رسميًا مجالاً فرعيًا للذكاء الاصطناعي. في السنوات الأخيرة، بدأت بعض المؤسسات في استخدام مصطلحَي الذكاء الاصطناعي والتعلّم الآلي بالتبادل.

المساحة تحت منحنى ROC (AUC)

#fundamentals

رقم بين 0.0 و1.0 يمثّل قدرة نموذج التصنيف الثنائي على فصل الفئات الإيجابية عن الفئات السلبية كلما اقتربت AUC من 1.0، زادت قدرة النموذج على فصل الفئات عن بعضها البعض.

يُظهر الرسم التوضيحي التالي مثلاً نموذج مصنِّف يفصل بشكل مثالي بين الفئات الإيجابية (الأشكال البيضاوية الخضراء) والفئات السالبة (مستطيلات أرجوانية). يحتوي هذا النموذج المثالي بشكل غير واقعي على AUC تساوي 1.0:

وفي المقابل، يعرض الرسم التوضيحي التالي نتائج نموذج المصنِّف الذي نتج عنه نتائج عشوائية. تساوي قيمة AUC لهذا النموذج 0.5:

نعم، يحتوي النموذج السابق على AUC تساوي 0.5 وليس 0.0.

تقع معظم النماذج في مكان ما بين الطرفين. على سبيل المثال، يفصل النموذج التالي الإيجابيات عن السلبيات إلى حد ما، وبالتالي لديه AUC في مكان ما بين 0.5 و1.0:

تتجاهل AUC أي قيمة تضبطها في الحد الأدنى للتصنيف. وبدلاً من ذلك، تراعي AUC جميع عتبات التصنيف الممكنة.

انقر فوق الرمز لمعرفة المزيد حول العلاقة بين منحنيات AUC وROC.

وتمثل AUC المساحة الواقعة تحت منحنى ROC. على سبيل المثال، يبدو منحنى خاصية تشغيل جهاز الاستقبال لنموذج يفصل تمامًا بين الإيجابيات والسلبيات على النحو التالي:

AUC هي منطقة المنطقة الرمادية في الرسم التوضيحي السابق. في هذه الحالة غير المعتادة، تكون المنطقة ببساطة هي طول المنطقة الرمادية (1.0) مضروبًا في عرض المنطقة الرمادية (1.0). إذًا، ينتج عن حاصل ضرب 1.0 و1.0 AUC تساوي 1.0 بالضبط، وهو أعلى درجة ممكنة لـ AUC.

بالعكس، فإن منحنى خاصية تشغيل جهاز الاستقبال للمصنِّف الذي لا يمكنه فصل الفئات تمامًا على النحو التالي. تبلغ مساحة هذه المنطقة الرمادية 0.5.

يبدو منحنى خاصية تشغيل جهاز الاستقبال الأكثر نموذجية على النحو التالي تقريبًا:

سيكون حساب المساحة تحت هذا المنحنى يدويًا شاقًا، وهذا هو السبب في أن البرنامج يحسب عادة معظم قيم AUC.

---

يُرجى النقر على الرمز للحصول على تعريف أكثر رسمية لـ AUC.

يشير مصطلح AUC إلى احتمالية أن يكون المُصنِّف أكثر ثقة بأن المثال الإيجابي الذي يتم اختياره عشوائيًا إيجابي في الواقع مقارنةً بالمثال السلبي الذي يتم اختياره عشوائيًا.

---

B

الانتشار العكسي

#fundamentals

يشير ذلك المصطلح إلى الخوارزمية التي تنفّذ خوارزمية انحدار التدرج في الشبكات العصبونية.

يتضمن تدريب الشبكة العصبية العديد من التكرارات للدورة التالية ذات الممرين:

1. خلال البداية والنهاية المبكرة، يعالج النظام مجموعة من الأمثلة لعرض عبارات البحث المقترحة. يقارن النظام كل توقع بكل قيمة label. الفرق بين التنبؤ وقيمة التصنيف هو loss لهذا المثال. ويجمع النظام الخسائر لجميع الأمثلة لحساب الخسارة الإجمالية للدفعة الحالية.
2. خلال الانتشار العكسي (الانتشار العكسي)، يقلل النظام من فقدان كل الخلايا العصبية في كل الطبقات المخفية.

تحتوي الشبكات العصبية غالبًا على العديد من الخلايا العصبية عبر العديد من الطبقات الخفية. وتساهم كل خلية من هذه الخلايا العصبية في الخسارة الكلية بطرق مختلفة. يحدد الانتشار الخلفي ما إذا كان يجب زيادة أو خفض الأوزان المطبقة على خلايا عصبية معينة.

معدّل التعلّم هو مُضاعِف يتحكّم في الدرجة التي يزيد بها أو يقلل كل تمرير خلفي. يؤدي معدل التعلم الكبير إلى زيادة أو خفض كل وزن أكثر من معدل التعلم الصغير.

بعبارات التفاضل والتكامل، ينفذ الانتشار العكسي قاعدة سلسلة حساب التفاضل والتكامل. ويعني ذلك أنّ الانتشار العكسي يحتسب المشتق الجزئي للخطأ مع مراعاة كل مَعلمة. للحصول على مزيد من التفاصيل، يُرجى الاطّلاع على هذا البرنامج التعليمي ضمن الدورة التدريبية المخصصة لتعلُّم الآلة.

منذ سنوات، كان على ممارسي تعلُّم الآلة كتابة تعليمات برمجية لتنفيذ الانتشار العكسي. إنّ واجهات برمجة تطبيقات تعلُّم الآلة الحديثة، مثل TensorFlow، تنفّذ الآن عملية الانتشار العكسي نيابةً عنك. أخيرًا!

دفعة

#fundamentals

يشير ذلك المصطلح إلى مجموعة الأمثلة المستخدَمة في تكرار تدريب واحد. يحدّد حجم المجموعة عدد الأمثلة في الدفعة.

يمكنك الاطّلاع على الحقبة للحصول على شرح حول كيفية ارتباط الدفعة بحقبة ما.

حجم الدفعة

#fundamentals

تمثّل هذه السمة عدد الأمثلة في مجموعة. على سبيل المثال، إذا كان حجم الدفعة 100، يعالج النموذج 100 مثال لكل تكرار.

في ما يلي بعض الاستراتيجيات الشائعة لحجم الدفعة:

• انحدار التدرج العشوائي (SGD)، الذي يكون فيه حجم الدفعة 1.
• الدفعة الكاملة، حيث يمثل حجم الدفعة عدد الأمثلة في مجموعة التدريب بالكامل. على سبيل المثال، إذا كانت مجموعة التدريب تحتوي على مليون مثال، فإن حجم الدفعة سيكون مليون مثال. وعادةً ما تكون الدفعة الكاملة استراتيجية غير فعّالة.
• دفعة مصغَّرة يكون فيها حجم الدفعة عادةً بين 10 و1,000. فعادةً ما يكون استخدام الدفعة الصغيرة هو الإستراتيجية الأكثر فعالية.

التحيز (الأخلاق/الإنصاف)

#fairness

#fundamentals

1- الصور النمطية أو التحيزية أو المحسوبة تجاه بعض الأشياء أو الأشخاص أو المجموعات على الآخرين. يمكن أن تؤثر هذه التحيزات على جمع وتفسير البيانات وتصميم النظام وكيفية تفاعل المستخدمين مع النظام. تشمل أشكال هذا النوع من التحيز ما يلي:

• الانحياز التلقائي
• الانحياز التأكيدي
• تحيز المجرّب
• انحياز تحديد المصدر للمجموعة
• التحيز الضمني
• الانحياز داخل المجموعة
• الانحياز خارج إطار المجموعة

2. خطأ نظامي ناتج عن إجراء أخذ العينات أو الإبلاغ. تشمل أشكال هذا النوع من التحيز ما يلي:

• انحياز التغطية
• انحياز عدم الاستجابة
• تحيز المشاركة
• انحياز إعداد التقارير
• تحيز أخذ العينات
• الانحياز في الاختيار

يجب عدم الخلط بينه وبين مصطلح الانحياز في نماذج تعلُّم الآلة أو انحياز التوقّعات.

التحيز (الرياضيات) أو مصطلح التحيز

#fundamentals

تقاطع أو إزاحة من مصدر. التحيز هو معلمة في نماذج التعلم الآلي، والتي يرمز إليها بأي مما يلي:

• b
• ₀

على سبيل المثال، الانحياز هو الحرف b في الصيغة التالية:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

في خط ثنائي الأبعاد بسيط، يعني التحيز "تقاطع ص". على سبيل المثال، تحيز الخط في الرسم التوضيحي التالي هو 2.

هناك انحياز لأنّ جميع النماذج لا تبدأ من الأصل (0,0). على سبيل المثال، افترض أن تكلفة مدينة الملاهي تساوي 2 يورو للدخول و0.5 يورو إضافي لكل ساعة يقيم فيها العميل. وبالتالي، فإن أي نموذج لتعيين التكلفة الإجمالية له تحيز بقيمة 2 لأن أقل تكلفة هي 2 يورو.

لا يجب الخلط بين التحيز والتحيز في الأخلاق والإنصاف أو تحيز التنبؤ.

التصنيف الثنائي

#fundamentals

نوع من مهام التصنيف يتنبأ بواحدة من فئتين متنافيتين:

• الفئة الإيجابية
• الفئة السلبية

على سبيل المثال، يُنفِّذ نموذجا التعلم الآلي التاليان التصنيف الثنائي:

• نموذج يحدد ما إذا كانت الرسائل الإلكترونية رسائل غير مرغوب فيها (الفئة الإيجابية) أم ليست رسائل غير مرغوب فيها (الفئة السلبية).
• نموذج يقيّم الأعراض الطبية لتحديد ما إذا كان الشخص يعاني من مرض معين (الفئة الموجب) أو لا يعاني من هذا المرض (الفئة السالبة).

تباينها مع التصنيف متعدد الفئات.

ويمكنك أيضًا الاطّلاع على الانحدار اللوجستي و الحدّ الأدنى للتصنيف.

تجميع البيانات

#fundamentals

تحويل ميزة واحدة إلى ميزات ثنائية متعددة تُعرف باسم الحزم أو السلال، والتي تستند عادةً إلى نطاق قيم. وتكون الميزة المقتطعة عادةً ميزة مستمرة.

على سبيل المثال، بدلاً من تمثيل درجة الحرارة كميزة نقطة عائمة واحدة مستمرة، يمكنك تقسيم نطاقات درجات الحرارة إلى مجموعات منفصلة، مثل:

• يجب أن تكون درجة الحرارة أقل من 10 درجات مئوية "باردة".
• يجب أن تكون درجة الحرارة من 11 إلى 24 درجة مئوية "المعتدلة".
• >= 25 درجة مئوية سيكون الدلو "دافئًا".

سيتعامل النموذج مع كل قيمة في مجموعة البيانات نفسها بشكل متطابق. على سبيل المثال، القيمتان 13 و22 كلاهما في مجموعة البيانات المعتدلة، لذلك يتعامل النموذج مع القيمتين بشكل متطابق.

انقر على الرمز للحصول على ملاحظات إضافية.

وإذا كنت تمثل درجة الحرارة كميزة مستمرة، فسيتعامل النموذج مع درجة الحرارة كميزة واحدة. إذا كنت تقوم بتمثيل درجة الحرارة كثلاث مجموعات، فإن النموذج يتعامل مع كل مجموعة كميزة منفصلة. وهذا يعني أنّ النموذج يمكنه تعلُّم العلاقات المنفصلة لكل مجموعة مع التصنيف. على سبيل المثال، يمكن أن يتعلّم نموذج الانحدار الخطي أوزانًا منفصلة لكل مجموعة بيانات.

تؤدي زيادة عدد المجموعات إلى جعل نموذجك أكثر تعقيدًا من خلال زيادة عدد العلاقات التي يجب أن يتعلمها النموذج. على سبيل المثال، تعد مجموعات البيانات الباردة والمعتدلة والدافئة في الأساس ثلاث ميزات منفصلة لكي يتدرب النموذج عليها. إذا قررت إضافة مجموعتين أخريين -- على سبيل المثال، التجميد والساخن -- فسينبغي أن يتدرب النموذج الآن على خمس ميزات منفصلة.

كيف تعرف عدد المجموعات المراد إنشاؤها، أو ما هي النطاقات التي ينبغي أن تكون لكل مجموعة؟ تتطلب الإجابات عادةً قدرًا كبيرًا من التجارب.

---

C

بيانات فئوية

#fundamentals

الميزات التي تتضمن مجموعة محددة من القيم المحتملة. على سبيل المثال، ضع في اعتبارك ميزة فئوية باسم traffic-light-state، والتي يمكن أن تتضمن فقط قيمة من القيم الثلاث التالية:

• red
• yellow
• green

ومن خلال تمثيل traffic-light-state كميزة فئوية، يمكن لأي نموذج الاطّلاع على التأثيرات المختلفة لكل من red وgreen وyellow في سلوك السائق.

تسمى الميزات الفئوية أحيانًا بميزات منفصلة.

وللتباين مع البيانات الرقمية.

صنف

#fundamentals

الفئة التي يمكن أن تنتمي إليها التصنيف. مثلاً:

• في نموذج التصنيف الثنائي الذي يكتشف المحتوى غير المرغوب فيه، قد تكون الفئتان محتوى غير مرغوب فيه وليسا محتوى غير مرغوب فيه.
• في نموذج التصنيف متعدد الفئات الذي يحدد سلالات الكلاب، قد تكون الفئات هي بودل وبيغل وباك وما إلى ذلك.

يتوقّع نموذج التصنيف فئة معيّنة. في المقابل، يتوقّع نموذج الانحدار رقمًا بدلاً من فئة.

نموذج التصنيف

#fundamentals

model الذي يمثّل توقّعه model. فعلى سبيل المثال، في ما يلي جميع نماذج التصنيف:

• نموذج يتنبأ بلغة جملة إدخال (الفرنسية؟ هل الإسبانية؟ الإيطالية؟).
• نموذج يتنبأ بأنواع الأشجار (القيقب؟ Oak? باباوب؟).
• يشير ذلك المصطلح إلى نموذج يتنبأ بالفئة الموجبة أو السالبة لحالة طبية معينة.

في المقابل، تتنبأ نماذج الانحدار بالأرقام بدلاً من الفئات.

هناك نوعان شائعان من نماذج التصنيف هما:

• التصنيف الثنائي
• التصنيف متعدد الفئات

الحد الأدنى للتصنيف

#fundamentals

في التصنيف الثنائي، يكون الرقم بين 0 و1 يحوِّل المخرجات الأولية لنموذج الانحدار اللوجستي إلى توقّع للفئة الموجبة أو الفئة السالبة. تجدر الإشارة إلى أنّ حدّ التصنيف هو قيمة يختارها الإنسان، وليست قيمة يختارها تدريب النموذج.

ينتج عن نموذج الانحدار اللوجستي قيمة أولية بين 0 و1. بعد ذلك:

• وإذا كانت هذه القيمة الأولية أكبر من حد التصنيف، يتم التنبؤ بالفئة الموجبة.
• وإذا كانت هذه القيمة الأولية أقل من حد التصنيف، يتم التنبؤ بالفئة السالبة.

لنفترض، على سبيل المثال، أن حد التصنيف هو 0.8. إذا كانت القيمة الأولية هي 0.9، فسيتنبأ النموذج بالفئة الموجبة. وإذا كانت القيمة الأولية تساوي 0.7، يتنبأ النموذج بالفئة السالبة.

يؤثّر اختيار حدّ التصنيف بشكل كبير في عدد الحالات الموجبة الخاطئة والقيم السالبة الخاطئة.

انقر على الرمز للحصول على ملاحظات إضافية.

مع تطور النماذج أو مجموعات البيانات، يغير المهندسون أيضًا في بعض الأحيان حد التصنيف. عندما يتغير عتبة التصنيف، يمكن أن تتحول تنبؤات الفئة الإيجابية فجأة إلى فئات سلبية والعكس صحيح.

على سبيل المثال، ضع في الاعتبار نموذج التنبؤ بالمرض التصنيف الثنائي. لنفترض أنه عند تشغيل النظام في السنة الأولى:

• وتبلغ القيمة الأولية لمريض معين 0.95.
• الحد الأدنى للتصنيف هو 0.94.

وبالتالي، يتشخيص النظام الفئة الموجبة. (يشهق المريض: "أوه لا! أنا مريض!")

وبعد مرور عام، ربما تبدو القيم الآن على النحو التالي:

• وتظل القيمة الأولية للمريض نفسه عند 0.95.
• يتغيّر حدّ التصنيف إلى 0.97.

وبالتالي، يعيد النظام الآن تصنيف هذا المريض على أنه الفئة السالبة. ("يوم سعيد! لست مريضًا"). نفس المريض. تشخيص مختلف.

---

مجموعة بيانات غير متوازنة الفئة

#fundamentals

يشير ذلك المصطلح إلى مجموعة بيانات تتعلق بمشكلة تصنيف يختلف فيها إجمالي عدد التصنيفات لكل فئة بشكل كبير. على سبيل المثال، ضع في الاعتبار مجموعة بيانات التصنيف الثنائي التي يتم تقسيم تسميتين لها على النحو التالي:

• 1,000,000 تصنيف سلبي
• 10 تصنيفات إيجابية

إن نسبة التصنيفات السالبة إلى الموجبة هي 100000 إلى 1، لذا فهذه مجموعة بيانات غير متوازنة الفئة.

في المقابل، ليست مجموعة البيانات التالية غير متوازنة الفئات لأن نسبة التصنيفات السالبة إلى التصنيفات الموجبة قريبة نسبيًا من 1:

• 517 تصنيفًا سلبيًا
• 483 تصنيفًا إيجابيًا

ويمكن أيضًا أن تكون مجموعات البيانات متعددة الفئات غير متوازنة الفئات. على سبيل المثال، تعتبر مجموعة البيانات التالية للتصنيف متعدد الفئات غير متوازنة حسب الفئات لأن إحدى العلامات لديها أمثلة أكثر بكثير من السمتين الأخريين:

• 1,000,000 تصنيف بالفئة "أخضر"
• 200 تصنيف بفئة "أرجواني"
• 350 تصنيفًا بالفئة "برتقالي"

ويمكنك أيضًا الاطّلاع على القصور وفئة الغالبية وفئة الأقليات.

اقتصاص

#fundamentals

أسلوب لمعالجة القيم الخارجية من خلال تنفيذ أحد الإجراءات التالية أو كليهما:

• يجب تخفيض قيم feature التي تزيد عن الحدّ الأقصى ليصل إلى هذا الحدّ الأقصى.
• زيادة قيم الميزات التي تقل عن الحد الأدنى حتى هذا الحد الأدنى

على سبيل المثال، لنفترض أن <0.5٪ من قيم ميزة معينة تقع خارج النطاق 40-60. وفي هذه الحالة، يمكنك إجراء ما يلي:

• قم بقص جميع القيم التي تزيد عن 60 (الحد الأقصى) لتكون 60 بالضبط.
• قم بقص جميع القيم التي تقل عن 40 (الحد الأدنى) لتكون 40 بالضبط.

يمكن أن تتلف القيم الاستثنائية النماذج، ما يؤدي أحيانًا إلى تجاوز الأوزان أثناء التدريب. يمكن أيضًا أن تفسر بعض القيم الاستثنائية المقاييس بشكل كبير، مثل الدقة. يُعد الاقتصاص أسلوبًا شائعًا للحد من الضرر.

يفرض الاقتصاص المتدرج قيم التدرج ضمن نطاق محدد أثناء التدريب.

مصفوفة التشويش

#fundamentals

جدول NxN يلخّص عدد عبارات البحث المقترحة الصحيحة وغير الصحيحة التي قدّمها نموذج التصنيف على سبيل المثال، ضع في الاعتبار مصفوفة الالتباس التالية لنموذج التصنيف الثنائي:

	ورم (متوقّع)	غير ورم (متوقع)
الورم (الحقيقة الواقعية)	18 (TP)	1 (FN)
غير ورم (حقيقة واقعية)	6 (FP)	452 (TN)

توضح مصفوفة الالتباس السابقة ما يلي:

• من بين 19 توقعًا كان الحقيقة الواقعية فيه ورم، تم تصنيف النموذج بشكل صحيح 18 وتصنيفه 1 بشكل غير صحيح.
• من بين 458 توقعًا كانت فيه الحقيقة الواقعية غير ورم، صنف النموذج بشكل صحيح 452 وصنف بشكل غير صحيح 6.

يمكن أن تساعدك مصفوفة الالتباس لمشكلة التصنيف متعدد الفئات في تحديد أنماط الأخطاء. على سبيل المثال، ضع في الاعتبار مصفوفة الالتباس التالية لنموذج تصنيف متعدد الفئات يصنف ثلاثة أنواع مختلفة من القزحية (فيرجينيكا، فيرسيلون، سيتوزا). عندما كانت الحقيقة الأساسية في فيرجينيا، تُظهر مصفوفة التشويش أن النموذج كان أكثر احتمالاً أن يتوقع عن طريق الخطأ Versicolor من سيتوزا:

	سيتوزا (متوقع)	Versicolor (متوقع)	فيرجينيا (متوقعة)
سيتوزا (حقيقة واقعية)	88	12	0
Versicolor (الحقيقة الأساسية)	6	141	7
فيرجينيا (الحقيقة الواقعية)	2	27	109

كمثال آخر، يمكن أن تكشف مصفوفة التشويش عن أن النموذج المدرَّب على التعرف على الأرقام المكتوبة بخط اليد يميل إلى التنبؤ عن طريق الخطأ بـ 9 بدلًا من 4، أو التنبؤ عن طريق الخطأ بـ 1 بدلاً من 7.

تحتوي مصفوفات التشويش على معلومات كافية لحساب مجموعة متنوعة من مقاييس الأداء، بما في ذلك الدقة والتذكر.

خاصية مستمرة

#fundamentals

ميزة نقطة عائمة تضم نطاقًا غير محدود من القيم المحتمَلة، مثل درجة الحرارة أو الوزن.

تباينها مع ميزة منفصلة.

التقارب

#fundamentals

حالة يتم الوصول إليها عندما تتغير قيم الخسارة قليلاً جدًا أو لا تتغير على الإطلاق مع كل تكرار. على سبيل المثال، يشير منحنى الخسارة التالي إلى تقارب عند حوالي 700 تكرار:

يتقارب النموذج عندما لا يؤدي التدريب الإضافي إلى تحسين النموذج.

في التعلم المتعمق، تظل قيم الخسارة ثابتة أحيانًا أو تقريبًا في العديد من التكرارات قبل الترتيب التنازلي في نهاية المطاف. خلال فترة طويلة من قيم الخسارة الثابتة، قد تحصل مؤقتًا على فكرة خاطئة عن التقارب.

يمكنك أيضًا الاطّلاع على الإيقاف المبكر.

D

DataFrame

#fundamentals

نوع بيانات pandas شائع لتمثيل مجموعات البيانات في الذاكرة.

يعد إطار البيانات مشابهًا للجدول أو جدول البيانات. كل عمود في DataFrame له اسم (عنوان)، ويتم تحديد كل صف برقم فريد.

يتم تنظيم كل عمود في DataFrame كصفيف ثنائي الأبعاد، باستثناء أنه يمكن تعيين نوع بيانات خاص لكل عمود.

يمكنك أيضًا الاطّلاع على الصفحة المرجعية لـ pandas.DataFrame الرسمية.

مجموعة بيانات أو مجموعة بيانات

#fundamentals

يشير ذلك المصطلح إلى مجموعة من البيانات الأولية التي يتم تنظيمها عادةً (ولكن ليس حصريًا) بأحد التنسيقات التالية:

• جدول بيانات
• ملف بتنسيق CSV (قيم مفصولة بفواصل)

نموذج عميق

#fundamentals

شبكة عصبية تحتوي على أكثر من طبقة مخفية واحدة.

يُعرف النموذج العميق أيضًا باسم الشبكة العصبية العميقة.

تباينه مع النموذج العريض

خاصية كثيفة

#fundamentals

يشير ذلك المصطلح إلى ميزة تكون فيها معظم القيم أو جميعها غير صفرية، وتكون عادةً Tensor لقيم النقاط العائمة. على سبيل المثال، تكون Tensor التالية المكونة من 10 عناصر كثيفة لأن 9 من قيمها غير صفرية:

8

3

7

5

2

4

0

4

9

6

تباينها مع ميزة تناقص الكثافة.

العمق

#fundamentals

مجموع ما يلي في شبكة عصبية:

• عدد الطبقات المخفية
• عدد طبقات المخرجات، والتي عادةً ما تكون 1
• عدد أي طبقات التضمين

على سبيل المثال، يبلغ عمق الشبكة العصبية التي تحتوي على خمس طبقات مخفية وطبقة إخراج واحدة عمق 6 طبقات.

لاحظ أن طبقة الإدخال لا تؤثر في العمق.

خاصية المنفصلة

#fundamentals

ميزة تضم مجموعة محدودة من القيم المحتملة. على سبيل المثال، تُعد الميزة التي قد تكون قيمها حيوانًا أو نباتًا أو معدن فقط، وهي ميزة منفصلة (أو فئوية).

تباينها مع الميزة المستمرة.

ديناميكي

#fundamentals

شيء ما تم بشكل متكرر أو مستمر. المصطلحان ديناميكية وعلى الإنترنت مرادفان في تعلُّم الآلة. في ما يلي الاستخدامات الشائعة للتعلُّم الديناميكي وعلى الإنترنت في تعلُّم الآلة:

• النموذج الديناميكي (أو النموذج على الإنترنت) هو نموذج تتم إعادة تدريبه بشكل متكرر أو مستمر.
• التدريب الديناميكي (أو التدريب على الإنترنت) هو عملية التدريب بشكل متكرر أو مستمر.
• الاستنتاج الديناميكي (أو الاستنتاج على الإنترنت) هو عملية إنشاء توقّعات عند الطلب.

نموذج ديناميكي

#fundamentals

model تتم إعادة تدريبه بشكل متكرر (ربما حتى بشكل مستمر). النموذج الديناميكي هو "متعلم مدى الحياة" يتكيف باستمرار مع البيانات المتطورة. يُعرف النموذج الديناميكي أيضًا باسم النموذج على الإنترنت.

تباينها مع نموذج ثابت.

E

إيقاف مبكر

#fundamentals

طريقة للانتظام تتضمّن إنهاء التدريب قبل انخفاض مستوى فقدان التدريب. عند الإيقاف المبكر، تعمد إلى إيقاف تدريب النموذج عندما تبدأ نسبة الخسارة في مجموعة بيانات التحقّق في الازدياد، أي عندما يصبح أداء التعميم أسوأ.

انقر على الرمز للحصول على ملاحظات إضافية.

قد يبدو التوقف المبكر غير بديهي. بعد كل شيء، قد يبدو إخبار النموذج بوقف التدريب بينما لا تزال الخسارة تشبه إخبار الطاهي بالتوقف عن الطهي قبل خبز الحلوى بالكامل. ومع ذلك، فإن تدريب نموذج لفترة طويلة جدًا يمكن أن يؤدي إلى فرط التخصيص. أي إذا تدربت على نموذج لفترة طويلة جدًا، فقد يتناسب النموذج مع بيانات التدريب إلى حد كبير بحيث لا يقدم النموذج تنبؤات جيدة للأمثلة الجديدة.

---

طبقة التضمين

#language

#fundamentals

يشير ذلك المصطلح إلى طبقة مخفية خاصة يتم تدريبها على ميزة فئوية ذات أبعاد عالية. وتُمكّن طبقة التضمين الشبكة العصبية من التدرّب بكفاءة أكبر من التدريب فقط على ميزة التصنيف ذات الأبعاد العالية.

على سبيل المثال، يدعم Earth حاليًا حوالي 73,000 نوع من الأشجار. لنفترض أنّ أنواع الأشجار هي ميزة في نموذجك، وبالتالي تتضمّن طبقة الإدخال لنموذجك متجهًا واحدًا ساخنًا يبلغ طوله 73,000 عنصر. على سبيل المثال، يمكن أن يتم تمثيل السمة baobab على النحو التالي:

الصفيفة المكونة من 73000 عنصر طويلة جدًا. إذا لم تضف طبقة تضمين إلى النموذج، فسيستغرق التدريب وقتًا طويلاً بسبب ضرب 72999 صفراً. ربما تختار طبقة التضمين لتكون من 12 بُعدًا. وبالتالي، ستتعلم طبقة التضمين تدريجيًا متجهات تضمين جديدة لكل نوع من أنواع الأشجار.

في بعض الحالات، يكون التجزئة بديلاً معقولاً لطبقة التضمين.

حقبة

#fundamentals

تصريح تدريب كامل لمجموعة التدريب بالكامل، بحيث تتم معالجة كل مثال مرة واحدة.

تمثل الفترة N/حجم المجموعة لتدريب التكرارات، حيث N هو إجمالي عدد الأمثلة.

على سبيل المثال، افترض ما يلي:

• تتكون مجموعة البيانات من 1000 مثال.
• يبلغ حجم الدفعة 50 مثالاً.

لذلك، تتطلب حقبة واحدة 20 تكرارًا:

1 epoch = (N/batch size) = (1,000 / 50) = 20 iterations

على سبيل المثال

#fundamentals

قيم صف واحد من الميزات وربما تصنيف. تندرج الأمثلة في التعلّم المُوجّه ضمن فئتَين عامتَين:

• يتكون المثال المصنف من ميزة واحدة أو أكثر وتسمية. يتم استخدام الأمثلة المصنَّفة أثناء التدريب.
• يتكون المثال غير المصنف من ميزة واحدة أو أكثر ولكن بدون تصنيف. يتم استخدام الأمثلة غير المصنفة أثناء الاستنتاج.

على سبيل المثال، لنفترض أنك تتدرب على نموذج لتحديد تأثير ظروف الطقس على درجات اختبار الطالب. في ما يلي ثلاثة أمثلة مصنّفة:

الميزات			التصنيف
درجة الحرارة	الرطوبة	الضغط الجوي	نتيجة الاختبار
15	47	998	جيد
19	34	1020	ممتاز
18	92	1012	سيئ

فيما يلي ثلاثة أمثلة غير مصنفة:

درجة الحرارة	الرطوبة	الضغط الجوي
12	62	1014
21	47	1017
19	41	1021

عادةً ما يكون صف مجموعة البيانات هو المصدر الأولي للمثال. بمعنى آخر، يتكون المثال عادة من مجموعة فرعية من الأعمدة في مجموعة البيانات. بالإضافة إلى ذلك، يمكن أن تشمل الميزات في المثال أيضًا ميزات اصطناعية، مثل مواد عرض متقاطعة من الميزات.

F

سالب خاطئ (FN)

#fundamentals

مثال يتوقّع فيه النموذج عن طريق الخطأ الفئة السالبة. على سبيل المثال، يتوقع النموذج أن رسالة إلكترونية معيّنة ليست رسالة غير مرغوب فيها (الفئة السلبية)، ولكن هذه الرسالة الإلكترونية هي في الواقع رسالة غير مرغوب فيها.

موجب خاطئ (FP)

#fundamentals

مثال يتوقّع فيه النموذج عن طريق الخطأ الفئة الإيجابية. على سبيل المثال، يتوقّع النموذج أنّ رسالة إلكترونية معيّنة هي رسالة غير مرغوب فيها (الفئة الإيجابية)، إلا أنّ هذه الرسالة الإلكترونية ليست رسالة غير مرغوب فيها.

معدل الموجب الخاطئ (FPR)

#fundamentals

يشير ذلك المصطلح إلى نسبة الأمثلة السلبية الفعلية التي توقّع النموذج لها عن طريق الخطأ الفئة الموجبة. تحسب المعادلة التالية المعدل الإيجابي الخاطئ:

$$\text{false positive rate} = \frac{\text{false positives}}{\text{false positives} + \text{true negatives}}$$

المعدل الموجب الخاطئ هو المحور س في منحنى خاصية تشغيل جهاز الاستقبال.

عنصر

#fundamentals

متغيّر إدخال لنموذج تعلُّم الآلة يتكون المثال من ميزة واحدة أو أكثر. على سبيل المثال، لنفترض أنك تتدرب على نموذج لتحديد تأثير ظروف الطقس على درجات اختبار الطالب. يوضح الجدول التالي ثلاثة أمثلة، يحتوي كل منها على ثلاث ميزات وتسمية واحدة:

الميزات			التصنيف
درجة الحرارة	الرطوبة	الضغط الجوي	نتيجة الاختبار
15	47	998	92
19	34	1020	84
18	92	1012	87

التباين مع label.

تقاطع الخصائص

#fundamentals

ميزة اصطناعية تم إنشاؤها من خلال ميزات "متقاطعة" فئوية أو مجمّعة.

على سبيل المثال، ضع في اعتبارك نموذج "التنبؤ بالمزاج" الذي يمثل درجة الحرارة في إحدى المجموعات الأربع التالية:

• freezing
• chilly
• temperate
• warm

ويمثّل سرعة الرياح في إحدى المجموعات الثلاثة التالية:

• still
• light
• windy

بدون تقاطع الخصائص، يتدرب النموذج الخطي بشكل مستقل على كل مجموعة من المجموعات السبع المختلفة السابقة. إذًا، يتدرب النموذج على freezing مثلاً بشكل مستقل عن التدريب على windy مثلاً.

بدلاً من ذلك، يمكنك إنشاء خاصية تقاطع درجة الحرارة وسرعة الرياح. قد يكون لهذه الميزة التركيبية 12 قيمة محتملة التالية:

• freezing-still
• freezing-light
• freezing-windy
• chilly-still
• chilly-light
• chilly-windy
• temperate-still
• temperate-light
• temperate-windy
• warm-still
• warm-light
• warm-windy

بفضل ميزة المتقاطعات، يمكن للنموذج التعرّف على الاختلافات في المزاج بين يوم واحد (freezing-windy) ويوم واحد (freezing-still).

إذا أنشأت ميزة اصطناعية من ميزتين يحتوي كل منهما على العديد من مجموعات البيانات المختلفة، سيحصل تقاطع الميزة الناتج على عدد كبير من المجموعات الممكنة. على سبيل المثال، إذا كانت إحدى الميزات تحتوي على 1,000 مجموعة، وكانت الميزة الأخرى تحتوي على 2,000 مجموعة، فإن الخصائص المتقاطعة الناتجة تحتوي على 2,000,000 مجموعة.

رسميًا، الصليب هو منتج ديكرتي.

غالبًا ما يتم استخدام تقاطعات الخصائص مع النماذج الخطية ونادرًا ما تُستخدم مع الشبكات العصبية.

هندسة الخصائص

#fundamentals

#TensorFlow

عملية تتضمن الخطوات التالية:

1. تحديد الميزات التي قد تكون مفيدة في تدريب نموذج.
2. تحويل البيانات الأولية من مجموعة البيانات إلى إصدارات فعالة من تلك الميزات.

على سبيل المثال، قد تكون ميزة temperature مفيدة. بعد ذلك، يمكنك تجربة التجميع لتحسين ما يمكن أن يتعلّمه النموذج من نطاقات temperature المختلفة.

يُطلق على هندسة الميزات أحيانًا اسم استخراج الميزات.

انقر على الرمز للحصول على ملاحظات إضافية حول TensorFlow.

في TensorFlow، غالبًا ما تعني هندسة الميزات تحويل إدخالات ملف السجل الأولي إلى مخازن مؤقتة لبروتوكول tf.Example. راجِع أيضًا tf.Transform.

---

مجموعة الخصائص

#fundamentals

يتم تدريب مجموعة ميزات التعلم الآلي على النموذج عليها. على سبيل المثال، قد يتألف الرمز البريدي وحجم العقار وحالة العقار من مجموعة ميزات بسيطة لنموذج يتنبأ بأسعار المساكن.

متجه الخصائص

#fundamentals

مصفوفة من قيم feature تتألف من مثال. يتم إدخال متجه الميزة أثناء التدريب وأثناء الاستنتاج. على سبيل المثال، قد يكون الخط المتجه الخصائص لنموذج به خاصيتين منفصلتين كما يلي:

[0.92, 0.56]

يوفر كل مثال قيمًا مختلفة لمتجه الميزة، لذا يمكن أن يكون متجه الميزة للمثال التالي شيئًا مثل:

[0.73, 0.49]

هندسة الميزات تحدد كيفية تمثيل الميزات في متجه الخصائص. على سبيل المثال، يمكن تمثيل ميزة فئوية ثنائية تضم خمس قيم محتملة بترميز واحد فعال. في هذه الحالة، سيتكوّن جزء من متجه الميزة لمثال معين من أربعة أصفار و1.0 واحد في الموضع الثالث، على النحو التالي:

[0.0, 0.0, 1.0, 0.0, 0.0]

وكمثال آخر، لنفترض أن نموذجك يتألف من ثلاث ميزات:

• ميزة فئوية ثنائية تتضمن خمس قيم محتملة ممثلة بترميز واحد فعال، على سبيل المثال: [0.0, 1.0, 0.0, 0.0, 0.0]
• ميزة فئوية ثنائية أخرى تتضمّن ثلاث قيم محتمَلة ممثلة بترميز واحد فعال، على سبيل المثال: [0.0, 0.0, 1.0]
• ميزة النقطة العائمة، مثل: 8.3.

في هذه الحالة، سيتم تمثيل الخط المتجه الخصائص لكل مثال في تسع قيم. بالنظر إلى أمثلة القيم في القائمة السابقة، سيكون المتجه الميزة على النحو التالي:

0.0
1.0
0.0
0.0
0.0
0.0
0.0
1.0
8.3

تقرير الملاحظات والآراء

#fundamentals

في التعلم الآلي، يشير ذلك المصطلح إلى موقف تؤثر فيه تنبؤات النموذج على بيانات التدريب للنموذج نفسه أو نموذج آخر. على سبيل المثال، سيؤثر النموذج الذي يقترح الأفلام في الأفلام التي يشاهدها الأشخاص، مما سيؤثر بعد ذلك على النماذج اللاحقة لاقتراحات الأفلام.

G

تعميم

#fundamentals

يشير ذلك المصطلح إلى قدرة النموذج على إجراء توقّعات صحيحة حول البيانات الجديدة التي لم يسبق لك الاطّلاع عليها. نقيض النموذج الذي يمكن تعميمه أي نموذج فرط التخصيص.

انقر على الرمز للحصول على ملاحظات إضافية.

تقوم بتدريب نموذج على الأمثلة في مجموعة التطبيق. وبالتالي، يتعلم النموذج خصائص البيانات الموجودة في مجموعة التدريب. في الأساس، يسأل التعميم ما إذا كان النموذج الخاص بك يمكنه تقديم تنبؤات جيدة للأمثلة غير الموجودة في مجموعة التطبيق.

ولتشجيع عملية التعميم، يساعد التنظيم في تدريب النموذج بشكل أقل دقة على خصائص البيانات المتوفّرة في مجموعة التطبيق.

---

منحنى التعميم

#fundamentals

مخطط لكل من فقدان التدريب و فقدان التحقق كدالة لعدد التكرارات.

يمكن أن يساعدك منحنى التعميم في اكتشاف فرط التخصيص المحتملة. على سبيل المثال، يشير منحنى التعميم التالي إلى فرط التخصيص لأن فقدان التحقق من الصحة يصبح في النهاية أعلى بكثير من فقدان التدريب.

انحدار التدرج

#fundamentals

أسلوب رياضي لتقليل الخسارة. يضبط خورازمية انحدار التدرج على الوزن والانحيازات التكرارية، ما يؤدي إلى العثور تدريجيًا على أفضل تركيبة للحدّ من الخسارة.

خورازمية انحدار التدرج هي أقدم بكثير من التعلم الآلي.

حقيقة واقعية

#fundamentals

الواقع:

الشيء الذي حدث بالفعل.

على سبيل المثال، ضع في الاعتبار نموذج التصنيف الثنائي الذي يتنبأ بما إذا كان الطالب في السنة الأولى من دراسته الجامعية سيتخرج خلال ست سنوات. والحقيقة الأساسية لهذا النموذج هي ما إذا كان هذا الطالب تخرج بالفعل في غضون ست سنوات أم لا.

انقر على الرمز للحصول على ملاحظات إضافية.

نقيّم جودة النموذج مقارنةً بالواقع. ومع ذلك، فإن الحقيقة الواقعية ليست دائمًا بشكل كامل، جيدًا وصادقة. على سبيل المثال، ضع في اعتبارك الأمثلة التالية على العيوب المحتملة في الحقيقة الفعلية:

• في مثال التخرج، هل نحن متأكّدون من أنّ سجلّات التخرج لكل طالب صحيحة دائمًا؟ هل تحفظ الجامعة سجلات خالية من الأخطاء؟
• لنفترض أنّ التصنيف عبارة عن قيمة نقطة عائمة تم قياسها بالأدوات (على سبيل المثال، مقاييس الضغط الجوي). كيف يمكننا التأكد من معايرة كل أداة بشكل متطابق أو أنه تم أخذ كل قراءة في ظل الظروف نفسها؟
• إذا كان التصنيف يتعلق برأي المستخدمين، كيف يمكننا التأكد من أنّ كل مقيّم يقيّم الأحداث بالطريقة نفسها؟ لتحسين مستوى الاتساق، يتدخل أحيانًا الخبراء المصنِّفون الخبراء.

---

H

الطبقة المخفية

#fundamentals

طبقة في شبكة عصبية بين طبقة الإدخال (الميزات) و طبقة الناتج (التوقع). وتتكون كل طبقة مخفية من خلية عصبية واحدة أو أكثر. على سبيل المثال، تحتوي الشبكة العصبية التالية على طبقتين مخفيتين، الأولى تحتوي على ثلاث خلايا عصبية والثانية مع خليتين عصبيتين:

تحتوي الشبكة العصبية العميقة على أكثر من طبقة مخفية. على سبيل المثال، الرسم التوضيحي السابق عبارة عن شبكة عصبية عميقة لأن النموذج يحتوي على طبقتين مخفيّة.

معلَمة فائقة

#fundamentals

المتغيّرات التي تضبطها أنت أو خدمة ضبط المعلَمة الفائقة يتم ضبطها أثناء التشغيل المتتالي لتدريب أحد النماذج. على سبيل المثال، معدّل التعلّم هو معلَمة فائقة. يمكنك ضبط معدل التعلم على 0.01 قبل جلسة تدريبية واحدة. إذا حددت أن 0.01 مرتفع جدًا، فيمكنك ربما ضبط معدل التعلم على 0.003 لجلسة التدريب التالية.

في المقابل، المَعلمات هي مختلف القيم التقديرية والانحياز التي يتعلّمها النموذج أثناء التدريب.

I

موزّعة بشكل مستقل ومتشابه (i.d)

#fundamentals

البيانات المستخرجة من توزيع لا تتغير وحيث لا تعتمد كل قيمة مرسومة على القيم التي تم رسمها مسبقًا. فالمفهوم الرياضي هو الغاز المثالي للتعلم الآلي، وهو تركيبة رياضية مفيدة ولكن في أغلب الأحيان لا يمكن العثور عليه في العالم الحقيقي. على سبيل المثال، قد يكون توزيع الزوار إلى صفحة ويب على مدى فترة زمنية قصيرة، وهذا يعني أن التوزيع لا يتغير خلال تلك الفترة الوجيزة، وتكون زيارة شخص ما بشكل عام مستقلة عن زيارة شخص آخر. ومع ذلك، إذا وسّعت تلك الفترة الزمنية، قد تظهر اختلافات موسمية في زوّار صفحة الويب.

يمكنك أيضًا الاطّلاع على الأجهزة غير الثابتة.

استنتاج

#fundamentals

في تعلُّم الآلة، عملية إجراء توقّعات من خلال تطبيق نموذج مدرَّب على أمثلة غير مصنَّفة.

للاستنتاج معنى مختلف إلى حد ما في الإحصاء. للحصول على مزيد من التفاصيل، يمكنك الاطّلاع على مقالة ويكيبيديا حول الاستنتاج الإحصائي.

طبقة الإدخال

#fundamentals

طبقة شبكة عصبية تحمل خط متجه الميزة. وهذا يعني أن طبقة الإدخال توفر أمثلة للتدريب أو الاستنتاج. على سبيل المثال، تتكون طبقة الإدخال في الشبكة العصبية التالية من خاصيتين:

القابلية للتفسير

#fundamentals

يشير ذلك المصطلح إلى القدرة على شرح أسباب نموذج تعلُّم الآلة أو تقديمها بعبارات مفهومة للمستخدم.

على سبيل المثال، معظم نماذج الانحدار الخطي قابلة للتفسير بشكل كبير. (ما عليك سوى إلقاء نظرة على الأوزان المدربة لكل ميزة). كما يمكن تفسير غابات القرارات إلى حد كبير. ومع ذلك، تتطلب بعض النماذج تصورًا متطورًا لتصبح قابلة للتفسير.

يمكنك استخدام أداة قابلية التفسير (LIT) لتفسير نماذج تعلُّم الآلة.

التكرار

#fundamentals

يشير ذلك المصطلح إلى تعديل واحد لمَعلمات النموذج، وهي: مقاييس الأداء والانحيازات الخاصة بالنموذج، أثناء التدريب. يحدد حجم المجموعة عدد الأمثلة التي يعالجها النموذج في تكرار واحد. على سبيل المثال، إذا كان حجم الدفعة 20، فإن النموذج يعالج 20 مثالاً قبل ضبط المعاملات.

عند تدريب شبكة عصبية، يتضمن التكرار الواحد الطريقتين التاليتين:

1. تمريرة للأمام لتقييم الخسارة في دفعة واحدة.
2. ممر خلفي (الانتشار العكسي) لضبط معلَمات النموذج بناءً على الخسارة ومعدّل التعلّم.

L

تسوية ₀

#fundamentals

يشير ذلك المصطلح إلى نوع من التنظيم الذي يتم فيه فرض عقوبة على إجمالي عدد القيم القيمية غير الصفرية في أحد النماذج. على سبيل المثال، سيتم فرض عقوبة على النموذج الذي يتضمن 11 قيمة ترجيح غير صفرية أكثر من النموذج الذي يتضمن 10 أوزان غير صفرية.

يُطلق على تسوية مستوى ₀ أحيانًا اسم تسوية قاعدة L0.

انقر على الرمز للحصول على ملاحظات إضافية.

بشكل عام، يكون تنظيم ₀ غير عملي في النماذج الكبيرة لأنّ تنظيم L₀ يحوِّل التدريب إلى مشكلة تحسين معقّدة.

---

الخسارة ₁

#fundamentals

دالة الخسارة التي تحسب القيمة المطلقة للفرق بين قيم label والقيم التي يتوقّعها model. على سبيل المثال، إليك العملية الحسابية للخسارة ₁ في مجموعة من خمسة أمثلة:

القيمة الفعلية للمثال	القيمة المتوقعة للنموذج	القيمة المطلقة لدلتا
7	6	1
5	4	1
8	11	3
4	6	2
9	8	1
		8 = الخسارة 1

إنّ الخسارة في المستوى ₁ أقل حساسية للقيم الاستثنائية مقارنةً بخسارة الخسارة ₂.

متوسط الخطأ المطلق هو متوسط الخسارة L₁ لكل مثال.

انقر على الرمز للاطّلاع على العملية الحسابية الرسمية.

$$ L_1 loss = \sum_{i=0}^n | y_i - \hat{y}_i |$$

حيث:

• $n$ هو عدد الأمثلة.
• $y$ هي القيمة الفعلية للتصنيف.
• $\hat{y}$ هي القيمة التي يتنبأ بها النموذج لـ $y$.

---

ضبط الإعدادات ₁

#fundamentals

يشير ذلك المصطلح إلى نوع من التنظيم الذي يعاقب الأوزان بما يتناسب مع مجموع القيمة المطلقة للأوزان. يساعد الترتيب ₁ في زيادة قيمة الميزات غير ذات الصلة أو التي بالكاد صلة بها إلى 0 بالضبط. تمت إزالة ميزة بوزن 0 بشكل فعال من النموذج.

تتعارض مع L₂ التسوية.

الخسارة ₂

#fundamentals

دالة الخسارة التي تحسب مربع الفرق بين قيم label الفعلية والقيم التي يتوقّعها model. على سبيل المثال، إليك العملية الحسابية للخسارة ₂ في مجموعة من خمسة أمثلة:

القيمة الفعلية للمثال	القيمة المتوقعة للنموذج	مربع دلتا
7	6	1
5	4	1
8	11	9
4	6	4
9	8	1
		16 = الخسارة 2

وبسبب القياس، تعزّز الخسارة L₂ تأثير القيم الشاذّة. وهذا يعني أنّ الخسارة في المستوى ₂ تكون أقوى من التفاعل مع التوقّعات السيئة مقارنةً باستجابة الخسارة في المستوى ₁. على سبيل المثال، ستكون الخسارة L₁ للدفعة السابقة 8 بدلاً من 16. لاحظ أن قيمة خارجية واحدة تمثل 9 من أصل 16.

عادةً ما تستخدم نماذج الانحدار مستوى الخسارة ₂ كدالة الخسارة.

الخطأ التربيعي المتوسّط هو متوسط الخسارة L₂ لكل مثال. الخسارة التربيعية هي اسم آخر للخسارة ₂.

انقر على الرمز للاطّلاع على العملية الحسابية الرسمية.

$$ L_2 loss = \sum_{i=0}^n {(y_i - \hat{y}_i)}^2$$

حيث:

• $n$ هو عدد الأمثلة.
• $y$ هي القيمة الفعلية للتصنيف.
• $\hat{y}$ هي القيمة التي يتنبأ بها النموذج لـ $y$.

---

التسوية ₂

#fundamentals

يشير ذلك المصطلح إلى نوع من التنظيم الذي يعاقب الأوزان بما يتناسب مع مجموع المربّعات للأوزان. يساعد الترتيب ₂ على تقريب القيم الاستثنائية (التي لها قيم سلبية عالية أو منخفضة) من 0 ولكن ليس تمامًا إلى 0. أما الميزات التي لها قيم قريبة جدًا من 0 فتبقى في النموذج ولكنها لا تؤثر في تنبؤ النموذج بشكل كبير.

يؤدي التسوية ₂ دائمًا إلى تحسين التعميم في النماذج الخطية.

تتعارض مع L₁ التسوية.

label

#fundamentals

في تعلّم الآلة المراقَب، هو جزء "الإجابة" أو "النتيجة" من مثال.

يتكون كل مثال مصنّف من ميزة واحدة أو أكثر من الميزات وتصنيف. على سبيل المثال، في مجموعة بيانات الكشف عن المحتوى غير المرغوب فيه، من المحتمل أن يكون التصنيف إما "محتوى غير مرغوب فيه" أو "ليس محتوى غير مرغوب فيه". في مجموعة بيانات هطول الأمطار، قد يكون التسمية هو كمية المطر التي سقطت خلال فترة معينة.

مثال مصنَّف

#fundamentals

مثال يحتوي على واحدة أو أكثر من الميزات و تصنيف. على سبيل المثال، يوضح الجدول التالي ثلاثة أمثلة مسماة من نموذج تقييم منزل، لكل منها ثلاث ميزات وتسمية واحدة:

عدد غرف النوم	عدد الحمّامات	عمر المنزل	سعر المنزل (التصنيف)
3	2	15	345000 دولار
2	1	72	179000 دولار أمريكي
4	2	34	392000 دولار

في تعلُّم الآلة المراقَب، تتدرب النماذج على الأمثلة المصنّفة وتضع توقّعات على أمثلة غير مُصنَّفة.

تباين بين المثال المُصنف والأمثلة غير المصنَّفة.

لمدا

#fundamentals

مرادف معدّل التكرار

لامدا هو مصطلح مفرط في التحميل. ونركّز هنا على تعريف المصطلح ضمن regularization.

طبقة

#fundamentals

مجموعة من الخلايا العصبية في شبكة عصبية. هناك ثلاثة أنواع شائعة من الطبقات وهي كما يلي:

• طبقة الإدخال التي توفر قيمًا لجميع الميزات.
• طبقة واحدة أو أكثر من الطبقات المخفية، والتي تجد العلاقات غير الخطية بين الميزات والتسمية.
• طبقة الإخراج التي توفّر التوقّع.

على سبيل المثال، يُظهر الرسم التوضيحي التالي شبكة عصبية مع طبقة إدخال واحدة وطبقتين مخفيتَين وطبقة إخراج واحدة:

في TensorFlow، تكون الطبقات أيضًا دوال Python تأخذ خيارات Tensors والتكوين كمدخلات وتنشئ وحدات وصل أخرى كمخرجات.

معدّل التعلّم

#fundamentals

رقم نقطة عائمة يوضِّح لخوارزمية انحدار التدرج مدى قوة ضبط الترجيح والانحيازات في كل تكرار. على سبيل المثال، يضبط معدل التعلم 0.3 الأوزان والتحيزات بشكل أقوى بثلاث مرات من معدل التعلم 0.1.

معدّل التعلّم هو أحد المَعلمات الفائقة الأساسية. إذا قمت بتعيين معدل التعلم منخفضًا جدًا، فسيستغرق التدريب وقتًا طويلاً. وإذا كانت معدّل التعلّم مرتفعًا جدًا، غالبًا ما تواجه خوارزمية انحدار التدرج مشكلة في الوصول إلى التقارب.

انقر على الرمز للحصول على تفسير رياضي أكثر.

خلال كل تكرار، تضرب خوارزمية انحدار التدرج معدل التعلم في التدرج. يُعرف الناتج الناتج باسم خطوة التدرج.

---

خطي

#fundamentals

يشير ذلك المصطلح إلى علاقة بين متغيرين أو أكثر يمكن تمثيلها فقط من خلال الجمع والضرب.

مخطط العلاقة الخطية عبارة عن خط.

تتعارض مع غير الخطية.

نموذج خطي

#fundamentals

model يعيّن model واحدًا لكل model من أجل إجراء model. (تتضمّن النماذج الخطية أيضًا التحيز.) وفي المقابل، إنّ علاقة الميزات بالتوقّعات في النماذج العميقة هي علاقة غير خطية بوجهٍ عام.

يسهل عادةً تدريب النماذج الخطية وقابلية التفسير لها أكثر من النماذج العميقة. ومع ذلك، يمكن للنماذج العميقة معرفة العلاقات المعقدة بين الميزات.

الانحدار الخطي والانحدار اللوجستي هما نوعان من النماذج الخطية.

انقر على الرمز للاطّلاع على العملية الحسابية.

ويتّبع النموذج الخطي الصيغة التالية:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

المكان:

• y' هو التنبؤ الأولي. (في أنواع معينة من النماذج الخطية، سيتم إجراء مزيد من التعديل على هذا التوقع الأولي. على سبيل المثال، راجِع الانحدار اللوجستي).
• ب هو التحيز.
• تكون w هي weight، ولذلك فإنّ w₁ هي وزن الميزة الأولى، وw₂ هي وزن الميزة الثانية، وهكذا.
• س هي ميزة، إذًا س₁ هي قيمة الميزة الأولى، وس₂ هي قيمة الميزة الثانية، وهكذا.

على سبيل المثال، لنفترض أنّ النموذج الخطي لثلاث ميزات يتعلّم قيم التحيز والتقديرات التالية:

• ب = 7
• أسبوع ₁ = -2.5
• أسبوع₂ = -1.2
• أسبوع ₃ = 1.4

لذلك، بناءً على ثلاث ميزات (x₁ وx₂ وx₃)، يستخدم النموذج الخطي المعادلة التالية لإنشاء كل توقّع:

y' = 7 + (-2.5)(x1) + (-1.2)(x2) + (1.4)(x3)

لنفترض أن مثالاً معينًا يحتوي على القيم التالية:

• × ₁ = 4
• x₂ = -10
• ×₃ = 5

يؤدي إدراج هذه القيم في الصيغة إلى إنشاء توقّعات لهذا المثال:

y' = 7 + (-2.5)(4) + (-1.2)(-10) + (1.4)(5)
y' = 16

لا تتضمن النماذج الخطية فقط النماذج التي تستخدم معادلة خطية لإجراء التنبؤات فحسب، بل تشمل أيضًا مجموعة أوسع من النماذج التي تستخدم معادلة خطية كمكون واحد فقط من المعادلة الذي ينشئ التنبؤات. على سبيل المثال، يعالج الانحدار اللوجستي التنبؤ الأولي (y) بعد ذلك ليُحصل على قيمة تنبؤ نهائية تتراوح بين 0 و1، بصورة حصرية.

---

الانحدار الخطّي

#fundamentals

يشير ذلك المصطلح إلى نوع من نماذج تعلُّم الآلة يكون فيه كلٌّ من الشرطَين التاليَين صحيحًا:

• النموذج هو نموذج خطي.
• التوقع هو قيمة النقطة العائمة. (هذا هو جزء الانحدار في الانحدار الخطي).

قارِن بين الانحدار الخطّي والانحدار اللوجستي. بالإضافة إلى ذلك، تباين الانحدار مع التصنيف.

الانحدار اللوجستي

#fundamentals

يشير ذلك المصطلح إلى نوع من نموذج الانحدار للتنبؤ باحتمالية. تتسم نماذج الانحدار اللوجستي بالخصائص التالية:

• التصنيف فئوي. يشير مصطلح الانحدار اللوجستي عادةً إلى الانحدار اللوجستي، أي إلى نموذج يحسب الاحتمالات للتصنيفات ذات القيمتين المحتملتين. هناك متغير أقل شيوعًا، وهو الانحدار اللوجستي متعدد الحدود، ويحسب احتمالات التصنيفات التي لها أكثر من قيمتين محتملتين.
• وظيفة فقدان البيانات أثناء التدريب هي فقدان السجل. (يمكن وضع وحدات الخسارة اللوغاريتمية المتعددة بشكل متواز للتصنيفات التي تحتوي على أكثر من قيمتين محتملتين).
• يتميز هذا النموذج ببنية خطية، وليس شبكة عصبية عميقة. ومع ذلك، ينطبق بقية هذا التعريف أيضًا على النماذج العميقة التي تتوقّع الاحتمالات للتصنيفات الفئوية.

على سبيل المثال، يمكن استخدام نموذج انحدار لوجستي يحسب احتمالية أن يكون أي بريد إلكتروني تم إدخاله غير مرغوب فيه أو ليس غير مرغوب فيه. أثناء الاستنتاج، لنفترض أن النموذج يتنبأ بـ 0.72. لذلك، فإن النموذج يقدر:

• احتمال بنسبة 72% أن تكون الرسالة الإلكترونية غير مرغوب فيها.
• احتمال بنسبة 28% ألا تكون الرسالة الإلكترونية غير مرغوب فيها.

يستخدم نموذج الانحدار اللوجستي البنية التالية المكونة من خطوتين:

1. وينشئ النموذج تنبؤًا أوليًا (y) عن طريق تطبيق دالة خطية لميزات الإدخال.
2. يستخدم النموذج ذلك التوقّع الأوّلي كمدخل إلى دالة سينية التي تحوِّل التوقّع الأوّلي إلى قيمة تتراوح بين 0 و1، باستثناء تلك الدالة.

مثل أي نموذج انحدار، يتنبأ نموذج الانحدار اللوجستي برقم. ومع ذلك، يصبح هذا الرقم عادةً جزءًا من نموذج التصنيف الثنائي على النحو التالي:

• إذا كان العدد المتوقَّع أكبر من حدّ التصنيف، يتوقّع نموذج التصنيف الثنائي الفئة الموجبة.
• إذا كان العدد المتوقّع أقل من حدّ التصنيف، يتنبأ نموذج التصنيف الثنائي بالفئة السالبة.

مقياس انخفاض القصور

#fundamentals

دالة الخسارة المستخدمة في الانحدار اللوجستي الثنائي.

انقر على الرمز للاطّلاع على العملية الحسابية.

تحسب الصيغة التالية مقياس انخفاض القصور:

$$\text{Log Loss} = \sum_{(x,y)\in D} -y\log(y') - (1 - y)\log(1 - y')$$

حيث:

• \((x,y)\in D\) هي مجموعة البيانات التي تحتوي على العديد من الأمثلة المصنّفة، مثل \((x,y)\) الأزواج.
• \(y\) هو التصنيف في مثال مصنَّف. بما أنّ هذا انحدار لوجستي، يجب أن تكون كل قيمة \(y\) إما 0 أو 1.
• \(y'\) هي القيمة المتوقّعة (تتراوح بين 0 و1، بشكل حصري)، وفقًا لمجموعة الميزات في \(x\).

---

لوغاريتم احتمالات الفوز والخسارة

#fundamentals

يشير ذلك المصطلح إلى لوغاريتم يوضِّح معدّل احتمالية وقوع حدث معيّن.

انقر على الرمز للاطّلاع على العملية الحسابية.

إذا كان الحدث احتمالاً ثنائيًا، تشير الاحتمالات إلى نسبة احتمالية النجاح (p) إلى احتمالية الفشل (1-p). على سبيل المثال، لنفترض أنّ حدثًا معيّنًا ينطوي على احتمالية نجاح بنسبة 90% واحتمالية إخفاق بنسبة 10%. في هذه الحالة، يتم حساب الاحتمالات على النحو التالي:

$$ {\text{odds}} = \frac{\text{p}} {\text{(1-p)}} = \frac{.9} {.1} = {\text{9}} $$

إن احتمالات لوغاريتم هي ببساطة لوغاريتم احتمالات الفوز والخسارة. ويشير مصطلح "اللوغاريتم" إلى اللوغاريتم الطبيعي، لكن اللوغاريتم يمكن أن يكون في الواقع أي أساس أكبر من 1. وبالتزام الاصطلاح، فإن احتمالات اللوغارتم في مثالنا تكون هكذا:

$$ {\text{log-odds}} = ln(9) ~= 2.2 $$

دالة لوغاريتم الفرص هي عكس الدالة السينية.

---

الخسارة

#fundamentals

أثناء تدريب نموذج خاضع للإشراف، يتم قياس مدى بُعد توقّعات النموذج عن علامته التجارية.

تحسب دالة الخسارة مقدار الخسارة.

منحنى الخسارة

#fundamentals

مخطط loss كدالة لعدد تكرارات للتدريب. يوضح المخطط التالي منحنى خسارة نموذجي:

يمكن أن تساعدك منحنيات الخسارة في تحديد متى يكون النموذج متداخلاً أو فرط التخصيص.

ويمكن أن توضح منحنيات الخسارة جميع أنواع الخسارة التالية:

• خسارة التدريب
• فقدان التحقق
• خسارة في اختبار الخسارة

راجِع أيضًا منحنى التعميم.

دالة الخسارة

#fundamentals

أثناء التدريب أو الاختبار، هي دالة رياضية تحسب الخسارة في مجموعة من الأمثلة. تعرض دالة الخسارة قيمة خسارة أقل للنماذج التي تقدّم تنبؤات جيدة مقارنةً بالنماذج التي تقدّم تنبؤات سيئة.

عادةً ما يكون الهدف من التدريب هو تقليل الخسارة التي تنتجها دالة الخسارة.

هناك العديد من الأنواع المختلفة لدوال الفقدان. اختر دالة الخسارة المناسبة لنوع النموذج الذي تقوم بإنشائه. مثلاً:

• الخسارة₂ (أو الخطأ التربيعي المتوسّط) هي دالة الخسارة في الانحدار الخطي.
• فقدان السجل هي دالة الخسارة في الانحدار اللوجستي.

ن

تعلُم الآلة

#fundamentals

يشير ذلك المصطلح إلى برنامج أو نظام يدرّب نموذجًا من البيانات التي يتم إدخالها. يمكن للنموذج المدرب تقديم تنبؤات مفيدة من بيانات جديدة (لم يتم رؤيتها من قبل) مأخوذة من نفس التوزيع كالذي تم استخدامه لتدريب النموذج.

يشير التعلم الآلي أيضًا إلى مجال الدراسة المعني بهذه البرامج أو الأنظمة.

طبقة الأغلبية

#fundamentals

التسمية الأكثر شيوعًا في مجموعة البيانات غير المتوازنة الفئوية. على سبيل المثال، بالنظر إلى مجموعة بيانات تحتوي على تسميات سالبة بنسبة 99٪ وتسميات إيجابية 1٪، فإن التسميات السلبية هي الفئة الأغلبية.

تباينها مع فئة الأقليات.

دفعة صغيرة

#fundamentals

مجموعة فرعية صغيرة يتم اختيارها عشوائيًا من مجموعة تتم معالجتها في تكرار واحد. ويتراوح حجم المجموعة عادةً بين 10 و1,000 مثال.

على سبيل المثال، لنفترض أن مجموعة التدريب بالكامل (المجموعة الكاملة) تتكون من 1000 مثال. لنفترض أيضًا أنّك ضبطت حجم الدفعة لكل دفعة صغيرة على 20. وبالتالي، يُحدِّد كل تكرار الخسارة في 20 مثالاً عشوائيًا من إجمالي 1,000 مثال، ثم يضبط القيم التقديرية والانحيازات وفقًا لذلك.

إن حساب الخسارة في دفعة صغيرة أكثر فاعلية من الخسارة في جميع الأمثلة في الدفعة الكاملة.

فئة الأقليات

#fundamentals

التصنيف الأقل شيوعًا في مجموعة البيانات غير المتوازنة الفئوية. على سبيل المثال، بالنظر إلى مجموعة بيانات تحتوي على تسميات سالبة بنسبة 99٪ وتسميات إيجابية 1٪، فإن التسميات الإيجابية هي فئة الأقلية.

الاختلاف مع فئة الغالبية.

انقر على الرمز للحصول على ملاحظات إضافية.

تبدو مجموعة التدريب التي تضم ملايين الأمثلة مثيرة للإعجاب. ومع ذلك، إذا تم تمثيل فئة الأقليات بشكل سيئ، فقد تكون مجموعة التدريب الكبيرة جدًا غير كافية. ركز أقل على العدد الإجمالي للأمثلة في مجموعة البيانات وأكثر على عدد الأمثلة في فئة الأقلية.

إذا كانت مجموعة البيانات لا تحتوي على أمثلة كافية لفئات الأقليات، نقترح استخدام downsampling (التعريف في النقطة الثانية) لاستكمال فئة الأقلية.

---

model

#fundamentals

وبشكل عام، هو أي بنية رياضية تعالج بيانات الإدخال وتعرض المخرجات. بصياغة مختلفة، فإن النموذج هو مجموعة المعلمات والبنية اللازمة للنظام لعمل التنبؤات. في التعلّم الآلي المُوجّه، يأخذ النموذج مثالاً كمدخل ويستنتج منه توقعًا. ضمن التعلم الآلي الخاضع للإشراف، تختلف النماذج إلى حد ما. مثلاً:

• يتكوّن نموذج الانحدار الخطّي من مجموعة من القيم التقديرية والانحياز.
• يتكوّن نموذج الشبكة العصبية مما يلي:
  • مجموعة من الطبقات المخفية، تحتوي كل منها على خلية عصبية واحدة أو أكثر.
  • الأوزان والانحياز المرتبط بكل خلية عصبية.
• يتألف نموذج شجرة القرار من ما يلي:
  • شكل الشجرة، أي النمط الذي تترابط فيه الظروف والأوراق.
  • الأحوال الجوية والأوراق.

يمكنك حفظ نموذج أو استعادته أو إنشاء نُسخ منه.

ينشئ التعلُّم الآلي غير المُوجّه أيضًا نماذج، عادةً ما تكون وظيفة يمكنها ربط مثال إدخال في المجموعة الأكثر ملاءمةً.

انقر على الرمز للمقارنة بين وظائف الجبر والبرمجة بنماذج تعلُّم الآلة.

تعتبر الدالة الجبرية كما يلي نموذج:

  f(x, y) = 3x -5xy + y2 + 17

تربط الدالة السابقة قيم الإدخال (x وy) بالناتج.

وبالمثل، فإن دالة البرمجة مثل ما يلي هي أيضًا نموذج:

def half_of_greater(x, y):
  if (x > y):
    return(x / 2)
  else
    return(y / 2)

يمرر المتصل الوسيطات إلى دالة بايثون السابقة، وتنشئ دالة بايثون إخراجًا (عبر عبارة return).

على الرغم من أنّ الشبكة العصبية العميقة لديها بنية رياضية مختلفة جدًا عن دالة الجبر أو دالة البرمجة، إلا أنّ الشبكة العصبية العميقة لا تزال تأخذ البيانات (على سبيل المثال)، وتُرجع الناتج (التوقّع).

يرمز مبرمج بشري إحدى وظائف البرمجة يدويًا. في المقابل، يتعلّم نموذج تعلُّم الآلة تدريجيًا المعاملات المثلى أثناء التدريب الآلي.

---

التصنيف المتعدّد الفئات

#fundamentals

في التعلم المُوجّه، يشير ذلك المصطلح إلى مشكلة التصنيف التي تحتوي فيها مجموعة البيانات على أكثر من فئتين من التصنيفات. على سبيل المثال، يجب أن تكون التسميات الموجودة في مجموعة بيانات Iris واحدة من الفئات الثلاث التالية:

• قزحية سيتوزا
• زهرة السوسن فيرجينيكا
• قزحية ملونة

هناك نموذج مدرَّب على مجموعة بيانات Iris الذي يتنبأ بنوع Iris على أمثلة جديدة هو إجراء التصنيف متعدد الفئات.

في المقابل، مشاكل التصنيف التي تميز بين فئتين تحديدًا هي نماذج التصنيف الثنائي. على سبيل المثال، نموذج البريد الإلكتروني الذي يتوقّع الرسائل غير المرغوب فيها أو ليس رسائل غير مرغوب فيها هو نموذج تصنيف ثنائي.

يشير التصنيف متعدد الفئات في مشكلات التجميع العنقودي إلى أكثر من مجموعتين.

N

فئة سلبية

#fundamentals

في التصنيف الثنائي، تعني إحدى الفئات إيجابية والأخرى سلبية. الفئة الموجبة هي الشيء أو الحدث الذي يختبر النموذج من أجله والفئة السالبة هي الاحتمال الآخر. مثلاً:

• قد تكون الفئة السلبية في الفحص الطبي "ليست ورمًا".
• قد تكون الفئة السلبية في مصنِّف البريد الإلكتروني "ليست رسائل غير مرغوب فيها".

على عكس الفئة الإيجابية.

شبكة عصبية

#fundamentals

model يحتوي على model واحدة على الأقل. الشبكة العصبية العميقة هي نوع من الشبكات العصبية التي تحتوي على أكثر من طبقة مخفية. على سبيل المثال، يوضح الرسم التخطيطي التالي شبكة عصبية عميقة تحتوي على طبقتين مخفيتين.

تتصل كل خلية عصبية في الشبكة العصبية بجميع العقد في الطبقة التالية. على سبيل المثال، نلاحظ في الرسم التخطيطي السابق أن كل خلية من الخلايا العصبية الثلاث في الطبقة المخفية الأولى تتصل بشكل منفصل بكل من الخليتين العصبيتين في الطبقة المخفية الثانية.

تُعرف الشبكات العصبية المنفَّذة على أجهزة الكمبيوتر أحيانًا باسم الشبكات العصبية الاصطناعية لتمييزها عن الشبكات العصبية الموجودة في الدماغ والأنظمة العصبية الأخرى.

قد تحاكي بعض الشبكات العصبية العلاقات غير الخطية المعقدة للغاية بين الخصائص المختلفة والتسمية.

يمكنك أيضًا الاطّلاع على الشبكة العصبية الالتفافية والشبكة العصبية المتكررة.

عصبون

#fundamentals

في التعلم الآلي، وحدة مميزة داخل طبقة مخفية من الشبكة العصبية. تقوم كل خلية عصبية بتنفيذ الإجراء المكون من خطوتين التالي:

1. لحساب المجموع المرجح لقيم الإدخال مضروبة في الأوزان المقابلة لها.
2. تمرير المجموع المرجّح كإدخال إلى دالة تفعيل

تقبل الخلية العصبية في أول طبقة مخفية مدخلات من قيم الخصائص في طبقة الإدخال. خلية عصبية في أي طبقة مخفية غير الأولى تقبل المدخلات من الخلايا العصبية في الطبقة المخفية السابقة. على سبيل المثال، تقبل خلية عصبية في الطبقة المخفية الثانية مدخلات من الخلايا العصبية في الطبقة المخفية الأولى.

يسلط الرسم التوضيحي التالي الضوء على خليتين عصبيتين وإدخالاتهما.

تحاكي خلية عصبية في الشبكة العصبية سلوك الخلايا العصبية في الدماغ وأجزاء أخرى من الأجهزة العصبية.

العقدة (الشبكة العصبية)

#fundamentals

خلية عصبية في طبقة مخفية.

غير خطي

#fundamentals

يشير ذلك المصطلح إلى علاقة بين متغيرين أو أكثر لا يمكن تمثيلها فقط من خلال الجمع والضرب. يمكن تمثيل العلاقة الخطية كخط، ولا يمكن تمثيل العلاقة غير الخطية كخط. على سبيل المثال، ضع في اعتبارك نموذجين يربط كل منهما ميزة واحدة بتسمية واحدة. النموذج على اليسار خطي والنموذج على اليمين غير خطي:

غير الثابتة

#fundamentals

يشير ذلك المصطلح إلى ميزة تتغير قيمها عبر سمة واحدة أو أكثر، وعادةً ما تكون مستندة إلى الوقت. فعلى سبيل المثال، ضع في الاعتبار الأمثلة التالية لأجهزة غير ثابتة:

• يختلف عدد ملابس السباحة التي تُباع في متجر معيّن باختلاف الموسم.
• كمية معينة من الفاكهة التي تم حصادها في منطقة معينة تساوي صفر لفترة طويلة من الزمن ولكنها كبيرة لفترة قصيرة.
• بسبب تغيُّر المناخ، يتغير متوسط درجات الحرارة السنوي.

اختَر تباينًا مع الثابتة.

تسوية

#fundamentals

بشكل عام، عملية تحويل النطاق الفعلي للمتغير إلى نطاق قياسي من القيم، مثل:

• -1 إلى 1+
• 0 إلى 1
• التوزيع الطبيعي

على سبيل المثال، لنفترض أن النطاق الفعلي للقيم لميزة معينة هو 800 إلى 2400. كجزء من هندسة الميزات، يمكنك تسوية القيم الفعلية وصولاً إلى نطاق قياسي، مثل 1- إلى 1+.

التسوية مهمة شائعة في هندسة الميزات. عادةً ما يتم تدريب النماذج بشكل أسرع (وتنتج عن ذلك توقعات أفضل) عندما يكون لكل ميزة عددية في متّجه الميزة النطاق نفسه تقريبًا.

بيانات عددية

#fundamentals

الميزات التي يتم تمثيلها كأعداد صحيحة أو أرقام ذات قيمة حقيقية. على سبيل المثال، من المحتمل أن يمثل نموذج تقييم المنزل حجم المنزل (بالقدم المربع أو بالمتر المربع) كبيانات رقمية. يشير تمثيل ميزة كبيانات عددية إلى أن قيم الميزة لها علاقة رياضية بالتسمية. أي أن عدد الأمتار المربعة في المنزل ربما تكون له علاقة رياضية بقيمة المنزل.

لا يجب تمثيل كل بيانات الأعداد الصحيحة كبيانات رقمية. على سبيل المثال، الرموز البريدية في بعض أجزاء العالم هي أعداد صحيحة، ولكن ينبغي عدم تمثيل الرموز البريدية الصحيحة كبيانات رقمية في النماذج. ويرجع ذلك إلى أنّ الرمز البريدي لـ 20000 ليس ضعف (أو نصف) فعالية الرمز البريدي 10000. علاوة على ذلك، على الرغم من أن الرموز البريدية المختلفة ترتبط بقيم عقارات مختلفة، لا يمكننا افتراض أن قيم العقارات في الرمز البريدي 20000 لها ضعف قيمة قيم العقارات للرمز البريدي 10000. ويجب تمثيل الرموز البريدية على أنّها بيانات فئوية بدلاً من ذلك.

تسمى الميزات الرقمية أحيانًا بالميزات المستمرة.

O

بلا إنترنت

#fundamentals

مرادف للدالة static.

الاستنتاج بلا اتصال بالإنترنت

#fundamentals

يشير ذلك المصطلح إلى عملية إنشاء نموذج لمجموعة من التوقّعات ثم تخزين هذه التوقّعات (حفظها) مؤقتًا. يمكن للتطبيقات بعد ذلك الوصول إلى التوقع المطلوب من ذاكرة التخزين المؤقت بدلاً من إعادة تشغيل النموذج.

على سبيل المثال، ضع في الاعتبار نموذجًا يُنشئ توقّعات الطقس المحلية (التوقعات) مرة كل أربع ساعات. بعد تشغيل كل نموذج، يخزّن النظام جميع توقعات الطقس المحلية مؤقتًا. وتسترد تطبيقات الطقس التوقعات من ذاكرة التخزين المؤقت.

يُسمى الاستنتاج بلا إنترنت أيضًا الاستنتاج الثابت.

تتعارض مع الاستنتاج على الإنترنت.

ترميز واحد فعال

#fundamentals

يمثل تمثيل البيانات الفئوية كمتجه حيث:

• تم ضبط عنصر واحد على 1.
• يتم ضبط جميع العناصر الأخرى على 0.

يُستخدم الترميز الأحادي بشكل شائع لتمثيل السلاسل أو المعرّفات التي تحتوي على مجموعة محدودة من القيم المحتملة. على سبيل المثال، لنفترض أنّ ميزة فئوية معيّنة تسمى Scandinavia، تشتمل على خمس قيم محتملة:

• "الدانمرك"
• "السويد"
• "النرويج"
• "فنلندا"
• "آيسلندا"

يمكن أن يمثل الترميز الأحادي جميع القيم الخمس على النحو التالي:

بلد	المتجه
"الدانمرك"	1	0	0	0	0
"السويد"	0	1	0	0	0
"النرويج"	0	0	1	0	0
"فنلندا"	0	0	0	1	0
"آيسلندا"	0	0	0	0	1

فبفضل الترميز الأحادي، يستطيع النموذج أن يتعلم روابط مختلفة بناءً على كل بلد من البلدان الخمسة.

تمثِّل الميزة على شكل بيانات رقمية بديلاً للترميز الأحادي. لسوء الحظ، لا يعد تمثيل البلدان الاسكندنافية رقميًا اختيارًا جيدًا. على سبيل المثال، ضع في اعتبارك التمثيل الرقمي التالي:

• "الدانمرك" هي 0
• "السويد" 1
• "النرويج" هي 2
• "فنلندا" هي 3
• عيد "آيسلندا" هو 4

باستخدام الترميز الرقمي، يمكن أن يفسر النموذج الأرقام الأولية رياضيًا ويحاول التطبيق عليها. ومع ذلك، فإن أيسلندا ليست في الواقع ضعف (أو نصف ما) بقدر النرويج، لذلك كان النموذج يتوصل إلى بعض الاستنتاجات الغريبة.

واحد-مقابل-الكل

#fundamentals

بافتراض حدوث مشكلة تصنيف في الفئات N، يكون هذا الحل عبارة عن حل يتكون من مصنِّفات ثنائية منفصلة على N، أي مصنِّف ثنائي لكل نتيجة محتملة. على سبيل المثال، إذا كان هناك نموذج يصنف الأمثلة على أنها حيوان أو نباتي أو معدني، سيوفر الحل "واحد مقابل الكل" المصنِّفات الثنائية الثلاثة المنفصلة التالية:

• حيوان في مقابل ليس حيوانًا
• خضار مقابل غير نباتي
• معدني في مقابل غير معدنية

على الإنترنت

#fundamentals

مرادف لكلمة dynamic.

الاستنتاج على الإنترنت

#fundamentals

إنشاء توقّعات عند الطلب على سبيل المثال، افترض أن التطبيق يمرر المدخلات إلى نموذج ويصدر طلبًا للتنبؤ. يستجيب النظام الذي يستخدم الاستنتاج عبر الإنترنت للطلب من خلال تشغيل النموذج (وعرض التوقع إلى التطبيق).

تباينها مع الاستنتاج بلا اتصال بالإنترنت

الطبقة النهائية

#fundamentals

الطبقة "النهائية" للشبكة العصبية. تحتوي طبقة الإخراج على التنبؤ.

يُظهر الرسم التوضيحي التالي شبكة عصبية صغيرة عميقة تحتوي على طبقة إدخال وطبقتَين مخفيّتَين وطبقة إخراج:

فرط التخصيص

#fundamentals

إنشاء model يتطابق مع model إلى حد كبير بحيث يتعذّر على النموذج تقديم توقّعات صحيحة بشأن البيانات الجديدة

يمكن أن تؤدي التسوية إلى تقليل فرط التخصيص. يمكن أيضًا أن يقلل التدريب على مجموعة تدريب كبيرة ومتنوعة من فرط التخصيص.

انقر على الرمز للحصول على ملاحظات إضافية.

يشبه فرط التخصيص اتباع النصائح بدقة من مدرسك المفضل فقط. من المحتمل أن تكون ناجحًا في فصل هذا المعلم، ولكنك قد "تفرط" في أفكار ذلك المعلم ولن تنجح في الفصول الأخرى. سيساعدك اتباع نصائح مجموعة من المعلمين على التكيف بشكل أفضل مع المواقف الجديدة.

---

P

باندا

#fundamentals

واجهة برمجة تطبيقات لتحليل البيانات المستندة إلى الأعمدة تم إنشاؤها في numpy. تدعم العديد من أطر عمل التعلم الآلي، بما في ذلك TensorFlow، هياكل بيانات الباندا كمدخلات. راجع وثائق pandas للحصول على تفاصيل.

معلَمة

#fundamentals

القيم التقديرية والانحيازات التي يتعلّمها النموذج أثناء التدريب. على سبيل المثال، في نموذج الانحدار الخطي، تتكون المعلَمات من الانحياز (b) وجميع القيم التقديرية (w₁ وw₂، وما إلى ذلك) في الصيغة التالية:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

وفي المقابل، hyperparameter هي القيم التي توفِّرها أنت (أو خدمة تحويل المعلَمة الفائقة) إلى النموذج. على سبيل المثال، معدّل التعلّم هو معلَمة فائقة.

الفئة الموجبة

#fundamentals

الصف الذي تختبره.

على سبيل المثال، الفئة الموجبة في نموذج السرطان قد تكون "ورم". وقد تكون الفئة الإيجابية في مصنف البريد الإلكتروني هي "رسائل غير مرغوب فيها".

وتكون مختلفة عن الفئة السلبية.

انقر على الرمز للحصول على ملاحظات إضافية.

قد يكون مصطلح الفئة الإيجابية مربكًا لأن النتيجة "الإيجابية" للعديد من الاختبارات تكون غالبًا نتيجة غير مرغوب فيها. على سبيل المثال، الفئة الإيجابية في العديد من الاختبارات الطبية تتوافق مع الأورام أو الأمراض. بشكل عام، ينبغي أن يقول لك الطبيب، "تهانينا! كانت نتائج الاختبار سلبية". وبغض النظر عن ذلك، الفئة الموجبة هي الحدث الذي يسعى الاختبار إلى إيجاده.

لا داعي للقلق، فأنت تختبر في الوقت نفسه الفئتين الإيجابية والسلبية على حد سواء.

---

مرحلة ما بعد المعالجة

#fairness

#fundamentals

ضبط مخرجات النموذج بعد تشغيل النموذج. يمكن استخدام مرحلة ما بعد المعالجة لفرض قيود الإنصاف بدون تعديل النماذج نفسها.

على سبيل المثال، يمكن تطبيق مرحلة ما بعد المعالجة على مصنِّف ثنائي من خلال ضبط حدّ تصنيف يتم فيه الحفاظ على مساواة الفرص لبعض السمات، وذلك عن طريق التحقق من أنّ المعدل الموجبة الصحيح هو نفسه لجميع قيم هذه السمة.

التوقّع

#fundamentals

ناتج النموذج. مثلاً:

• التنبؤ بنموذج التصنيف الثنائي هو إما الفئة الموجبة أو الفئة السالبة.
• التنبؤ بنموذج التصنيف متعدد الفئات هو فئة واحدة.
• التنبؤ بأي نموذج انحدار خطّي هو رقم.

تصنيفات الخادم الوكيل

#fundamentals

لا تتوفر البيانات المستخدمة لتقريب التصنيفات بشكل مباشر في مجموعة بيانات.

على سبيل المثال، افترض أنه يجب عليك تدريب نموذج للتنبؤ بمستوى ضغط الموظف. تحتوي مجموعة البيانات على الكثير من الميزات القائمة على التوقّعات ولكنها لا تحتوي على تصنيف باسم مستوى الإجهاد. بدون شجاعة، يمكنك اختيار "حوادث مكان العمل" كتسمية وكيل لمستوى الإجهاد. بعد كل شيء، يتعرض الموظفون الذين يعانون من ضغط شديد للحوادث أكثر من الموظفين الهادئين. أم هو؟ ربما ترتفع حوادث مكان العمل وتنخفض بالفعل لأسباب متعددة.

كمثال ثانٍ، لنفترض أنك تريد هل تمطر؟ تصنيفًا منطقيًا لمجموعة البيانات، لكن مجموعة البيانات لا تحتوي على بيانات أمطار. وفي حال توفُّر الصور، يمكنك إنشاء صور لأشخاص يحملون مظلات كتسمية وكيل لـ هل تمطر؟ هل هذه تسمية وكيل جيدة؟ ربما، لكن الأشخاص في بعض الثقافات قد يكونون أكثر احتمالًا لحمل مظلات للحماية من الشمس أكثر من المطر.

غالبًا ما تكون تصنيفات الوكيل غير كاملة. إذا أمكن، اختر تسميات فعلية بدلاً من تسميات الوكيل. ومع ذلك، في حال عدم توفّر تصنيف فعلي، اختَر تصنيف الخادم الوكيل بعناية شديدًا، مع اختيار تصنيف الوكيل الأقل فظيعًا.

R

المصنِّف

#fundamentals

يشير ذلك المصطلح إلى شخص يقدّم تصنيفات لتقديم أمثلة. "المُعلِّق" هو اسم آخر للمصنِّف.

وحدة خطية مصحَّحة (ReLU)

#fundamentals

دالة تفعيل بالسلوك التالي:

• إذا كان الإدخال سالبًا أو صفرًا، يكون الناتج 0.
• إذا كان المُدخل موجبة، يكون المُخرج يساوي المُدخل.

مثلاً:

• إذا كان المُدخل -3، يكون المُخرج 0.
• إذا كان المدخل +3، يكون الناتج 3.0.

إليك مخطط ReLU:

تُعد ReLU دالة تنشيط شائعة للغاية. وعلى الرغم من أنّ سلوك ReLU بسيط، لا يزال بإمكان الشبكة العصبية تعلُّم العلاقات غير الخطية بين الميزات والتصنيف.

نموذج انحدار

#fundamentals

بشكل غير رسمي، النموذج الذي ينشئ توقعًا رقميًا. (على طرف النقيض، ينشئ نموذج التصنيف توقعًا للفئة). فعلى سبيل المثال، في ما يلي جميع نماذج الانحدار:

• يشير ذلك المصطلح إلى نموذج يتنبأ بقيمة منزل معين، مثل 423000 يورو.
• يشير ذلك المصطلح إلى نموذج يتنبأ بمتوسط العمر المتوقّع لشجرة معيّنة، مثل 23.2 عامًا.
• نموذج للتنبؤ بكمية الأمطار التي ستتساقط في مدينة معينة خلال الساعات الست القادمة، مثل 0.18 بوصة.

هناك نوعان شائعان من نماذج الانحدار هما:

• الانحدار الخطي: الذي يجد الخط الأنسب لقيم التسمية مع الميزات.
• الانحدار اللوجستي الذي يولد احتمالية بين 0.0 و1.0، حيث يحدد النظام عادةً توقّعًا لفئة معيّنة.

ليس كل نموذج ينتج تنبؤات رقمية هو نموذج انحدار. في بعض الحالات، يكون التنبؤ الرقمي مجرد نموذج تصنيف يتكوّن من أسماء فئات رقمية. على سبيل المثال، النموذج الذي يتنبأ برمز بريدي رقمي هو نموذج تصنيف وليس نموذج انحدار.

تسوية

#fundamentals

أي آلية تقلّل من فرط التخصيص وتشمل الأنواع الشائعة للتسوية ما يلي:

• تسوية₁
• تسوية₂
• تسوية حالات التسرّب
• التوقف مبكرًا (هذه ليست طريقة تنظيمية رسمية، ولكنها قد تحدّ بشكل فعّال من فرط التخصيص)

ويمكن أيضًا تعريف التسوية على أنها عقوبة على مدى تعقيد النموذج.

انقر على الرمز للحصول على ملاحظات إضافية.

التسوية أمر متعارض مع البديهية. إن زيادة تنظيم التدريب عادةً تؤدي إلى زيادة خسارة التدريب، وهو أمر محير، لأنه حسنًا، ليس الهدف هو تقليل خسارة التدريب؟

في الواقع، لا. الهدف ليس تقليل خسارة التدريب. الهدف هو تقديم تنبؤات ممتازة لأمثلة من العالم الحقيقي. بشكل ملحوظ، على الرغم من أن زيادة التنظيم تزيد من فقدان التدريب، إلا أنها عادةً ما تساعد النماذج في تقديم تنبؤات أفضل على أمثلة من العالم الحقيقي.

---

معدل التسوية

#fundamentals

رقم يحدد الأهمية النسبية للانتظام أثناء التدريب. تؤدي زيادة معدّل التنظيم إلى تقليل فرط التخصيص، ولكن قد يؤدي إلى تقليل القدرة التنبؤية للنموذج. وعلى العكس من ذلك، يؤدي تقليل معدل التسوية أو إغفاله إلى زيادة فرط التخصيص.

انقر على الرمز للاطّلاع على العملية الحسابية.

عادةً ما يتم تمثيل معدل التسوية بالحرف اليوناني lambda. توضح معادلة الخسارة المبسطة التالية تأثير لامدا:

$$\text{minimize(loss function + }\lambda\text{(regularization))}$$

التي يشير فيها التنظيم إلى أي آلية تنظيم، بما في ذلك:

• تسوية₁
• تسوية₂

---

ReLU

#fundamentals

يشير الاختصار إلى وحدة خطية يتم تنقيحها.

الجيل المعزز باسترداد البيانات

#fundamentals

يشير ذلك المصطلح إلى بنية برمجية يشيع استخدامها في تطبيقات نموذج اللغات الكبيرة (LLM). تشمل الدوافع الشائعة لاستخدام الإنشاء المعزز باسترداد البيانات ما يلي:

• زيادة الدقة الواقعية للاستجابات التي ينشئها النموذج
• منح النموذج إمكانية الوصول إلى المعرفة التي لم يتم التدريب عليها
• تغيير المعرفة التي يستخدمها النموذج
• تمكين النموذج من الاستشهاد بالمصادر

على سبيل المثال، لنفترض أنّ تطبيقًا للكيمياء يستخدم PaLM API لإنشاء ملخّصات ذات صلة بطلبات بحث المستخدمين. عندما تتلقّى الخلفية الخاصة بالتطبيق استعلامًا، تبحث الخلفية أولاً عن بيانات ("استرداد") ذات صلة بطلب البحث الخاص بالمستخدم، وتُلحق البيانات الكيميائية ذات الصلة باستعلام المستخدم، وتوجه النموذج اللغوي الكبير (LLM) لإنشاء ملخص بناءً على البيانات الملحقة.

منحنى ROC (خصائص تشغيل جهاز الاستقبال)

#fundamentals

رسم بياني للمعدّل الموجبة الصحيح مقابل معدّل الموجب الخاطئ لحدود التصنيف المختلفة في التصنيف الثنائي.

يشير شكل منحنى خاصية تشغيل جهاز الاستقبال إلى قدرة نموذج التصنيف الثنائي على فصل الفئات الموجبة عن الفئات السالبة. لنفترض، على سبيل المثال، أن نموذج التصنيف الثنائي يفصل تمامًا جميع الفئات السالبة عن جميع الفئات الإيجابية:

يبدو منحنى خاصية تشغيل جهاز الاستقبال للنموذج السابق على النحو التالي:

في المقابل، يرسم الرسم التوضيحي التالي قيم الانحدار اللوجستي الأولية لنموذج سيئ لا يمكنه فصل الفئات السالبة عن الفئات الإيجابية على الإطلاق:

يبدو منحنى خاصية تشغيل جهاز الاستقبال لهذا النموذج على النحو التالي:

وفي الوقت نفسه، في العالم الواقعي، تفصل معظم نماذج التصنيف الثنائي الفئات الإيجابية والسلبية إلى حد ما، ولكن ليس بشكل مثالي عادةً. لذلك، يقع منحنى ROC النموذجي في مكان ما بين الطرفين:

تعتبر النقطة الموجودة على منحنى خاصية تشغيل جهاز الاستقبال الأقرب إلى (0.0,1.0) تحدد نظريًا حد التصنيف المثالي. ومع ذلك، تؤثر العديد من مشكلات العالم الحقيقي على اختيار حد التصنيف المثالي. على سبيل المثال، ربما تسبب النتائج السالبة الخاطئة ألمًا أكبر بكثير من النتائج الموجبة الخاطئة.

يلخص مقياس عددي يسمى AUC منحنى ROC في قيمة نقطة عائمة واحدة.

جذر الخطأ التربيعي المتوسّط (RMSE)

#fundamentals

الجذر التربيعي للخطأ التربيعي المتوسّط.

S

الدالّة الإسية

#fundamentals

دالة رياضية "تضغط" على قيمة الإدخال في نطاق ضيق، عادةً من 0 إلى 1 أو من -1 إلى +1. وهذا يعني أنه يمكنك تمرير أي رقم (اثنان، مليون، مليار سالب، أو أي شيء) إلى الدالة السينية، وسيظل الناتج في النطاق المقيد. ويبدو مخطط دالة التفعيل السيني على النحو التالي:

هناك استخدامات متعددة للدالة السينية في التعلم الآلي، ومنها:

• تحويل الناتج الأولي لنموذج الانحدار اللوجستي أو الانحدار متعدد الحدود إلى احتمالية.
• العمل كدالة تنشيط في بعض الشبكات العصبية.

انقر على الرمز للاطّلاع على العملية الحسابية.

ويكون للدالة السينية على رقم إدخال x الصيغة التالية:

$$ sigmoid(x) = \frac{1}{1 + e^{-\text{x}}} $$

في التعلم الآلي، يشير x بشكل عام إلى المجموع المرجح.

---

softmax

#fundamentals

يشير ذلك المصطلح إلى دالة تحدِّد الاحتمالات لكل فئة محتملة في نموذج التصنيف المتعدّد الفئات. يصل مجموع الاحتمالات إلى 1.0 بالضبط. على سبيل المثال، يوضح الجدول التالي كيف يوزع softmax الاحتمالات المختلفة:

الصورة هي...	الاحتمالية
كلب	.85
هرّ	.13
حصان	.02

يُطلق على Softmax أيضًا اسم full softmax.

تتعارض مع عيّنات المرشحين.

انقر على الرمز للاطّلاع على العملية الحسابية.

في ما يلي معادلة softmax:

$$\sigma_i = \frac{e^{\text{z}_i}} {\sum_{j=1}^{j=K} {e^{\text{z}_j}}} $$

حيث:

• $\sigma_i$ هو خط متجه الإخراج. يحدد كل عنصر من عناصر متجه الإخراج احتمالية هذا العنصر. مجموع كل العناصر في خط متجه الإخراج هو 1.0. يحتوي متجه الإخراج على نفس عدد العناصر مثل متجه الإدخال، $z$.
• $z$ هو متجه الإدخال. يحتوي كل عنصر من متجه الإدخال على قيمة نقطة عائمة.
• $K$ هو عدد العناصر في متجه الإدخال (ومتجه الإخراج).

على سبيل المثال، لنفترض أن متجه الإدخال هو:

[1.2, 2.5, 1.8]

وبالتالي، تحسب softmax المقام على النحو التالي:

$$\text{denominator} = e^{1.2} + e^{2.5} + e^{1.8} = 21.552$$

ومن ثم تكون احتمالية softmax لكل عنصر هي:

$$\sigma_1 = \frac{e^{1.2}}{21.552} = 0.154 $$ $$\sigma_2 = \frac{e^{2.5}}{21.552} = 0.565 $$ $$\sigma_1 = \frac{e^{1.8}}{21.552} = 0.281 $$

إذن، يكون متجه الإخراج هو:

$$\sigma = [0.154, 0.565, 0.281]$$

مجموع العناصر الثلاثة في $\sigma$ هو 1.0. أخيرًا!

---

خاصية متنافية

#language

#fundamentals

ميزة تكون قيمها في الغالب صفر أو فارغة. فعلى سبيل المثال، تكون إحدى الخصائص التي تحتوي على قيمة 1 واحدة ومليون قيمة 0 ضئيلة. في المقابل، تتضمّن الميزة الكثيفة قيمًا لا تكون صفرًا أو فارغة في الغالب.

في التعلم الآلي، هناك عدد مفاجئ من الميزات يتسم بندرة ضئيلة. عادةً ما تكون الخصائص الفئوية ميزات قليلة. على سبيل المثال، من بين 300 نوع محتمل من الأشجار في الغابة، قد يحدد مثال واحد شجرة قيقب فقط. أو من بين الملايين من مقاطع الفيديو المحتملة في مكتبة الفيديو، قد يحدد مثال واحد "الدار البيضاء" فقط.

في النموذج، تمثل عادةً ميزات قليلة باستخدام ترميز واحد فعال. إذا كان الترميز الأحادي كبيرًا، يمكنك وضع طبقة تضمين فوق الترميز الأحادي اللون لزيادة الكفاءة.

تمثيل متناثر

#language

#fundamentals

تخزين مواضع العناصر غير الصفرية فقط في عنصر قليل.

على سبيل المثال، لنفترض أنّ ميزة فئوية تُسمى species تحدد 36 نوعًا من أنواع الأشجار في غابة معيّنة. وافترض أيضًا أنّ كل مثال يحدّد نوعًا واحدًا فقط.

يمكنك استخدام متجه حار واحد لتمثيل أنواع الأشجار في كل مثال. سيحتوي المتجه أحادي الاتجاه على 1 واحد (لتمثيل أنواع الأشجار المعيّنة في هذا المثال) و35 خطأ 0 (لتمثيل أنواع الأشجار الـ 35 وليس في هذا المثال). لذلك، قد يبدو التمثيل الحاد لـ maple على النحو التالي:

بدلاً من ذلك، سيحدد التمثيل المحدود ببساطة موضع أنواع معينة. إذا كان maple في الموضع 24، سيكون تمثيل maple البسيط على النحو التالي:

24

لاحظ أن التمثيل المحدود هو أكثر إحكاما بكثير من التمثيل الساخن الواحد.

ملاحظة: يجب عدم تمرير تمثيل بسيط كإدخال مباشر للميزة إلى النموذج. بدلاً من ذلك، عليك تحويل التمثيل المحدود إلى تمثيل واحد فعال قبل التدرّب عليه.

انقر فوق الأيقونة للحصول على مثال أكثر تعقيدًا قليلاً.

لنفترض أن كل مثال في نموذجك يجب أن يمثل الكلمات - وليس ترتيب تلك الكلمات - في جملة إنجليزية. تتألف اللغة الإنجليزية من حوالي 170,000 كلمة، لذا فإنّ اللغة الإنجليزية هي ميزة فئوية تحتوي على حوالي 170,000 عنصر. تستخدم معظم الجمل الإنجليزية جزءًا صغيرًا للغاية من هذه الكلمات البالغ عددها 170،000 كلمة، لذا من المؤكد تقريبًا أن مجموعة الكلمات في مثال واحد ستكون بيانات قليلة.

ضع في اعتبارك الجملة التالية:

My dog is a great dog

يمكنك استخدام صيغة من المتجه أحادي اللون لتمثيل الكلمات في هذه الجملة. في هذا المتغير، يمكن أن تحتوي الخلايا المتعددة في المتجه على قيمة غير صفرية. علاوة على ذلك، في هذا المتغير، يمكن أن تحتوي الخلية على عدد صحيح غير واحد. على الرغم من أن الكلمات "my" و"is" و"a" و "رائع" تظهر مرة واحدة فقط في الجملة، تظهر كلمة "كلب" مرتين. يؤدي استخدام هذا المتغير من المتجهات الساخنة واحدة لتمثيل الكلمات في هذه الجملة إلى إنشاء الخط المتجه التالي المكون من 170000 عنصر:

يمكن ببساطة أن يكون تمثيل الجملة نفسه على النحو التالي:

0: 1
26100: 2
45770: 1
58906: 1
91520: 1

---

انقر فوق الأيقونة إذا كنت مرتبكًا.

يربك مصطلح "التمثيل المتباين" الكثير من الأشخاص لأن التمثيل المحدود هو في حد ذاته ليس متجهًا بسيطًا. بدلاً من ذلك، فإن التمثيل المحدود هو في الواقع تمثيل كثيف لمتجه ضئيل. إنّ المرادفات تمثيل الفهرس أوضح بعض الشيء من "تمثيل تناقص".

---

متّجه متناثر

#fundamentals

يشير ذلك المصطلح إلى متّجه تكون قيمه في الغالب أصفار. راجع أيضًا الميزة قليلاً والندرة.

الخسارة التربيعية

#fundamentals

مرادف لكلمة L₂ فقدان.

ثابت

#fundamentals

شيء ما فعل مرة واحدة وليس بشكل مستمر. العبارتان ثابتة وبلا إنترنت هما مرادفات. في ما يلي الاستخدامات الشائعة للغات الثابتة وبلا اتصال بالإنترنت في تعلُّم الآلة:

• نموذج ثابت (أو نموذج بلا اتصال بالإنترنت) هو نموذج تم تدريبه مرة واحدة ثم يُستخدم لفترة من الوقت.
• التدريب الثابت (أو التدريب بلا إنترنت) هو عملية تدريب نموذج ثابت.
• الاستنتاج الثابت (أو الاستنتاج بلا إنترنت) هو عملية ينشئ من خلالها النموذج مجموعة من عبارات البحث المقترحة في كل مرّة.

التباين مع ديناميكية.

استنتاج ثابت

#fundamentals

مرادف للاستنتاج بلا اتصال بالإنترنت.

استقرارية

#fundamentals

يشير ذلك المصطلح إلى ميزة لا تتغيّر قيمها في سمة واحدة أو أكثر، وعادةً ما تكون وقتًا. على سبيل المثال، هناك ميزة تبدو قيمها كما هي في 2021 و2023 تعرض الاتساقية.

في العالم الحقيقي، هناك عدد قليل جدًا من الميزات التي تعرض ثباتًا. حتى الميزات المرادفة للثبات (مثل مستوى سطح البحر) تتغير بمرور الوقت.

تباينها مع عدم الحركة

انحدار التدرج العشوائي (SGD)

#fundamentals

خوارزمية انحدار التدرج التي يكون فيها حجم الدفعة واحدًا. بعبارة أخرى، تتدرب SGD على مثال واحد يتم اختياره بشكل عشوائي من مجموعة تدريب.

تعلُّم الآلة المراقَب

#fundamentals

يمكنك تدريب model باستخدام model وmodel المقابلة لها. تشبه تعلم الآلة المراقَب تعلم موضوع ما من خلال دراسة مجموعة من الأسئلة وإجاباتها المقابلة. بعد إتقان الربط بين الأسئلة والإجابات، يمكن للطالب بعد ذلك تقديم إجابات للأسئلة الجديدة (التي لم تتم رؤيتها من قبل) حول نفس الموضوع.

المقارنة مع تعلُّم الآلة غير المُوجّه

ميزة اصطناعية

#fundamentals

هي ميزة غير متوفّرة بين ميزات الإدخال، ولكنها مجمّعة من ميزة واحدة أو أكثر منها. تشمل طرق إنشاء الميزات الاصطناعية ما يلي:

• تجميع ميزة مستمرة في سلال النطاق.
• إنشاء حملة بين الميزات
• ضرب (أو قسمة) قيمة ميزة واحدة في قيمة(قيم) ميزة أخرى أو في نفسها. على سبيل المثال، إذا كان a وb هما ميزتا الإدخال، إليك أمثلة على الميزات الاصطناعية:
  • ab
  • a²
• تطبيق دالة متتابعة على قيمة ميزة. على سبيل المثال، إذا كانت c ميزة إدخال، في ما يلي أمثلة على الميزات الاصطناعية:
  • sin(c)
  • ln(c)

إنّ الميزات التي يتم إنشاؤها من خلال تسوية القيم أو التحجيم فقط لا تُعتبر ميزات اصطناعية.

T

اختبار فقدان البيانات

#fundamentals

مقياس يمثِّل خسارة نموذج مقابل مجموعة الاختبار. عند إنشاء model، عادةً ما تحاول تقليل فقدان الاختبار. ويرجع ذلك إلى أنّ الخسارة المنخفضة في الاختبار تمثّل إشارة جودة أقوى من فقدان التدريب أو انخفاض فقدان التحقق.

بسبب وجود فجوة كبيرة بين فقدان الاختبار وفقدان التدريب أو فقدان التحقق من الصحة، تشير أحيانًا إلى أنك بحاجة إلى زيادة معدل المراجعة.

تدريب

#fundamentals

يشير ذلك المصطلح إلى عملية تحديد المَعلمات (القيم التقديرية والانحيازية) التي تتألف من نموذج. أثناء التدريب، يقرأ النظام الأمثلة ويعدّل المَعلمات تدريجيًا. يستخدم التدريب كل مثال في أي مكان من بضع مرات إلى مليارات المرات.

فقدان التدريب

#fundamentals

مقياس يمثّل خسارة النموذج أثناء تكرار تدريبي مُعيَّن. على سبيل المثال، لنفترض أن دالة الخسارة هي متوسط الخطأ المربع. ربما تكون خسارة التدريب (متوسط الخطأ المربع) للتكرار العاشر هي 2.2، وخسارة التدريب للتكرار رقم 100 هي 1.9.

يوضِّح منحنى الخسارة مقدار خسارة التدريب مقابل عدد التكرارات. يقدم منحنى الخسارة التلميحات التالية حول التدريب:

• يعني الانحدار لأسفل أن النموذج يتحسن.
• يعني الانحدار لأعلى أن النموذج يزداد سوءًا.
• يعني الانحدار المستوي أن النموذج قد وصل إلى تقارب.

على سبيل المثال، يوضّح منحنى الخسارة التالي المثالي إلى حد ما:

• انحدار حاد إلى أسفل خلال التكرارات الأولية، مما يشير إلى تحسين سريع للنموذج.
• يشير هذا الانحدار إلى انحدار تدريجي (ولكنه لا يزال للأسفل) حتى اقتراب نهاية التدريب، ما يشير إلى مواصلة تحسين النموذج بوتيرة أبطأ نوعًا ما عن التكرارات الأولية.
• انحدار مسطح نحو نهاية التدريب، مما يشير إلى التقارب.

على الرغم من أهمية فقدان التدريب، يمكنك الاطّلاع أيضًا على التعميم.

الانحراف في خدمة التدريب

#fundamentals

الفرق بين أداء النموذج أثناء التدريب وأداء النموذج نفسه أثناء عرض الإعلانات.

مجموعة التدريب

#fundamentals

المجموعة الفرعية من مجموعة البيانات المستخدَمة لتدريب نموذج.

تقليديًا، يتم تقسيم الأمثلة في مجموعة البيانات إلى المجموعات الفرعية الثلاث التالية المختلفة:

• مجموعة تدريب
• مجموعة تحقق
• مجموعة اختبارية

من الناحية المثالية، يجب أن ينتمي كل مثال في مجموعة البيانات إلى مجموعة فرعية واحدة سابقة فقط. على سبيل المثال، يجب ألا ينتمي مثال واحد إلى كل من مجموعة التدريب ومجموعة التحقق من الصحة.

سالب صحيح (TN)

#fundamentals

مثال يتوقّع فيه النموذج بشكل صحيح الفئة السلبية: على سبيل المثال، يستنتج النموذج أنّ رسالة إلكترونية معيّنة ليست رسالة غير مرغوب فيها، وأنّ هذه الرسالة الإلكترونية هي في الواقع ليست رسالة غير مرغوب فيها.

موجب صحيح (TP)

#fundamentals

مثال يتوقّع فيه النموذج بشكل صحيح الفئة الإيجابية. على سبيل المثال، يستنتج النموذج أن رسالة بريد إلكتروني معينة هي رسالة غير مرغوب فيها، وأن هذه الرسالة الإلكترونية هي حقًا محتوى غير مرغوب فيه.

معدل الموجب الصحيح (TPR)

#fundamentals

مرادف لعبارة recall والمقصود:

$$\text{true positive rate} = \frac{\text{true positives}} {\text{true positives} + \text{false negatives}}$$

المعدل الموجب الصحيح هو المحور ص في منحنى خاصية تشغيل جهاز الاستقبال.

U

فرط التعميم

#fundamentals

إنتاج model ذي قدرة تنبؤية ضعيفة لأنّ النموذج لم يستوعب مدى تعقيد بيانات التدريب بالكامل. يمكن أن تتسبب العديد من المشكلات في فرط التخصيص، بما في ذلك:

• التدريب على مجموعة غير صحيحة من الميزات.
• التدريب لفترات قليلة جدًا من الحقبات أو بـ معدّل تعلُّم منخفض جدًا
• التدريب بمعدل منتظم مرتفع جدًا.
• توفير عدد قليل جدًا من الطبقات المخفية في شبكة عصبية عميقة

مثال غير مصنّف

#fundamentals

مثال يحتوي على ميزات ولكن بدون تصنيف. على سبيل المثال، يعرض الجدول التالي ثلاثة أمثلة غير مصنفة من نموذج تقييم منزل، لكل منها ثلاث ميزات ولكن بدون قيمة منزل:

عدد غرف النوم	عدد الحمّامات	عمر المنزل
3	2	15
2	1	72
4	2	34

في تعلُّم الآلة المراقَب، تتدرب النماذج على الأمثلة المصنّفة وتضع توقّعات على أمثلة غير مُصنَّفة.

في مرحلة التعلّم شبه الخاضعة للإشراف و غير الخاضعة للإشراف، يتم استخدام أمثلة غير مصنّفة أثناء التدريب.

تباين بين المثال غير المصنّف مع مثال مصنَّف.

تعلُّم الآلة غير المُوجّه

#clustering

#fundamentals

تدريب model للعثور على أنماط في مجموعة بيانات تكون عادةً مجموعة بيانات غير مصنَّفة.

إنّ الاستخدام الأكثر شيوعًا للتعلُّم الآلي غير المُوجّه هو تجميع البيانات في مجموعات من أمثلة متشابهة. على سبيل المثال، يمكن لخوارزمية التعلم الآلي غير المُوجّه تجميع الأغاني بناءً على خصائصها المختلفة. ويمكن أن تصبح المجموعات الناتجة مدخلاً لخوارزميات التعلّم الآلي الأخرى (على سبيل المثال، لخدمة اقتراح الموسيقى). يمكن أن يساعد التجميع العنقودي عندما تكون التسميات المفيدة نادرة أو غير موجودة. على سبيل المثال، في مجالات مثل مكافحة إساءة الاستخدام والاحتيال، يمكن أن تساعد المجموعات المستخدمين على فهم البيانات بشكل أفضل.

تتعارض مع تعلُّم الآلة المراقَب.

انقر على الرمز للحصول على ملاحظات إضافية.

يُعدّ تحليل المكوّنات الرئيسية (PCA) من الأمثلة الأخرى على تعلُّم الآلة غير المُوجّه. على سبيل المثال، إنّ استخدام PCA على مجموعة بيانات تحتوي على محتويات ملايين سلال التسوق قد يكشف عن أن عربات التسوق التي تحتوي على الليمون تحتوي أيضًا على مضادات الحموضة في كثير من الأحيان.

---

V

التحقق من الصحة

#fundamentals

تمثّل هذه السمة التقييم الأولي لجودة النموذج. تتحقّق عملية التحقق من جودة عبارات البحث المقترحة من خلال مقارنتها بمجموعة عمليات التحقق.

بما أنّ مجموعة التحقق تختلف عن مجموعة التدريب، تساعد عملية التحقق في الحماية من فرط التخصيص.

قد تفكر في تقييم النموذج مقابل التحقق الذي تم تحديده على أنه الجولة الأولى من الاختبار وتقييم النموذج في مقابل مجموعة الاختبار باعتبارها الجولة الثانية من الاختبار.

فقدان التحقق من الصحة

#fundamentals

مقياس يمثّل خسارة النموذج في مجموعة التحقّق أثناء تكرار معيّن للتدريب.

راجِع أيضًا منحنى التعميم.

مجموعة التحقّق

#fundamentals

هي مجموعة فرعية من مجموعة البيانات التي تُجري تقييمًا أوّليًا مقارنةً بنموذج مدرَّب. عادةً ما يتم تقييم النموذج الذي تم تدريبه بناءً على مجموعة التحقق عدة مرات قبل تقييم النموذج وفقًا لمجموعة الاختبار.

تقليديا، تقوم بتقسيم الأمثلة في مجموعة البيانات إلى المجموعات الفرعية الثلاث المميزة التالية:

• مجموعة تدريب
• مجموعة تحقّق
• مجموعة اختبارية

من الناحية المثالية، يجب أن ينتمي كل مثال في مجموعة البيانات إلى مجموعة فرعية واحدة سابقة فقط. على سبيل المثال، يجب ألا ينتمي مثال واحد إلى كل من مجموعة التدريب ومجموعة التحقق من الصحة.

واط

الوزن

#fundamentals

يشير ذلك المصطلح إلى قيمة يضربها النموذج في قيمة أخرى. التدريب هو عملية تحديد الأوزان المثالية للنموذج، الاستنتاج هو عملية استخدام الأوزان التي تم تعلُّمها لتقديم توقّعات.

انقر على الرمز لعرض مثال على معاملات الترجيح في نموذج خطي.

تخيل نموذجًا خطيًا يتضمّن ميزتَين. لنفترض أن التدريب يحدد المقاييس (والتحيز) التالية:

• قيمة التحيز، b، 2.2
• الوزن ₁ المرتبط بميزة واحدة هو 1.5.
• قيمة الوزن ₂ المرتبطة بالميزة الأخرى هي 0.4.

والآن تخيّل مثالاً يتضمن قيم الميزات التالية:

• قيمة ميزة واحدة، س₁، هي 6.
• قيمة الميزة الأخرى، x₂، هي 10.

يستخدم هذا النموذج الخطي الصيغة التالية لإنشاء توقع، y':

$$y' = b + w_1x_1 + w_2x_2$$

ومن ثم يكون التنبؤ على النحو التالي:

$$y' = 2.2 + (1.5)(6) + (0.4)(10) = 15.2$$

وإذا كان الترجيح 0، فلن تساهم الميزة المتجاوبة في النموذج. على سبيل المثال، إذا كانت قيمة w₁ هي 0، تكون قيمة x₁ غير ذات صلة.

---

المجموع المرجح

#fundamentals

مجموع جميع قيم الإدخال ذات الصلة مضروبة في الأحجام المقابلة لها. على سبيل المثال، لنفترض أن المدخلات ذات الصلة تتكون مما يلي:

قيمة الإدخال	الوزن الذي يمكن إدخاله
2	-1.3
-1	0.6
3	0.4

وبالتالي يكون المجموع المرجح هو:

weighted sum = (2)(-1.3) + (-1)(0.6) + (3)(0.4) = -2.0

المجموع المرجح هو وسيطة الإدخال إلى دالة تفعيل.

Z

تسوية الدرجة المعيارية

#fundamentals

أسلوب scaling يتم استبدال قيمة feature الأولية بقيمة نقطة عائمة تمثل عدد الانحرافات المعيارية عن متوسّط هذه الميزة. على سبيل المثال، ضع في الاعتبار ميزة يكون متوسطها 800 وانحرافها المعياري 100. يوضح الجدول التالي كيف يمكن لتسوية الدرجة المعيارية تعيين القيمة الأولية إلى الدرجة Z:

قيمة أساسية	الدرجة المعيارية
800	0
950	+1.5
575	-2.25

يتدرب نموذج التعلم الآلي بعد ذلك على الدرجات Z لهذه الميزة بدلاً من القيم الأولية.