الوحدة 10 — مفاضلة التحيّز-التباين، مبرهَنة على مثال

هذه الوحدة التي تتلاقى فيها الدورة كلّها. فرط التعلّم وقصوره، الموصوفان بديهيّاً في دورة المقدّمة، يجدان هنا تفسيرهما الرياضي الدقيق: خطأ النموذج يتفكّك إلى حدّين متضادّين، التحيّز والتباين، ومعرفةُ كيف نتعلّم هي معرفةُ كيف نوازنهما.

تفكيك الخطأ

الخطأ الذي يرتكبه نموذجٌ على بيانات جديدة ينقسم إلى ثلاثة أجزاء:

$$\text{الخطأ} = \text{التحيّز}^2 + \text{التباين} + \text{الضجيج غير القابل للاختزال}$$

• التحيّز يقيس الخطأ الناجم عن فرضيات مفرطة البساطة: النموذج جامدٌ أكثر من أن يلتقط بنية البيانات الحقيقية.
• التباين يقيس حسّاسية النموذج لبيانات التدريب المحدّدة: غيّر العيّنة قليلاً، فيتغيّر النموذج كثيراً.
• الضجيج غير القابل للاختزال هو العشوائية المتأصّلة في البيانات، لا يمحوها أيّ نموذج.

لا نملك التأثير إلا في الأوّلين — وهنا كامل الرهان — وهما يشدّان في اتّجاهين متعاكسين.

مثال الهدف: أربع حالات

الصورة الكلاسيكية لوحة سهام. المركز هو الحقيقة؛ وكلّ سهم نموذجٌ دُرِّب على عيّنة مختلفة.

• تحيّز منخفض، تباين منخفض: سهامٌ متجمّعة في المركز. المثال الأمثل.
• تحيّز عالٍ، تباين منخفض: سهامٌ متجمّعة لكن بعيدة عن المركز. النموذج ثابت… وثابتُ الخطأ: قصور التعلّم.
• تحيّز منخفض، تباين عالٍ: سهامٌ في المركز وسطيّاً لكن مبعثرة. يصيب عموماً لكنه يعتمد على العيّنة أكثر ممّا ينبغي: فرط التعلّم.
• تحيّز عالٍ، تباين عالٍ: الأسوأ، مبعثرٌ ومنحرف.

منحنى U: قلب المفاضلة

كلّما ازداد النموذج تعقيداً (معاملات أكثر، مرونة أكبر)، هبط تحيّزه — يعانق البيانات أفضل. لكن يرتفع تباينه — يلتصق بالتفاصيل وضجيج العيّنة. والخطأ الكلّي يتبع منحنى U:

النقطة المثلى ليست أبسط نموذج ولا أعقده، بل الذي يصغّر المجموع. وهذا بالضبط ما تكشفه الفجوة بين خطأ التدريب وخطأ التحقّق، كما وُصف في دورة المقدّمة: فجوة كبيرة تفضح تبايناً مفرطاً (فرط تعلّم)؛ وخطآن عاليان ومتقاربان يفضحان تحيّزاً مفرطاً (قصور تعلّم).

الروافع لتحقيق التوازن

هذه المفاضلة ليست قدراً يُتحمَّل؛ بل نقودها:

• خفض التباين: بيانات تدريب أكثر، تنظيم ($L_1$/$L_2$، الذي يعاقب الأوزان الكبيرة جداً — استعمالٌ مباشر لمعايير الوحدة 3)، نماذج تجميعية كالغابات العشوائية.
• خفض التحيّز: نموذج أكثر تعبيريّة، خصائص أفضل (دورة هندسة الخصائص)، تدريب أطول.

يستحقّ التنظيم ذكراً خاصّاً: يضيف إلى الكلفة عقوبةً على حجم الأوزان، مرغِماً النموذج على البقاء بسيطاً. وهو أكثر تحكّم مباشر بالتباين، ومن أكثر الأدوات استعمالاً عمليّاً.

الخيط الأحمر للدورة كلّها

هذه المفاضلة سبب وجود رياضيات هذه الدورة. الجبر الخطّي يبني النموذج (الوحدات 1-4)؛ والتفاضل يدرّبه (الوحدتان 5-6)؛ والاحتمالات والإحصاء تقيّم لايقينه وتشتّته (الوحدات 7-9). ومفاضلة التحيّز-التباين هي التركيب: تقول لماذا لا يكون النموذج الأقوى دائماً الأفضل، ولماذا يقتضي الحكم على نموذجٍ دائماً بياناتٍ لم يرها قطّ.

الخلاصة

• ينقسم الخطأ إلى تحيّز² (فرضيات مفرطة البساطة)، وتباين (حسّاسية للعيّنة)، وضجيج غير قابل للاختزال.
• التحيّز والتباين يتعارضان: التعقيد يخفض التحيّز لكن يرفع التباين، ومن هنا منحنى U للخطأ الكلّي.
• تحيّز عالٍ = قصور تعلّم؛ تباين عالٍ = فرط تعلّم؛ والأمثل يوازن بينهما، تكشفه فجوة التدريب/التحقّق.
• نقود المفاضلة: بيانات أكثر وتنظيم ضدّ التباين؛ ونموذج أكثر تعبيريّة وخصائص أفضل ضدّ التحيّز.

الوحدة التالية: المراجعة العامّة والاختبار الذي يصدّق إتقانك رياضيات الذكاء الاصطناعي.