الوحدة 2 — مصادر التحيّز: الجمع والتوسيم والتاريخ

نموذج القرض في الخيط الأحمر يتعلّم من مئة ألف قرار قديم اتّخذها مستشارون بشريّون بين عامَي 2015 و2023. تبدو هذه القاعدة كنزًا؛ في الحقيقة هي مرآة تعكس، مع التاريخ، انحيازاته. تُميّز هذه الوحدة أربعة مصادر متمايزة للتحيّز، وتُبيّن أيّها يمكن إصلاحه بمزيد من البيانات، وأيّها يستلزم تدخّلًا مختلفًا.

تحيّز الاختيار: من نجمع، ومن لا

تحيّز الاختيار يظهر حين تختلف العيّنة المُتاحة عن الجمهور المستهدَف. في ملفّنا، جمهور القرض الحقيقيّ يشمل جميع الراشدين المقيمين؛ لكن قاعدة التدريب مقصورة على من قدَّم طلبًا، وأولئك يميلون إلى فئة اجتماعيّة محدّدة. ومن قدَّم طلبًا ثم رُفِض قبل التحليل لم يُدخَل إلى القاعدة أصلًا.

الرقم مُنبِّه: من بين مئة ألف طلب في القاعدة، 9 % فقط ينتمون إلى الفئة العمريّة 18–24، مع أنّ هذه الفئة تشكّل 15 % من العملاء المستهدَفين. النموذج الذي يتعلّم على هذه العيّنة سيمثّل هذه الفئة تمثيلًا ضعيفًا، فتكون نسبة الخطأ عليها أعلى بشكل بنيويّ.

الحلّ ليس دائمًا «جمع بيانات أكثر». أحيانًا يجب إعادة الوزن بصريح مؤشّر التحيّز (طرق re-weighting)، أو جمع مُستهدَف يُغطّي الفئات ناقصة التمثيل، أو إعلان صريح بأنّ النموذج غير مؤهَّل لتلك الفئة ورَبْطها بمستشار بشريّ.

تحيّز التوسيم: من يقول ماذا هو الصواب

في ملفّ القرض، «الصواب» هو التسمية مسدَّد أو مُتعثِّر بعد اثنَي عشر شهرًا. الاختيار يبدو حياديًّا؛ إلّا أنّه ليس كذلك.

لنأخذ حالة أنطوني: طلب قرضًا فرُفِض، فلجأ إلى مؤسّسة قرض مصغَّر، فسدَّد جيّدًا. مثله لن يظهر في قاعدة التدريب أبدًا لأنّه لم يمرّ عبرنا. في المقابل، تظهر حالة كريمة: قُبِلت لأنّ ملفّها الظاهر جيّد، ثم فَقَدت عملها بعد شهر ولم تسدّد. تسمية «مُتعثِّرة» صحيحة تقنيًّا، لكنّها لا تعكس جودة القرار الأصليّ، بل صدمة خارجيّة.

هذا هو الفصل بين النتيجة والقرار: النموذج يتعلّم أن يتوقّع نتيجة، لا أن يتّخذ القرار الصائب. حين تكون التسمية نفسها ملوَّثة بضجيج أو بمقياس نجاح متحيّز، فإنّ كلّ التحسينات اللاحقة تبني على أساس مائل.

التحيّز التاريخيّ: التاريخ في الأرقام

بعض المتغيّرات تلتقط قرارات تمييزيّة قديمة بشكل شرعيّ في الأرقام. مثال: متوسّط دخل الأسرة في الحيّ. الحيّ ليس متغيّرًا محميًّا في الغالب، لكنّه في كثير من المدن نتيجة قرون من العزل السكنيّ المرتبط بالأصل الاجتماعيّ أو الإثنيّ. النموذج الذي يستخدم الرمز البريديّ سيُعيد إنتاج هذا التمييز التاريخيّ، حتى دون أن يتعلّم عن الأصل الإثنيّ صراحةً.

هذا هو متغيّر الاستبدال أو proxy variable: متغيّر ظاهره حياديّ ولكنّه، في هذا السياق تحديدًا، ينوب عن متغيّر محميّ. حذفه لا يحلّ المشكلة بالضرورة، لأنّ متغيّرًا آخر (نوع الوظيفة، مثلًا، أو المؤسّسة التعليميّة) قد يلعب الدور نفسه.

كشف متغيّرات الاستبدال يمرّ بخطوة تحليلية بسيطة: تدريب نموذج مساعد يتوقّع المتغيّر المحميّ انطلاقًا من بقيّة المتغيّرات. إذا نجح النموذج المساعد بدقّة تفوق التخمين العشوائيّ بكثير، فذلك يعني أنّ المتغيّر المحميّ قابل للاسترجاع من الباقي، والحذف البسيط عاجز.

حلقة الرجعيّة: النموذج يصنع بياناته

هذا المصدر أخطر لأنّه يكبر مع الوقت. النموذج الحاليّ يقرّر من يحصل على قرض؛ العام القادم، لن نرى إلّا سلوك من قَبِلَهُم النموذج. النموذج الجديد سيتدرّب على هذه العيّنة ويستنتج قواعد تُفعِّل النمط نفسه، بل تُقوّيه.

يُدعى هذا حلقة الرجعيّة الإيجابيّة، وهي مسؤولة عن الانحرافات المستقرّة في أنظمة التوصية والتصنيف الائتمانيّ وتوجيه الشرطة التنبّئيّ. علاجه ليس تقنيًّا صرفًا: يستلزم حقن عشوائيّة تجريبيّة (قبول عيّنة صغيرة تحت العتبة لقياس أدائها) أو الاعتماد على مصادر مستقلّة (بيانات مكتب الائتمان بدل تاريخنا الداخليّ).

مثال مرقّم

على ملفّنا، قسمنا العيّنة حسب الجنس. المتغيّر «الجنس» غير مُستخدَم في النموذج. رغم ذلك:

المؤشّر	ذكور	إناث
نسبة القبول	68 %	54 %
متوسّط الدخل المعلَن	2 350 يورو	1 780 يورو
متغيّر «القطاع» = تربية أو صحّة	6 %	41 %

الفارق في القبول ليس صدفة: القطاع «تربية أو صحّة» يرتبط في نموذجنا بأجر أدنى ومسار مهنيّ أبطأ، ومن ثمّ باحتمال قبول أدنى. القطاع هنا متغيّر استبدال جزئيّ عن الجنس، وحذف المتغيّر «الجنس» من بيانات التدريب لم يحلّ شيئًا لأنّه لم يكن مستخدَمًا أصلًا. الوحدة القادمة تُقدّم مقاييس مضبوطة لتشخيص هذا النوع من الفوارق.

تحذير عمليّ

تنظيف البيانات لا يُلغي التحيّز الذي يسبق البيانات. أيّ تدخّل تقنيّ لا يُصلح خللًا في من قرَّرَ ماذا هو الصواب ولا في من لم يُمنَح فرصة الظهور في القاعدة.

الخلاصة

• تحيّز الاختيار يقصر التعلّم على من دخل القاعدة؛ يُعالَج بإعادة الوزن أو جمع مستهدَف، لا بالنموذج نفسه.
• تحيّز التوسيم ينشأ حين تكون التسمية نفسها نتيجة قرار متحيّز أو صدمة خارجيّة؛ يفصل النتيجة عن جودة القرار الأصليّ.
• التحيّز التاريخيّ ومتغيّرات الاستبدال تُدخل التمييز الشرعيّ في الأرقام؛ يُكشَف بنموذج مساعد يتوقّع المتغيّر المحميّ من الباقي.
• حلقة الرجعيّة تُقوّي الانحياز مع الوقت؛ تُكسَر بحقن عشوائيّة أو مصادر بيانات مستقلّة، لا بالتحسين وحده.

الوحدة القادمة: كيف نُترجم «الإنصاف» إلى ثلاثة مقاييس رياضيّة، ولماذا يستحيل تلبيتها كلّها معًا.