الوحدة 4 — القابلية للتفسير: LIME وSHAP وحدودهما

طلب مدقّق الوصول إلى تفسير لكلّ قرض مرفوض. طالب أنطوني بمعرفة لماذا رُفض تحديدًا. طلبت اللجنة الأخلاقيّة أن نفهم ما الّذي يقود النموذج بشكل عامّ. ثلاث حاجات مختلفة، وتقنيّتَان مركزيّتان: LIME للتفسير المحلّي بالتقريب، وSHAP للتفسير المحلّي والعامّ بقيم شابلي.

اختلاف مركزيّ: محلّي أم عامّ

التفسير المحلّي يجيب عن سؤال: «لماذا اتّخذ النموذج هذا القرار لهذا الفرد؟». مفيد للمستخدم، وللاعتراض، وللدعم القانونيّ.

التفسير العامّ يجيب عن سؤال: «كيف يتصرّف النموذج على العموم؟». مفيد للحوكمة، وللمقارنة بين نسختَين من النموذج، ولاختيار المتغيّرات في تكرار قادم.

الخلط بين المستويَين مصدر خلافات كثيرة. حين نقول «الدخل هو المتغيّر الأهمّ» فذلك بيان عامّ؛ لا يعني بالضرورة أنّ الدخل هو ما أدّى إلى رفض ملفّ محدَّد اليوم.

LIME: تقريب محلّي بنموذج بسيط

يعمل LIME بشكل حَدسيّ: حول المثال المُراد تفسيره، يُولّد آلاف الاختلافات الصغيرة (بتشويش أو حذف متغيّرات)، ويستفسر النموذج الكامل عن كلّ منها، ثمّ يُقرّب سلوكه محلّيًّا بنموذج خطّي بسيط (انحدار لوجستيّ في الغالب).

from lime.lime_tabular import LimeTabularExplainer

explainer = LimeTabularExplainer(
    training_data=X_tr.values,
    feature_names=X_tr.columns.tolist(),
    class_names=["refus", "accord"],
    discretize_continuous=True,
)

exp = explainer.explain_instance(
    data_row=X_te.iloc[42].values,
    predict_fn=modele.predict_proba,
    num_features=8,
)
exp.show_in_notebook()

المخرج قائمة بالمتغيّرات الثمانية الأكثر تأثيرًا، مع علامة كلّ منها. حَدسيّ ومفيد للأشرحة السريعة.

الحدّ الأكبر لـLIME: عدم الاستقرار. تكرار التفسير على المثال نفسه مرّتَين متتاليتَين قد يُنتج مجموعتَين مختلفتَين من المتغيّرات، لأنّ التوليد العشوائيّ للاختلافات يُغيّر التقريب المحلّي. على قاعدتنا، وجدنا أنّ 12 % من التفسيرات لا تتّفق مع نفسها بين تشغيلَين، وأنّ ترتيب المتغيّرات الأول والثاني ينقلب في 6 % من الحالات. هذا يفسّر لماذا لا يُقبَل LIME وحده في سياق تنظيميّ صارم.

SHAP: قيم شابلي، مؤسَّسة على نظريّة اللعب

قيم شابلي — من نظريّة اللعب التعاونيّة — تُوزّع «مكسبًا» بين لاعبين بشكل عادل بحسب مساهمة كلّ منهم. طبَّق لُنْدبيرغ ولي هذا المفهوم على تفسير النماذج في 2017: كلّ متغيّر «لاعب»، والمكسب هو الفرق بين توقّع النموذج وتوقّعه الأساسيّ (بالمتوسّط).

للـSHAP خصائص ثلاث مرغوبة: الجمع (مجموع القيم = الفرق عن التوقّع الأساسيّ)، واتّساق (المتغيّر الأهمّ فعليًّا يحصل على قيمة أكبر)، والتمثيل الوحيد (لا توجد تفسيرات متنافسة تفي بالخصائص).

import shap

# TreeExplainer pour un modèle à base d'arbres
explainer = shap.TreeExplainer(modele_arbre)
shap_values = explainer.shap_values(X_te)

# Explication locale (ملفّ رقم 42)
shap.force_plot(explainer.expected_value,
                shap_values[42], X_te.iloc[42])

# Explication globale (ملخّص المتغيّرات)
shap.summary_plot(shap_values, X_te)

مخطّط summary_plot يعرض المتغيّرات مرتَّبة بأهمّيتها، مع اتّجاه أثر كلّ قيمة. على نموذجنا، رأينا أنّ نسبة الأقساط إلى الدخل هي المتغيّر الأول، يليه مدّة الوظيفة الحاليّة، ثمّ نوع القطاع. المتغيّر الأخير مقلق لأنّه قد يكون متغيّر استبدال (الوحدة 2).

SHAP أكثر تكلفة حاسوبيّة من LIME، لكنّه قابل للتكرار: تفسيران للمثال نفسه يُعطيان القيم نفسها بالضبط. هذا يجعله المرجع في السياقات التنظيميّة.

التفسير ليس تبريرًا

هذه النقطة الأخلاقيّة المركزيّة. حين يقول SHAP إنّ «نسبة الأقساط 40 %» ساهمت بـ$-0.18$ في احتمال القبول، فهو يقول ما فعله النموذج. لا يقول ما إذا كان ذلك مشروعًا. الحدّ 40 % قد يكون مفروضًا بقاعدة داخليّة، أو مقلَّدًا من قرارات مستشارين متحيّزين، أو منطقيًّا اقتصاديًّا. التمييز بين الثلاثة لا يقوم به SHAP، بل يقوم به إنسان يفحص السياق.

خلط الاثنَين مصدر إساءات معروفة: «النموذج قال إنّ الحيّ سبب الرفض» ليس تبريرًا. الحيّ في هذا السياق قد يكون متغيّر استبدال عن أصل إثنيّ، والاستشهاد بمخرج SHAP لا يُطهّر القرار من التمييز.

بديل: النماذج القابلة للتفسير أصلًا

قبل أن تُلجأ إلى تفسير نموذج غير شفّاف، اسأل: هل يمكن استخدام نموذج قابل للتفسير بطبيعته؟ الانحدار اللوجستيّ بمعاملات مرئيّة، شجرة قرار ذات عمق محدود، ونماذج EBM (ExplainableBoostingClassifier في interpret) تُعطي دقّة قريبة من نماذج التعزيز التدرّجيّ على البيانات الجدوليّة، مع تفسير ذاتيّ. سينثيا رودين تُدافع منذ 2019 عن هذه المقاربة في الاختصاصات ذات الرهانات العالية: لا تُفسّر صندوقًا أسود، بل لا تبنِه أصلًا.

ما يجب ألّا تفعله

لا تعرض على المستخدم مخطّط SHAP خامًا كتفسير. المخطّط لغة تقنيّة. التزم الأسباب الثلاثة الأكثر وزنًا بلغة طبيعيّة، مع مرجع الطعن. المخطّطات للفريق الداخليّ، والتقارير للمدقّق.

الخلاصة

• التفسير المحلّي للفرد، والتفسير العامّ للنموذج ككلّ؛ لا يُختزل أحدهما في الآخر.
• LIME بسيط ومفيد لكنّه غير مستقرّ؛ ينبغي فحص استقراره قبل الاستشهاد به.
• SHAP مؤسَّس على نظريّة اللعب، قابل للتكرار، ومرجع في السياقات التنظيميّة؛ خصائصه هي الجمع والاتّساق والوحدة.
• التفسير ليس تبريرًا: يقول ما فعله النموذج، لا ما إذا كان ذلك مشروعًا؛ والاختيار الأنظف قد يكون نموذجًا قابلًا للتفسير بطبيعته.

الوحدة القادمة: الخصوصية، وكيف نُوازن بين قابلية استخدام البيانات وحقّ الأفراد في عدم التعرّف.