الدرس 3 — قابلية التفسير
نموذج يعطي قراراً بلا سبب معروف مشكلة عملية وقانونية، لا مسألة فلسفية.
لماذا تهمّ فعلاً
ثلاثة أسباب مختلفة تماماً، ولكلٍّ منها جمهور مختلف:
للمتأثّر بالقرار. رُفِض طلب قرضك، أو استبعدت سيرتك، أو صُنِّفت حالتك. من حقّك معرفة السبب، ومن حقّك أن تعرف ما يمكن تغييره. وهذا ليس مطلباً عاطفياً: بلا تفسير، لا يمكن الاعتراض ولا التصحيح.
للفريق التقني. التفسير أداة تشخيص من الدرجة الأولى: يكشف أنّ النموذج يعتمد على سمة لا ينبغي أن يعتمد عليها، أو على طريق مختصر كتلك التي وصفها درس حدود الرؤية. كثير من الأخطاء الجدّية اكتُشفت بأدوات تفسير لا بمقاييس أداء.
للامتثال. قطاعات منظَّمة — مالية، وصحّية، وتوظيف — تُلزم بتبرير القرارات. والقرار غير القابل للتبرير قد يكون غير قانوني بصرف النظر عن دقّته.
نماذج شفّافة مقابل صندوق أسود
| شفّاف | صندوق أسود | |
|---|---|---|
| الأمثلة | انحدار خطّي، شجرة قرار صغيرة، قواعد | شبكات عميقة، تجمّعات كبيرة |
| التفسير | مباشر من بنية النموذج | يحتاج أدوات تقريبية |
| الأداء على الجدولي | جيّد غالباً | جيّد، بلا فارق كبير دائماً |
| الأداء على الصور والنصّ | ضعيف | الأفضل بفارق حاسم |
يُقال دائماً إنّ هناك مقايضة بين الدقّة والتفسير. وهذا أقلّ صحّةً ممّا يُشاع في البيانات الجدولية: انحدار مصمَّم جيّداً أو شجرة قرار محدودة العمق تقارب أداء نموذج معقّد في مسائل كثيرة، وتعطي تفسيراً مجّاناً. المقايضة حقيقية وحاسمة في الصور والنصّ والصوت. فإذا كانت بياناتك جدولية والقرار حسّاساً، جرّب النموذج الشفّاف أوّلاً وقِس الفارق فعلياً بدل افتراضه.
طرق التفسير
الأهمّية الكلّية للسمات
السؤال: ما السمات الأكثر تأثيراً في النموذج عموماً؟
تعطي: صورة عامّة عن ما يعتمد عليه النموذج.
لا تعطي: تفسيراً لقرار فردي. ولا تقول إن كانت السمة تدفع القرار إلى أعلى أو أسفل.
التفسير المحلّي
السؤال: لماذا أعطى النموذج هذا القرار لهذه الحالة تحديداً؟
تعطي: مساهمة كلّ سمة في هذا القرار بعينه، بإشارة واتّجاه. وهذا ما يُحتاج فعلاً عند الردّ على متأثّر.
حدودها: هي تقريب. الطرق المختلفة قد تعطي تفسيرات متباينة للحالة نفسها، وهذا وحده كافٍ للتحذير من التعامل معها كحقيقة.
التفسير المضادّ
السؤال: ما أصغر تغيير كان سيقلب القرار؟
تعطي: جواباً قابلاً للتنفيذ فعلياً: «لو كان دخلك أعلى بمقدار كذا، لكان القرار مختلفاً».
وهذا أنفع أنواع التفسير للمتأثّر بالقرار بفارق كبير، لأنّه يجيب سؤاله الحقيقي: ماذا أفعل؟ ولا يقتصر على وصف ما حدث.
خرائط الأهمّية في الصور
السؤال: أيّ مناطق في الصورة أثّرت في التوقّع؟
تعطي: مؤشّراً مرئياً مفيداً جدّاً في كشف الطرق المختصرة: نموذج «يشخّص المرض» بالنظر إلى علامة الجهاز في زاوية الصورة يُفتضَح فوراً بهذه الطريقة.
حدودها: تقول أين نظر النموذج لا لماذا. والمنطقة الصحيحة لا تعني بالضرورة السبب الصحيح.
الحدود التي يجب معرفتها
هذه فقرة مهمّة، لأنّ أدوات التفسير تُستخدَم غالباً بثقة أكبر ممّا تستحقّ.
التفسير تقريب لا حقيقة. الأدوات تبني نموذجاً مبسَّطاً يحاكي سلوك النموذج المعقّد محلّياً. والتفسير وصف لهذا التقريب، لا كشف لما جرى داخل النموذج فعلاً.
عدم الاستقرار. تغيير طفيف في المدخل قد يغيّر التفسير كثيراً بلا أن يغيّر القرار. وهذا يقوّض الثقة في تفسير فردي.
الارتباط ليس سبباً. التفسير يقول ما استخدمه النموذج، لا ما يسبّب الظاهرة في العالم. سمة عالية الأهمّية قد تكون بديلاً إحصائياً عن السبب الحقيقي.
قابلية التلاعب. أُظهِر أنّه يمكن بناء نماذج تعطي تفسيرات تبدو مقبولة وتخفي سلوكاً متحيّزاً. أي أنّ التفسير الحسن ليس ضماناً للسلوك الحسن.
الفارق بين المفهوم والمفيد. التفسير التقني قد يكون صحيحاً وغير مفهوم لمتلقّيه. والتفسير الموجَّه لعميل يحتاج صياغةً مختلفة تماماً عن التفسير الموجَّه لمهندس، وهذه مسألة تصميم لا خيار تقني.
الحقّ في التفسير
الاتّجاه التشريعي في أنظمة قانونية عديدة يقرّ حقوقاً للأشخاص أمام القرارات الآلية: أن يُعلَموا بأنّ القرار آلي، وأن يحصلوا على معلومات ذات معنى عن منطقه، وأن يطلبوا مراجعة بشرية، وأن يعترضوا.
والنقطة العملية الحاسمة: المراجعة البشرية يجب أن تكون حقيقية. موظّف يوافق على مخرج النموذج بلا قدرة فعلية على مخالفته ليس مراجعة بل ختماً. وهذا يقتضي أن يكون لديه المعلومات والوقت والصلاحية والحماية اللازمة للاعتراض.
في ثلاث جمل
قابلية التفسير تهمّ لثلاثة جماهير مختلفة: المتأثّر يحتاج معرفة ما يمكن تغييره، والفريق التقني يستخدمها لكشف الطرق المختصرة، والامتثال يفرضها في القطاعات المنظَّمة. والمقايضة المشهورة بين الدقّة والتفسير أضعف ممّا يُشاع في البيانات الجدولية، فينبغي تجربة النموذج الشفّاف أوّلاً وقياس الفارق فعلاً، والتفسير المضادّ أنفع الأنواع للمتأثّر لأنّه يجيب سؤاله عمّا يفعله. وأدوات التفسير تقريبية وغير مستقرّة وقابلة للتلاعب، فالتفسير الحسن ليس ضماناً للسلوك الحسن، والمراجعة البشرية لا تكون حقيقية إلّا إذا كان للمراجع القدرة الفعلية على مخالفة النموذج.
التالي — الدرس 4: الخصوصية ←