الوحدة 3 — مقاييس الإنصاف وتعارضاتها

اتّفق فريق الحوكمة على مبدأ الإنصاف. الخطوة التالية: تحويله إلى رقم. لا يوجد رقم واحد، بل ثلاثة كبار، وقد أُثبت رياضيًّا أنّه لا يمكن تلبيتها جميعًا في آن واحد إلّا في حالات مثاليّة نادرًا ما تتحقّق. تختار هذه الوحدة بينها بحجّة معلنة، ثمّ تُطبّق Fairlearn على نموذج القرض.

ثلاثة تعريفات، ثلاث نوايا

نقيس النموذج على متغيّر محميّ $A$ (مثلًا الجنس)، مع مخرج $\hat{Y}$ (قبول/رفض) وحقيقة $Y$ (سدّد/لم يسدّد).

التكافؤ الديمغرافيّ يفرض تساوي نسبة القبول بين المجموعات: $P(\hat{Y}=1 \mid A=a) = P(\hat{Y}=1 \mid A=b)$. النيّة: نتائج متساوية، بصرف النظر عن أيّ متغيّر. مناسب حين يُشتبَه في أنّ التسمية الحقيقيّة $Y$ نفسها متحيّزة.

تكافؤ الفرص يفرض تساوي معدّل الاسترجاع للفئة الإيجابيّة الحقيقيّة: $P(\hat{Y}=1 \mid Y=1, A=a) = P(\hat{Y}=1 \mid Y=1, A=b)$. النيّة: من يستحقّ القرض يحصل عليه بنفس الاحتمال في كلّ مجموعة. مناسب حين نثق بأنّ التسمية $Y$ عادلة نسبيًّا.

المعايرة حسب المجموعة تفرض أنّ درجة الاحتماليّة تعني الشيء نفسه عبر المجموعات: $P(Y=1 \mid \hat{P}=p, A=a) = P(Y=1 \mid \hat{P}=p, A=b)$. النيّة: القرار قابل للتفسير برقم واحد يعني ما يقول. مناسب في البيئات المُنظَّمة الّتي تعتمد على الدرجة.

مبرهنة الاستحالة، بلغة بسيطة

أثبت شليماير وآخرون في 2016 أنّه إذا كانت النسبة الأساسيّة للفئة الإيجابيّة تختلف بين المجموعتَين — وهذا ما يقع في معظم الحالات الحقيقيّة — فمن المستحيل رياضيًّا إشباع تكافؤ الفرص والمعايرة وتساوي معدّل الأخطاء السلبيّة في آن واحد. عبارة قصيرة: إذا لم يكن العالم متساويًا مسبقًا، اختر مقياسك الأخلاقيّ.

هذه ليست نكسة، بل تحرير: تُلزمك بأن تُعلن أيّ خطأ تُفضّل الاحتفاظ به. لا يمكن إخفاء الاختيار خلف صياغة تقنيّة.

اختيار مقياس، وسبب

على ملفّ القرض، اخترنا تكافؤ الفرص لسببين. الأوّل: التسمية $Y =$ «مسدَّد» موضوعيّة نسبيًّا؛ لا يقول لنا مستشار بشريّ ما إذا كنت ستسدّد، بل يقول الواقع بعد اثنَي عشر شهرًا. الثاني: الجهة المنظِّمة تطالب بأن لا يُرفَض ملفّ مؤهَّل بسبب انتمائه، وهذا هو ما يقيسه تكافؤ الفرص بالضبط.

قرّرنا كتابيًّا أنّنا نقبل تفاوتًا في نسبة القبول (خرق التكافؤ الديمغرافيّ) بحدود عشر نقاط، إذا كان تكافؤ الفرص مستوفى في حدود ثلاث نقاط. هذا الاختيار مسجَّل في بطاقة النموذج (الوحدة 6).

Fairlearn على الخيط الأحمر

يُوفّر Fairlearn ثلاث فئات من الأدوات: قياس الفوارق، تخفيف من داخل التعلّم، وتخفيف لاحق على المخرج.

import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from fairlearn.metrics import (
    MetricFrame, selection_rate,
    true_positive_rate, false_positive_rate,
    demographic_parity_difference,
    equalized_odds_difference,
)

df = pd.read_parquet("credits.parquet")
sensitive = df["genre"]
X = df.drop(columns=["genre", "rembourse"])
y = df["rembourse"]

X_tr, X_te, y_tr, y_te, s_tr, s_te = train_test_split(
    X, y, sensitive, test_size=0.3, stratify=y, random_state=0
)

modele = LogisticRegression(max_iter=1000).fit(X_tr, y_tr)
y_pred = modele.predict(X_te)

cadre = MetricFrame(
    metrics={
        "taux_acceptation": selection_rate,
        "rappel": true_positive_rate,
        "faux_positifs": false_positive_rate,
    },
    y_true=y_te, y_pred=y_pred, sensitive_features=s_te,
)
print(cadre.by_group)

print("écart de parité démographique :",
      demographic_parity_difference(y_te, y_pred, sensitive_features=s_te))
print("écart d'égalité des chances :",
      equalized_odds_difference(y_te, y_pred, sensitive_features=s_te))

ينتج هذا جدولًا بمقياس لكلّ مجموعة، ثم رقمَين اختصاريَّين. على قاعدتنا، وجدنا فارقًا في التكافؤ الديمغرافيّ بلغ 0.14، وفارقًا في تكافؤ الفرص بلغ 0.09. المقياس المُختار لا يزال خارج العتبة.

التخفيف: قبل التدريب أم بعده

Fairlearn يقدّم مُخفِّف ExponentiatedGradient الذي يُعيد صياغة التعلّم كمشكلة تحسين تحت قيد الإنصاف. تطبيقه على نموذجنا خفّض فارق تكافؤ الفرص إلى 0.02، مقابل خسارة 1.3 نقطة في الدقّة الإجماليّة. المبادلة كتبت وسُلِّمت إلى مالك المنتج.

بديل: التصحيح اللاحق بـThresholdOptimizer الذي يختار عتبة مختلفة لكلّ مجموعة. يعطي نتائج مماثلة لكنّه يستدعي سؤالًا حقوقيًّا: هل يُسمَح باستخدام المتغيّر المحميّ صراحةً في وقت الاستدلال؟ الجواب يختلف بحسب الاختصاص القضائيّ (الوحدة 9).

قاعدة اتّخاذ القرار

اختر المقياس بحسب درجة الثقة في التسمية الحقيقيّة: تسمية موضوعيّة نسبيًّا تدعم تكافؤ الفرص؛ تسمية مشبوهة تدفع نحو التكافؤ الديمغرافيّ. في كلّ الحالات، اكتب الاختيار قبل التدريب لا بعده.

الخلاصة

• ثلاثة مقاييس رئيسة: التكافؤ الديمغرافيّ وتكافؤ الفرص والمعايرة، بنيّات مختلفة ومتعارضة.
• مبرهنة الاستحالة تقول: في العالم غير المتساوي مسبقًا، لا يمكن تلبية الثلاثة معًا؛ يجب اختيار واحد بحجّة مكتوبة.
• Fairlearn يوفّر قياسًا سريعًا بـMetricFrame، وتخفيفًا داخل التعلّم بـExponentiatedGradient، وتخفيفًا لاحقًا بـThresholdOptimizer.
• مبادلة الأداء مقابل الإنصاف ليست تقنيّة صرفة؛ تُسجَّل في بطاقة النموذج وتوقَّع على المستوى المسؤول.

الوحدة القادمة: تفسير القرارات الفرديّة بـLIME وSHAP، وحدود ما يمكن أن يقوله «التفسير» فعلًا.