الوحدة 1 — ما يعنيه «المسؤول» عمليًا

يُتداول تعبير «الذكاء الاصطناعي المسؤول» في المدوّنات والوعود التسويقيّة حتى فَقَدَ حدّه. سنُعيد له معناه هنا بتحويل خمسة مبادئ عامّة إلى متطلّبات نظاميّة قابلة للاختبار، مطبَّقة على الخيط الأحمر للدورة: نموذج قرض استهلاكيّ يقرّر منح تمويل بحدّ خمسة آلاف يورو أو رفضه.

المبادئ الخمسة، وما تعنيه فعلًا

الاتّفاق واسع في الأدبيّات — منظّمة التعاون الاقتصاديّ، ومنظّمة اليونسكو، والمعهد الأوروبيّ للمعايير — على خمسة أعمدة. المشكل ليس في تعدادها بل في تحويل كلّ عمود إلى شيء يمكن أن يفشل التدقيق فيه.

الإنصاف لا يعني معاملة الجميع بالمثل، بل عدم فرض عبء غير مبرَّر على مجموعة محميّة. متطلّب قابل للتحقّق: «يبقى الفرق في نسبة القبول بين الفئات المُعرَّفة قانونًا دون خمس نقاط مئويّة، مقيسًا كلّ شهر على العيّنة الإنتاجيّة».

الشفافية ليست نشر شفرة المصدر، بل تمكين متلقّي القرار من فهم سببه. متطلّب: «تُرفق كلّ رسالة رفض بالأسباب الثلاثة الأكثر وزنًا في القرار، بلغة الطالب، وبمرجع للطعن».

المساءلة تعني وجود شخص طبيعيّ يجيب عن الأخطاء. متطلّب: «تُسمّى صراحةً وظيفة المسؤول عن كلّ نموذج في الإنتاج، ويُوثَّق تعاقب مسؤولياتها».

السلامة تشمل الأداء المتين ومقاومة الهجمات. متطلّب: «تُختَبر الاستجابة أمام معطيات خارج التوزيع وأمام إدخالات مُعادِية، ويُوقَف النموذج تلقائيًّا عند تجاوز عتبة انحراف محدَّدة».

الخصوصية لا تُختَزل في تشفير قواعد البيانات. متطلّب: «لا يُخزَّن معطى إلّا بأساس قانونيّ وسبب مبيَّن؛ وتُطبَّق مدّة احتفاظ قصوى؛ ويُمكن الحذف بناء على طلب صاحب البيانات».

كلّ متطلّب من هذه المتطلّبات مبني على الصيغة نفسها: من، وماذا، وكيف يُقاس، ومتى يُنبَّه إذا خرج الرقم. المبدأ من دون مقياس ليس متطلَّبًا، بل نيّة حَسَنة.

الأطراف المعنيّة، ولماذا يهمّ ترتيبها

النموذج لا يُبنى في فراغ. حول قرارٍ آليّ واحد، تتقاطع مصالح ثلاث فئات على الأقلّ.

الأشخاص المعنيّون بالقرار: طالبو القرض. يخسرون فرصة تمويل حين يُرفَض الطلب، وقد يُصنَّفون خطأً. أولويّتهم: العدل وسبيل طعن حقيقيّ.

الجهة المُشغِّلة: البنك. يواجه خسارة ماليّة عند سوء التصنيف، ومخاطر قانونيّة عند التمييز، ومخاطر سمعة. أولويّته: أداء اقتصاديّ مع مطابقة قانونيّة.

الجهة المنظِّمة: هيئة الرقابة الماليّة والسلطة المكلَّفة بالبيانات الشخصية. يفرضان التوثيق والقدرة على المراجعة الخارجيّة. أولويّتهم: قابلية التدقيق.

يمرّ توتّرٌ حقيقيّ عبر هذا المثلّث. رفع عتبة النموذج لتقليل الديون المُتعثِّرة يُقلِّل الخسارة الماليّة، لكنّه يزيد رفض ملفّات مؤهَّلة، فيضغط على الإنصاف. زيادة عدد المتغيّرات تحسّن الدقّة، لكنّها ترفع خطر تسريب معلومات حسّاسة. آليّة الطعن المُكلفة تحمي المستخدم، لكنّها تُثقِل الميزانية التشغيليّة. الحوكمة الأخلاقيّة ليست إلغاء هذا التوتّر، بل جعله واضحًا ومُوثَّقًا لكي يُتَّخذ القرار على مستوى المسؤولية الصحيح، لا في هدوء مكتب المهندس.

ما لا تَعِد به الدورة

من الأمانة أن نُصرّح بحدود ما نقدّم. لا تدّعي هذه الدورة أنّها ستُحقّق إنصافًا تامًّا: مبرهنات الاستحالة في الوحدة 3 تُظهر أنّ بعض المقاييس تتعارض رياضيًّا. لا تُنتج معايير قانونيّة موحّدة: قوانين حماية البيانات تختلف بين تونس والمغرب والمملكة العربيّة السعوديّة والاتّحاد الأوروبيّ، وسنستعرض المشترك ونُشير إلى المصادر الوطنيّة. ولا تدّعي أنّ التفسير بـSHAP يكشف السبب الحقيقيّ للقرار — بل يكشف مساهمة كلّ متغيّر في مخرَج نموذج معيَّن، وهذا شيء آخر تمامًا سنشرحه في الوحدة 4.

ما تُقدّمه الدورة هو إطار عمل قابل للتشغيل: قائمة تحقّق، وشِفرة اختبار، ومقاييس، وقوالب توثيق، تُمكّنك من تسليم نظام قرار ذكيّ يمرّ في تدقيق خارجيّ من دون أن يخسر جودته التنبّئيّة.

الفكرة المفتاحيّة

مبدأ بلا مقياس ليس متطلّبًا: هو دِعاية. تعلّم الوحدة القادمة أن تتحوّل «الإنصاف» من كلمة إلى رقم يُنبَّه فوقه.

الخلاصة

• خمسة أعمدة للذكاء الاصطناعي المسؤول: الإنصاف والشفافية والمساءلة والسلامة والخصوصية، لا قيمة لها ما لم تُترجَم إلى متطلّبات قابلة للقياس.
• الحوكمة الأخلاقيّة تُوازن مصالح ثلاثة أطراف: المستخدم، والجهة المشغّلة، والجهة المنظّمة، بجعل التوتّر ظاهرًا لا مخفيًّا.
• الخيط الأحمر للدورة هو نموذج قرض استهلاكيّ يمرّ في تدقيق طرف إلى طرف: بيانات، ثم إنصاف، ثم تفسير، ثم توثيق، ثم طعن، ثم مطابقة.
• الدورة لا تَعِد بإنصاف كامل ولا بمعيار قانونيّ موحّد، بل بإطار قابل للتشغيل يجعل النظام قابلًا للدفاع عنه أمام مدقّق خارجيّ.

الوحدة القادمة: مصادر التحيّز الثلاثة الرئيسة — الجمع، والتوسيم، والتاريخ — بأمثلة مرقّمة على ملفّ القرض.