الوحدة 8 — القانون الأوروبيّ للذكاء الاصطناعي ومستويات الخطر

اعتُمِد القانون الأوروبيّ للذكاء الاصطناعي (Regulation EU 2024/1689) في يونيو 2024 ونُشر في الجريدة الرسميّة في 12 يوليو 2024. يفرض إطارًا قائمًا على الخطر: كلّما زاد أثر النظام على الحقوق الأساسيّة، زادت الالتزامات. تُبيّن هذه الوحدة أين يقع نموذج القرض على هذا السلّم، وما يترتّب على ذلك، ولماذا يعني هذا شيئًا لفريق حتى خارج الاتّحاد الأوروبيّ.

أربعة مستويات، حدّان قاطعان

المستوى الأوّل: محظور. تحظر المادّة 5 تمامًا بعض الاستخدامات: التقييم الاجتماعيّ للمواطنين على النموذج الصينيّ، التعرّف على المشاعر في العمل والمدرسة (باستثناءات ضيّقة)، جمع صور الوجه من الإنترنت لبناء قواعد للتعرّف، التلاعب التحتيّ باللاوعي، والاستهداف بناء على نقاط ضعف. مخالفة تصل عقوبتها إلى 35 مليون يورو أو 7 % من رقم الأعمال العالميّ، أيّهما أعلى.

المستوى الثاني: عالي الخطر. الملحق الثالث يعدّد الاستخدامات: التوظيف، والتعليم، والوصول إلى الخدمات الأساسيّة (بما فيها تقييم الائتمان الاستهلاكيّ، البند 5-ب)، وتطبيق القانون، والعدالة، والهجرة، والبنية التحتيّة الحيويّة. هذا هو المستوى الّذي يشمل نموذجنا.

المستوى الثالث: خطر محدود. الأنظمة التي تتفاعل مع الإنسان (روبوت محادثة)، والّتي تُولّد محتوى صناعيًّا (deepfakes). الالتزام الوحيد: الشفافية (إعلام المستخدم أنّه أمام نظام).

المستوى الرابع: خطر ضئيل. لا التزام تنظيميّ صريح. أغلب الاستخدامات المألوفة (مصنّف صور، توصية موسيقى) تدخل هنا.

ما يعنيه «عالي الخطر» عمليًا

الفصل الثالث من القانون يعدّد سبعة التزامات مركّبة تنطبق على نموذجنا:

نظام إدارة المخاطر (المادّة 9): تحليل وتوثيق المخاطر المتوقّعة والمتعذَّرة الرصد، مع خطّة تخفيف موثَّقة.

حوكمة البيانات (المادّة 10): وثائق تُبيّن أنّ مجموعات التدريب والتحقّق والاختبار ممثِّلة، خالية من الأخطاء قدر الإمكان، مكتملة، ومناسبة للمهمّة، مع فحص خاصّ للتحيّزات.

التوثيق التقنيّ (المادّة 11 والملحق الرابع): 60 صفحة نموذجيّة تشمل وصف النظام، والغرض، والأداء، والقيود.

تسجيل السجلّات (المادّة 12): كلّ قرار يُسجَّل مع مدخلاته ومخرجاته لتمكين المراجعة اللاحقة.

الشفافية (المادّة 13): تعليمات استخدام واضحة للجهة المشغّلة.

الإشراف البشريّ (المادّة 14): إمكانية تدخّل حقيقيّ، كما نوقش في الوحدة 7.

الدقّة والمتانة والأمن السيبرانيّ (المادّة 15): مقاييس أداء معلَنة، مقاومة أمام هجمات معادية، خطّة إدارة الحوادث.

يُضاف إلى ذلك تقييم التوافق قبل النشر (المادّة 43)، ويُسجَّل النظام في قاعدة بيانات الاتّحاد الأوروبيّ المتاحة للجمهور (المادّة 71).

الجدول الزمنيّ للتطبيق

• 2 فبراير 2025: أحكام المستوى الأوّل (المحظور) نافذة.
• 2 أغسطس 2025: أحكام النماذج التأسيسيّة (GPAI) نافذة، ومكتب الذكاء الاصطناعيّ يعمل.
• 2 أغسطس 2026: الأحكام العامّة، بما فيها معظم التزامات النظم عالية الخطر.
• 2 أغسطس 2027: الأنظمة عالية الخطر المُدمَجة في منتجات خاضعة لتشريعات قطاعيّة (مثلًا الأجهزة الطبّية) تصبح خاضعة كلّيًّا.

المدى خارج الاتّحاد الأوروبيّ

هنا نقطة كثيرًا ما يُساء فهمها. القانون ينطبق ليس فقط على مقدّمي الخدمة داخل الاتّحاد الأوروبيّ، بل أيضًا على من يقدّمها للسوق الأوروبيّة، ومن يُستخدَم مخرجه في الاتّحاد (المادّة 2). شركة في القاهرة تبني نموذجًا يُستخدَم في فرع فرنسيّ ملزَمة بالنصّ.

على صعيد الاستلهام: قوانين مماثلة تظهر في المغرب (القانون 09-08 يُحدَّث)، والإمارات (سياسة الذكاء الاصطناعيّ 2031)، والمملكة العربيّة السعوديّة (الإطار الأخلاقيّ للذكاء الاصطناعيّ 2023 الصادر عن الهيئة السعوديّة للبيانات والذكاء الاصطناعيّ). المبادئ متقاربة: تقييم مخاطر، توثيق، إشراف بشريّ، مساءلة.

تصنيف نموذج القرض

يقع نموذجنا في المستوى عالي الخطر بشكل صريح بموجب البند 5-ب من الملحق الثالث: «الأنظمة المستخدَمة لتقييم أهلية الأفراد الطبيعيّين للحصول على قروض أو خدمات ماليّة أساسيّة». هذا التصنيف يستدعي كامل الالتزامات السبعة، بما فيها التوثيق التقنيّ، والإشراف البشريّ، وحوكمة البيانات، ونظام إدارة المخاطر.

القرار الاستراتيجيّ: نبني كامل الحوكمة على أساس القانون الأوروبيّ حتى إن كنّا لا نعمل حاليًّا في الاتّحاد، لأنّ هذا يُعطينا قاعدة أعلى مستوى ويُيسّر التوسّع الجغرافيّ لاحقًا.

عقوبات وحوافز

عقوبات المخالفة تدرّجيّة:

• استخدام نظام محظور: حتى 35 مليون يورو أو 7 % من الرقم العالميّ.
• خرق التزامات النظام عالي الخطر: حتى 15 مليون يورو أو 3 %.
• تقديم معلومات مضلّلة: حتى 7.5 مليون يورو أو 1 %.

في المقابل، تُنشئ المادّة 57 «صناديق تجريب تنظيميّة» (regulatory sandboxes) تسمح للشركات باختبار حلولها في بيئة مؤطَّرة تحت إشراف الجهة الوطنيّة، مع إعفاءات مؤقّتة.

قاعدة عمليّة للأعمال

لا تنتظر أن يفرض عليك المدقّق. ابنِ الحوكمة الأخلاقيّة قبل تصنيف النظام. تعديل تصميم قائم أكلف بأربعين مرّة من تصميم صحيح من البداية. المرجع النموذجيّ: ISO/IEC 42001 لإدارة أنظمة الذكاء الاصطناعيّ.

الخلاصة

• القانون الأوروبيّ للذكاء الاصطناعيّ يُصنّف الأنظمة على أربعة مستويات: محظور، عالي الخطر، محدود، ضئيل.
• تقييم الائتمان الاستهلاكيّ مذكور صراحةً في الملحق الثالث كنظام عالي الخطر، مع سبعة التزامات مركّبة.
• التطبيق يمرّ على مراحل: المحظور في فبراير 2025، النظم عالية الخطر بشكل رئيسيّ في أغسطس 2026.
• المدى خارج الحدود: القانون ينطبق على من يقدّم للسوق الأوروبيّة، مع عقوبات تصل إلى 35 مليون يورو أو 7 % من الرقم العالميّ.

الوحدة القادمة: حماية البيانات الشخصية، بأساسها القانونيّ، وحقوق الأشخاص، والقرار الآليّ.