الدرس 5 — الحدود
التقدّم في معالجة اللغة بين 2018 و2026 كان مذهلاً بكلّ المعايير. وهذا الدرس عن الحدود التي بقيت، لأنّ معرفتها هي ما يحدّد ما تضعه في الإنتاج وما تتركه.
الهلوسة: ليست خللاً بل خاصّية
النموذج اللغوي مدرَّب على توليد الاستمرار الأكثر احتمالاً، لا الاستمرار الصحيح. وعندما تنقص المعلومة، لا يتوقّف: يولّد جملةً حسنة التركيب، لأنّها الأكثر احتمالاً في مكانها.
ولهذا تكون الهلوسة نتيجة طبيعية للهدف التدريبي، لا عطلاً يُصلَح بتحديث. وهي تظهر بأشكال متكرّرة: مراجع لا وجود لها، وأرقام مختلَقة بثقة، وتفاصيل زائدة في التلخيص، ونسبة أقوال إلى أشخاص لم يقولوها.
ما يقلّصها فعلاً:
- الاسترجاع: إعطاء النموذج المستندات الحقيقية في السياق وإلزامه بها.
- الاستشهاد: مطالبة النموذج بذكر المصدر لكلّ ادّعاء، وربط الجواب بمقتطف يمكن فتحه.
- التحقّق البشري في السياقات المكلفة.
- الحدّ من المجال: نموذج مخصّص لمهمّة ضيّقة يهلوس أقلّ من نموذج عامّ.
لا تقنية تصل إلى صفر هلوسة. القاعدة الهندسية: لا تبنِ نظاماً يكون فيه اختلاق معلومة كارثياً وغير مرئي. إذا كان الخطأ مكلفاً، فيجب أن يكون مرئياً وقابلاً للمراجعة.
التحيّز الموروث
النموذج يتعلّم من نصّ بشري، فيتعلّم ما فيه: الارتباطات النمطية، والصور المسبقة، وتوزيعات غير عادلة موجودة في المجتمع.
وهذا يظهر بأشكال عملية: ترجمة تُسند مهناً إلى جنس بعينه في لغة لا تحدّد الجنس، وتحليل مشاعر يعطي درجات أدنى لنصوص بلهجة معيّنة، وتوليد يعيد إنتاج قوالب جاهزة عن مجموعات سكّانية.
النموذج ليس متحيّزاً بقصد، بل أميناً في نقل ما في بياناته، وهذه أمانة مؤذية. ودورة أخلاقيات الذكاء الاصطناعي تعالج طرق القياس والتخفيف.
اللغات قليلة الموارد
جودة النموذج تتناسب مع كمّية النصوص المتاحة بلغته. والإنجليزية تملك حضوراً هائلاً في بيانات التدريب، وبقيّة اللغات تتفاوت.
النتائج العملية:
- دقّة أقلّ في المهامّ نفسها.
- رموز أكثر لكلّ كلمة، أي كلفة أعلى وسياق أقلّ، كما رأينا في الدرس الثاني.
- فهم ضعيف للهجات، لأنّ المتون الرقمية غالباً بالصيغة الرسمية.
- بيانات تقييم قليلة، فحتى قياس الضعف صعب.
للعربية، الوضع يتحسّن بوضوح: نماذج مدرَّبة على متون عربية كبيرة صارت متاحة، وأداؤها في التصنيف والاستخراج جيّد جدّاً. والفارق يبقى ملحوظاً في المهامّ التوليدية المفتوحة وفي اللهجات.
الاستدلال: القدرة التي تبدو موجودة
النموذج يجيب أسئلة تبدو استدلالية، ويفشل بأنماط تكشف أنّ ما يفعله ليس استدلالاً بالمعنى الدقيق:
- الحساب متعدّد الخطوات يخطئ بطرق لا يخطئها من يفهم العملية.
- تغيير صياغة سؤال بلا تغيير في مضمونه يقلب الج واب أحياناً.
- العدّ والمقارنة الدقيقة ضعيفان بشكل مفاجئ في نماذج تكتب كوداً معقّداً.
- الالتزام بقيود متعدّدة في وقت واحد يتفكّك كلّما زاد عدد القيود.
ما يحسّن الأداء عملياً هو إخراج الخطوات إلى النصّ (التفكير خطوةً بخطوة)، أو تفويض الحساب إلى أداة خارجية بدل الاعتماد على النموذج. وهذه بنية الوكلاء، ويتناولها درس الوكلاء.
الكلفة وزمن الاستجابة
حدّ عملي لا يتعلّق بالجودة بل بالهندسة. نداء نموذج كبير لكلّ حدث في نظام عالي الحجم قد يكون:
- مكلفاً بشكل غير مستدام على ملايين العمليات.
- بطيئاً إلى حدّ يخرّب تجربة الاستخدام إذا كان في المسار المباشر.
- غير مؤكَّد التوافر، إذا كان طرفاً ثالثاً في مسار حرج.
والجواب الهندسي المتّبع: الطبقات. نموذج خفيف يتعامل مع الحالات الشائعة، ونموذج كبير للحالات المعقّدة أو الغامضة فقط. هذا يخفّض الكلفة بمراتب مع الحفاظ على الجودة حيث تلزم.
الخصوصية والامتثال
حدّ أخير غالباً ما يُهمَل حتى يصبح مشكلة: إرسال نصوص إلى واجهة خارجية يعني خروج بيانات من محيطك.
وإذا كانت النصوص تحتوي معطيات شخصية أو أسراراً مهنية، فذلك يقتضي مراجعة قانونية، وقد يقتضي نموذجاً يعمل داخل بنيتك. وهذا أحد أقوى أسباب استخدام النماذج مفتوحة الأوزان، ويُعالَج في دورة الأخلاقيات.
في ثلاث جمل
الهلوسة نتيجة طبيعية لهدف التدريب لا خلل يُصلَح، ويُقلّصها الاسترجاع والاستشهاد والتحقّق البشري، والقاعدة ألا تُبنى أنظمة يكون فيها الاختلاق كارثياً وغير مرئي. والتحيّز موروث بأمانة من النصوص، واللغات قليلة الموارد تدفع ثمناً مزدوجاً في الدقّة والكلفة، والاستدلال متعدّد الخطوات يبقى غير موثوق. والكلفة وزمن الاستجابة والخصوصية حدود هندسية تُحلّ بالطبقات وبنماذج تعمل داخل محيطك، لا بجودة النموذج.
التالي — الدرس 6: الملخّص والأسئلة الشائعة ←