انتقل إلى المحتوى الرئيسي

كيف تعمل نماذج اللغة الكبيرة فعلًا؟

· 5 دقائق قراءة
Karim Benali
مهندس نماذج لغة وأنظمة RAG @ InSkillML

كل ما يفعله نموذج اللغة، حرفيًا، هو شيء واحد: يتوقّع الرمز التالي. ثم يضيفه إلى النصّ ويعيد العملية. لا خطّة، ولا ذاكرة بين الطلبات، ولا فهم بالمعنى الذي نقصده. كل ما يبدو ذكاءً ينشأ من تكرار هذه العملية البسيطة على مقياس هائل.

الرمز: النموذج لا يقرأ الكلمات

قبل أي شيء، يجري تقسيم النصّ إلى رموز (tokens)، وهي قطع أصغر من الكلمة غالبًا. الكلمات الشائعة تصبح رمزًا واحدًا، والنادرة تُقسَّم إلى عدّة رموز.

هذه التفصيلة الصغيرة تفسّر أشياء كثيرة تبدو غامضة. لماذا يفشل النموذج أحيانًا في عدّ حروف كلمة؟ لأنّه لا يرى الحروف، يرى رموزًا. ولماذا يكلّف النصّ العربي أكثر من الإنجليزي عند استخدام واجهات برمجية مدفوعة؟ لأنّ المُقسِّمات دُرِّبت أساسًا على الإنجليزية، فالعربية تتفتّت إلى رموز أكثر للمعنى نفسه.

ثم يُحوَّل كل رمز إلى متجه، أي قائمة أرقام تحمل معناه. هنا تحدث أول خطوة مثيرة: المتجهات تُرتّب نفسها في فضاء حيث القرب يعني قرب المعنى. «ملك» و«ملكة» يقعان قريبين، ولم يخبر أحد النموذج بذلك — استُخلص من طريقة استخدام الكلمتين في النصوص.

الانتباه: الفكرة التي غيّرت كل شيء

المشكلة التي أعجزت الباحثين سنوات: معنى الكلمة يتغيّر بحسب سياقها.

في «ذهبت إلى البنك لسحب المال» و«جلست على ضفّة النهر»، تحتاج إلى الجملة كلها لتعرف المقصود. النماذج القديمة كانت تقرأ الكلمات بالتسلسل، فتنسى البدايات مع طول الجملة.

الانتباه (attention) حلّ هذا بطريقة أنيقة: عند معالجة كل كلمة، ينظر النموذج إلى جميع الكلمات الأخرى في السياق في الوقت نفسه، ويوزّع عليها أوزانًا بحسب أهميتها لهذه الكلمة تحديدًا.

عند معالجة ضمير مثل «ه» في «الطبيب قال إنّه سيتأخّر»، يعطي النموذج وزنًا عاليًا لكلمة «الطبيب»، فيربط الضمير بمرجعه. لم يُبرمَج هذا الربط، بل تعلّمه من ملايين الأمثلة.

ولهذا الترتيب فائدة عملية ضخمة أيضًا: بما أنّ كل الكلمات تُعالَج معًا لا بالتسلسل، يمكن للحساب أن يتوزّع على آلاف المعالجات في الوقت نفسه. هذا ما جعل تدريب النماذج بهذا الحجم ممكنًا من الأصل.

مراحل التدريب الثلاث

النموذج الذي تتحدّث إليه ليس ناتج تدريب واحد، بل ثلاث مراحل مختلفة تمامًا في الغرض.

أولًا: التدريب المسبق. يُعرَض على النموذج قدر هائل من النصوص، ومهمّته الوحيدة أن يخفي كلمة ويتوقّعها. يكرّر هذا مليارات المرّات. هنا يكتسب اللغة والمعرفة والقدرة على الاستدلال، وهي أطول المراحل وأغلاها بفارق كبير.

ثانيًا: الضبط بالتعليمات. النموذج بعد المرحلة الأولى يُكمل النصّ ولا يُجيب عن سؤال. إن كتبت له سؤالًا فقد يُكمله بأسئلة أخرى مشابهة. فيُدرَّب على أمثلة من الشكل «تعليمة ← استجابة مناسبة» حتى يتعلّم أنّ المطلوب هو الإجابة.

ثالثًا: المواءمة مع التفضيل البشري. يُقيّم بشر استجابات متعدّدة، ويُعاد ضبط النموذج ليُنتج ما يفضّلونه: أكثر نفعًا، وأقلّ ضررًا.

وهنا تنشأ مشكلة يجب معرفتها: المقيّمون البشر يفضّلون الجواب الواثق على الجواب المتحفّظ. فالنموذج تعلّم أن يكون واثقًا. ولهذا يخطئ بالنبرة نفسها التي يصيب بها، وهي أخطر خاصية فيه.

لماذا يختلق النموذج معلومات

الآن يمكن فهم السبب من غير غموض.

الهدف الذي دُرِّب عليه هو الاحتمال، لا الصدق. النصّ المرجّح يتوافق عادةً مع النصّ الصحيح، لأنّ من كتب تلك النصوص كان يحاول أن يكون صادقًا. لكن عندما يفترق الأمران، يتبع النموذج الاحتمال.

اطلب مرجعًا علميًا في موضوع نادر: النموذج يعرف شكل المراجع — أسماء معقولة، عنوان بمصطلحات مناسبة، مجلّة تنشر في هذا الحقل، سنة في مدى مقبول. توليد مرجع يطابق هذا الشكل هو بالضبط ما يُجيده. أمّا وجود هذا المرجع فعلًا فسؤال لا تطرحه الآلية أصلًا.

ولهذا فإنّ أفعل علاج ليس مطالبة النموذج بالدقّة، بل تغيير المهمة: أعطه النصّ ذا الصلة في السياق واطلب منه أن يُجيب منه وحده. أنت تنقله من «تذكّر» إلى «اقرأ ولخّص»، والثانية يقوم بها بثبات.

نافذة السياق ليست ذاكرة

النموذج لا يحفظ شيئًا بين الطلبات. هو بلا حالة.

عندما تبدو المحادثة كأنّها تتذكّر، فإنّ التطبيق يعيد إرسال المحادثة كاملة في كل طلب. لا شيء محفوظ في النموذج.

ولهذا تكبر التكلفة مع طول الحديث: في الدور العشرين ترسل كل الأدوار السابقة لتحصل على ردّ واحد. ولهذا أيضًا «ينسى» المساعد أشياء قلتها في البداية — عندما يتجاوز الحديث حدّ النافذة، يضطرّ التطبيق إلى قطع أقدم الأدوار.

حرارة التوليد

بعد كل خطوة، لدى النموذج توزيع احتمالات على الرموز الممكنة. كيف يختار؟

الحرارة المنخفضة (قريبة من الصفر) تجعله يختار الأرجح دائمًا: نتائج ثابتة ومتحفّظة، وهي المناسبة للشيفرة والاستخراج والتصنيف.

الحرارة المرتفعة تمنح الرموز الأقلّ ترجيحًا فرصة: تنويعًا وإبداعًا أكثر، وانحرافًا أكثر أيضًا.

ملاحظة مهمّة: تخفيض الحرارة لا يمنع الاختلاق. الرمز الأرجح قد يكون خاطئًا بثقة. الحرارة تضبط التنوّع لا الصدق.

أسئلة متكرّرة

هل النموذج يفهم فعلًا؟

سؤال فلسفي أكثر منه تقني، والجواب العملي أنّه يبني تمثيلات داخلية غنية تُمكّنه من التعميم على أمور لم يرها. وفي الوقت نفسه يفشل فشلًا غريبًا في أمور بسيطة عند البشر. إن نسبت إليه فهمًا بشريًا ستُفاجأ بأخطائه؛ وإن اعتبرته بحثًا آليًا فقط ستُفاجأ بقدراته.

هل الشبكة العصبية تشبه الدماغ؟

بصورة سطحية جدًا. العصبون الاصطناعي مجموع مرجّح تليه دالّة بسيطة، أمّا العصبون الحيوي فأعقد بمراتب. الاسم إرث تاريخي أكثر منه وصفًا.

لماذا يجيبني بجواب مختلف عن السؤال نفسه؟

لأنّ الاختيار عند كل خطوة عشوائي بحسب الحرارة. اجعل الحرارة صفرًا وستقترب النتائج من الثبات، دون ضمانه تمامًا.

هل النموذج الأكبر أذكى دائمًا؟

أوسع معرفة عادةً، وليس أفضل في كل مهمّة. نموذج صغير مضبوط على مهمّة محدّدة يتفوّق كثيرًا على نموذج عام أكبر في تلك المهمّة، وبكلفة أقلّ بكثير.

هل يتعلّم من حديثي معه؟

لا، ليس أثناء المحادثة. الأوزان ثابتة. ما يبدو تعلّمًا هو استخدامه للسياق الذي أرسلته. أي تعلّم دائم يحتاج تدريبًا جديدًا.

للتوسّع

فهم هذه الآلية يغيّر طريقة استخدامك للنموذج، لا معرفتك النظرية فقط. دورة نماذج اللغة الكبيرة مجانية وتشرح الرموز والانتباه والسياق بالتفصيل، ودورة التعلّم العميق تُظهر بالرسوم ما تتعلّمه الطبقات فعلًا. ولبناء أنظمة تبقى مرتبطة بمصادرها، تعالج دورة أنظمة RAG الاسترجاع والتقطيع والإسناد إلى المصدر.

والخلاصة العملية التي تستحقّ التذكّر: لا تطلب من النموذج أن يتذكّر، اطلب منه أن يقرأ.