📄️ النماذج اللغوية الكبيرة
دورة مميّزة عن النماذج اللغوية الكبيرة: قوانين التوسّع، والضبط الدقيق، والمواءمة، وفكّ الترميز، ونافذة السياق، والهلوسة، والتكميم، والتقييم، والكلفة، من التصميم إلى النشر في الإنتاج.
📄️ 1. ما يغيّره التوسّع فعلًا
الوحدة 1 من دورة النماذج اللغوية الكبيرة: القدرات الطارئة والجدل حول واقعيتها، والتعلّم داخل السياق، والتسلسل الزمني من GPT-2 إلى اليوم، والنماذج المفتوحة مقابل المِلكية.
📄️ 2. التدريب المسبق وقوانين التوسّع
الوحدة 2 من دورة النماذج اللغوية الكبيرة: تكوين مجاميع النصوص وترشيحها، والدُبلوكات، وقوانين Chinchilla، وكلفة الحساب والطاقة، وحصّة اللغات في المجموعة.
📄️ 3. الضبط الدقيق بالتعليمات
الوحدة 3 من دورة النماذج اللغوية الكبيرة: من النموذج الأساس إلى النموذج المضبوط على التعليمات، وصياغة مجاميع التعليمات، وقوالب المحادثة، وجودة الأمثلة مقابل كمّيتها.
📄️ 4. المواءمة: RLHF وDPO
الوحدة 4 من دورة النماذج اللغوية الكبيرة: نموذج المكافأة، وPPO، وDPO كبديل مباشر، ومسائل الرفض المفرط، وما لا تضمنه المواءمة.
📄️ 5. فكّ الترميز
الوحدة 5 من دورة النماذج اللغوية الكبيرة: أثر كلّ وسيط على التوزيع، وعقوبات التكرار، وحتمية التوليد، والضبط الموصى به حسب الاستخدام.
📄️ 6. نافذة السياق
الوحدة 6 من دورة النماذج اللغوية الكبيرة: كلفة السياق التربيعية، وضياع الوسط، والتلخيص المنزلق، والذاكرة الخارجية، وRAG جوابًا لمسألة المعرفة.
📄️ 7. الهلوسة
الوحدة 7 من دورة النماذج اللغوية الكبيرة: لماذا يخترع النموذج المعلومات، والترسيخ في المصادر، وطلب الاقتباسات، والامتناع، والتحقّق بنموذج ثانٍ، وما لا يعمل.
📄️ 8. التكميم والخدمة
الوحدة 8 من دورة النماذج اللغوية الكبيرة: التكميم إلى 8 و4 بت (GPTQ، AWQ، GGUF)، وذاكرة العتاد حسب الحجم، وvLLM، وllama.cpp، والدفع مقابل التأخّر.
📄️ 9. التقييم
الوحدة 9 من دورة النماذج اللغوية الكبيرة: MMLU وحدودها، والتلوّث، وحلبات Elo، والنموذج الحَكَم، وبناء جدول تقييم داخلي لعملك.
📄️ 10. الكلفة والمعمارية
الوحدة 10 من دورة النماذج اللغوية الكبيرة: API مقابل استضافة داخليّة، وحساب الكلفة لكلّ استعلام، والتوجيه بين نموذج ص غير ونموذج كبير، والتخبئة، وقرار المشروع.
📄️ 11. المراجعة والاختبار
مراجعة شاملة لدورة النماذج اللغوية الكبيرة المميّزة: التوسّع، التدريب المسبق، الضبط، المواءمة، فكّ الترميز، السياق، الهلوسة، التكميم، التقييم، الكلفة، ثم الاختبار من 40 سؤالًا.