📄️ الضبط الدقيق للنماذج

دورة مميّزة لتخصيص نموذج لغوي مفتوح بسبعة إلى ثمانية مليارات من المعاملات باستخدام LoRA وQLoRA على وحدة معالجة رسومية واحدة.

📄️ 1. التعليمة أو RAG أو الضبط

الوحدة 1 من دورة الضبط الدقيق للنماذج: ما يتعلّمه الضبط الدقيق فعلًا وما لا يتعلّمه، شجرة قرار عملية، وكلفة كلّ خيار من الخيارات الثلاثة.

الوحدة 2 من دورة الضبط الدقيق: الصيغة الحوارية، قالب النموذج، الجودة والتنوّع، إزالة المكرّرات، التقسيم تدريب/تحقّق، والتوليد التخليقي.

الوحدة 3 من دورة الضبط الدقيق: حساب مفصّل للذاكرة (أوزان، تدرّجات، حالات المُستمثِل)، النسيان الكارثي، ومتى يظلّ الضبط الكامل مبرَّرًا.

الوحدة 4 من دورة الضبط الدقيق: المحوّلات والبادئات وLoRA ضمن عائلة PEFT، ما يُجمَّد وما يُدرَّب، ومكتبة PEFT من Hugging Face.

الوحدة 5 من دورة الضبط الدقيق: تحليل مصفوفة LoRA إلى جداءين، معنى الرتبة r وألفا، الوحدات المستهدفة، وعدد المعاملات المُدرَّبة.

الوحدة 6 من دورة الضبط الدقيق: صيغة NF4، التكميم المزدوج، مُستمثِل الصفحات، تهيئة QLoRA على 24 غيغا، والفجوة في الجودة مع LoRA.

الوحدة 7 من دورة الضبط الدقيق: معدّل التعلّم، عدد الحقب، حجم الدفعة الفعلي، طول التسلسل، التسخين، وقيم انطلاق آمنة.

الوحدة 8 من دورة الضبط الدقيق: قراءة خسارة التدريب والتحقّق، فرط التخصيص على مجموعة صغيرة، عيّنات مولّدة كلّ حقبة، ونقاط التفتيش.

الوحدة 9 من دورة الضبط الدقيق: دمج المحوّلات في الأوزان الأصلية، تصدير GGUF لـllama.cpp وOllama، النشر على Hub، ولاية الرخصة.

الوحدة 10 من دورة الضبط الدقيق: جيب اختبار محفوظ، مقاييس شكل ومحتوى، حكم بشري في الأعمى، وانحدار الكفاءات العامّة.

مراجعة كاملة لدورة الضبط الدقيق: التعليمة وRAG والضبط، الجودة قبل الكمّية، LoRA وQLoRA، المعاملات الفائقة، والامتحان بأربعين سؤالًا.