انتقل إلى المحتوى الرئيسي

Ollama: تشغيل نماذج اللغة الكبيرة محليًّا وفي الإنتاج بتكلفة منخفضة

من تشغيل أوّل نموذج على حاسوبك المحمول إلى نشر مساعد كامل لمكتب محاماة يرفض أن يُرسل أيّ مستند إلى السحابة. Ollama يجعل النماذج اللغويّة تعمل حيث تعيش بياناتك، لا على خوادم غيرك.

مدّة الدورة: 4 ساعات​

ما ستتعلّمه​

  • تثبيت Ollama كخدمة نظاميّة على Windows وmacOS وLinux، مع التحكّم في مسار النماذج ومتغيّرات البيئة.
  • جلب النماذج من المكتبة، وقراءة الوسوم والأحجام، وحذف ما لا يُستعمل، واختيار نموذج يجيد لغة الواجهة.
  • إتقان جلسة ollama run: درجة الحرارة، نافذة السياق، حدّ التوليد، البذرة، وقياس أثر كلّ معلمة على الجواب فعلًا لا على الورق.
  • استدعاء الواجهة المحلّيّة (generate، chat، embeddings) من Python، والاستفادة من التوافق مع واجهة OpenAI لإعادة استعمال شيفرة قديمة دون تعديل.
  • كتابة Modelfile مع SYSTEM مخصّصة، واستيراد GGUF مُصقَل من الدورة 19، ثمّ مشاركة النموذج داخل الفريق.
  • قراءة وسوم التكميم (Q4_K_M، Q8_0…) وحساب الذاكرة المطلوبة قبل الجلب، ومقارنة الجودة على أسئلة المكتب.
  • تسريع التوليد بمعالج رسوميّ NVIDIA أو AMD أو شريحة Apple، وقياس عدد الرموز في الثانية بحسب العتاد.
  • ربط Ollama بتطبيقات موجودة: LangChain (الدورة 26)، واجهات ويب (Open WebUI)، مع تأمين التعرّض على الشبكة الداخليّة.
  • بناء نظام أسئلة وأجوبة محلّيّ بالكامل على مستندات المكتب، بتضمينات محلّيّة وفهرس Chroma دون أيّ نداء خارجيّ.
  • معرفة حدود التشغيل المحلّيّ بصدق: الجودة، والتزامن، والصيانة، وموعد الانتقال إلى خادم مخصّص أو إلى واجهة سحابيّة.

المتطلّبات المسبقة​

  • إتقان سطر الأوامر على النظام الذي تستعمله.
  • إلمام أساسيّ بالنماذج اللغويّة الكبيرة (الدورة 16).
  • Python 3.10 أو أحدث لأمثلة الوحدة الرابعة وما بعدها.

الخيط الأحمر: مساعد لمكتب محاماة​

يستعمل المكتب مستندات حسّاسة: عقودًا، ومراسلات مع الموكّلين، ومسوّدات مذكّرات. القسم القانونيّ لا يقبل أن يُرسل أيّ منها إلى مزوّد خارجيّ، لأسباب سرّيّة مهنة، ولأسباب امتثال لقانون حماية البيانات. في الوقت نفسه، الفريق يحتاج مساعدًا يلخّص، ويصنّف، ويجيب عن أسئلة موظّفي الاستقبال على السياسات الداخليّة.

طوال الوحدات العشر نبني هذا المساعد من البداية إلى النهاية على أجهزة المكتب: تثبيت (1)، اختيار نموذج مناسب للعربيّة والفرنسيّة (2)، ضبط معلمات الجلسة (3)، ربطه بسكربتات المكتب عبر واجهته المحلّيّة (4)، تخصيصه بـModelfile تحمل النغمة القانونيّة الرسميّة (5)، تكميمه ليعمل على حواسيب متواضعة (6)، تسريعه على المحطّة الرئيسيّة (7)، إدماجه في التطبيقات الموجودة (8)، فتح نظام أسئلة وأجوبة على أرشيف القضايا (9)، وأخيرًا تحديد اللحظة التي يجب فيها الترقّي إلى خادم مركزيّ (10).

وحدات الدورة​

  1. التثبيت على Windows وmacOS وLinux
  2. جلب النماذج وعرضها وحذفها
  3. الجلسة التفاعليّة ومعاملات التوليد
  4. الواجهة البرمجيّة المحلّيّة
  5. ملفّات Modelfile والنماذج المشتقّة
  6. التكميم والبصمة الذاكريّة
  7. التسريع العتاديّ
  8. التكامل مع التطبيقات الموجودة
  9. نظام أسئلة وأجوبة محلّيّ على المستندات
  10. حدود التشغيل المحلّيّ

التقييم والشهادة​

يُختم المسار باختبار من 40 سؤالًا يغطّي الوحدات العشر، وتُمنح عند النجاح شهادة إتمام قابلة للتحقّق برقمها على المنصّة. المُقيَّم هو الحُكم في اختيار النموذج والتكميم والعتاد والحدود التشغيليّة، لا استظهار خيارات سطر الأوامر.