الوحدة 9 — توليد النصّ والصورة والصوت
الوحدات السابقة تعمّقت في نماذج توليد الصور. لكنّ التوليد أوسع من ذلك بكثير: النصّ، الصوت، الفيديو، الجزيئات، الشيفرة. هذه الوحدة توضّح لماذا تسيطر أسرة معيّنة على كلّ وسيط، وما النماذج المتاحة اليوم، وأيّ كلفة يتطلّب توليدها.
النصّ: انحدار من اليسار إلى اليمين
النصّ سلسلة من الرموز. صيغة نمذجته المهيمنة هي الانحداريّة:
النموذج يتنبّأ برمز جديد بمعلوميّة كلّ ما سبق، ثمّ يُضيفه إلى السياق، ثمّ يتنبّأ بالتالي. هذه هي بنية GPT وأخواتها، ومكوّنها الأساسيّ هو المحوّل مع انتباه ذاتيّ مقنَّع (كلّ رمز يرى ما قبله فقط).
لماذا الانحدار وليس الانتشار للنصّ؟ لسببين. الأوّل: النصّ متغيّر الطول بطبيعته، والانحدار يتعامل معه بأناقة (نتوقّف عند رمز نهاية-الجملة). الانتشار يفترض شكلًا ثابتًا للتنسور، وهو تكييف غير طبيعيّ للنصّ. الثاني: الأرجحية على النصّ محسوبة بدقّة في النموذج الانحداريّ، وقابلة للتحسين مباشرة بلا حدود دُنيا كما في ELBO.
النماذج المتاحة اليوم مفتوحة الوزن: Llama 3 (Meta)، Mistral، Qwen (Alibaba). أمّا المغلقة فأشهرها GPT-4 (OpenAI) وClaude (Anthropic) وGemini (Google). الكلفة الحسابيّة للتوليد نصف خطّيّة في طول الجواب (المحوّل يعيد حساب الانتباه في كلّ رمز جديد، وإن كانت المكتبات تحفظ ما يمكن حفظه عبر KV-cache).
الصورة: انتشار في الصدارة
للصورة، الوحدات السابقة أظهرت لماذا الانتشار هو المهيمن الحاليّ: جودة عالية، تنوّع ممتاز، تكييف سلس بالنصّ عبر الانتباه المتقاطع. الأسرة الانحداريّة على الصورة (مثل PixelCNN وImage-GPT وPARTI من Google) موجودة لكنّها ثانويّة عمليًّا:
- توليد بكسل بكسل بطيء جدًّا (ألف بكسل مضروب في ألف بكسل مضروب في ثلاث قنوات لصورة صغيرة).
- الأرجحية دقيقة لكن الجودة أقلّ من الانتشار على الميزانيّة الحسابيّة نفسها.
اليوم القائمة العملية للصور: Stable Diffusion 3 (Stability AI، مفتوح)، FLUX.1 (Black Forest Labs، مفتوح جزئيًّا)، Midjourney (مغلق)، DALL-E 3 (OpenAI، مغلق). ميزة النماذج المفتوحة أنّها قابلة للتشغيل محلّيًّا وقابلة للضبط الدقيق على مجموعة بيانات خاصّة عبر تقنيات مثل LoRA (Low-Rank Adaptation).