الوحدة 1 — النماذج التمييزية والنماذج التوليدية

كلّ الدورات السابقة كانت تسأل السؤال نفسه: بمعلومية مُدخَل $x$، ما التسمية $y$ الأرجح؟ وهذا سؤال تمييزيّ. تفتح هذه الدورة سؤالًا مختلفًا اختلافًا جذريًّا: بمعلومية مجموعة من الأمثلة، هل نستطيع أن ننتج مثالًا جديدًا يشبهها؟ الانتقال من الأوّل إلى الثاني يُبدّل كلّ شيء: الهدف، والخسارة، والمقاييس، والفخاخ.

السؤالان: تسمية بدل، أو توليد من عدم

نمذج تمييزيّ يقدّر $p(y \mid x)$: احتمال أن يكون هذا البريد رسالة مزعجة، أو هذه الصورة صورة قطّة. المُدخَل معطى، ولا يهمّنا كيف انتُقي: ما يهمّنا خارطة قرار تصوّب الأمثلة القادمة.

نموذج توليديّ يقدّر $p(x)$ نفسها. لا يوجد $y$ ينتظر التوقّع، بل توزيع كامل على فضاء الصور مثلًا نودّ أن نتعلّمه، ثمّ نأخذ منه عيّنات. وحين نضيف تسمية أو نصًّا نتحدّث عن توليد شرطيّ: $p(x \mid c)$، حيث $c$ قد يكون رقم صنف، أو جملة، أو صورة أخرى.

الفارق ليس رياضيًّا مجرّدًا. فالمصنِّف الذي يخطئ في ثلاث من كلّ مئة صورة أفضل من مصنِّف يخطئ في عشر. أمّا المولّد فسؤاله مختلف: هل الوجه الذي أنتجه يمكن أن يمرّ بوصفه صورة حقيقية؟ وهل غطّى تنوّع البيانات، أم أنّه ينتج الوجه نفسه مرارًا؟ سنعود إلى ذلك مطوّلًا في الوحدة الثامنة عبر FID.

الأرجحية: بوصلة النماذج التوليدية

كيف نُدرِّب نموذجًا على $p(x)$ دون تسميات؟ الفكرة الأساسية هي الأرجحية القصوى: نختار المعالم $\theta$ التي تُعطي أعلى احتمال للبيانات المُلاحَظة.

$$\theta^{\star} = \arg\max_{\theta} \sum_{i=1}^{N} \log p_{\theta}(x_i)$$

عمليًّا نُحسِّن السالب لهذه الكمّية، الذي يُدعى الخسارة اللوغاريتمية السلبية. وهنا يظهر أوّل فارق كبير بين الأسر التوليدية: بعضها يحسب $\log p_{\theta}(x)$ بدقّة (النماذج الانحداريّة كـPixelCNN، ونماذج التدفّق)، وبعضها يقرّبه من الأسفل (VAE عبر ELBO)، وبعضها لا يحسبه أصلًا (GAN لا يُعرِّف كثافة).

ويترتّب على ذلك انقسام صريح في مقاييس التقييم: من يملك أرجحية يستطيع الإبلاغ عن البتّات في البعد على جملة اختبار، ومَن لا يملكها مضطرّ إلى مقاييس تعتمد على الشبكة العصبية، من FID إلى Inception Score.

أخذ العيّنات: الميزة الوحيدة الحقيقية

القيمة العملية لنموذج توليديّ لا تظهر إلّا حين نطلب منه أن يُنتج $x$ جديدًا. صيغة أخذ العيّنة تختلف من أسرة إلى أخرى، لكنّها دائمًا تتضمّن مصدر عشوائية يُغذّي الشبكة:

import torch

torch.manual_seed(0)
z = torch.randn(16, 128)          # ضجيج كامن من التوزيع الطبيعي المعياري
with torch.no_grad():
    x_genere = modele_generateur(z)  # يعطي 16 صورة

في VAE يعبر $z$ بشبكة فك الترميز مباشرة. وفي GAN يعبر بشبكة المولّد. وفي نماذج الانتشار تتكرّر عمليّة إزالة تشويش مئات المرّات حتّى تخرج الصورة النهائية. أمّا في النماذج الانحداريّة فيُنتَج البكسل تلو البكسل، وهو ما يجعلها بطيئة عمليًّا رغم دقّتها الاحتمالية.

الأسر الثلاث الكبرى وكرونولوجيّتها

انتُظِمت النماذج التوليدية الحديثة في ثلاث أسر كبرى ظهرت متتابعة، وكلّ واحدة أعادت تعريف الحدّ الأعلى للجودة في وقتها.

• المرمّزات التلقائية المتغايرة (VAE) ظهرت في 2013 مع Kingma وWelling. تقوم على مرمّز يُشفّر $x$ إلى توزيع كامن، وفكّ ترميز يُعيد بناءه. تُدرَّب بالأرجحية القصوى عبر حدّ أدنى (ELBO)، وتنتج صورًا ضبابيّة عمومًا لكن بفضاء كامن منظّم قابل للتلاعب. تُغطّى في الوحدتين 2 و3.
• الشبكات الخصميّة التوليدية (GAN) ظهرت في 2014 مع Goodfellow. تُدرَّب لعبةً بين مولّد ومميّز، وأنتجت لأوّل مرّة صور وجوه عالية الدقّة عبر StyleGAN. مقابل ذلك عانت من عدم استقرار مزمن ومن انهيار الأنماط. تُغطّى في الوحدتين 4 و5.
• نماذج الانتشار فُتحت مع Ho وJain وAbbeel في 2020 عبر DDPM، وسادت السوق منذ 2022 مع Stable Diffusion وDALL-E 2 وImagen. تقوم على تعليم شبكة إزالة تشويش تدريجيّة، وتُنتج جودة عالية وتنوّعًا واسعًا، مقابل تكلفة أخذ عيّنة مرتفعة. تُغطّى في الوحدتين 6 و7.

هذه الدورة تسير على هذا الترتيب التاريخي، لا صدفةً بل لأنّ كلّ أسرة تُضيء ما قبلها: تُظهر VAE ضرورة فضاء كامن منظّم، ثمّ يُظهر GAN كلفة تجاهل الأرجحية، ثمّ يبيّن الانتشار كيف تُوحَّد الجودة العالية بأخذ عيّنة مسيطَر عليها.

الخيط الأحمر: من الأرقام المكتوبة يدويًّا إلى الوجوه

خيط هذه الدورة الأحمر هو التوليد البصريّ. سنبدأ بجمعة MNIST: صور رقميّة رمادية بحجم 28 في 28 بكسلًا، وهي أصغر ما يُتيح رؤية سلوك مرمّز تلقائي وVAE وأوّل GAN دون الحاجة إلى بطاقة رسوميّات. ثمّ ننتقل إلى CelebA بحجم 64 في 64 للوحدات المخصّصة للانتشار ومقاييس الجودة، إذ لا يُظهر MNIST تعقيد الأنسجة الحقيقية. ونختم بسؤال الحقوق والتوليد المسؤول على الوجوه، حيث تصبح مسألة الموافقة والمصدر ملموسة.

الاختيار العملي بين تمييزي وتوليدي

حين يمكن جمع تسميات كثيرة والمهمّة تصنيف، النموذج التمييزي أبسط وأدقّ دائمًا تقريبًا. النموذج التوليدي مبرَّر حين نحتاج إلى إنتاج بيانات جديدة (تدريب أو تعزيز)، أو إلى نمذجة الشذوذ (ما يبتعد عن $p(x)$ المتعلَّمة)، أو إلى فضاء كامن نستكشفه لتحرير الصور. الخطأ الشائع هو الوصول إلى GAN لحلّ مسألة تصنيف: كأنّ نبني مصنعًا كاملًا لبيع قطعة واحدة.

في الخلاصة

• النموذج التمييزي يقدّر $p(y \mid x)$، والنموذج التوليدي يقدّر $p(x)$ أو $p(x \mid c)$ ويسمح بأخذ عيّنات جديدة.
• الأرجحية القصوى هي الأساس النظري للنماذج التوليدية، لكن الأسر تختلف في قدرتها على حساب $\log p_{\theta}(x)$ صراحةً أو مقاربةً أو أبدًا.
• الأسر الثلاث الكبرى: VAE (فضاء كامن منظّم، صور ضبابيّة)، GAN (جودة عالية، تدريب هشّ)، نماذج الانتشار (الأفضل حاليًّا، بطء في أخذ العيّنة).
• التقييم لا يقتصر على الجودة البصريّة: التنوّع، الأرجحية على جملة اختبار، وFID تُقيس زوايا مختلفة سنُفصّلها في الوحدة 8.

الوحدة التالية تنتقل إلى أوّل بنية توليدية: المرمّز التلقائي البسيط، الذي يُظهر ضرورة فضاء كامن دون أن يقدر على التوليد الجيّد بمفرده.