الوحدة 9 — نماذج المزيج الغوسي

عودةٌ إلى التجميع، بأداةٍ تُصلِح أكثر حدَّين إزعاجاً في k-means. أوّلاً، لم تعد النقطة تنتمي إلى مجموعةٍ انتماءً قاطعاً: بل تنتمي باحتمال. وثانياً، لم تبقَ المجموعات مُقيَّدة بأن تكون كروية. فالمزيج الغوسي هو التعميم الطبيعي للوحدة 2، ويُضيء بأثرٍ رجعي ما كانت تفترضه.

النموذج: البيانات كمزيجٍ من الغوسيات

الافتراض صريح، وهذه قوّة: تأتي البيانات من عدّة توزيعات طبيعية (غوسية) مُتراكِبة، كلٌّ يقابل مجموعة. ويُوصَف كلّ مكوّن بثلاثة عناصر — متوسّطه (مركزه)، ومصفوفة تغايره (شكله وتوجيهه)، ووزنه (نسبته في المزيج).

فيصير التجميع مسألة تقدير: استعادة معاملات الغوسيات التي تفسّر البيانات المُلاحَظة أفضل تفسير. وهو نموذجٌ توليدي، ولذلك نتيجةٌ محمودة: فبعد ملاءمته يقدر على توليد بياناتٍ جديدة معقولة، وعلى تقييم أرجحية أيّ نقطة.

الإسناد الاحتمالي، وما يُغيّره

تُسنِد k-means كلّ نقطة إلى مجموعةٍ واحدة (إسناد صلب). أمّا المزيج الغوسي فيُقدّم، لكلّ نقطة، احتمال انتمائها إلى كلّ مجموعة (إسناد ناعم): 70% للمجموعة أ، و25% للمجموعة ب، و5% للمجموعة ج.

والفائدة ملموسة جدّاً. فعميلٌ على حدّ شريحتين أمرٌ متواتر، ومعرفةُ ذلك أفضل من إسناده تعسّفاً. وهذه الاحتمالات تُحدّد الحالات المُلتبِسة، تلك التي تستحقّ عنايةً خاصّة أو قراراً حصيفاً — وهي معلومةٌ يُتلِفها الإسناد الصلب إتلافاً تامّاً.

from sklearn.mixture import GaussianMixture
gmm = GaussianMixture(n_components=4, covariance_type="full", random_state=42).fit(X_s)
gmm.predict(X_s)         # المجموعة الأرجح
gmm.predict_proba(X_s)   # الاحتمالات لكلّ مجموعة: إسهام GMM الخاصّ

أشكالٌ حرّة بفضل التغاير

هذا هو الإسهام الثاني، وينبع من المعامل covariance_type. فلأنّ لكلّ غوسية مصفوفة تغايرها الخاصّة، تقدر المجموعة أن تكون ممدودة أو مائلة أو أوسع من غيرها. فحيث كانت k-means تُقطّع الفضاء خلايا حول مراكز، يُعانِق المزيج الغوسي قطوعاً ناقصة مُوجَّهة.

covariance_type	الأشكال المسموحة	المعاملات
spherical	كرات	قليلة
diag	قطوع ناقصة موازية للمحاور	متوسّطة
tied	الشكل نفسه لكلّ المجموعات	متوسّطة
full	قطوع ناقصة حرّة، توجيهٌ حرّ	كثيرة

full هو الأكثر تعبيراً، لكنّه الأكثر التهاماً للبيانات أيضاً: فتقدير تغايرٍ كامل لكلّ مجموعة يتطلّب ملاحظاتٍ كثيرة، خاصّةً في الأبعاد العالية. والتسوية المعتادة هي diag حين تكون البيانات قليلة إزاء عدد المتغيّرات. ونجد هنا بالضبط مقايضة الانحياز والتباين من الدورة المُوجَّهة، وقد اتّخذت هيئة عدد المعاملات.

وتُضيء هذه الجدولة كذلك تكافؤاً مُعلِّماً: فمكوّناتٌ spherical متساوية الوزن، بإسنادٍ صلب، تُعيد أساساً k-means. فكانت الوحدة 2 إذن حالةً خاصّة من هذه الوحدة.

خوارزمية EM واختيار عدد المكوّنات

تجري الملاءمة بـالتوقّع والتعظيم (EM)، وبنيتها ستُذكّرك بالوحدة 2: فنُبادِل بين تقدير احتمالات الانتماء (خطوة E) وتحديث معاملات الغوسيات (خطوة M)، حتى تستقرّ الأرجحية. وكـk-means، يتقارب EM إلى أمثلٍ محلّي ويتوقّف على التهيئة — ومن هنا استعمال عدّة إعادات تشغيل (n_init).

ولعدد المكوّنات يقدّم المزيج الغوسي ميزةً واضحة على الوحدة 3: فلأنّه نموذجٌ إحصائي حقيقي، يسمح بمعايير مؤسَّسة. فمعيار BIC (معيار المعلومات البايزي) يجمع جودة الملاءمة وعقوبةً على عدد المعاملات؛ ونُبقي على $k$ الذي يُصغّر BIC. وهذا أكثر موضوعية من قراءة كوع، إذ تُقصي العقوبةُ تلقائياً النماذجَ المعقّدة بلا داعٍ.

bics = [GaussianMixture(n, random_state=42).fit(X_s).bic(X_s) for n in range(2, 11)]

متى نُفضّل المزيج الغوسي

ثلاث إشارات تحتجّ له: مجموعات ممدودة بوضوح أو متفاوتة الأحجام؛ أو حاجةٌ صريحة إلى تحديد الحالات الحدّية؛ أو نفعُ نموذجٍ توليدي (محاكاة، حساب أرجحية، كشف شواذّ بالأرجحية المنخفضة — وهو جسرٌ مباشر إلى الوحدة 8). وبالمقابل، على الأحجام الضخمة جدّاً في الأبعاد العالية تبقى k-means أسرع وأمتن، ويجب أن يبقى الافتراض الغوسي معقولاً: فبياناتٌ شديدة اللاتناظر، أو متعدّدة النمط داخل المجموعة، تُخِلّ به.

الخلاصة

• يُنمذِج المزيج الغوسي البيانات كتراكبٍ من الغوسيات، كلٌّ مُعرَّفة بمتوسّطٍ وتغايرٍ ووزن.
• الإسناد احتمالي: فيكشف الحالات الحدّية التي يمحوها الإسناد الصلب في k-means.
• يُحرّر covariance_type شكل المجموعات (قطوع ناقصة مُوجَّهة)؛ وfull الأكثر تعبيراً، وdiag التسوية حين تقلّ البيانات.
• تجري الملاءمة بـEM (أمثلٌ محلّي، إعادات تشغيل عدّة) ويُختار عدد المكوّنات بتصغير BIC.

الوحدة التالية: مشروع تقسيم العملاء، حيث تتشابك كلّ طرائق الدورة في مسارٍ كامل.