#embeddings-3d — الشبكات العصبية

الكلمة تصبح متّجهًا: القُرب في الفضاء = القُرب في المعنى، ويمكنك إجراء عمليات حسابية عليها.

ما ستُجرّبه

مرحبًا في قناة #embeddings-3d. كلّ نقطة هي كلمة، وموقعها ليس اعتباطيًا: يُحوّل نموذج اللغة كلَّ كلمة إلى متّجه (قائمة من الأرقام)، وتنتهي كلمتان قريبتان في المعنى إلى مكانَيْن قريبَيْن في الفضاء. هذا إسقاط ثلاثيّ الأبعاد مبسَّط، مبنيّ ليكون مقروءًا — التمثيلات الحقيقية لها 768 بُعدًا أو أكثر. المشهد يدور تلقائيًا؛ اكتب /rotate لإيقافه.
لنبدأ بكلمة واحدة. اكتب /word cat: أُبرزها وأحسب جيرانها الخمسة الأقرب (بتشابه جيب التمام).
غيّر العائلة: /word Paris. جيرانها هي العواصم الأخرى… ولاحظ France تحتها مباشرةً، في السحابة الزرقاء للدول.
اكتب /links لرسم خطّ من كل دولة إلى عاصمتها. الخطوط كلّها متوازية: علاقة «عاصمة» هي اتجاه واحد في الفضاء. الشيء نفسه من king إلى queen، ومن man إلى woman، ومن prince إلى princess.
بما أنّ «عاصمة» سهم، يمكننا نسخه على دولة أخرى. اكتب /analogy Paris France Italy: أحسب Paris − France + Italy وأبحث عن الكلمة الأقرب إلى النتيجة.
هذا هو حساب على المعنى. المثال التاريخي من word2vec (Mikolov، 2013): /analogy king man woman. لم يقرأ النموذج قاموسًا قطّ، بل رأى ملايير الجُمَل فحسب.
لعزل سحابة واحدة، رشِّح: /cluster emotions. تخفت العائلات الأخرى. ثم استكشف بحرّية: /word joy، /distance joy sadness، /distance cat Paris…
لقد رأيت كلّ شيء: الكلمة = متّجه، القرب = تقارب في المعنى، العلاقة = اتجاه. تفعل نماذج LLM هذا بالضبط، لكن بآلاف الأبعاد وبجُمَل كاملة — إنّها الطبقة الأولى في كلّ transformer، تلك التي تُغذّي عصبونات قناة #neuron. تابع اللعب: /analogy Tokyo Japan Canada، /word doctor، /cluster all، /reset.

أوامر القناة

/word <كلمة> — يُبرز كلمة ويعرض جيرانها الخمسة الأقرب (بجيب التمام).
/analogy <a> <b> <c> — يحسب a − b + c ويجد الكلمة الأقرب إلى النتيجة.
/cluster <animals|cities|countries|royalty|emotions|jobs|all> — يُبقي عائلة واحدة من الكلمات ملوّنةً.
/links — يُظهر أو يُخفي خطوط دولة←عاصمة ومذكّر←مؤنّث.
/rotate — يبدأ أو يوقف الدوران التلقائي للمشهد.
/distance <a> <b> — تشابه جيب التمام بين كلمتين، مع تفسير.
/reset — يمسح التحديد والتناظر والمُرشِّح؛ ويُعيد تشغيل الدوران.

المسرد

Embedding: تمثيل كلمة (أو رمز أو صورة…) كشعاع من الأرقام، يُتعلَّم بحيث تكون العناصر المتقاربة معنويًا ذات أشعّة متقاربة.
الفضاء الشعاعي: مجموعة الأشعّة الممكنة كلّها. Embedding بأبعاد 300 يعيش في فضاء بـ300 بُعد؛ هنا نُسقِطه في 3D لنراه.
تشابه الجيب التمامي: جيب تمام الزاوية بين شعاعين: 1 = الاتجاه نفسه، 0 = متعامدان، −1 = متعاكسان. المقياس القياسي للتقارب الدلالي، غير حسّاس للطول.
المماثلة الشعاعية: king − man + woman ≈ queen: تتحوّل العلاقات (الجنس، العاصمة، الجمع) إلى اتجاهات ثابتة في الفضاء.
Word2vec: طريقة (2013) تتعلّم embeddings بالتنبؤ بكلمة من جيرانها (CBOW) أو العكس (skip-gram). «تعرف الكلمة بمن تخالطها».
الفرضية التوزيعية: كلمتان تظهران في سياقات متشابهة يكون معناهما متشابهًا. هذا المبدأ يتيح تعلّم المعنى دون قاموس.
البُعد: عدد الإحداثيات في شعاع. أبعاد أكثر = دقّة أكبر ممكنة، لكن ببيانات أكثر. عادةً من 100 إلى 4٬096.
اختزال الأبعاد: إسقاط أشعّة عالية الأبعاد إلى 2D أو 3D لعرضها (PCA، t-SNE، UMAP)، مع أقلّ ما يمكن من فقدان المعلومات.
الجيران الأقرب: الكلمات التي شعاعها الأقرب من كلمة معيّنة. عرضها أبسط اختبار لجودة embedding.

قنوات أخرى في الشبكات العصبية

#neuron — لنفكّك عصبونًا: مداخل، أوزان، مجموع، دالة تفعيل.
#dropout — تنظيم dropout: الصديق الأفضل للشبكات العميقة.
#activation — لماذا نحتاج دالة تفعيل؟ ReLU وsigmoid وtanh وLeaky ReLU وGELU وتلاشي التدرج.
#gradient-descent — الخسارة تضاريس. يخبرنا التدرج بأي اتجاه هو الأعلى، فنخطو في الاتجاه المعاكس.
#backpropagation — مخطّط الحسابات يُعاد تشغيله معكوسًا: كل عقدة تستقبل ∂L/∂(نفسها) وقاعدة السلسلة تتكفّل بالباقي.
#overfitting — نموذج كبير على قليل من النقاط: يلتوي حدّ القرار حتى يحفظ الضجيج عن ظهر قلب.
#cnn-filters — الصورة شبكة من الأرقام. مرشّح 3×3 ينزلق فوقها، يضرب، يجمع: هذا هو الالتفاف.
#is-it-einstein — هل هذا أينشتاين؟ وجهان يمرّان بماسح شبكة لم تتعلّم سوى أينشتاين: هيثم → لا، أينشتاين → نعم. المشاهدة مجانية؛ التعديل بريميوم.
#embeddings-3d — الكلمة تصبح متّجهًا: القُرب في الفضاء = القُرب في المعنى، ويمكنك إجراء عمليات حسابية عليها.