الدرس 1 — العصبون
اسم «الشبكة العصبية» يوحي بمحاكاة الدماغ، والتشبيه مضلِّل إلى حدّ كبير. الوحدة الأساسية هنا أبسط بكثير من عصبون حقيقي، وهي مجرّد عملية حسابية من سطرين.
ما يحسبه العصبون بالضبط
العصبون يستقبل أرقاماً، ويفعل ثلاثة أشياء:
- يضرب كلّ مدخل في وزن خاصّ به.
- يجمع كلّ هذه الجداءات، ويضيف رقماً ثابتاً يُسمّى الإزاحة (bias).
- يمرّر المجموع في دالّة تنشيط، فتنتج المخرج.
هذا كلّ شيء. والخطوتان الأولى والثانية هما بالضبط الجداء القياسي الذي رأيناه في دورة الرياضيات, أي مقياس التشابه.
من هنا التفسير المفيد: العصبون يقيس مدى تشابه المدخل مع النمط الذي تعلّمه. الأوزان هي النمط، والمخرج هو درجة المطابقة.
الأوزان والإزاحات هي معاملات النموذج. تبدأ عشوائية، فيكون المخرج ضجيجاً، ثمّ يعدّلها التدريب — كما شرحنا في دورة المقدّمة — حتى تصبح أنماطاً مفيدة. ولا أحد يقرّر أنّ هذا العصبون سيكتشف الحدود الرأسية؛ ذلك ينشأ من البيانات.
دالّة التنشيط: بلاها لا وجود للعمق
هذه أهمّ فكرة في الدرس، وهي بديهية بعد الشرح.
المجموع المرجّح تحويل خطّي. وتكديس تحويلات خطّية ينتج تحويلاً خطّياً واحداً: إذا كانت كلّ طبقة ضرباً في مصفوفة، فمئة طبقة تكافئ ضرباً في مصفوفة واحدة هي جداء المئة.
النتيجة الحاسمة: بلا لاخطّية، شبكة من مئة طبقة تساوي رياضياً طبقة واحدة، وكلّ الاستثمار في العمق يذهب هدراً. دالّة التنشيط هي ما يكسر هذه الخطّية ويجعل التكديس مفيداً.
| الدالّة | ما تفعله | الحال اليوم |
|---|---|---|
| Sigmoid | تسحق القيمة بين 0 و1 | للمخرج الثنائي فقط؛ تسبّب تدرّجات متلاشية في الطبقات |
| tanh | تسحق بين -1 و1 | أفضل من السيغمويد، وقد تجاوزها الاستخدام |
| ReLU | تُبقي الموجب وتصفّر السالب | المعيار الفعلي في الطبقات الخفيّة |
| GELU / SiLU | نسخ ناعمة من ReLU | مستخدمة في المحوّلات الحديثة |
| Softmax | تحوّل أرقاماً إلى احتمالات مجموعها 1 | في طبقة المخرج للتصنيف المتعدّد |
ReLU بدائية إلى حدّ يبدو مريباً: «إذا كان الرقم سالباً فاجعله صفراً». ومع ذلك، هي جزء من سبب إمكان تدريب الشبكات العميقة اليوم، لأنّها لا تسحق الميل مثل السيغمويد فلا تخنق الانتشار العكسي.
الطبقة: عصبونات متوازية
الطبقة مجموعة عصبونات تقرأ المدخل نفسه، كلٌّ بأوزانه الخاصّة. طبقة من 128 عصبوناً تنتج 128 رقماً، أي 128 قياساً مختلفاً لتشابه المدخل مع 128 نمطاً.
وفي الحساب، الطبقة كلّها ضرب مصفوفة واحد. هذا هو سبب سرعة التنفيذ على معالج رسومي، وسبب أنّ فهم الأشكال (shapes) هو مهارة التصحيح الأولى.
الأنواع الأساسية:
- طبقة المدخل: البيانات كما هي (بكسلات، سمات، رموز).
- الطبقات الخفيّة: حيث تُبنى التمثيلات. عددها هو «العمق».
- طبقة المخرج: شكلها يحدّده نوع المسألة — عصبون واحد للانحدار، وعصبون لكلّ فئة مع Softmax للتصنيف.
التمرير الأمامي والعكسي
التمرير الأمامي: المدخل يعبر الطبقات واحدةً بعد أخرى حتى المخرج. وهذا هو الاستخدام العادي للنموذج، أي الاستنتاج، وهو سريع.
التمرير العكسي: أثناء التدريب فقط. تُقاس الكلفة عند المخرج، ثم يعود الحساب طبقةً بطبقة إلى الخلف بقاعدة السلسلة ليحدّد ميل كلّ وزن. ثم يعدّل المحسِّن الأوزان. هذا الانتشار العكسي، وهو أثقل من التمرير الأمامي بنحو مرّتين إلى ثلاث.
من هنا الفارق المعروف: تدريب نموذج كبير قد يستهلك أسابيع من عتاد باهظ، واستخدامه بعد ذلك يستهلك أجزاء من الثانية.
عدد المعاملات: من أين تأتي المليارات
طبقة كاملة الاتّصال من 1000 مدخل إلى 1000 عصبون تحتوي مليون وزن، وألف إزاحة. ومن تكديس طبقات كهذه تظهر الأرقام الضخمة بسرعة.
النماذج اللغوية الحديثة تعدّ معاملاتها بمئات المليارات. وكلّ معامل رقم يُحفَظ ويُحدَّث، ومن هنا تأتي حاجة الذاكرة والحساب. وهذا أيضاً سبب اختراع بنى أكثر كفاءة، مثل الالتفاف في الصور، الذي يعيد استخدام المرشِّح نفسه بدل وزن مستقلّ لكلّ بكسل.
في ثلاث جمل
العصبون يحسب مجموعاً مرجّحاً ثم يمرّره في دالّة تنشيط، أي أنّه يقيس تشابه المدخل مع نمط تعلّمه في أوزانه. ودالّة التنشيط ليست تفصيلاً بل شرط وجود العمق، لأنّ تكديس تحويلات خطّية بلا لاخطّية يكافئ طبقة واحدة. والطبقة ضرب مصفوفة واحد، ومن هنا سرعة المعالج الرسومي وأيضاً الانفجار العددي في عدد المعاملات.
التالي — الدرس 2: لماذا العمق ←