يُستخدم “التعلّم العميق” مرادفًا للذكاء الاصطناعي، وهو يشغّل التعرّف على الصور وتحويل الكلام إلى نص والنماذج اللغوية الكبيرة التي يتناولها الدرس القادم. لكنه في العمق مبني من قطع تعرفها أصلًا: مجاميع موزونة كالانحدار الخطي، ودالة ضغط كالـ sigmoid، والـ gradient descent. يجمع هذا الدرس هذه القطع، ويدرّب شبكة صغيرة، ثم يضعها بجانب الانحدار اللوجستي ليرى ما تساويه فعلًا.
\nالعصبون (neuron) يفعل ما يفعله الانحدار اللوجستي دون الضغط الأخير: يضرب كل مُدخل في وزن، ويجمع النتائج، ويضيف bias. ثم يطبّق دالة تنشيط (activation function). والأكثر شيوعًا هي ReLU، التي تُخرج المجموع إن كان موجبًا و0 فيما عدا ذلك. الطبقة (layer) مجموعة من العصبونات تقرأ كلها المدخلات نفسها، ولكلٍّ منها أوزانه. والشبكة تكدّس الطبقات: مخرجات إحداها تصبح مدخلات التالية.
\nدالة التنشيط هي الحيلة كلها. فبدونها تكون الطبقة دالة خطية، والدالة الخطية لدالة خطية تظل خطية: عشر طبقات لن تكون أقوى من انحدار لوجستي واحد. ومع ReLU بينها، تستطيع كل طبقة أن تثني وتجمع ما أنتجته سابقتها، فتستطيع الشبكة تمثيل منحنيات وتفاعلات لم تكتبها قط. وبعبارة أخرى، تتعلّم الطبقات المخفية features خاصة بها.
\nوفي التصنيف، تحتوي طبقة المخرجات على عصبون لكل فئة ودالة softmax، التي تحوّل المخرجات إلى احتمالات مجموعها 1، وهي القريب متعدد الفئات للـ sigmoid.
\nيكرّر التدريب أربع خطوات:
\nadam، الخيار الافتراضي، هو gradient descent بمعدّل تعلّم متكيّف لكل وزن.المرور الواحد على بيانات التدريب كلها epoch. ويستمر التدريب لعدد كبير من الـ epochs، وتراقب الخسارة تنخفض تمامًا كما انخفضت في الـ gradient descent الذي كتبته بيدك في القسم 2، لكن عبر آلاف الأوزان بدل وزنين.
\nتحتوي بيانات الأرقام (digits) على 1,797 صورة لأرقام مكتوبة بخط اليد، كلٌّ منها 8×8 بكسل مسطّحة إلى 64 رقمًا. وMLPClassifier في scikit-learn (الـ multi-layer perceptron) شبكة صغيرة متصلة بالكامل.
from sklearn.datasets import load_digits\nfrom sklearn.linear_model import LogisticRegression\nfrom sklearn.model_selection import train_test_split\nfrom sklearn.neural_network import MLPClassifier\nfrom sklearn.pipeline import make_pipeline\nfrom sklearn.preprocessing import StandardScaler\n\nX, y = load_digits(return_X_y=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42, stratify=y)\n\nnet = make_pipeline(StandardScaler(),\n MLPClassifier(hidden_layer_sizes=(64,), max_iter=500, random_state=42))\nnet.fit(X_train, y_train)\nmlp = net[-1]\nprint(\"weight matrices:\", [w.shape for w in mlp.coefs_])\nprint(\"parameters:\", sum(w.size for w in mlp.coefs_) + sum(b.size for b in mlp.intercepts_))\nprint(\"epochs run:\", mlp.n_iter_, \"| loss first, 10th, last:\",\n [round(float(mlp.loss_curve_[i]), 3) for i in (0, 9, -1)])\nprint(\"network test accuracy: \", round(net.score(X_test, y_test), 3))\n\nlinear = make_pipeline(StandardScaler(), LogisticRegression(max_iter=2000)).fit(X_train, y_train)\nprint(\"logistic test accuracy:\", round(linear.score(X_test, y_test), 3))طبقة مخفية واحدة من 64 عصبونًا تعني مصفوفتي أوزان: 64×64 من البكسلات إلى الوحدات المخفية و64×10 من الوحدات المخفية إلى الأرقام، أي 4,810 معاملًا مع الـ biases. تنخفض الخسارة من 2.31 (تخمين متساوٍ على عشر فئات) إلى ما دون 0.01، ويتوقف التدريب من تلقاء نفسه بعد 164 epoch لأن التحسّن تعثّر. الدقة على الاختبار: 98%.
\nوالانحدار اللوجستي؟ نحو 98% أيضًا. مع صور 8×8 وبضع مئات من الأمثلة لكل فئة، يكفي حدّ مستقيم أصلًا. ولا تجد القوة الإضافية للشبكة شيئًا يُذكر تعمل عليه. جرّبها على بيانات الانقطاع وستكون النتيجة نفسها، أسوأ قليلًا: نحو 0.79 من الـ ROC AUC مقابل 0.81 للانحدار اللوجستي.
\n\nالشبكات التي تقف وراء الذكاء الاصطناعي الحديث تختلف عن MLPClassifier في الحجم وفي البنية. فـ الشبكات الالتفافية (convolutional networks) تعيد استخدام المرشّحات الصغيرة نفسها عبر الصورة، فتتعلّم الحواف، ثم الأشكال، ثم الأجسام. والـ Transformers، التي تقف وراء النماذج اللغوية الحالية، تتيح لكل كلمة في النص أن تزن كل كلمة أخرى. وكلاهما يُدرَّب على ملايين أو مليارات الأمثلة، على وحدات GPU، بمكتبات مثل PyTorch أو Keras أو JAX، لا scikit-learn.
وما تشترك فيه مع شبكتك ذات الـ 4,810 وزنًا هو كل ما هو مفاهيمي: الطبقات، ودوال التنشيط، ودالة الخسارة، والـ backpropagation، والـ epochs، والـ overfitting، وبيانات التحقق. وحين تقول ورقة بحثية في التعلّم العميق “درّبنا لـ 20 epoch مع early stopping على خسارة التحقق”، فأنت تعرف الآن معنى كل كلمة.
\n\nالنماذج المدرَّبة مسبقًا هي الجسر بين العالمين، وأبرزها النماذج اللغوية الكبيرة. يشرح الدرس القادم ما تفعله، وكيف تحوّل الـ embeddings النص إلى نوع المتّجهات التي ظللت تغذّي بها النماذج طوال الدورة، وأين تقع بجانب نموذج الانقطاع.
\n","toc":[{"id":"sec-1","text":"من عصبون واحد إلى شبكة","level":2},{"id":"sec-2","text":"كيف تتعلّم الشبكة","level":2},{"id":"sec-3","text":"شبكة على الأرقام المكتوبة بخط اليد","level":2},{"id":"sec-4","text":"حيث يفوز التعلّم العميق","level":2}],"takeaways":["يحسب العصبون مجموعًا موزونًا لمدخلاته مضافًا إليه bias، ثم يمرّره عبر دالة تنشيط مثل ReLU؛ والطبقة عصبونات كثيرة متجاورة.","دون دوال تنشيط غير خطية، تنهار أي كومة من الطبقات إلى نموذج خطي واحد.","يكرّر التدريب الـ forward pass، ثم دالة الخسارة، ثم الـ backpropagation (تدرّجات لكل وزن)، ثم خطوة المُحسِّن؛ والمرور الواحد على بيانات التدريب هو epoch.","MLPClassifier شبكة صغيرة متصلة بالكامل لمسائل بحجم البيانات الجدولية؛ أما التعلّم العميق الحقيقي فيستخدم PyTorch أو Keras أو JAX على وحدات GPU.","تتألّق الشبكات العصبية مع كميات كبيرة من البيانات الخام غير المهيكلة مثل الصور والصوت والنصوص؛ أما في الجداول الصغيرة فتجاريها النماذج الخطية والأشجار المعزّزة أو تتفوّق عليها عادةً."],"further":[{"title":"Neural network models (supervised)","url":"https://scikit-learn.org/stable/modules/neural_networks_supervised.html"},{"title":"MLPClassifier","url":"https://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html"}],"quiz":[{"q":"لماذا تحتاج الشبكات العصبية إلى دوال تنشيط غير خطية بين الطبقات؟
","options":[{"text":"لأنها تجعل التدريب أسرع على وحدات GPU.","why":"السرعة ليست السبب؛ السبب هو ما تستطيع الشبكة تمثيله أصلًا."},{"text":"لأنها تُبقي المخرجات بين 0 و1.","why":"هذا لا يصح إلا على بعض دوال التنشيط (sigmoid)؛ فمخرجات ReLU قد تكون أي رقم غير سالب."},{"text":"لأنها تمنع الأوزان من أن تكبر أكثر من اللازم.","why":"هذه مهمة الـ regularization (alpha في MLPClassifier)، لا مهمة دالة التنشيط."},{"text":"لأنه بدونها تتضاعف عدة طبقات خطية لتصبح دالة خطية واحدة، فلا يضيف العمق شيئًا.","why":"صحيح. اللاخطية هي ما يتيح للطبقات المكدّسة نمذجة المنحنيات والتفاعلات."}],"answer":3},{"q":"تتدرّب شبكة على 1,347 صورة مع max_iter=500، ويُبلغ n_iter_ عن 164. ماذا حدث؟
adam وsgd، يحدّد max_iter سقف عدد الـ epochs، ويتوقف التدريب مبكرًا بمجرد أن يتعثّر التقدّم."},{"text":"لم ترَ إلا 164 صورة من أصل 1,347.","why":"الـ epoch مرور كامل على كل صفوف التدريب؛ وكل epoch من الـ 164 استخدم كل الصور."},{"text":"انهارت عند الـ epoch رقم 164 واحتفظت بآخر أوزان سليمة.","why":"التوقف المبكر تقارب طبيعي، لا انهيار؛ والفشل في التقارب كان سيرفع ConvergenceWarning عند 500."}],"answer":0},{"q":"على جدول الانقطاع، تبلغ شبكة MLP صغيرة ROC AUC بالتحقق المتقاطع قدره 0.79 بينما يبلغ الانحدار اللوجستي 0.81. ما القراءة الأكثر معقولية؟
","options":[{"text":"تحتاج الـ MLP إلى طبقات أكثر؛ فالتعلّم العميق يفوز دائمًا بعمق كافٍ.","why":"مع 298 صفًا وثمانية features، القدرة الإضافية تضيف تباينًا في الغالب. والعمق ليس مجانيًا."},{"text":"في جدول صغير من features مفيدة، يصعب التفوّق على نموذج بسيط؛ فالشبكة تضيف تعقيدًا دون إشارة تستفيد منها.","why":"صحيح. تستحق الشبكات مكانها حين توجد بيانات كثيرة ومدخلات خام يصعب تصميم features لها يدويًا."},{"text":"لا يمكن استخدام الشبكات العصبية للتصنيف الثنائي.","why":"إنها تتعامل مع التصنيف الثنائي بشكل روتيني؛ والمسألة تتعلّق بحجم البيانات ونوعها."}],"answer":1}],"exercise":{"kind":"python","starter":"from sklearn.datasets import load_digits\nfrom sklearn.model_selection import train_test_split\nfrom sklearn.neural_network import MLPClassifier\nfrom sklearn.pipeline import make_pipeline\nfrom sklearn.preprocessing import StandardScaler\n\nX, y = load_digits(return_X_y=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42, stratify=y)\n\n# 1. Pipeline: StandardScaler, then an MLPClassifier with ONE hidden layer of 32 neurons,\n# max_iter=500, random_state=42. Fit it on the training data.\nnet = MLPClassifier(hidden_layer_sizes=(32, 32), max_iter=500, random_state=42)\n\n# 2. Facts about the trained network\nn_params = None # total number of weights + biases\nepochs = None # epochs actually run\ntest_acc = None # test accuracy\n","solution":"from sklearn.datasets import load_digits\nfrom sklearn.model_selection import train_test_split\nfrom sklearn.neural_network import MLPClassifier\nfrom sklearn.pipeline import make_pipeline\nfrom sklearn.preprocessing import StandardScaler\n\nX, y = load_digits(return_X_y=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42, stratify=y)\n\nnet = make_pipeline(StandardScaler(),\n MLPClassifier(hidden_layer_sizes=(32,), max_iter=500, random_state=42))\nnet.fit(X_train, y_train)\n\nmlp = net[-1]\nn_params = sum(w.size for w in mlp.coefs_) + sum(b.size for b in mlp.intercepts_)\nepochs = mlp.n_iter_\ntest_acc = net.score(X_test, y_test)\nprint(n_params, epochs, round(test_acc, 3))\n","checks":[{"id":"pipeline","test":"hasattr(net, 'steps') and type(net[0]).__name__ == 'StandardScaler' and type(net[-1]).__name__ == 'MLPClassifier'"},{"id":"architecture","test":"tuple(net[-1].hidden_layer_sizes) == (32,) and [w.shape for w in net[-1].coefs_] == [(64, 32), (32, 10)]"},{"id":"params","test":"n_params is not None and int(n_params) == 64 * 32 + 32 + 32 * 10 + 10"},{"id":"trained","test":"epochs is not None and int(epochs) == net[-1].n_iter_ and net[-1].loss_curve_[-1] < net[-1].loss_curve_[0]"},{"id":"accuracy","test":"test_acc is not None and 0.95 < float(test_acc) <= 1.0"}],"title":"درّب شبكة صغيرة وافحصها","prompt":"net: pipeline يتكوّن من StandardScaler ثم MLPClassifier بطبقة مخفية واحدة من 32 عصبونًا (max_iter=500, random_state=42)، مدرَّبًا على بيانات تدريب الأرقام.n_params (كل الأوزان مع كل الـ biases)، وepochs (عدد الـ epochs التي جرى فيها التدريب فعلًا)، وtest_acc (الدقة على بيانات الاختبار).hidden_layer_sizes=(32,)؛ والفاصلة في الآخر تجعلها tuple.","net[-1] هو الـ MLPClassifier المدرَّب. وcoefs_ وintercepts_ فيه قوائم من مصفوفات NumPy؛ اجمع قيم .size لها.","يحمل n_iter_ عدد الـ epochs التي جرى فيها التدريب."],"explanation":"للشبكة مصفوفة أوزان 64×32 إلى الطبقة المخفية ومصفوفة 32×10 إلى الأرقام العشرة، إضافة إلى 32 و10 من الـ biases: أي 2,410 معاملًا. يتوقف التدريب من تلقاء نفسه بمجرد أن تتوقف الخسارة عن التحسّن، قبل 500 epoch بكثير، وتستقر الدقة على الاختبار حول 97–98%، أي بمستوى الانحدار اللوجستي على هذه الصور الصغيرة. ودون الـ scaler، تجعل قيم البكسلات من 0 إلى 16 التدريب أبطأ وأقل استقرارًا.
\n","checkLabels":{"pipeline":"يوحّد net المقاييس، ثم يشغّل MLPClassifier","architecture":"طبقة مخفية واحدة من 32 عصبونًا","params":"يعدّ n_params كل وزن وكل bias","trained":"تطابق epochs عدد الـ epochs المنفَّذة، وقد انخفضت الخسارة","accuracy":"test_acc أعلى من 0.95"}},"words":734,"readMinutes":4}