انقطاع العملاء سؤال إجابته نعم أو لا، وستعود إليه في القسم 3. الانحدار يأتي أولًا لأن أبسط نماذجه، الخط المستقيم، يتيح لك أن ترى بالضبط ما يعنيه “التعلّم”: اختيار أرقام تجعل التنبؤات تخطئ بأقل قدر ممكن.
\nالبيانات هي مجموعة بيانات السكري في scikit-learn: 442 مريضًا، لكلٍّ منهم عشرة قياسات أولية (العمر والجنس ومؤشر كتلة الجسم وضغط الدم وست قراءات لمصل الدم s1–s6)، وهدف يقيس مدى تقدّم المرض بعد عام. الـ features ممركزة ومُعايَرة مسبقًا، ولهذا تبدو ككسور عشرية صغيرة.
ابدأ بمؤشر كتلة الجسم وحده. يتنبأ الانحدار الخطي بـ progression = intercept + coef * bmi، ويختار fit الرقمين.
from sklearn.datasets import load_diabetes\nfrom sklearn.linear_model import LinearRegression\nfrom sklearn.model_selection import train_test_split\n\nX, y = load_diabetes(return_X_y=True, as_frame=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)\n\nline = LinearRegression().fit(X_train[[\"bmi\"]], y_train)\nprint(\"intercept:\", round(line.intercept_, 1))\nprint(\"coef for bmi:\", round(line.coef_[0], 1))\nprint(\"first predictions:\", line.predict(X_test[[\"bmi\"]])[:3].round(1))الـ intercept (الجزء المقطوع، 152) هو التنبؤ عند مؤشر كتلة جسم متوسط، لأن الـ feature ممركز عند 0. والمعامل (975) هو الميل: وحدة واحدة من مؤشر كتلة الجسم المُعايَر هذا تضيف 975 إلى التنبؤ. لاحظ الأقواس المزدوجة في X_train[["bmi"]]: يريد scikit-learn جدولًا ثنائي الأبعاد حتى مع feature واحد.
كيف اختار fit هذين الرقمين؟ لكل مريض، الباقي (residual) هو القيمة الفعلية ناقص القيمة المتنبأ بها: أي الفجوة العمودية بين النقطة والخط. وتختار طريقة المربعات الصغرى العادية (ordinary least squares) الـ intercept والميل اللذين يجعلان مجموع مربعات البواقي أصغر ما يمكن. هذا المجموع، أي الشيء الذي نسعى إلى تصغيره، هو دالة الخسارة (loss).
التربيع يؤدي مهمتين: يجعل كل خطأ يُحسب موجبًا، ويجعل الأخطاء الكبيرة تُحسب أكثر بكثير من الصغيرة. خطأ مقداره 20 يكلّف 400؛ وخطأ مقداره 40 يكلّف 1,600. تذكّر هذا، لأنه يفسّر الفرق بين مقياسين من المقاييس أدناه.
\nالانحدار المتعدد هو الفكرة نفسها مع حدود أكثر: معامل لكل feature، إضافة إلى الـ intercept.
\nfrom sklearn.datasets import load_diabetes\nfrom sklearn.linear_model import LinearRegression\nfrom sklearn.model_selection import train_test_split\n\nX, y = load_diabetes(return_X_y=True, as_frame=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)\n\nmodel = LinearRegression().fit(X_train, y_train)\nfor name, coef in zip(X.columns, model.coef_):\n print(f\"{name:>4} {coef:8.1f}\")تعطيك score قيمة R²، لكن عليك أن تعرف ثلاثة مقاييس ومتى يناسب كلٌّ منها.
from sklearn.datasets import load_diabetes\nfrom sklearn.dummy import DummyRegressor\nfrom sklearn.linear_model import LinearRegression\nfrom sklearn.metrics import mean_absolute_error, root_mean_squared_error, r2_score\nfrom sklearn.model_selection import train_test_split\n\nX, y = load_diabetes(return_X_y=True, as_frame=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)\n\nmodels = {\n \"mean (dummy)\": (DummyRegressor(), X.columns),\n \"bmi only\": (LinearRegression(), [\"bmi\"]),\n \"all features\": (LinearRegression(), X.columns),\n}\nfor name, (model, cols) in models.items():\n pred = model.fit(X_train[cols], y_train).predict(X_test[cols])\n print(f\"{name:13} MAE {mean_absolute_error(y_test, pred):5.1f} \"\n f\"RMSE {root_mean_squared_error(y_test, pred):5.1f} R2 {r2_score(y_test, pred):6.3f}\")يخفض النموذج الكامل MAE من 65.5 (خط أساس المتوسط) إلى 41.5 ويفسّر نحو نصف التباين. هذا تقدّم صادق، وتذكير أيضًا بأن نصف ما يحرّك هذا المرض ليس موجودًا في هذه الأعمدة العشرة.
\n\nاستخدمت fit كصندوق أسود يُعيد أفضل خط. الدرس القادم يفتح الصندوق: ستكتب بنفسك عملية البحث عن أفضل خط باستخدام الـ gradient descent، وهي الفكرة نفسها التي تُدرَّب بها الشبكات العصبية.
intercept + coef1 * x1 + coef2 * x2 + … ويختار الأرقام التي تجعل مجموع مربعات البواقي أصغر ما يمكن.","الباقي (residual) هو القيمة الفعلية ناقص القيمة المتنبأ بها؛ وكل مقياس انحدار هو تلخيص مختلف للبواقي.","MAE هو الخطأ المعتاد بوحدات الهدف نفسها؛ وRMSE بالوحدات نفسها لكنه يعاقب الأخطاء الكبيرة أكثر.","R² هو نسبة التباين المفسَّرة مقارنةً بالتنبؤ الدائم بالمتوسط: 0 يعني أنه ليس أفضل من المتوسط، ويمكن أن يصبح سالبًا.","معاملات الـ features المترابطة قد تكون كبيرة ومتعاكسة الإشارة، فلا تقرأها على أنها أهمية أو سببية."],"further":[{"title":"Linear Models: Ordinary Least Squares","url":"https://scikit-learn.org/stable/modules/linear_model.html#ordinary-least-squares"},{"title":"Regression metrics","url":"https://scikit-learn.org/stable/modules/model_evaluation.html#regression-metrics"},{"title":"Diabetes dataset","url":"https://scikit-learn.org/stable/datasets/toy_dataset.html#diabetes-dataset"}],"quiz":[{"q":"نموذج يتنبأ بإنفاق العام القادم قيمة MAE فيه 40 دولارًا وRMSE فيه 150 دولارًا. ماذا توحي هذه الفجوة؟
","options":[{"text":"النموذج منحاز ويتنبأ بقيم أعلى من اللازم في المتوسط.","why":"لا يُظهر أيّ من المقياسين الاتجاه؛ فكلاهما يستخدم الأخطاء المطلقة أو المربّعة. لكشف الانحياز تنظر إلى متوسط البواقي."},{"text":"معظم الأخطاء صغيرة، لكن قليلًا منها كبير جدًا.","why":"صحيح. التربيع يجعل الأخطاء الكبيرة النادرة تهيمن على RMSE، بينما يزن MAE كل خطأ بالتساوي."},{"text":"حُسب RMSE على بيانات التدريب وMAE على بيانات الاختبار.","why":"لا شيء في الأرقام يقول ذلك. RMSE دائمًا لا يقل عن MAE على البيانات نفسها؛ والفجوة الكبيرة تتعلّق بشكل توزيع الأخطاء."}],"answer":1},{"q":"يحقق نموذج قيمة R² = -0.2 على بيانات الاختبار. ماذا يعني ذلك؟
","options":[{"text":"أنه يفسّر 20% من التباين، في الاتجاه السالب.","why":"لا اتجاه لـ R². القيمة السالبة مقارنة مع متنبئ المتوسط، لا نسبة ذات إشارة."},{"text":"أن الحساب معطوب، لأن R² مربّع ولا يمكن أن يكون سالبًا.","why":"الاسم تاريخي. على بيانات الاختبار، R² يساوي 1 ناقص نسبة بين خطأين، وهذه النسبة قد تتجاوز 1."},{"text":"أن تنبؤاته أسوأ من التنبؤ بالمتوسط للجميع.","why":"صحيح. يقارن R² الخطأ المربّع للنموذج بخطأ التنبؤ الدائم بمتوسط القيم الفعلية؛ وما دون 0 يعني أن النموذج يخسر."}],"answer":2},{"q":"في نموذج السكري، معامل s1 هو -918 ومعامل s2 هو +508. وكلاهما قياس دم متعلّق بالكوليسترول. ما القراءة الأكثر أمانًا؟
s1 يخفض تقدّم المرض بقوة، فرفعه سيساعد المرضى.","why":"المعاملات تصف النموذج المدرَّب، لا السبب والنتيجة، والمدخلات المترابطة تجعلها غير مستقرة."},{"text":"s1 هو أهم feature لأن معامله الأكبر.","why":"الحجم وحده مضلِّل حين تكون الـ features مترابطة؛ فالحدّان يلغي أحدهما الآخر إلى حدّ كبير."},{"text":"هذان الـ features مترابطان، فوازن النموذج بين وزنين كبيرين متعاكسين؛ وقيمة كلٍّ منهما على حدة غير موثوقة.","why":"صحيح. مع الـ features المترابطة، تتلاءم تركيبات كثيرة من المعاملات بجودة متقاربة جدًا. والـ regularization في آخر درس من هذا القسم يروّض ذلك."}],"answer":2}],"exercise":{"kind":"python","starter":"from sklearn.datasets import load_diabetes\nfrom sklearn.linear_model import LinearRegression\nfrom sklearn.metrics import mean_absolute_error, root_mean_squared_error, r2_score\nfrom sklearn.model_selection import train_test_split\n\nX, y = load_diabetes(return_X_y=True, as_frame=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)\ncols = [\"bmi\", \"bp\", \"s5\"]\n\n# 1. Fit a LinearRegression on the three columns in `cols`\nmodel = LinearRegression()\n\n# 2. Predict on the test rows and compute the three metrics\npred = None\nmae = None\nrmse = None\nr2 = None\n","solution":"from sklearn.datasets import load_diabetes\nfrom sklearn.linear_model import LinearRegression\nfrom sklearn.metrics import mean_absolute_error, root_mean_squared_error, r2_score\nfrom sklearn.model_selection import train_test_split\n\nX, y = load_diabetes(return_X_y=True, as_frame=True)\nX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)\ncols = [\"bmi\", \"bp\", \"s5\"]\n\nmodel = LinearRegression().fit(X_train[cols], y_train)\n\npred = model.predict(X_test[cols])\nmae = mean_absolute_error(y_test, pred)\nrmse = root_mean_squared_error(y_test, pred)\nr2 = r2_score(y_test, pred)\nprint(f\"MAE {mae:.1f} RMSE {rmse:.1f} R2 {r2:.3f}\")\n","checks":[{"id":"fitted","test":"hasattr(model, 'coef_') and len(model.coef_) == 3"},{"id":"pred","test":"pred is not None and len(pred) == len(y_test) and abs(float(pred[0]) - float(LinearRegression().fit(X_train[['bmi', 'bp', 's5']], y_train).predict(X_test[['bmi', 'bp', 's5']])[0])) < 1e-6"},{"id":"mae","test":"mae is not None and abs(float(mae) - float((y_test - LinearRegression().fit(X_train[['bmi', 'bp', 's5']], y_train).predict(X_test[['bmi', 'bp', 's5']])).abs().mean())) < 1e-6"},{"id":"rmse","test":"rmse is not None and abs(float(rmse) - float(((y_test - LinearRegression().fit(X_train[['bmi', 'bp', 's5']], y_train).predict(X_test[['bmi', 'bp', 's5']])) ** 2).mean() ** 0.5)) < 1e-6"},{"id":"r2","test":"r2 is not None and 0.3 < float(r2) < 0.6 and float(rmse) >= float(mae)"}],"title":"انحدار بثلاثة features، مقيس بثلاث طرق","prompt":"درّب LinearRegression على مؤشر كتلة الجسم وضغط الدم وs5 (الأعمدة الموجودة في cols) وقِسه على بيانات الاختبار.
model: نموذج الانحدار المدرَّب.pred: تنبؤاته لـ X_test[cols].mae وrmse وr2: المقاييس الثلاثة من هذا الدرس، محسوبة على بيانات الاختبار.model = LinearRegression().fit(X_train[cols], y_train).","تأخذ دوال المقاييس (y_true, y_pred) بهذا الترتيب.","root_mean_squared_error موجودة في sklearn.metrics؛ وهي مستوردة مسبقًا."],"explanation":"ثلاثة features مختارة جيدًا تعطي MAE بنحو 42 وR² بنحو 0.50، أي R² أعلى قليلًا مما تبلغه الـ features العشرة كلها على هذا التقسيم (0.49). وهذا أمر شائع: عدد قليل من الـ features يحمل معظم الإشارة، والـ features المترابطة الإضافية تضيف ضجيجًا إلى المعاملات. RMSE أكبر من MAE لأن حفنة من المرضى يُتنبَّأ لهم بشكل سيئ، والتربيع يجعل تلك الأخطاء تُحسب أكثر.
\n","checkLabels":{"fitted":"model نموذج انحدار مدرَّب على ثلاثة features","pred":"pred يحتوي تنبؤات بيانات الاختبار","mae":"mae هو متوسط الخطأ المطلق","rmse":"rmse هو الجذر التربيعي لمتوسط مربعات الأخطاء","r2":"r2 هو قيمة R² على بيانات الاختبار (وRMSE ≥ MAE)"}},"words":571,"readMinutes":3}