غيّرت النماذج اللغوية الكبيرة ما تستطيع البرمجيات فعله بالنصوص، وصار كل فريق بيانات يُسأل الآن: “ألا يمكننا استخدام LLM لهذا فحسب؟”. أحيانًا تكون الإجابة نعم. وكثيرًا ما تكون “لجزء منه”. ولتجيب جيدًا، تحتاج إلى صورة دقيقة عمّا هي الـ LLMs والـ embeddings، وهذه الصورة مبنية من أفكار استخدمتها طوال الدورة.
\nالنموذج اللغوي الكبير (large language model) شبكة عصبية، تكاد تكون دائمًا transformer، مدرَّبة على كمية هائلة من النصوص بهدف واحد: بالنظر إلى النص حتى الآن، تنبّأ بالـ token التالي (كلمة أو جزء من كلمة). هذا هو التدريب المسبق (pretraining). وحين يُنفَّذ على نطاق كافٍ، يجبر التنبؤ بالـ token التالي الشبكةَ على استيعاب القواعد والحقائق والأساليب وقدر مدهش من سلوك يشبه الاستدلال، لأن كل ذلك يساعد على توقّع ما يأتي بعد.
\nثم يحصل النموذج المدرَّب مسبقًا على تدريب إضافي ليتّبع التعليمات ويعطي إجابات مفيدة وآمنة، عادةً بأمثلة كتبها بشر وبتغذية راجعة من تفضيلات بشرية أو من ذكاء اصطناعي. وحين ترسل إليه prompt، يحسب احتمالًا لكل token تالٍ ممكن، ويختار واحدًا (مع شيء من العشوائية يتحكم فيه إعداد الـ temperature)، ويضيفه، ثم يكرّر.
\nثلاث نتائج تهمّ عالم البيانات:
\npredict_proba في القسم 3.الفكرة الأكثر نفعًا بهدوء هي الـ embedding (التمثيل المتّجهي). يقرأ نموذج الـ embedding قطعة نص ويُعيد متّجهًا ثابت الطول، غالبًا من عدة مئات إلى بضعة آلاف من الأرقام، مرتّبًا بحيث تحصل النصوص المتشابهة في المعنى على متّجهات متقاربة. فتصبح تذاكر الدعم في Cartwheel صفوفًا من الأرقام، وكل ما تعرفه عن صفوف الأرقام ينطبق عليها.
\nيُقاس القرب بـ الـ cosine similarity (تشابه جيب التمام): جيب تمام الزاوية بين متّجهين، 1 للاتجاه نفسه، وقرب 0 لما لا علاقة بينهما. قارن ذلك بـ features عدّ الكلمات التي يستطيع scikit-learn بناءها بنفسه:
\nimport numpy as np\nfrom sklearn.feature_extraction.text import TfidfVectorizer\nfrom sklearn.metrics.pairwise import cosine_similarity\n\ntickets = [\"My parcel never arrived\", \"The package did not show up\",\n \"I was charged twice for one order\", \"Refund the duplicate payment please\",\n \"How do I change my delivery address\"]\n\ntfidf = TfidfVectorizer().fit_transform(tickets)\nprint(\"TF-IDF similarity of ticket 0 to the others:\", cosine_similarity(tfidf)[0].round(2))\n\n# Illustrative 4-number \"embeddings\" (real ones come from an embedding model and are far longer)\nemb = np.array([[0.90, 0.10, 0.00, 0.20], [0.85, 0.15, 0.05, 0.10],\n [0.05, 0.90, 0.10, 0.00], [0.10, 0.85, 0.20, 0.05],\n [0.30, 0.00, 0.10, 0.90]])\nprint(\"embedding similarity of ticket 0 to the others:\", cosine_similarity(emb)[0].round(2))يعدّ TF-IDF الكلمات المشتركة. “parcel never arrived” و"package did not show up" لا تشتركان في أي كلمة، فيعطيهما 0، ومع ذلك يربط التذكرة 0 بسؤال العنوان لأن كلتيهما تحتوي “my”. أما الـ embeddings فتعطي شكويَي التوصيل قيمة شبه متطابقة. المتّجهات هنا مصنوعة يدويًا لتوضيح الفكرة؛ أما نموذج الـ embedding الحقيقي فينتج هذا السلوك من تدريبه، مع نصوص لم يرَها قط.
\n\n| المهمة | \nالأداة المناسبة | \nالسبب | \n
|---|---|---|
| التنبؤ بالانقطاع من حقائق العملاء | \nscikit-learn على الجدول | \nبيانات جدولية ذات labels، وتحتاج إلى درجات معايَرة ورخيصة وقابلة للاختبار | \n
| توجيه تذاكر الدعم إلى الفرق | \nEmbeddings + انحدار لوجستي، أو LLM | \nالمدخل نص؛ والـ embeddings تجعلها مصنِّفًا كلاسيكيًا | \n
| إيجاد تذاكر مشابهة لتذكرة جديدة | \nEmbeddings + أقرب الجيران | \nالبحث بالتشابه هو بالضبط ما وُجدت له الـ embeddings | \n
| تلخيص شكاوى أسبوع لمدير | \nLLM | \nالمخرج نص حرّ؛ ويراجعه شخص | \n
| إضافة “موضوع الشكوى” كـ feature للانقطاع | \nEmbeddings ← k-means، أو label من LLM | \nيحوّل النص إلى عمود يستطيع نموذج الانقطاع اختباره | \n
الصف الأخير هو حيث يلتقي العالمان. يصبح النص feature؛ ويقرّر التحقق المتقاطع ما إذا كان يساعد. ولا يتغيّر شيء في الانضباط لأن الـ feature جاء من نموذج كبير.
\n\nأيًّا كان النموذج الذي تطلقه، فسيتخذ قرارات بشأن أشخاص. يسأل الدرس القادم ما إذا كانت هذه القرارات جيدة بالقدر نفسه للجميع، وما الذي يجب مراقبته بعد الإطلاق.
\n","toc":[{"id":"sec-1","text":"ما هو الـ LLM","level":2},{"id":"sec-2","text":"الـ Embeddings: النص كإحداثيات","level":2},{"id":"sec-3","text":"أين تقع كل أداة في Cartwheel","level":2}],"takeaways":["النموذج اللغوي الكبير (LLM) شبكة transformer مدرَّبة مسبقًا على التنبؤ بالـ token التالي في كميات هائلة من النصوص، ثم مضبوطة لاتّباع التعليمات.","مخرجات الـ LLM نص مولَّد بالسحب، لا احتمال معايَر، فهي تحتاج إلى انضباط التقييم نفسه الذي يحتاجه أي نموذج: بيانات اختبار ذات labels وخط أساس.","نموذج الـ embedding يحوّل النص إلى متّجه ثابت الطول بحيث تقع النصوص المتشابهة في المعنى قريبة من بعضها؛ ويقيس الـ cosine similarity مدى هذا القرب.","تحوّل الـ embeddings النص غير المهيكل إلى features تستطيع الأدوات الكلاسيكية (k-NN والانحدار اللوجستي وk-means) استخدامها.","في التنبؤات الجدولية مثل الانقطاع، تبقى نماذج scikit-learn أرخص وأسرع وأسهل في التحقق؛ أما الـ LLMs والـ embeddings فتستحق مكانها مع النصوص."],"further":[{"title":"Feature extraction from text","url":"https://scikit-learn.org/stable/modules/feature_extraction.html#text-feature-extraction"},{"title":"cosine_similarity","url":"https://scikit-learn.org/stable/modules/generated/sklearn.metrics.pairwise.cosine_similarity.html"}],"quiz":[{"q":"على ماذا يُدرَّب النموذج اللغوي الكبير في جوهره أثناء التدريب المسبق؟
","options":[{"text":"البحث عن الإجابات في قاعدة بيانات من الحقائق الموثّقة.","why":"لا تستشير الـ LLMs قاعدة بيانات حقائق افتراضيًا؛ بل تولّد النص من أنماط تعلّمتها في أوزانها."},{"text":"تصنيف المستندات في مجموعة ثابتة من الموضوعات.","why":"يمكن إجراء التصنيف بـ LLM، لكنه ليس هدف التدريب المسبق."},{"text":"الترجمة بين اللغات فقط.","why":"الترجمة قدرة ناشئة واحدة، لا هدف التدريب."},{"text":"التنبؤ بالـ token التالي من النص، مرة بعد مرة، على مدوّنة نصوص ضخمة.","why":"صحيح. أما اتّباع التعليمات وسلوك المحادثة فيأتيان من ضبط إضافي فوق ذلك."}],"answer":3},{"q":"يعطي TF-IDF الجملتين ‘My parcel never arrived’ و’The package did not show up’ قيمة cosine similarity تساوي 0. ويعطيهما نموذج embedding نحو 0.9. لماذا الفرق؟
","options":[{"text":"TF-IDF لا يطابق إلا الكلمات المشتركة، وهاتان الجملتان لا تشتركان في أي كلمة؛ أما الـ embeddings فتضع النصوص بحسب المعنى.","why":"صحيح. المترادفات وإعادة الصياغة هي بالضبط حيث تتفوّق الـ embeddings على عدّ الكلمات."},{"text":"TF-IDF معطوب مع النصوص القصيرة.","why":"إنه يعمل كما صُمّم؛ لكنه لا يملك أي فكرة عن أن ‘parcel’ و’package’ تعنيان الشيء نفسه."},{"text":"حفظ نموذج الـ embedding هاتين الجملتين.","why":"نماذج الـ embedding تعمّم من تدريبها على مجموعات نصوص ضخمة؛ ولا تحتاج إلى أن تكون رأت هاتين الجملتين بالضبط."}],"answer":0},{"q":"يريد Cartwheel التنبؤ بالانقطاع من الأعمدة الرقمية الثمانية. يقترح زميل إرسال صف كل عميل إلى LLM وسؤاله ‘هل سينقطع؟’. ما أقوى اعتراض؟
","options":[{"text":"الـ LLMs لا تستطيع قراءة الأرقام.","why":"تستطيع قراءة الأرقام في النص؛ والمشكلات هي المعايرة والكلفة والتحقق، لا القراءة."},{"text":"سيكون أقل دقة من أي خط أساس بحكم التعريف.","why":"لا شيء يضمن ذلك؛ عليك أن تقيس. والمقصود أنك ستدفع أكثر مقابل شيء لم يُتحقَّق منه بشكل أفضل."},{"text":"المهمة لديها أصلًا بيانات جدولية ذات labels، ونموذج scikit-learn عليها أرخص وأسرع وقابل للاختبار ويعطي احتمالات حقيقية.","why":"صحيح. استخدم الأداة التي تناسب البيانات؛ فالـ LLM يضيف كلفة وعدم يقين دون مكسب واضح هنا."},{"text":"الـ LLMs مسموح بها لتطبيقات المحادثة فقط.","why":"لا توجد قاعدة كهذه؛ فالـ LLMs تُستخدم في مهام كثيرة. والسؤال سؤال ملاءمة، لا سؤال إذن."}],"answer":2}],"exercise":{"kind":"choice","multiple":true,"options":["review-search","refund-forecast","ticket-topic-feature","llm-churn-score","review-summary","coupon-ab"],"correct":["review-search","ticket-topic-feature","review-summary"],"title":"أيّ المهام تستدعي الـ embeddings أو LLM؟","prompt":"لدى فريق البيانات في Cartwheel ستة طلبات. اختر كل طلب تكون فيه الـ embeddings أو LLM أداة أولى أفضل من نموذج scikit-learn كلاسيكي على الجداول الموجودة.
\n","hints":["اسأل عن المُدخل: هل هو جدول من الحقائق، أم نص حرّ؟","اسأل عن المُخرج: هل هو رقم معايَر، أم نص أو تشابه؟","ثلاثة طلبات تتضمّن نصًا حرًّا؛ والثلاثة الأخرى جدولية أو تجارب."],"explanation":"البحث في المراجعات بحسب المعنى، وتحويل نص التذاكر إلى feature لموضوع الشكوى، وتلخيص المراجعات، كلها مسائل نصية: تتولّى الـ embeddings أول اثنتين برخص، والـ LLM هو الأداة الطبيعية لملخّص مكتوب سيقرؤه شخص. أما توقّع المبالغ المستردّة وتقييم خطر الانقطاع فتنبؤات جدولية يعطي فيها scikit-learn مخرجات رخيصة وقابلة للاختبار ومعايَرة. وسؤال القسيمة تجربة تحتاج إلى تحليل، لا مهمة تنبؤ أصلًا.
\n","checkLabels":{},"optionText":{"review-search":{"text":"تمكين الموظفين من كتابة “وصل مكسورًا” وإيجاد مراجعات المنتجات التي تصف تلفًا بأي صياغة.","why":"مناسبة: الـ embeddings مع البحث عن أقرب الجيران تطابق المعنى، لا الكلمات بعينها."},"refund-forecast":{"text":"توقّع مبلغ الاسترداد في الشهر القادم من جداول الطلبات والمرتجعات.","why":"انحدار جدولي على تاريخ رقمي؛ ونموذج scikit-learn (مع تقسيم زمني) هو المناسب."},"ticket-topic-feature":{"text":"تحويل تذاكر الدعم النصية الحرّة إلى عمود ‘موضوع الشكوى’ لاختباره كـ feature للانقطاع.","why":"مناسبة: حوّل التذاكر إلى embeddings، وجمّعها أو صنّفها، ثم دع التحقق المتقاطع يحكم على العمود الجديد."},"llm-churn-score":{"text":"مطالبة نموذج محادثة بتقييم خطر انقطاع كل عميل من أعمدته الرقمية الثمانية.","why":"الجدول ذو الـ labels يدعم أصلًا نموذجًا أرخص ومعايَرًا وقابلًا للاختبار؛ والـ LLM يضيف كلفة وعدم يقين."},"review-summary":{"text":"كتابة ملخّص أسبوعي من فقرة واحدة لمراجعات المنتجات الجديدة لفريق إدارة البضائع.","why":"مناسبة: توليد نص مقروء من نصوص هو ما تفعله الـ LLMs؛ ويراجع شخص النتيجة."},"coupon-ab":{"text":"تقرير ما إذا كانت قسيمة SPRING15 قد رفعت قيمة الطلب، باستخدام اختبار عشوائي.","why":"هذا تحليل تجربة (مقارنة مجموعات وفحص الدلالة الإحصائية)، لا مسألة نمذجة لـ LLM."}}},"words":678,"readMinutes":4}