RAG أم ضبط دقيق؟ شجرة قرار بلا مجاملة
متى يحلّ الاسترجاع المشكلة ومتى يلزم الضبط الدقيق، وماذا غيّرت LoRA وQLoRA في معادلة الكلفة، ولماذا تبقى البيانات لا العتاد هي العائق الحقيقي.
هذا القرار يُتَّخذ في معظم الفرق بالمقلوب: يبدأ النقاش بـ«لنضبط نموذجًا على بياناتنا»، ثم يُكتشف بعد أسابيع أن المطلوب كان استرجاعًا جيدًا. السبب أن الضبط الدقيق يبدو الحلّ «الجادّ»، بينما هو غالبًا الأبطأ في التحديث والأصعب في التشغيل.
السؤال الأول: معرفة أم سلوك؟
| العَرَض | التشخيص | العلاج |
|---|---|---|
| النموذج لا يعرف سياساتنا الداخلية | نقص معرفة | RAG |
| يخترع أرقامًا بلا مصدر | نقص تأريض | RAG + تقييد التوليد بالاستشهاد |
| المعلومة تتغيّر شهريًّا | معرفة متغيّرة | RAG (تحديث بإعادة فهرسة) |
| لا يلتزم بصيغة الإخراج | نقص سلوك | مخطط إخراج صارم أولًا، ثم ضبط دقيق |
| نبرته لا تشبه علامتنا | نقص أسلوب | ضبط دقيق |
| يفشل في مصطلحات مجال ضيّق جدًّا | نقص تخصّص | ضبط دقيق + RAG |
| تعليمات طويلة متكرّرة ترفع الكلفة | حِمل سياق | تخزين مؤقت، أو ضبط يختصر التعليمة |
القاعدة المختصرة: RAG يغيّر ما يعرفه النموذج، والضبط الدقيق يغيّر كيف يتصرّف.
لماذا لا يُستخدم الضبط الدقيق لتخزين المعرفة
- التحديث مكلف: تغيير سياسة واحدة يعني إعادة تدريب، بينما هو في RAG تعديل مستند وإعادة فهرسة دقائق.
- لا استشهاد: المعرفة المدمجة في الأوزان لا تعطي مصدرًا يراجعه المستخدم — وهذا وحده يكفي لرفضه في السياقات المؤسسية والتنظيمية.
- الاستدعاء غير مضمون: قد «يتذكّر» النموذج المعلومة أو لا يتذكّرها بحسب صياغة السؤال، بينما المستند المسترجَع حاضر في السياق بلا اعتماد على ذاكرة.
متى يستحق الضبط الدقيق فعلًا
- صيغة إخراج معقّدة متكرّرة لا تكفيها التعليمات ولا مخطط JSON صارم.
- أسلوب أو نبرة ثابتة يصعب وصفها بالكلمات وتُتقن بالأمثلة.
- مهمة ضيّقة عالية الحجم، حيث نموذج صغير مضبوط يعادل نموذجًا كبيرًا عامًّا بكلفة أقلّ بكثير — وهذه أقوى حجّة اقتصادية للضبط.
- لغة أو لهجة أو ترميز داخلي ضعيف التمثيل في التدريب الأصلي.
ما الذي غيّرته LoRA وQLoRA
الضبط الكامل لكل الأوزان مكلف ذاكرةً وحسابًا. اقترحت ورقة LoRA [1] تجميد الأوزان الأصلية وتدريب مصفوفات منخفضة الرتبة تُضاف إليها، وأبلغت عن خفض المعاملات القابلة للتدريب بمقدار يبلغ آلاف المرات مقارنةً بالضبط الكامل لنموذج بحجم GPT-3، مع أداء مماثل في مهام كثيرة. ثم أضافت QLoRA [2] تكميم النموذج الأساس إلى ٤ بت قبل تدريب طبقات LoRA فوقه، فأصبح ضبط نموذج بحجم ٦٥ مليار معامل ممكنًا على وحدة معالجة رسومية واحدة سعة ٤٨ غيغابايت مع حفاظ على جودة قريبة من الضبط بدقّة ١٦ بت.
النتيجة العملية: تشغيل التدريب لم يعد العائق. العائق انتقل إلى مكان آخر.
الكلفة الحقيقية: البيانات
الضبط الجيد يحتاج أمثلة نظيفة متّسقة تمثّل السلوك المطلوب. جمع بضع مئات إلى بضعة آلاف من الأمثلة عالية الجودة وتنظيفها وتقسيمها إلى تدريب وتقييم هو ٨٠٪ من الجهد. والأمثلة المتناقضة تُعلّم النموذج التناقض بدقّة عالية.
قبل الالتزام اسأل: هل أملك خمسمئة مثال نظيف؟ إن كان الجواب لا، فالأولوية خطة جمع بيانات لا قرار تدريب.
شجرة القرار
السؤال ١: هل يجهل النموذج معلومات خاصة بك أو متغيّرة؟
- نعم ← ابدأ بـRAG. وإن بقي ضعف بعد تحسين الاسترجاع وقياسه:
- هل ما تبقّى مشكلة صيغة أو أسلوب؟ ← أضف ضبطًا دقيقًا فوق RAG.
- لا ← انتقل إلى السؤال ٢.
السؤال ٢: هل المشكلة صيغة أو أسلوب أو تخصّص لغوي ضيّق؟
- نعم ← هل جرّبت تعليمات أوضح، وأمثلة قليلة داخل السياق، ومخطط إخراج صارم؟
- لم أجرّب ← جرّبها أولًا؛ أرخص بمراتب وتحلّ أغلب الحالات.
- جرّبتها وبقي الضعف ← ضبط دقيق بـLoRA أو QLoRA.
- لا ← المشكلة غالبًا في التوجيه أو في التقييم نفسه، لا في النموذج.
متى لا يصلح أيّ منهما
إن كان النظام يخطئ لأن مستنداتك متناقضة أصلًا، أو لأن السؤال غامض بلا سياق كافٍ، فلن يصلحه استرجاع ولا تدريب. المشكلة في مصدر المعرفة أو في تصميم التفاعل، ولا تُعالَج بطبقة نموذج إضافية.
الأخطاء الشائعة
- الضبط الدقيق لحقن معرفة متغيّرة.
- القفز إلى التدريب قبل استنفاد التعليمات والأمثلة القليلة ومخططات الإخراج.
- بيانات تدريب غير متّسقة تُنتج سلوكًا غير متّسق.
- غياب مجموعة تقييم منفصلة، فتقيس الحفظ لا التعميم.
- نسيان كلفة التشغيل: نموذج مضبوط يحتاج استضافة وإدارة إصدارات ومراقبة انحراف.
الأسئلة الشائعة
هل يمكن الجمع بينهما؟
نعم، وهو الشائع في الأنظمة الناضجة: RAG يجلب المعرفة الحديثة، والضبط الدقيق يضبط الصيغة والنبرة. ابدأ بـRAG، وقِس، ثم أضف الضبط إن بقيت فجوة سلوكية بعد أن يستقرّ الاسترجاع.
كم مثالًا يلزم؟
يعتمد على ضيق المهمة: مئات الأمثلة النظيفة قد تكفي لمهمة محدّدة الصيغة، بينما تحتاج مهام أوسع آلافًا. الجودة والاتساق أهمّ من العدد دائمًا.
هل يقلّل الضبط الدقيق الهلوسة؟
قد يقلّل هلوسة الصيغة، لكن هلوسة الحقائق تُعالَج بالتأريض على مصادر وبفرض الاستشهاد وبإتاحة جواب «لا أعرف». الضبط وحده لا يمنح النظام مصدرًا يستند إليه.
ما البديل الأرخص قبل الضبط؟
تعليمة أوضح مع أمثلة قليلة داخل السياق، ومخطط إخراج يفرضه التطبيق برمجيًّا، وتحسين الاسترجاع. هذه الثلاثة تحلّ أغلب ما يُساق كمبرّر للضبط الدقيق.
المراجع
- Hu, E. et al. LoRA: Low-Rank Adaptation of Large Language Models. ICLR 2022. arXiv:2106.09685
- Dettmers, T. et al. QLoRA: Efficient Finetuning of Quantized LLMs. NeurIPS 2023. arXiv:2305.14314
- Lewis, P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401
- Ouyang, L. et al. Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155
اقرأ بعده
التكميم (Quantization): ما الذي تخسره فعلًا؟
كيف يقلّص التكميم ذاكرة النموذج، وماذا أثبتت QLoRA عن ضبط نماذج ضخمة على وحدة واحدة، ولماذا يجب قياس الخسارة على مهمتك لا على معيار عام.
اقرأ المقالتوجيه النماذج: نموذج صغير لأسئلة سهلة
كيف توزّع الطلبات بين نموذج صغير وآخر كبير بقواعد أو مصنِّف، وكيف تقيس أثر التوجيه على الجودة قبل اعتماده، ومتى يكون التعقيد بلا مقابل.
اقرأ المقالقياس الكمون: p50 وp95 وزمن أول رمز
لماذا يخدعك متوسط زمن الاستجابة، والفرق بين زمن أول رمز وزمن الرمز التالي، وكيف تحسب ميزانية كمون لكل مرحلة في خط RAG.
اقرأ المقالنشرة إسناد الأسبوعية
ثلاثة أشياء مفيدة كل أسبوع: ورقة بحثية مشروحة، قياس عملي، وخطأ شائع رأيناه في الإنتاج. بلا حشو وبلا رعايات مخفية.