ما هو RAFT؟ RAG + الضبط الدقيق

وبمصطلحات بسيطة، فإن الضبط الدقيق المعزز بالاسترجاع، أو RAFT، هو تقنية ذكاء اصطناعي متقدمة يتم فيها دمج التوليد المعزز بالاسترجاع مع الضبط الدقيق لتعزيز الاستجابات التوليدية من نموذج لغوي كبير لتطبيقات محددة في هذا المجال المعين.

إنه يسمح للنماذج اللغوية الكبيرة بتوفير نتائج أكثر دقة وملاءمة للسياق ومتانة، خاصة للقطاعات المستهدفة مثل الرعاية الصحية والقانون والمالية، من خلال دمج RAG والضبط الدقيق.

مكونات RAFT

1. التوليد المعزز بالاسترجاع

إن هذه التقنية تعمل على تعزيز قدرات التعلم العميق من خلال السماح لها بالوصول إلى مصادر البيانات الخارجية أثناء الاستدلال. وبالتالي، بدلاً من المعرفة الثابتة المدربة مسبقًا كما هو الحال مع العديد من التقنيات الأخرى، فإن RAG تمكن النموذج من البحث بنشاط في قاعدة بيانات أو مستودع معرفي للحصول على معلومات في غضون نقرتين للرد على استفسارات المستخدم. إنها تشبه إلى حد كبير امتحان الكتاب المفتوح، حيث يستشير النموذج أحدث المراجع الخارجية أو غيرها من الحقائق ذات الصلة بالمجال. وهذا يعني أنه ما لم يقترن ذلك ببعض أشكال التدريب التي تعمل على تحسين قدرة النموذج على التفكير في المعلومات المسترجعة أو تحديد أولوياتها؛ فإن RAG في حد ذاته لا يعمل على تحسين القدرات السابقة.

مميزات RAG: 

• الوصول إلى المعرفة الديناميكية: يتضمن معلومات في الوقت الفعلي تم جمعها من مصادر معلومات خارجية.
• القدرة على التكيف مع المجال المحدد: تعتمد الإجابات على مجموعات البيانات المستهدفة.

على سبيل الحصر: لا يحتوي على آليات مدمجة للتمييز بين المحتوى ذي الصلة وغير ذي الصلة الذي تم استرجاعه.

2. الضبط الدقيق

إن الضبط الدقيق هو تدريب نموذج LLM الذي تم تدريبه مسبقًا على مجموعات بيانات محددة المجال لتطويره لمهام متخصصة. وهذه فرصة لتغيير معلمات النموذج لفهم المصطلحات والسياق والفروق الدقيقة الخاصة بالمجال بشكل أفضل. وعلى الرغم من أن الضبط الدقيق يعمل على تحسين دقة النموذج فيما يتعلق بمجال معين، إلا أنه لا يتم استخدام البيانات الخارجية على الإطلاق أثناء الاستدلال، مما يحد من إمكانية إعادة استخدامه عندما يتعلق الأمر بإعادة إنتاج المعرفة المتطورة بشكل منتج.

ميزات الضبط الدقيق: 

• التخصص: يناسب صناعة محددة أو مهمة لنموذج معين.
• دقة الاستدلال أفضل: تعزيز الدقة في توليد الاستجابات ذات الصلة بالمجال.

القيود:قدرات التحديث الديناميكي أقل فعالية في بناء المعرفة.

كيف يجمع RAFT بين RAG والضبط الدقيق

يجمع هذا النهج بين نقاط القوة التي تتمتع بها RAG والضبط في حزمة واحدة ثابتة. ولا تقوم برامج الماجستير في القانون الناتجة باسترجاع المستندات ذات الصلة فحسب، بل إنها تدمج بنجاح تلك المعلومات مرة أخرى في عملية التفكير الخاصة بها. ويضمن هذا النهج الهجين أن يكون النموذج على دراية جيدة بمعرفة المجال (عبر الضبط) مع القدرة أيضًا على الوصول ديناميكيًا إلى المعرفة الخارجية (عبر RAG).

ميكانيكا RAFT

تكوين بيانات التدريب: 

• يتم ربط الأسئلة بالوثائق ذات الصلة والوثائق المشتتة (غير ذات الصلة).
• إجابات متسلسلة من الأفكار تربط قطع المعلومات المسترجعة بالإجابة النهائية. 

أهداف التدريب المزدوج: 

قم بتعليم النموذج كيفية تصنيف مستند ذي صلة فوق كل العناصر المشتتة للانتباه وتعزيز مهارات التفكير من خلال مطالبته بتقديم تفسيرات خطوة بخطوة مرتبطة بالمستندات المصدرية. 

مرحلة الاستدلال: 

• يقوم النماذج باسترجاع المستندات الأعلى تصنيفًا من خلال عملية RAG. 
• يرشد الضبط الدقيق التفكير الدقيق ويدمج البيانات المسترجعة مع الاستجابات الرئيسية. 

مميزات RAFT