الضبط الدقيق الخاضع للإشراف (SFT)

تعريف

الضبط الدقيق الخاضع للإشراف (SFT) هو عملية تدريب نموذج مدرب مسبقًا على بيانات مُسمّاة لمهمة محددة، وضبط كل أو جزء من معلماته.

الهدف

الهدف هو تكييف النماذج العامة للأغراض مع المهام المتخصصة بدقة محسنة.

أهمية

• تقنية أساسية في البرمجة اللغوية العصبية ومهام الرؤية.
• يتطلب بيانات مصنفة عالية الجودة.
• مخاطر الإفراط في التكيف مع مجموعات البيانات الصغيرة.
• في كثير من الأحيان تكون مقدمة لـ RLHF.

كيف تعمل هذه التقنية؟

1. حدد نموذجًا تم تدريبه مسبقًا.
2. جمع البيانات المصنفة للمهمة المستهدفة.
3. قم بتدريب النموذج باستخدام التعلم الخاضع للإشراف.
4. التحقق من صحة مجموعة الاختبار المحتجزة.
5. نشر ومراقبة الأداء.

أمثلة (العالم الحقيقي)

• تم ضبط GPT بشكل دقيق على محادثات خدمة العملاء.
• تم ضبط BERT بشكل دقيق للتعرف على الكيانات المسماة.
• محولات الرؤية تم ضبطها بدقة على تصنيف الصور الطبية.

المراجع / قراءات إضافية

• ديفلين وآخرون. "BERT: التدريب المسبق للمحولات ثنائية الاتجاه العميقة". NAACL 2019.
• توثيق محولات الوجه المعانق.
• ستانفورد CS224N: معالجة اللغة الطبيعية مع التعلم العميق.
• ما هو SFT؟ ولماذا هو مهم؟