نموذج اللغة الكبير (LLM)

تعريف

نموذج اللغة الكبير (LLM) هو شبكة عصبية مُدرَّبة على مجموعات نصوص ضخمة لفهم اللغة البشرية وتوليدها. يستخدم نموذج اللغة الكبير مليارات المعلمات لالتقاط الأنماط اللغوية.

الهدف

الهدف هو تمكين مهام معالجة اللغة الطبيعية المتقدمة، مثل إنشاء النصوص والتلخيص والترجمة. تُستخدم برامج ماجستير اللغة في برامج الدردشة الآلية، وأدوات البحث، وأدوات الإنتاجية.

أهمية

• يدعم الذكاء الاصطناعي الحديث.
• خطر التحيز والمعلومات المضللة والهلوسة.
• تكاليف حسابية وبيئية عالية.
• يتطلب محاذاة وحوكمة دقيقة.

كيف تعمل هذه التقنية؟

1. جمع مجموعات البيانات النصية واسعة النطاق.
2. تحويل النص إلى تمثيلات رقمية.
3. قم بتدريب نماذج المحولات باستخدام مليارات المعلمات.
4. تعلم كيفية التنبؤ بالرمز التالي في السياق.
5. ضبط المهام اللاحقة أو التكيف معها.

أمثلة (العالم الحقيقي)

• GPT-4 (OpenAI): يستخدم في ChatGPT.
• PaLM (جوجل): برنامج ماجستير في القانون واسع النطاق للأبحاث والمنتجات.
• LLaMA (Meta): برنامج ماجستير في القانون مفتوح يركز على الأبحاث.

المراجع / قراءات إضافية

• فاسواني وآخرون. "الانتباه هو كل ما تحتاجه". NeurIPS 2017.
• بطاقة نظام OpenAI GPT-4.
• ستانفورد CRFM. "نماذج الأساس".
• كل ما تحتاج لمعرفته حول LLM