الإنسان في الحلقة

تعريف

يشير مصطلح "الإنسان في الحلقة" (HITL) إلى الأنظمة التي يتم فيها دمج الحكم البشري في سير عمل الذكاء الاصطناعي للمهام مثل التدريب أو التقييم أو اتخاذ القرار.

الهدف

الهدف هو دمج الخبرة البشرية مع كفاءة الذكاء الاصطناعي. ويضمن ذلك الجودة والرقابة الأخلاقية والسلامة في التطبيقات الحساسة.

أهمية

• يقلل من الأخطاء في المجالات ذات المخاطر العالية (على سبيل المثال، الرعاية الصحية، والدفاع).
• تحسين التدريب من خلال ردود الفعل البشرية.
• توفير المساءلة في الأنظمة الآلية.
• أبطأ وأكثر تكلفة مقارنة بالأتمتة الكاملة.

كيف تعمل هذه التقنية؟

1. تحديد المجالات التي تتطلب الإشراف البشري.
2. جمع مخرجات الذكاء الاصطناعي أو الاقتراحات.
3. يقوم البشر بالتحقق والتصحيح أو تقديم الملاحظات.
4. يتم دمج الملاحظات لإعادة تدريب النماذج أو تحسينها.
5. راقب أداء النظام من خلال المراجعة البشرية المستمرة.

أمثلة (العالم الحقيقي)

• تعديل المحتوى: يقوم البشر بمراجعة المنشورات التي تم الإبلاغ عنها بواسطة الذكاء الاصطناعي.
• الذكاء الاصطناعي الطبي: يقوم الأطباء بالتحقق من صحة التشخيصات التي يولدها الذكاء الاصطناعي.
• التعلم التعزيزي من ردود الفعل البشرية (RLHF): يدرب نماذج اللغة مثل ChatGPT.

المراجع / قراءات إضافية

• أميرشي وآخرون. "القوة للشعب: دور البشر في التعلم الآلي التفاعلي". مجلة الذكاء الاصطناعي.
• إطار عمل إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا.
• معايير IEEE للأنظمة البشرية في الحلقة.
• فهم الإنسان في الحلقة