هلوسة

تعريف

في مجال الذكاء الاصطناعي، يُشير مصطلح "الهلوسة" إلى الحالات التي يُنتج فيها النموذج مخرجات سلسة، لكنها غير دقيقة أو غير منطقية. وهو شائع بشكل خاص في نماذج اللغات الكبيرة والذكاء الاصطناعي التوليدي.

الهدف

تُساعد دراسة الهلوسة على تحسين موثوقية النماذج وسلامتها. فهي تُمكّن المُطورين من تصميم إجراءات وقائية للكشف عن النتائج غير الدقيقة والحد منها.

أهمية

• يقلل الثقة في الذكاء الاصطناعي إذا لم يتم التعامل معه.
• يمكن أن يسبب ضررًا في التطبيقات الحساسة مثل الرعاية الصحية أو القانون.
• يسلط الضوء على القيود التي تواجهها النماذج التوليدية الحالية.
• يقود البحث في أساليب التأريض والاسترجاع الواقعية.

كيف تعمل هذه التقنية؟

1. يستقبل النموذج مطالبة أو استعلامًا.
2. يُنشئ مخرجات بناءً على الأنماط المكتسبة، وليس التحقق من الحقائق.
3. قد يؤدي إلى نتائج تبدو معقولة ولكنها غير صحيحة.
4. يتم تطبيق تقنيات الكشف والتصحيح (على سبيل المثال، RAG).

أمثلة (العالم الحقيقي)

• يُنتج ChatGPT أحيانًا حقائق غير صحيحة عند مطالبتك بذلك.
• أظهر العرض التوضيحي الأولي لـ Google Bard أخطاء واقعية.
• قد تحتوي النصائح الطبية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على معلومات غير دقيقة في بعض الأحيان.

المراجع / قراءات إضافية

• "تقليل الهلوسة في نماذج اللغة الكبيرة" - طبعة arXiv.
• إطار عمل إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا.
• ميتشل وآخرون. "بطاقات النماذج لإعداد التقارير النموذجية". ACM FAccT.
• أسباب الهلوسة الذكاء الاصطناعي