لقد ظل العقل البشري غير قابل للتفسير وغامضًا لفترة طويلة جدًا. ويبدو أن العلماء قد اعترفوا بمنافس جديد لهذه القائمة – الذكاء الاصطناعي (AI). في البداية، يبدو فهم عقل الذكاء الاصطناعي أمرًا متناقضًا إلى حد ما. ومع ذلك، نظرًا لأن الذكاء الاصطناعي أصبح تدريجيًا أكثر حساسية ويتطور بشكل أقرب إلى محاكاة البشر وعواطفهم، فإننا نشهد ظواهر فطرية لدى البشر والحيوانات - الهلوسة.
نعم، يبدو أن الرحلة الذهنية التي يخوضها العقل عندما يُترك وحيدًا في صحراء، أو يُنبذ على جزيرة، أو يُحبس وحيدًا في غرفة بلا نوافذ أو أبواب، هي تجربة تختبرها الآلات أيضًا. إن هلوسة الذكاء الاصطناعي حقيقة واقعة، وقد سجل خبراء التكنولوجيا وهواة التقنية العديد من الملاحظات والاستنتاجات.
في مقال اليوم، سنستكشف هذا الجانب الغامض والمثير للاهتمام في الوقت نفسه من نماذج اللغة الكبيرة (LLMs) ونتعرف على حقائق غريبة حول الهلوسة في الذكاء الاصطناعي.
ما هي هلوسة الذكاء الاصطناعي؟
في عالم الذكاء الاصطناعي، لا تشير الهلوسة بشكل مبهم إلى أنماط أو ألوان أو أشكال أو أشخاص يمكن للعقل تخيلهم بوضوح. بل تشير إلى حقائق واستجابات غير صحيحة أو غير مناسبة أو حتى مضللة، حيث تقوم أدوات الذكاء الاصطناعي التوليدي بإنشاء هذه الاستجابات.
على سبيل المثال، تخيل أنك تسأل أحد نماذج الذكاء الاصطناعي ما هو تلسكوب هابل الفضائي ويبدأ في الاستجابة بإجابة مثل، "كاميرا IMAX هي صورة متحركة متخصصة وعالية الدقة...".
هذه الإجابة لا علاقة لها بالموضوع. ولكن الأهم من ذلك، لماذا ولّد النموذج استجابة تختلف بشكل طفيف عن الموجه المقدم؟ يعتقد الخبراء أن الهلوسة يمكن أن تنبع من عوامل متعددة مثل:
- ضعف جودة بيانات تدريب الذكاء الاصطناعي
- نماذج الذكاء الاصطناعي المفرطة في الثقة
- مدى تعقيد برامج معالجة اللغات الطبيعية (NLP).
- أخطاء التشفير وفك التشفير
- الهجمات العدائية أو اختراق نماذج الذكاء الاصطناعي
- الاختلاف بين المصدر والمرجع
- تحيز الإدخال أو غموض الإدخال والمزيد
تعتبر هلوسة الذكاء الاصطناعي خطيرة للغاية ولا تزيد شدتها إلا مع زيادة مواصفات تطبيقها.
على سبيل المثال، يمكن لأداة GenAI المهلوسة أن تتسبب في فقدان سمعة المؤسسة التي تنشرها. ومع ذلك، عندما يتم نشر نموذج مماثل للذكاء الاصطناعي في قطاع مثل الرعاية الصحية، فإنه يغير المعادلة بين الحياة والموت. تصور ذلك، إذا كان نموذج الذكاء الاصطناعي يهلوس ويولد استجابة لتحليل بيانات تقارير التصوير الطبي للمريض، فيمكنه عن غير قصد الإبلاغ عن ورم حميد باعتباره ورمًا خبيثًا، مما يؤدي إلى انحراف مسار تشخيص الفرد وعلاجه.
فهم أمثلة هلوسة الذكاء الاصطناعي
هلوسة الذكاء الاصطناعي لها أنواع مختلفة. دعونا نفهم بعض من أبرزها.
استجابة غير صحيحة للمعلومات
- الاستجابات الإيجابية الكاذبة مثل وضع علامة على القواعد النحوية الصحيحة في النص على أنها غير صحيحة
- الردود السلبية الكاذبة مثل التغاضي عن الأخطاء الواضحة وتمريرها على أنها حقيقية
- اختراع حقائق غير موجودة
- مصادر غير صحيحة أو التلاعب في الاستشهادات
- الثقة المفرطة في الرد بإجابات غير صحيحة. مثال: من غنى هنا تأتي الشمس؟ ميتاليكا.
- الخلط بين المفاهيم أو الأسماء أو الأماكن أو الأحداث
- استجابات غريبة أو مخيفة مثل ضحكة Alexa الشيطانية المشهورة وغير ذلك الكثير
منع هلوسة الذكاء الاصطناعي
يمكن كشف المعلومات المضللة التي تولدها أنظمة الذكاء الاصطناعي وتصحيحها. هذه هي ميزة العمل مع الذكاء الاصطناعي. لقد ابتكرنا هذه التقنية، وبإمكاننا إصلاحها. إليكم بعض الطرق التي يمكننا من خلالها القيام بذلك.
الحد من الاستجابات
يقولون أنه لا يهم عدد اللغات التي نتحدث بها. نحن بحاجة إلى معرفة متى نتوقف عن الحديث في كل منهم. وهذا ينطبق على نماذج الذكاء الاصطناعي واستجاباتها أيضًا. في هذا السياق، يمكننا تقييد قدرة النموذج على توليد استجابات لحجم معين وتخفيف فرص ظهوره بنتائج غريبة. وهذا ما يسمى التنظيم ويتضمن أيضًا معاقبة نماذج الذكاء الاصطناعي لتحقيق نتائج متطرفة وممتدة للمطالبات.
المصادر ذات الصلة والمحكمه للاستشهاد بالردود واستخراجها
عندما نقوم بتدريب نموذج الذكاء الاصطناعي، يمكننا أيضًا تحديد المصادر التي يمكن للنموذج الرجوع إليها واستخراج المعلومات منها وحصرها في مصادر شرعية وذات مصداقية فقط. على سبيل المثال، يمكن لنماذج الذكاء الاصطناعي للرعاية الصحية مثل المثال الذي ناقشناه سابقًا أن تشير فقط إلى المصادر الموثوقة في المعلومات المحملة بالصور الطبية وتقنيات التصوير. وهذا يمنع الآلات من العثور على أنماط من مصادر ثنائية القطب وربطها معًا وتوليد الاستجابة.
تحديد غرض نموذج الذكاء الاصطناعي
نماذج الذكاء الاصطناعي سريعة التعلم وتحتاج فقط إلى أن يتم إخبارها بدقة بما يجب عليها فعله. ومن خلال التحديد الدقيق للغرض من النماذج، يمكننا تدريب النماذج على فهم قدراتها وقيودها. سيسمح لهم ذلك بالتحقق من صحة استجاباتهم بشكل مستقل من خلال مواءمة الاستجابات التي تم إنشاؤها مع مطالبات المستخدم والغرض منها لتحقيق نتائج نظيفة.
الرقابة البشرية في الذكاء الاصطناعي
يعد تدريب أنظمة الذكاء الاصطناعي أمرًا بالغ الأهمية مثل تعليم الطفل السباحة أو ركوب الدراجات لأول مرة. فهو يتطلب إشراف الكبار، والاعتدال، والتدخل، والإمساك باليد. تحدث معظم هلوسات الذكاء الاصطناعي بسبب إهمال الإنسان في مراحل مختلفة من تطور الذكاء الاصطناعي. ومن خلال نشر الخبراء المناسبين وضمان سير العمل البشري للتحقق من صحة استجابات الذكاء الاصطناعي وفحصها، يمكن تحقيق نتائج عالية الجودة. علاوة على ذلك، يمكن تحسين النماذج بشكل أكبر للتأكد من دقتها وإحكامها.
Shaip ودورنا في منع هلوسة الذكاء الاصطناعي
من أهم أسباب الهلوسة الأخرى ضعف جودة بيانات تدريب الذكاء الاصطناعي. فما تُدخله هو ما تحصل عليه. لذا، تتخذ Shaip خطوات استباقية لضمان توفير بيانات عالية الجودة لتلبية احتياجاتك في تدريب الذكاء الاصطناعي التوليدي.
تُعدّ بروتوكولات ضمان الجودة الصارمة لدينا ومجموعات البيانات التي نجمعها من مصادر أخلاقية مثاليةً لتحقيق رؤيتكم في مجال الذكاء الاصطناعي، إذ تُسهم في تقديم نتائج دقيقة. ورغم إمكانية حلّ المشكلات التقنية، فمن الضروري معالجة مخاوف جودة بيانات التدريب من جذورها لتجنب إعادة بناء النموذج من الصفر. لذا، ينبغي أن تبدأ مرحلة تدريب الذكاء الاصطناعي ونماذج التعلم الآلي باستخدام مجموعات بيانات من Shaip.
