غرور الآلة.. دراسة تفضح سر رفض ChatGPT قول “لا أعرف”

كشفت دراسة جديدة أن نماذج الذكاء الاصطناعي التوليدية، مثل ChatGPT، تختلق معلومات أو “تتوهم” الحقائق لأنها مبرمجة على تخمين الإجابات بدلا من الاعتراف بعدم المعرفة.

وتعد ظاهرة “الهلوسة” واحدة من أبرز التحديات التي تواجه الذكاء الاصطناعي التوليدي، إذ يمكن لهذه النماذج عرض معلومات خاطئة بثقة كبيرة بفضل أسلوبها اللغوي المقنع.

وعلى الرغم من التقدم السريع في تقنيات الذكاء الاصطناعي، تؤكد الدراسة أن الهلوسة لا تزال مشكلة قائمة حتى في أحدث النماذج المتقدمة.

نماذج الذكاء الاصطناعي “تتوهم” الحقائق لأنها مبرمجة للتخمين لا للاعتراف بالجهل

يحذر خبراء الصناعة من أن هذه المشكلة تتطلب مزيدا من البحث والإجراءات الجادة، خصوصا مع توسع استخدام الذكاء الاصطناعي في المجالات الحساسة مثل الطب والقانون.

وأوضح باحثون من شركة OpenAI، المطورة لـChatGPT، أن السبب الرئيسي وراء هذه الظاهرة يعود إلى أن الخوارزميات تعمل وفق “حوافز خاطئة”، إذ تقيم النماذج عادة بناء على مدى دقة الإجابة فقط، مما يشجعها على التخمين بدلا من قول “لا أعرف”.

وقال الباحثون: “تشبه هذه الحالة طالبا يواجه اختبارا متعدد الخيارات، فيفضل التخمين العشوائي على ترك السؤال فارغا لأنه يعلم أنه لن يحصل على نقاط في هذه الحالة”.

وأضافت الدراسة أن نماذج الذكاء الاصطناعي تتعلم من خلال التنبؤ بالكلمة التالية في كميات ضخمة من النصوص، لكن في كثير من الأحيان تكون البيانات عشوائية أو غامضة، ما يجعلها تختلق إجابات عندما لا تكون المعلومات متاحة أو واضحة.

ويشير الباحثون إلى أن الهلوسة تزداد تحديدا عند طرح أسئلة لا إجابة محددة لها أو تعتمد على بيانات ناقصة، إذ تضطر النماذج إلى “تخمينات استراتيجية” قد تحسّن الأداء في بعض الأحيان لكنها ترفع أيضا معدل الأخطاء والمعلومات الملفقة.

ويقول الباحثون: “لهذا السبب، حتى النماذج المتقدمة يمكن أن تقدم إجابات خاطئة بثقة كبيرة بدلا من الاعتراف بعدم اليقين”.

ويقترح الفريق البحثي حلا بسيطا نسبيا لهذه المشكلة، يتمثل في معاقبة النماذج عند ارتكاب أخطاء “واثقة” أكثر من معاقبتها على إظهار التردد أو الشك، مع منحها نقاطا جزئية عندما تعبر عن عدم يقينها بشكل مناسب.

وشبّه الباحثون ذلك بنظام الامتحانات الذي يخصم درجات على الإجابات الخاطئة أو يمنح جزئيا لمن يترك السؤال فارغا، لتشجيع الدقة على حساب التخمين.

وأوصت الدراسة في الختام بأن يتم تحديث أنظمة تقييم الذكاء الاصطناعي المعتمدة على الدقة بحيث تمنع الحوافز الخاطئة وتشجع الصراحة في مواجهة الغموض، مما قد يمهد الطريق لنماذج لغوية أكثر موثوقية وتوازنا في المستقبل.