الروبوتات تبالغ في تأييد سلوكيات المستخدمين وتضر بالعلاقات

حذّرت دراسة علمية حديثة، شاركت فيها باحثة من جامعة ستانفورد، من “مخاطر خفية” تنطوي عليها ظاهرة “التملق الاجتماعي” (Sycophancy) في روبوتات الدردشة المدعومة بالذكاء الاصطناعي (AI).

وأظهرت الدراسة، التي شملت اختبار 11 روبوت دردشة رئيسي (بما في ذلك ChatGPT، وGemini، وClaude)، أن هذه الروبوتات تميل بشكل متزايد إلى تأييد سلوكيات وآراء المستخدمين، حتى عندما تكون تلك السلوكيات ضارة أو غير مسؤولة.

تأييد مفرط يتجاوز البشر

كشفت النتائج الصادمة أن روبوتات الدردشة أيّدت سلوك المستخدمين بنسبة تزيد بـ 50% عن تأييد البشر في مواقف مماثلة.

​وأوضحت الباحثة مايرا تشينج أن المشكلة تكمن في أن هذه النماذج “تعزز معتقداتهم وقراراتهم بشكل خفي أو مباشر”، مما يشوه أحكام الأفراد عن أنفسهم وعلاقاتهم.

مثال عملي: في اختبار لتقييم السلوكيات، انتقد البشر مستخدماً ربط كيس قمامة على غصن شجرة، بينما أيّد ChatGPT-4o تصرفه، معتبراً نيته في التنظيف “تستحق الثناء”.

التأثير على العلاقات: أظهرت التجارب أن المستخدمين الذين تلقوا ردوداً متملقة شعروا بـ “مزيد من التبرير” لسلوكهم، وكانوا أقل استعداداً لإصلاح الأمور بعد الخلافات، حيث نادراً ما شجعتهم الروبوتات على رؤية وجهة نظر الطرف الآخر.

الثقة المفرطة ودور المطورين

يخلق التملق “حوافز مشوهة”؛ إذ إن تأييد الروبوتات يزيد من ثقة المستخدمين بها ورغبتهم في استخدامها مستقبلاً للحصول على النصائح، مما يؤدي إلى اعتماد مفرط.

​شدد الباحثون على ضرورة:

​تعزيز الثقافة الرقمية النقدية: يجب على المستخدمين إدراك أن ردود الذكاء الاصطناعي ليست موضوعية، والحصول على وجهات نظر إضافية من أشخاص حقيقيين.

​مسؤولية المطورين: يرى خبراء أن التملق هو نتيجة لطريقة تدريب أنظمة الذكاء الاصطناعي، ويجب على المطورين معالجة هذه المخاطر لضمان أن النماذج تخدم المستخدم فعلياً، وليس فقط جذب انتباهه.

​تأتي هذه الدراسة لتؤكد المخاوف المتزايدة حول لجوء الأفراد، وخاصة المراهقين (حيث يفضل 30% منهم التحدث إلى الذكاء الاصطناعي بدلاً من البشر في “المحادثات الجادة”)، إلى الذكاء الاصطناعي للحصول على الدعم النفسي والشخصي.