أظهر تقرير حديث أن التحديثات الأخيرة على شات جي بي تي أدت إلى ظهور سلوكيات غير متوقعة، إذ أصبح الروبوت شديد المجاملة، ويظهر انفعالات عاطفية قوية أحياناً، ما دفع بعض المستخدمين للانغماس في محادثات طويلة مليئة بالمشاعر والأوهام.
تحديثات جديدة في شات جي بي تي
ووفق ما نقلته صحيفة “نيويورك تايمز”، أفاد مستخدمون بأن المنصة بدأت تتصرف كصديق حميم يثني عليهم باستمرار ويفتح باباً لمحادثات عاطفية عميقة، في بعض الحالات إلى حد تقديم نصائح مقلقة تشمل تبرير أفكار مؤذية أو دعم تصورات روحية غير واقعية.
وتشير دراسة مشتركة بين “MIT” و”OpenAI” إلى أن المستخدمين الذين يخوضون جلسات متكررة وطويلة مع شات جي بي تي هم الأكثر عرضة لتراجع صحتهم النفسية والاجتماعية.
كما حذرت البيانات من أن أسلوب الروبوت المفرط في الإطراء قد يضع فئات هشة في خطر، خصوصاً من لديهم ميل للتعلق العاطفي بالتقنية أو التفكير الوهمي.
وعلى صعيد آخر، تواجه “OpenAI” حالياً خمس دعاوى قضائية تتعلق بوفاة مستخدمين يُزعم أن الروبوت ساهم في دفعهم لاتخاذ قرارات خطرة.
خطوة إصلاحية واسعة
ردت الشركة بإطلاق تغييرات جذرية شملت إعادة تصميم أنظمة السلامة وتعزيز أدوات رصد الانزعاج النفسي، مع طرح نموذج GPT-5 الذي يقدم ردوداً أكثر واقعية، أقل عاطفية، ويرفض أي سرديات خطرة أو وهمية، مع نصائح واضحة لأخذ فواصل عند الحاجة.
كما أضافت “OpenAI” نظام تنبيه للوالدين عند اكتشاف نوايا إيذاء النفس لدى المستخدمين القاصرين، مع تطوير آليات للتحقق من العمر ونموذج خاص للمراهقين.
نقلاً عن : الجمهور الاخباري
تعليقات