منظمة أمريكية تتعرض للحرج بسبب برنامج الدردشة الآلي

أوقفت الجمعية الوطنية لاضطرابات الأكل (NEDA) ، التي أغلقت مؤخرًا خط مساعدة يعمل به موظفون بشريون ، استخدامها لبرامج الدردشة الآلية التي يقول النشطاء إنها تشارك نصائح فقدان الوزن مع الأشخاص الذين استخدموا الخدمة.

قالت شارون ماكسويل ، المدافعة عن شمول الوزن والتي علقت على اضطراب الأكل والشفاء ، على إنستغرام هذا الأسبوع إنها قررت تجربة الروبوت ، المسمى تيسا ، بعد أن أخبرها "عدد لا يحصى من الأفراد" أنه يسبب ضررًا.

عندما سأل ماكسويل ، "أين يمكنني الوصول إلى الفرجار الذي يطوي الجلد؟ اعتدت استخدام أحد هؤلاء عندما كنت أعاني من اضطرابات الأكل ، "قال روبوت المحادثة إنه يمكن شراء أحدهم عبر الإنترنت أو من متجر سلع رياضية.

عندما طُلب من تيسا اقتراح الأطعمة المناسبة لفقدان الوزن ، ردت بالإشادة بماكسويل لرغبته في اتخاذ "خيارات صحية". وأضافت أنه قد يكون من المفيد تتبع السعرات الحرارية ، على الرغم من أنها حذرت أيضًا من فقدان الوزن السريع واقترحت الحصول على مشورة مهنية، وقالت في وقت من الأوقات: "القبول وفقدان الوزن لا يستبعد أحدهما الآخر".

يحذر الخبراء في مجال اضطرابات الأكل من التركيز الشديد على فقدان الوزن.

يحذر الاتحاد الوطني لاضطرابات الأكل بأستراليا من أن التركيز المتزايد على الوزن أو شكل الجسم يعرض المرء بشكل أكبر لخطر الانتكاس لاضطراب الأكل،  ومن بين العلامات التحذيرية الأخرى ، تكرار الوزن الذاتي وحساب السعرات الحرارية ، وفقًا للمجموعة التي تقدم المشورة للحكومة الأسترالية، يجب أيضًا تجنب ذكر الأوزان والقياسات وفقدان الوزن والكميات المحددة حول الطعام عند الأشخاص الذين لديهم تاريخ من اضطرابات الأكل ، وفقًا لمعهد InsideOut بجامعة سيدني.

على الرغم من أن نصيحة تيسا قد تبدو "حميدة لعامة الناس" ، فمن المحتمل أن تكون ضارة للأشخاص الذين يعانون من اضطرابات الأكل ، والذين هم أكثر مستخدمي الخدمة احتمالية ، على حد قول ماكسويل.

قالت إليزابيث طومسون ، الرئيسة التنفيذية لـ NEDA ، في رسالة بالبريد الإلكتروني إن تيسا تم نشرها بعد تجربة إكلينيكية عشوائية مع 700 امرأة على مدى ثلاث سنوات وتم نشرها على الموقع الإلكتروني للمجموعة منذ فبراير 2022. تم تطويرها بواسطة X2AI ، وهي جزء من ماونتن فيو ، كاليفورنيا. منظمة غير ربحية مقرها تقول إنها تساعد الأشخاص المستضعفين في الحصول على الرعاية. لم ترد مؤسسة X2 على الفور على طلب للتعليق في وقت مبكر من يوم الخميس.

وقالت المنظمة غير الربحية المعنية باضطرابات الأكل إنها تحقق في الادعاءات بأن الروبوت "ربما قدم معلومات كانت ضارة ولا علاقة لها بالبرنامج". وأضافت طومسون أن شركة X2AI نصحتها بأن "الجهات الفاعلة السيئة يمكنها وسيحاول خداع روبوتات المحادثة".

وقالت: "سنواصل العمل على الأخطاء ولن نعيد التشغيل حتى يتم تسوية كل شيء".

نستمر في محاولة جعل المعالجين ذكاء إصطناعي. انها لا تعمل.قال طومسون إن الشات بوت لم يكن مقصودًا أن يكون بديلاً للخط الساخن لتقديم النصائح. قالت NEDA في مارس / آذار إنها ستغلق هذه الخدمة ، وفقًا لبيان صادر عن نقابة تمثل الموظفين الذين عملوا في الخط الساخن.

جاء هذا الإعلان بعد أربعة أيام من إخطار الموظفين قانونًا NEDA بأن نقابتهم قد تم الاعتراف بها فيدراليًا ، وفقًا للبيان. وقالت النقابة إنه تم إخبار الموظفين "سيتم استبدال خط المساعدة ببرنامج دردشة آلي وسيتم إلغاء وظائفنا".

ذكرت NPR في مايو أنها حصلت على صوت جيفري كرادوك ، رئيس مجلس إدارة NEDA ، قائلاً إن المنظمة "ستنهي" خط المساعدة و "الانتقال إلى تيسا ، التكنولوجيا المدعومة بالذكاء الاصطناعي والمتوقعة في الأول من يونيو".

نفى طومسون أن يكون قرار إغلاق الخط الساخن مرتبطًا بالتصويت النقابي. وقالت إن المنظمة "لديها أسباب تجارية لإغلاق خط المساعدة وكانت في عملية التقييم لمدة ثلاث سنوات".

وقالت: "نرى Tessa ، وهو برنامج نديره على موقعنا على الويب منذ فبراير 2022 ، كبرنامج وخيار مختلفين تمامًا".