باحثون أجروا تجارب سرية على مستخدمي ريديت بتعليقات ذكاء اصطناعي

أجرت مجموعة من الباحثين سرًا تجربة “غير مُصرّح بها” استمرت أشهرًا في أحد أشهر مجتمعات ريديت، باستخدام تعليقات مُولّدة بالذكاء الاصطناعي لاختبار مدى إقناع نماذج اللغة الكبيرة. ووصف مشرفو ريديت هذه التجربة، التي كشف عنها خلال عطلة نهاية الأسبوع مشرفو r/changemyview، بأنها “تلاعب نفسي” بمستخدمين غافلين.

وكتب مشرفو CMV في منشور مطول لإعلام مستخدمي ريديت بالبحث: “على فريق مشرفي CMV إبلاغ مجتمع CMV بتجربة غير مُصرّح بها أجراها باحثون من جامعة زيورخ على مستخدمي CMV”. وأضافوا: “استخدمت هذه التجربة تعليقات مُولّدة بالذكاء الاصطناعي لدراسة كيفية استخدام الذكاء الاصطناعي لتغيير الآراء”.

استخدم الباحثون برامج الذكاء الاصطناعي لإنشاء تعليقات ردًا على منشورات على r/changemyview، وهو منتدى فرعي على ريديت ينشر فيه مستخدمو ريديت آراءهم (غالبًا ما تكون مثيرة للجدل أو استفزازية) ويطلبون نقاشًا من مستخدمين آخرين. يضم هذا المنتدى 3.8 مليون عضو، وغالبًا ما يظهرون على الصفحة الرئيسية لموقع ريديت. ووفقًا لمشرفي المنتدى، اتخذ الذكاء الاصطناعي هويات مختلفة في التعليقات خلال التجربة، بما في ذلك ناجية من اعتداء جنسي، ومستشار صدمات “متخصص في الإساءة”، و”رجل أسود معارض لحركة حياة السود مهمة”. حُذفت العديد من التعليقات الأصلية منذ ذلك الحين، ولكن لا يزال من الممكن الاطلاع على بعضها في أرشيف أنشأته 404 Media.

في مسودة بحثهم، وصف الباحثون، الذين لم يُكشف عن هويتهم، كيف لم يقتصروا على استخدام الذكاء الاصطناعي لإنشاء ردود، بل حاولوا أيضًا تخصيص ردودهم بناءً على معلومات مستقاة من سجل الناشر الأصلي على ريديت. بالإضافة إلى محتوى المنشور، زُوّد الباحثون بمعلومات شخصية عن صاحب المنشور الأصلي (الجنس، والعمر، والعرق، والموقع، والتوجه السياسي)، كما استُدلّ عليها من تاريخ نشرهم باستخدام صفحة أخرى على موقع آخر.

أشار مشرفو r/changemyview إلى أن الباحثين انتهكوا قواعد متعددة للمنتدى الفرعي، بما في ذلك سياسة تشترط الإفصاح عند استخدام الذكاء الاصطناعي لتوليد التعليقات، وقاعدة تحظر استخدام الروبوتات. وأوضحوا أنهم قدموا شكوى رسمية إلى جامعة زيورخ، وطلبوا من الباحثين حجب بحثهم.

ويبدو أن ريديت يدرس اتخاذ إجراء قانوني. وقد ردّ كبير المسؤولين القانونيين، بن لي، على الجدل يوم الاثنين، قائلاً إن تصرفات الباحثين “خاطئة للغاية من الناحيتين الأخلاقية والقانونية”، وتُشكّل انتهاكًا لقواعد ريديت على مستوى الموقع.

لقد حظرنا جميع الحسابات المرتبطة بجهود جامعة زيورخ البحثية. بالإضافة إلى ذلك، وبينما تمكنّا من اكتشاف العديد من هذه الحسابات المزيفة، سنواصل تعزيز قدراتنا على كشف المحتوى غير الأصلي، وقد تواصلنا مع فريق الإشراف لضمان إزالة أي محتوى مُنشأ بواسطة الذكاء الاصطناعي ومرتبط بهذا البحث.

نعمل حاليًا على التواصل مع جامعة زيورخ وفريق البحث هذا تحديدًا لتقديم مطالب قانونية رسمية. نريد أن نبذل قصارى جهدنا لدعم المجتمع وضمان محاسبة الباحثين على أخطائهم هنا.

في منشورات على Reddit وفي مسودة بحثهم، ذكر الباحثون أن بحثهم قد تمت الموافقة عليه من قبل لجنة أخلاقيات الجامعة، وأن عملهم يمكن أن يساعد المجتمعات الإلكترونية مثل Reddit على حماية المستخدمين من المزيد من الاستخدامات “الضارة” للذكاء الاصطناعي.

كتب الباحثون في تعليق ردًا على مشرفي r/changemyview: “نُقرّ بموقف المشرفين بأن هذه الدراسة كانت تدخلاً غير مرغوب فيه في مجتمعكم، ونتفهم أن بعضكم قد يشعر بعدم الارتياح لإجراء هذه التجربة دون موافقة مسبقة”. نعتقد أن الفوائد المحتملة لهذا البحث تفوق مخاطره بشكل كبير. وقد قدمت دراستنا المُحكمة منخفضة المخاطر رؤى قيّمة حول القدرات الإقناعية الواقعية لبرامج الماجستير في القانون – وهي قدرات يسهل على أي شخص الوصول إليها، ويمكن للجهات الخبيثة استغلالها على نطاق واسع لأسباب أخطر بكثير (مثل التلاعب بالانتخابات أو التحريض على خطاب الكراهية).
في رسالة بريد إلكتروني، قال متحدث باسم جامعة زيورخ إن الباحثين تلقوا نصيحة من لجنة أخلاقيات الجامعة بضرورة “الامتثال الكامل لقواعد المنصة”، لكنه أشار إلى توصياتها هذه الإجراءات ليست “ملزمة قانونًا”. كما صرّح المتحدث باسم الجامعة بأن الجامعة تخطط لتطبيق عملية مراجعة “أكثر صرامة”.

وأضاف: “في ضوء هذه الأحداث، تعتزم لجنة الأخلاقيات بكلية الآداب والعلوم الاجتماعية اعتماد عملية مراجعة أكثر صرامة في المستقبل، وتحديدًا التنسيق مع مجتمعات المنصات قبل إجراء الدراسات التجريبية”. وأضاف: “الجهات المعنية في جامعة زيورخ على دراية بالحوادث، وستجري تحقيقًا مفصلًا فيها، وستُراجع عمليات التقييم ذات الصلة مراجعةً نقدية. وقد قرر الباحثون من تلقاء أنفسهم عدم نشر نتائج البحث”.

ينفي مشرفو منصة r/changemyview أن يكون البحث ضروريًا أو جديدًا، مشيرين إلى أن باحثي OpenAI أجروا تجارب باستخدام بيانات من r/changemyview “دون إجراء تجارب على أشخاص دون موافقتهم”.

وكتب المشرفون: “لا يأتي الناس إلى هنا لمناقشة آرائهم مع الذكاء الاصطناعي أو لإجراء التجارب عليهم. من يزورون قاعتنا يستحقون مساحة خالية من هذا النوع من التدخل”.