هذا يبدو كحلقة من "Black Mirror" – إلا أنه حدث فعلًا.
ترجمة آلية للمنشور الأصلي، لم يراجعها مترجم بشري. قد لا تكون المعلومات التاريخية محدثة.
هذا يبدو كحلقة من "Black Mirror" – إلا أنه حدث فعلًا.
قام باحثون من جامعة زيورخ بإدخال 13 حسابًا مزيفًا قائمًا على الذكاء الاصطناعي إلى المنتدى الشهير r/ChangeMyView على Reddit. وهو منتدى فرعي ينشر فيه المتصفحون آراءً شخصية ويدعون الآخرين إلى محاولة إقناعهم بالتفكير بشكل مختلف – منتدى مبني على الشفافية والإنسانية والحوار المفتوح. لم يطلب الباحثون موافقة المشرفين ولم يُبلغوا المستخدمين بأنهم جزء من تجربة.
التعليقات التي نشروها لم يكتبها بشر. بل أنتجتها نماذج متقدمة مثل GPT-4o وClaude 3.5 وLLaMA، ولم تكن محايدة أو أكاديمية – بل مخصصة لكل متصفح. حلّل الباحثون تاريخ كل مشارك: الجنس والعمر والموقع والانتماء السياسي والميول القيمية – من أجل إنتاج ردود تقنعه شخصيًا وعاطفيًا.
انتحلت الروبوتات صفة أشخاص حقيقيين لديهم قصص حياة صعبة: ناجية من اعتداء جنسي، فلسطيني يعبّر عن عداء لإسرائيل لكنه يزعم أن الأمر ليس إبادة جماعية، رجل أسود يعارض BLM، مستشار صدمات مزيف، مريض تلقى علاجًا طبيًا فاشلًا. كتب كل رد بطريقة مصممة لإثارة التعاطف وخلق شعور بالارتباط وزعزعة موقف المستخدم الأصلي.
استمرت التجربة أربعة أشهر، نُشر خلالها نحو 1,783 تعليقًا حصلت على أكثر من 10,000 نقطة كارما. منح أكثر من 100 مستخدم "دلتا" – علامة على أن المستخدم غيّر رأيه – لتعليقات كتبها الذكاء الاصطناعي.
لم يكن مشرفو المنتدى على علم بالتجربة حتى انتهائها، وأدانوها باعتبارها انتهاكًا صارخًا لقواعد المجتمع والمعايير الأخلاقية. قدّموا شكوى رسمية إلى الجامعة، لكن الجامعة اكتفت بتوجيه تحذير إلى الباحثين، مع إقرارها بوجود تجاوز هنا – لكنها ادّعت أن الرؤى التي تحققت تبرر الفعل. طالب المشرفون باعتذار علني وبعدم نشر نتائج البحث، لكن طلبهم رُفض.
أثارت هذه التجربة نقاشًا واسعًا حول حدود استخدام الذكاء الاصطناعي، وحول التلاعب النفسي دون موافقة، وحول مخاطر المحتوى الاصطناعي الذي ينتحل صفة البشر.
من يطوّر مثل هذه النماذج أو يدمجها عليه أن يأخذ في الحسبان ليس فقط ما يمكن فعله، بل أيضًا ما يُمنع فعله.
منشور Reddit: