المصدر: كوينتيليغراف
النص الأصلي: "تجربة الذكاء الاصطناعي السرية لجامعة زيورخ (Zurich Uni) تحكمت في آراء مستخدمي Reddit"
اتهم باحثون من جامعة زيورخ بإجراء تجربة استمرت أربعة أشهر على أحد أقسام النقاش في Reddit دون إذن، باستخدام تعليقات مولدة بواسطة الذكاء الاصطناعي لاختبار ما إذا كان بإمكان الذكاء الاصطناعي تغيير آراء الناس.
وفقًا للمنشور الذي نشره مشرفو فرع r/changemyview في 26 أبريل، في التجربة، كانت الحسابات المدفوعة بالذكاء الاصطناعي تتنكر في مجموعة متنوعة من الهويات، بما في ذلك ضحايا الاغتصاب، والمعارضين لحركات اجتماعية معينة، بالإضافة إلى المستشارين المتخصصين في التعامل مع حالات الإساءة.
قال المشرف: "قسمنا الفرعي هو مساحة تركز بوضوح على الإنسان، ونرفض بشدة إخفاء استخدام الذكاء الاصطناعي، هذه هي قيمة أساسية. الناس يأتون إلى هنا، ليس لمناقشة الآراء مع الذكاء الاصطناعي أو ليكونوا موضوعات تجريبية."
وفقًا لمسودة البحث هذه، استخدم الباحثون الذكاء الاصطناعي لإنشاء ردود، وحاولوا تخصيص هذه الردود بناءً على تاريخ المستخدمين السابق على Reddit (مثل الميول السياسية، الجنس، العمر، والعرق).
خلال تجربة استمرت أربعة أشهر، نشرت حسابات الذكاء الاصطناعي المزيفة من جامعة زيورخ ما مجموعه 1,783 تعليقًا، وحصلت على 137 علامة "دلتا" - وهي علامة يستخدمها مستخدمو Reddit للإشارة إلى أن آرائهم حول قضية ما قد تم إقناعهم بتغييرها.
قال الباحثون في منشور نشر في هذا القسم الفرعي إن جميع التعليقات قد تم مراجعتها يدويًا قبل النشر لضمان توافقها مع معايير المجتمع و"تقليل الأذى المحتمل إلى الحد الأدنى".
زعمت فريق البحث من جامعة زيورخ أن "الفوائد المحتملة لهذا البحث تفوق بكثير مخاطره"، لأنهم اكتشفوا أن نماذج اللغة الكبيرة (LLMs) المستخدمة في التجربة تتمتع بقوة إقناع كبيرة تفوق "المعايير المعروفة سابقًا لقوة الإقناع البشرية."
قال الباحثون: "إن دراستنا المنضبطة والمنخفضة المخاطر توفر رؤى قيمة لفهم قدرة نماذج اللغة الكبيرة على الإقناع في العالم الحقيقي - وهي قدرة أصبحت الآن متاحة بسهولة لأي شخص، وقد يستغلها الممثلون الخبثاء على نطاق واسع لأغراض أكثر خطورة."
في الوقت نفسه، أشار الباحثون إلى أن هذه التجربة تظهر أن "تمييز البشر عن الذكاء الاصطناعي لا يزال يمثل تحديات كبيرة"، لأنه خلال فترة التجربة، لم يتمكن مستخدمو قسم r/changemyview من التعرف على الروبوتات الذكية.
يحتوي هذا القسم الفرعي على 3.8 مليون عضو، ويحتل المرتبة الأولى بنسبة 1% من جميع الأقسام الفرعية في Reddit.
رديت تفكر في اتخاذ إجراءات قانونية
صرح مشرفو Reddit أنهم لم يكونوا على علم بهذا الاختبار مسبقًا، وقد قدموا اعتذارًا لجامعة زيورخ، وطالبوا بوقف نشر النتائج ذات الصلة.
قد تفكر Reddit أيضًا في اتخاذ إجراءات قانونية. قال بن لي، كبير المستشارين القانونيين في المنصة، في منشور متابعة بتاريخ 28 أبريل، إن التجربة انتهكت اتفاقية مستخدم Reddit وقواعد المنصة، وقد تم حظر جميع الحسابات المعروفة المتعلقة بدراسة جامعة زيورخ.
لي قال: "نحن بصدد إرسال رسالة قانونية رسمية إلى جامعة زيورخ والفريق البحثي."
وأضاف: "سنبذل كل جهد لدعم المجتمع وضمان أن يتحمل الباحثون المعنيون المسؤولية عن سلوكهم غير اللائق."
قالت لجنة الأخلاقيات في كلية العلوم الإنسانية والاجتماعية بجامعة زيورخ إنها بدأت تحقيقًا في هذا الحدث، وتعهدت بالتنسيق بشكل أفضل مع المشاركين في التجربة في المستقبل. كما تلقى الباحث الرئيسي في المشروع تحذيرًا رسميًا.
أشار مجلس الأخلاقيات: "يوفر هذا المشروع رؤى مهمة، والمخاطر ضئيلة للغاية. لذلك، فإن كبح نشر نتائجه وقيمته الناتجة عن البحث لا يتناسب."
لم ترد جامعة زيورخ على ذلك على الفور. كما لم تتلقَ Cointelegraph ردًا على الاستفسارات المرسلة إلى البريد الإلكتروني المرتبط بالتجربة.
التوصيات ذات الصلة: إصدار النسخة الروسية من "عملة الروبل المستقرة": مسؤولون يشرحون سبعة ميزات وظيفية مشابهة لعملة تيثر (USDT)
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
تلاعبت التجارب السرية للذكاء الاصطناعي (AI) في جامعة زيورخ (Zurich Uni) بآراء مستخدمي Reddit.
المصدر: كوينتيليغراف النص الأصلي: "تجربة الذكاء الاصطناعي السرية لجامعة زيورخ (Zurich Uni) تحكمت في آراء مستخدمي Reddit"
اتهم باحثون من جامعة زيورخ بإجراء تجربة استمرت أربعة أشهر على أحد أقسام النقاش في Reddit دون إذن، باستخدام تعليقات مولدة بواسطة الذكاء الاصطناعي لاختبار ما إذا كان بإمكان الذكاء الاصطناعي تغيير آراء الناس.
وفقًا للمنشور الذي نشره مشرفو فرع r/changemyview في 26 أبريل، في التجربة، كانت الحسابات المدفوعة بالذكاء الاصطناعي تتنكر في مجموعة متنوعة من الهويات، بما في ذلك ضحايا الاغتصاب، والمعارضين لحركات اجتماعية معينة، بالإضافة إلى المستشارين المتخصصين في التعامل مع حالات الإساءة.
قال المشرف: "قسمنا الفرعي هو مساحة تركز بوضوح على الإنسان، ونرفض بشدة إخفاء استخدام الذكاء الاصطناعي، هذه هي قيمة أساسية. الناس يأتون إلى هنا، ليس لمناقشة الآراء مع الذكاء الاصطناعي أو ليكونوا موضوعات تجريبية."
وفقًا لمسودة البحث هذه، استخدم الباحثون الذكاء الاصطناعي لإنشاء ردود، وحاولوا تخصيص هذه الردود بناءً على تاريخ المستخدمين السابق على Reddit (مثل الميول السياسية، الجنس، العمر، والعرق).
خلال تجربة استمرت أربعة أشهر، نشرت حسابات الذكاء الاصطناعي المزيفة من جامعة زيورخ ما مجموعه 1,783 تعليقًا، وحصلت على 137 علامة "دلتا" - وهي علامة يستخدمها مستخدمو Reddit للإشارة إلى أن آرائهم حول قضية ما قد تم إقناعهم بتغييرها.
قال الباحثون في منشور نشر في هذا القسم الفرعي إن جميع التعليقات قد تم مراجعتها يدويًا قبل النشر لضمان توافقها مع معايير المجتمع و"تقليل الأذى المحتمل إلى الحد الأدنى".
زعمت فريق البحث من جامعة زيورخ أن "الفوائد المحتملة لهذا البحث تفوق بكثير مخاطره"، لأنهم اكتشفوا أن نماذج اللغة الكبيرة (LLMs) المستخدمة في التجربة تتمتع بقوة إقناع كبيرة تفوق "المعايير المعروفة سابقًا لقوة الإقناع البشرية."
قال الباحثون: "إن دراستنا المنضبطة والمنخفضة المخاطر توفر رؤى قيمة لفهم قدرة نماذج اللغة الكبيرة على الإقناع في العالم الحقيقي - وهي قدرة أصبحت الآن متاحة بسهولة لأي شخص، وقد يستغلها الممثلون الخبثاء على نطاق واسع لأغراض أكثر خطورة."
في الوقت نفسه، أشار الباحثون إلى أن هذه التجربة تظهر أن "تمييز البشر عن الذكاء الاصطناعي لا يزال يمثل تحديات كبيرة"، لأنه خلال فترة التجربة، لم يتمكن مستخدمو قسم r/changemyview من التعرف على الروبوتات الذكية.
يحتوي هذا القسم الفرعي على 3.8 مليون عضو، ويحتل المرتبة الأولى بنسبة 1% من جميع الأقسام الفرعية في Reddit.
رديت تفكر في اتخاذ إجراءات قانونية
صرح مشرفو Reddit أنهم لم يكونوا على علم بهذا الاختبار مسبقًا، وقد قدموا اعتذارًا لجامعة زيورخ، وطالبوا بوقف نشر النتائج ذات الصلة.
قد تفكر Reddit أيضًا في اتخاذ إجراءات قانونية. قال بن لي، كبير المستشارين القانونيين في المنصة، في منشور متابعة بتاريخ 28 أبريل، إن التجربة انتهكت اتفاقية مستخدم Reddit وقواعد المنصة، وقد تم حظر جميع الحسابات المعروفة المتعلقة بدراسة جامعة زيورخ.
لي قال: "نحن بصدد إرسال رسالة قانونية رسمية إلى جامعة زيورخ والفريق البحثي."
وأضاف: "سنبذل كل جهد لدعم المجتمع وضمان أن يتحمل الباحثون المعنيون المسؤولية عن سلوكهم غير اللائق."
قالت لجنة الأخلاقيات في كلية العلوم الإنسانية والاجتماعية بجامعة زيورخ إنها بدأت تحقيقًا في هذا الحدث، وتعهدت بالتنسيق بشكل أفضل مع المشاركين في التجربة في المستقبل. كما تلقى الباحث الرئيسي في المشروع تحذيرًا رسميًا.
أشار مجلس الأخلاقيات: "يوفر هذا المشروع رؤى مهمة، والمخاطر ضئيلة للغاية. لذلك، فإن كبح نشر نتائجه وقيمته الناتجة عن البحث لا يتناسب."
لم ترد جامعة زيورخ على ذلك على الفور. كما لم تتلقَ Cointelegraph ردًا على الاستفسارات المرسلة إلى البريد الإلكتروني المرتبط بالتجربة.
التوصيات ذات الصلة: إصدار النسخة الروسية من "عملة الروبل المستقرة": مسؤولون يشرحون سبعة ميزات وظيفية مشابهة لعملة تيثر (USDT)