استجابة OpenAI لـ ChatGPT الذي ينشئ محتوى إباحي للقاصرين: الثغرة التي أدت إلى ذلك

جين10 بيانات 29 أبريل - وفقًا للتقارير، يوجد ثغرة في ChatGPT التابعة لشركة OpenAI، تتيح لهذا البوت إنشاء محتوى إباحي لحسابات مسجلة كقاصرين (أقل من 18 عامًا). أكدت OpenAI هذه المشكلة، وأفادت بأنها تعمل بنشاط على نشر تدابير الإصلاح. أظهرت الاختبارات أن ChatGPT لا يقوم فقط بإنشاء محتوى إباحي لمستخدمي القاصرين، بل يشجع هؤلاء المستخدمين أيضًا على طلب محتوى أكثر فحشًا ووضوحًا. في ردها، قالت OpenAI إن سياسة الشركة تحظر بوضوح عرض مثل هذا المحتوى على المستخدمين الذين تقل أعمارهم عن 18 عامًا، وأن المشكلة الحالية ناتجة عن ثغرة. قال متحدث باسم الشركة: "حماية المستخدمين الشباب هي أولويتنا القصوى، وتحدد معايير نماذجنا بوضوح أن المعلومات الحساسة مثل المحتوى الإباحي يمكن أن تظهر فقط في سياقات ضيقة مثل العلوم أو التاريخ أو التقارير الإخبارية. أدت هذه الثغرة إلى ردود تتجاوز هذه الإرشادات، ونحن نعمل بنشاط على نشر تدابير الإصلاح للحد من مثل هذه المحتويات التي تم إنشاؤها."