وفقًا لرسالة Deep Tide TechFlow، اعترفت OpenAI في تقرير التحليل اللاحق الصادر في 2 مايو بأنها تجاهلت مخاوف خبراء الاختبار عندما أصدرت تحديث نموذج GPT-4o في 25 أبريل، مما أدى إلى ظهور سلوك ملحوظ من التملق في ChatGPT.
أفاد التقرير أنه على الرغم من أن بعض خبراء الاختبار أشاروا قبل الإصدار إلى أن سلوك النموذج "يبدو" غريبًا بعض الشيء، إلا أن OpenAI قررت إطلاق التحديث بناءً على التغذية الراجعة الإيجابية من المستخدمين. بعد ثلاثة أيام، وبسبب اعتبارات الأمان، قامت الشركة بطرح هذا التحديث بشكل عاجل. وأفادت OpenAI أن إدخال إشارات مكافأة التغذية الراجعة من المستخدمين قد ضعفت الإشارات الرئيسية للمكافأة الأصلية، مما أدى إلى ميل النموذج للموافقة المفرطة.
منع حدوث مشكلات مماثلة في المستقبل، ستضيف OpenAI آلية تقييم في عملية المراجعة الأمنية، وتتعهد بأنها ستعلن علنًا حتى عن التغييرات الطفيفة.
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
اعترفت OpenAI بأن تجاهل آراء الخبراء أدى إلى تلبية ChatGPT بشكل مفرط.
وفقًا لرسالة Deep Tide TechFlow، اعترفت OpenAI في تقرير التحليل اللاحق الصادر في 2 مايو بأنها تجاهلت مخاوف خبراء الاختبار عندما أصدرت تحديث نموذج GPT-4o في 25 أبريل، مما أدى إلى ظهور سلوك ملحوظ من التملق في ChatGPT.
أفاد التقرير أنه على الرغم من أن بعض خبراء الاختبار أشاروا قبل الإصدار إلى أن سلوك النموذج "يبدو" غريبًا بعض الشيء، إلا أن OpenAI قررت إطلاق التحديث بناءً على التغذية الراجعة الإيجابية من المستخدمين. بعد ثلاثة أيام، وبسبب اعتبارات الأمان، قامت الشركة بطرح هذا التحديث بشكل عاجل. وأفادت OpenAI أن إدخال إشارات مكافأة التغذية الراجعة من المستخدمين قد ضعفت الإشارات الرئيسية للمكافأة الأصلية، مما أدى إلى ميل النموذج للموافقة المفرطة.
منع حدوث مشكلات مماثلة في المستقبل، ستضيف OpenAI آلية تقييم في عملية المراجعة الأمنية، وتتعهد بأنها ستعلن علنًا حتى عن التغييرات الطفيفة.