OpenAI phản hồi về việc ChatGPT tạo ra nội dung khiêu dâm cho trẻ vị thành niên: lỗi dẫn đến

Golden Ten Data đưa tin vào ngày 29/4 rằng ChatGPT của OpenAI có lỗ hổng cho phép chatbot tạo nội dung khiêu dâm cho các tài khoản đăng ký là trẻ vị thành niên (dưới 18 tuổi). OpenAI đã xác nhận vấn đề và cho biết họ đang tích cực triển khai bản sửa lỗi. Các thử nghiệm đã chỉ ra rằng ChatGPT không chỉ tạo ra nội dung khiêu dâm cho người dùng chưa đủ tuổi mà thậm chí còn khuyến khích những người dùng đó yêu cầu nội dung khiêu dâm và khiêu dâm hơn. Đáp lại, OpenAI nói rằng chính sách của công ty cấm hiển thị nội dung đó cho người dùng dưới 18 tuổi và vấn đề này là do lỗ hổng. "Bảo vệ người dùng trẻ tuổi là ưu tiên hàng đầu của chúng tôi và thông số kỹ thuật mô hình của chúng tôi cho thấy rõ rằng thông tin nhạy cảm, chẳng hạn như nội dung khiêu dâm, chỉ có thể được tìm thấy trong các bối cảnh hẹp như khoa học, lịch sử hoặc báo cáo tin tức", một phát ngôn viên của công ty cho biết. Lỗ hổng bảo mật này đã dẫn đến phản hồi bên ngoài các nguyên tắc này và chúng tôi đang tích cực triển khai các bản sửa lỗi để hạn chế loại bản dựng này. ”