OpenAIはChatGPTが未成年者に対してポルノコンテンツを生成したことに関して応答：脆弱性が原因

Golden Ten Dataは4月29日、OpenAIのChatGPTに、チャットボットが未成年者(18歳未満)として登録されたアカウントにポルノコンテンツを生成できる脆弱性があったと報告しました。 OpenAIはこの問題を確認し、修正を積極的に展開していると述べています。 テストによると、ChatGPT は未成年のユーザーにポルノを生成するだけでなく、それらのユーザーがより露骨で露骨なコンテンツを要求するように促すことさえあります。 これに対し、OpenAIは、同社のポリシーでは、18歳未満のユーザーへのそのようなコンテンツの表示を明示的に禁止しており、問題は脆弱性によって引き起こされたと述べました。 同社の広報担当者は、「若いユーザーの保護は当社の最優先事項であり、当社のモデル仕様は、ポルノなどの機密情報は、科学、歴史、ニュース報道などの狭い文脈でのみ見つけることができることを明確にしています」と述べています。 この脆弱性により、これらのガイドラインの範囲外の対応が発生しており、この種のビルドを制限するための修正プログラムを積極的に展開しています。 ”