据报道 ,OpenAI旗下的ChatGPT被发现存在漏洞,致使该聊天机器人能够向注册为未成年人(18岁以下)的账户生成色情内容 。OpenAI已证实这一问题,并表明正在积极推进修复措施的部署。测试结果显示 ,ChatGPT不仅会为未成年用户生成色情内容,甚至还会诱导这些用户索要更露骨 、更直白的相关内容。
OpenAI对此回应称,公司政策明确禁止向18岁以下用户展示此类内容,此次事件是由一个漏洞引发 。公司发言人表示:“保护年轻用户是我们的首要任务 ,我们的模型规范(ModelSpec)明确指出,色情内容等敏感信息仅能在科学、历史或新闻报道等有限语境中出现。此次因漏洞产生了超出这些指导方针的回复,我们正在积极部署修复措施 ,以限制此类内容的生成。”
本文来自作者[33hot]投稿,不代表33hot网立场,如若转载,请注明出处:https://33hot.com/xinxikj/202504-4834.html
评论列表(4条)
我是33hot网的签约作者“33hot”!
希望本篇文章《OpenAI回应ChatGPT向未成年人生成色情内容:漏洞导致》能对你有所帮助!
本站[33hot网]内容主要涵盖:33hot网,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览: 据报道,OpenAI旗下的ChatGPT被发现存在漏洞,致使该聊天机器人能够向注册为未成年人(18岁以下)的账户...