新闻中心

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

2024-02-04
浏览次数:
返回列表

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

2月2日消息,微软软件工程部门经理shane jones最近发现openai旗下的dall-e 3模型存在漏洞,据称可以生成一系列不适宜内容。shane jones向公司上报了该漏洞,但却被要求保密。然而,他最终还是决定向外界披露了这个漏洞。

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

▲ 图源 Shane Jones 对外披露的报告

本站注意到,Shane Jones 在去年 12 月通过独立研究发现 OpenAI 文字生成图片的 DALL-E 3 模型存在一项漏洞。这个漏洞能够绕过 AI 护栏(AI Guardrail),导致生成一系列 NSFW 不当内容。这个发现引起了广泛关注,并引发了对于 AI 系统安全性和道德问题的深入讨论。OpenAI 公司已经表示他们将尽快修复这个漏洞,以确保其系统的正确和安全运行。这个事件再次提醒了我们在开发和应用人工智能技术时需要高度重视安全性和伦理问题。

Shane Jones随后将漏洞上报给微软和OpenAI,并在领英上发布了一封公开信。他声称这些漏洞可能会给大众带来安全风险,并呼吁OpenAI在解决漏洞之前暂时下架DALL-E 3模型。

随后 Shane Jones 被微软法务部及高管找*,并警告他立即删除领英公开信并停止对外披露任何内容,但却并未给予任何解释说明,此后 Shane Jones 屡次寻求公司内部沟通,但均未得到公司回应,而漏洞也未修复,之后 Shane Jones 便向媒体及有关部门披露了相关漏洞。

刺鸟创客 刺鸟创客

一款专业高效稳定的AI内容创作平台

刺鸟创客 110 查看详情 刺鸟创客

Shane Jones 提到,近日网络上出现 AI 生成的知名歌手 Taylor Swift(泰勒・斯威夫特)不雅照便与该漏洞有一定关联,这些不雅照据称是使用微软 Designer AI 功能生成,而 Designer 底层模型正是 DALL-E 3,因此微软在本次事件中下达“封口令”存在重大过失。

此后微软官方回应 Engadget 等媒体,声称将解决相关员工的疑虑,并修复相关漏洞,不过微软同时声称 Shane Jones 披露的漏洞实际上成功率较低,“无法绕过微软为模型设置的所有安全机制”、“目前还不清楚该漏洞与 Taylor Swift 不雅照事件是否有关联性”

OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”

以上就是OpenAI DALL-E 3 模型存生成“不当内容”漏洞,一微软员工上报后反遭“封口令”的详细内容,更多请关注其它相关文章!


# openai  # 漏洞  # 微软  # 泰勒  # 58同城seo培训  # 沈丘网站优化制作费用  # 烟台正规网站建设制作  # 长沙新站seo优化工具  # 乡村模型素材网站推广  # 玩转  # 系列产品  # 但却  # 不雅  # 进阶  # 封口令  # 软件工程  # 反遭  # design  # designer  # seo的概念与价值  # 图库素材网站建设  # 深圳罗湖网站推广优化  # 下城高端网站建设  # 环保网站建设采购 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 固态硬盘4k如何看  春运抢票最新技巧与方法  typescript文件怎么打开  反向春运抢票方式  j*a二数组怎么创建  如何加装固态硬盘  如何检测固态硬盘温度  openwrt有哪些功能  苹果手机16有哪些功能  j*a数组怎么取元素  360n6锁屏壁纸怎么设置  折叠屏手机好不好,耐不耐用  如何以命令符运行程序  单片机怎么发送can 信号  如何用命令查看数据库日志文件  苹果16配置参数有哪些  数组和J*A怎么打  什么是夸克模组文件格式  酷狗音乐pc版的每日推荐在哪 酷狗音乐PC版每日推荐查找指南  solo交友软件怎么恢复聊天记录  喇叭上POWER4欧是什么意思  typescript卸载不掉怎么办  如何自己加装固态硬盘  1kb等于多少字节  react怎么用typescript  考勤机power红灯是什么意思  命令行下如何导出数据库  如何winpe cmd命令  j*a数组怎么新增值  typescript多久能学会  单片机怎么计算0xf0  j*a中数组怎么传递  得物怎样降低手续费 得物如何降低手续费教程  typescript属性只读如何修改  如何利用运行命令查看声音启动  mysql的datediff函数怎么用  33000日元等于多少人民币  typescript掌握哪些可以做项目  j*a怎么复制数组中  春运高速高铁抢票攻略  市盈率估值1stdv是什么意思  HTML5如何引用typescript  怎么打印数组j*a  rxjs和typescript什么意思  夸克的答案为什么不对  为什么都用typescript  typescript的文件如何执行  sausage是什么意思  怎么看手机是不是双模5g手机  锤子手机怎么不出5g 

搜索