在ai领域，人们长期以来对于开源和闭源的选择存在分歧。然而，在大规模模型的时代，开源已经成为一股强大的力量悄然崛起。根据之前谷歌泄露的一份内部文件，整个社区正在快速构建与openai和谷歌大规模模型相似的模型，其中包括围绕meta的llama等开源模型

毫无疑问，Meta是开源世界的核心所在，一直以来都在不断努力推动开源事业，例如最近发布的Llama 2。然而，众所周知，树大必有枯枝，最近Meta因为开源而陷入了一些麻烦

在 Meta 的旧金山办公室外，一群手举标语的抗议者聚集在一起，抗议 Meta 公开发布 AI 模型的策略，并声称这些发布的模型造成了潜在不安全技术的「不可逆转的扩散」。甚至有抗议者将 Meta 发布的大模型比作「大规模杀伤性武器」。

这些抗议者自称为「concerned citizens」（关心某事的公民），由 Holly Elmore 领导。根据领英信息，她是 AI Pause（中止 AI）运动的独立倡导者。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

需要改写的内容是：图片来源：MISHA GUREVICH

如果一个模型被证明不安全，她指出可以关闭API，例如像谷歌和OpenAI那样，只允许用户通过API访问大型模型

与此相反，Meta的LLaMA系列开源模型提供了模型权重给公众，这使得任何拥有适当硬件和专业知识的人都可以自行复制和调整模型。一旦模型权重发布，发布公司将无法再控制AI的使用方式

对于Holly Elmore来说，释放模型权重是一种危险的策略，因为任何人都可以修改这些模型，而且无法撤回这些修改。她认为「模型越强大，这种策略就越危险」

与开源相比，通过 API 访问的大型模型通常具备各种安全特性，例如响应过滤或通过特定训练阻止输出危险或令人厌恶的响应

如果可以释放模型权重，那么重新训练模型以跳过这些"护栏"将变得更容易。这使得利用这些开源模型来制作网络钓鱼软件和进行网络攻击变得更加可能

需要改写的内容是：图片来源：MISHA GUREVICH

因为，她认为部分问题在于「针对模型释放的安全措施不够」，需要有更好的方式来保证模型安全。

目前，Meta尚未对此发表任何评论。然而，Meta首席AI科学家Yann LeCun似乎对“开源AI必须被取缔”这一说法进行了回应，并展示了巴黎开源AI创业社区的繁荣景象

与 Holly Elmore 持不同意见的人也有很多，认为 AI 发展的开放策略是确保实现技术信任的唯一途径。

有网友表示，开源有利有弊，既可以让人们获得更高透明度并增强创新，但也将面临恶意行为者滥用（如代码）的风险。

NameGPT

免费的名称生成器，AI驱动在线生成企业名称及Logo

119 查看详情

不出所料，OpenAI 再次遭到了揶揄，「它应该回归开源。」

对开源持有担忧的不在少数

麻省理工学院人工智能安全博士后研究员 Peter S. Park 表示，未来广泛发布先进的 AI 模型将会带来特别的问题，因为基本上是不可能防止滥用 AI 模型

不过，非营利性人工智能研究组织 EleutherAI 的执行董事 Stella Biderman 表示：「到目前为止，几乎没有证据表明开源模型造成了任何具体的损害。目前还不清楚是否仅在 API 背后放置一个模型就可以解决安全问题。」

Biderman 认为：「构建 LLM 的基本要素已在免费的研究论文中公开，世界上任何人都可以阅读论文文献来开发自己的模型。」

她还补充道：「鼓励公司对模型细节保密可能会对领域研究的透明度、公众意识和科学发展产生严重的不良后果，特别是会影响独立研究人员。」

尽管大家已经在讨论开源带来的影响，但 Meta 的方法是否真的足够开放，是否能够发挥开源的优势，还未可知。 

开放源代码促进会（OSI）执行董事 Stefano Maffulli 表示：「开源 AI 的概念尚未得到正确定义。不同的组织使用该术语来指代不同的事物 —— 表示不同程度的『公开可用的东西』，这会让人们感到困惑。」

Maffulli 指出，对于开源软件来说，关键问题是源代码是否公开可用并可复现用于任何目的。然而，要复现 AI 模型可能需要共享训练数据、收集数据的方式、训练软件、模型权重、推理代码等等。其中，最重要的是训练数据可能涉及隐私和版权问题

OSI 自去年以来一直致力于为「开源 AI」给出一个确切的定义，很有可能会在未来几周内发布早期草案。但无论如何，他都认为开源对 AI 发展至关重要。「如果 AI 不是开源的，我们就不可能拥有值得信赖、负责任的 AI」，他说道。

未来，关于开源与闭源的分歧会一直延续下去，但开源已经无法阻挡。

以上就是AI失控风险引发Meta举牌抗议，LeCun称开源AI社区蓬勃发展的详细内容，更多请关注其它相关文章！

# 怎么处理  # 美妆推广营销策略分析  # 佳能seo1300d  # 优就业seo特训  # 茂名外贸网站建设电话  # 云南网站建设推广多少钱  # 百度推广营销需要多少钱  # 西苑网站建设图  # 宜兴响应式网站建设推广  # 最新seo培训视频  # 时装网站的建设  # 旧金山  # 数据  # 不安全  # 麻省理工学院  # 一言  # 造成了  # 也能  # 首次  # 自然语言  # 开源  # llama  # ai 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： type-c输入接口是什么  手机全功能type-c接口是什么意思  虚拟机服务器如何关机命令  j*a数组怎么取元素  苹果16系统有哪些改变  j*a怎么把数组输出  power在坐标轴中是什么意思  如何修改cad中的命令  春运什么时候开始抢票  新网站如何填写域名解析  openwrt有什么用  复制 命令如何撤销  单片机软件keil怎么运行  市盈率ttm是什么意思  市盈率市净率是什么意思  ka是什么意思  typescript干什么的  固态硬盘如何外接  估值水平比较中市盈率E是什么意思  夸克文字口令是什么意思  如何选择启用固态硬盘  typescript与es6学哪个  typescript需要学多久  如何显示固态硬盘  1tb等于多少mb  爱奇艺视频怎么下载到手机u盘怎么转换格式方法  折叠屏手机哪款最好  笔记本如何选择固态硬盘  电瓶车屏幕上显示power是什么意思  如何ping测试命令  excel中datediff函数怎么用  5r是多少钱  苹果16系统有哪些问题  苹果16配置参数有哪些  汽车上power是什么意思  calm是什么意思  如何使硬盘升级固态硬盘  苹果ipad爱奇艺怎么投屏到电视  33000日元等于多少人民币  element ui的好处  如何在昇腾Ascend 910B上运行Qwen2.5教程  faq是什么意思  春运抢票软件哪个好  2025年哪个局域网聊天软件好用  如何使用批处理命令编译vc程序  165开头的是什么电话号码  市盈率静是什么意思  为什么夸克书架书单没了  performance是什么意思  恋爱软件免费聊天不收费的有哪些