只用3%的计算量、5%的成本取得sota，统治了1b-3b规模的开源大模型。

这一成果来自普林斯顿陈丹琦团队，名为LLM-Shearing大模型剪枝法。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

以羊驼LLaMA 2 7B为基础，通过定向结构化剪枝得到1.3B和3B剪枝后的Sheared-LLama模型。

在下游任务评估上超越之前的同等规模模型，需要进行重写

一作夏梦舟表示，“比从头开始预训练划算很多”。

论文中也给出了剪枝后的Sheared-LLaMA输出示例，表示尽管规模只有1.3B和2.7B，也已经能生成连贯且内容丰富的回复。

相同的“扮演一个半导体行业分析师”任务，2.7B版本的回答结构上还要更清晰一些。

团队表示虽然目前只用Llama 2 7B版做了剪枝实验，但该方法可以扩展到其他模型架构，也能扩展到任意规模。

剪枝后的一个额外好处是，可以选择优质的数据集进行继续预训练

有一些开发者表示，就在6个月前，几乎所有人都认为65B以下的模型没有任何实际用途

照这样下去，我敢打赌1B-3B模型也能产生巨大价值，如果不是现在，也是不久以后。

把剪枝当做约束优化

LLM-Shearing，具体来说是一种定向结构化剪枝，将一个大模型剪枝到指定的目标结构。

之前的修剪方法可能会导致模型性能下降，因为会删除一些结构，影响其表达能力

通过将剪枝视为一种约束优化问题，我们提出了一种新的方法。我们通过学习剪枝掩码矩阵来搜索与指定结构匹配的子网络，并以最大化性能为目标

接下来对剪枝过的模型进行继续预训练，在一定程度上恢复剪枝造成的性能损失。

在这个阶段，团队发现剪枝过的模型与从头训练的模型对不同数据集的损失下降速率不一样，产生数据使用效率低下的问题。

为此团队提出了动态批量加载（Dynamic Batch Loading），根据模型在不同域数据上的损失下降速率动态调整每个域的数据所占比例，提高数据使用效率。

研究发现，尽管剪枝模型与从头训练的同等规模模型相比，初始性能较差，但通过持续预训练可以迅速提升，并最终超越

NameGPT

免费的名称生成器，AI驱动在线生成企业名称及Logo

119 查看详情

这表明从强大的基础模型中剪枝，可以为继续预训练提供更好的初始化条件。

将持续更新，来一个剪一个

论文作者分别为普林斯顿博士生夏梦舟、高天宇，清华Zhiyuan Zeng，普林斯顿助理教授陈丹琦。

夏梦舟，本科毕业于复旦，硕士毕业于CMU。

高天宇是一位毕业于清华大学的本科生，他在2019年获得了清华特奖

两人都是陈丹琦的学生，而陈丹琦目前是普林斯顿大学的助理教授，也是普林斯顿自然语言处理小组的共同领导者

最近在个人主页中，陈丹琦更新了她的研究方向。

"这段时间主要专注于开发大型模型，研究的主题包括："

• 检索如何在下一代模型中发挥重要作用，提高真实性、适应性、可解释性和可信度。
• 大模型的低成本训练和部署，改进训练方法、数据管理、模型压缩和下游任务适应优化。
• 还对真正增进对当前大模型功能和局限性理解的工作感兴趣，无论在经验上还是理论上。

Sheared-Llama已经在Hugging Face上提供

团队表示，他们将继续更新开源库

更多大模型发布时，来一个剪一个，持续发布高性能的小模型。

One More Thing

不得不说，现在大模型实在是太卷了。

孟州夏刚刚发布了一条更正，表示在写论文时使用的是SOTA技术，但是论文完成后就被最新的Stable-LM-3B技术超越了

论文地址：https://arxiv.org/abs/2310.06694

Hugging Face：https://huggingface.co/princeton-nlp

项目主页链接：https://xiamengzhou.github.io/sheared-llama/

以上就是陈丹琦团队创新之作：以5%成本取得SOTA，掀起“羊驼剪毛”大法热潮的详细内容，更多请关注其它相关文章！

# 免费试用  # 贵阳网站建设的基本步骤  # 营销网站建设技巧论文  # 丽江短视频营销推广哪家好  # 顺义网站优化公司  # 提供营销推广代理  # 老年产品营销推广方案策划  # 岳阳网站建设与制作公司  # 滁州百度seo软件  # 易站通推广营销策略  # 德州专业网站建设报价  # 开源  # ai  # 中国  # 孟州  # 提出了  # 也能  # 自然语言  # 普林斯顿  # 之作  # 关键词  # llama  # hugging face  # 训练 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： vb中的datediff函数怎么用 ​VB中的DateDiff函数：详尽指南  typescript卸载不掉怎么办  python 如何执行linux命令  怎么看手机是不是双模5g手机  ai显示无法找到链接的文件是什么意思  春运辅助抢票怎么抢  电瓶车屏幕上显示power是什么意思  单片机的速度怎么求  vi命令如何退出  vivo怎么投屏到电视看爱奇艺教程  sausage是什么意思  夸克投屏为什么那么卡  tft单片机怎么写彩屏  固态硬盘如何安装win10系统安装  苹果16配置参数有哪些  typescript的语法格式是什么  春运抢票软件哪个最好用  typescript干什么的  显示器的power是什么意思  typescript中怎么引用js文件  为什么程序员热爱typescript  j*a怎么讲数组打印  直接gmV是什么意思？直接GMV:定义和概念  单片机怎么储存和显示  如何设置sql命令  360n4怎么关闭锁屏壁纸  三星 nfc什么功能是什么意思  如何修改域名解析  什么是typescript  为什么ai老是说链接面板中缺少某些文件  春运抢票可以抢几次啊  什么是域名解析 域名解析中采用了什么  unix时间戳转换公式  单片机学习视频怎么调色  ao3镜像网站永久地址入口  电瓶车充电器power是什么意思  市盈率中1stdv是什么意思  喇叭上POWER4欧是什么意思  如何看固态硬盘信息  油电混动车仪表盘上的power是什么意思  typescript怎么解析vue TypeScript在vue中的使用最新解读  苹果16系统有哪些系列  对应市盈率是30X是什么意思  爱奇艺fun会员可以几个人用？  单片机怎么定义字符长度  考勤机power红灯是什么意思  手机如何运行ping命令  type-c全能接口是什么意思  hen是什么意思  linux如何跳回命令行界面