腾讯的研究团队进行了一项关于agent的可拓展性的研究。他们发现，通过简单的采样投票，大型语言模型（llm）的性能随着实例化agent数量的增加而增强。这项研究首次在各种场景中验证了这一现象的普遍性，并与其他复杂方法进行了对比，探讨了这一现象背后的原因，并提出了进一步发挥scaling效应的方法。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

• 论文标题：More Agents Is All You Need

• 论文地址：https://arxiv.org/abs/2402.05120

• 代码地址：https://github.com/MoreAgentsIsAllYouNeed/More-Agents-Is-All-You-Need

本文中，来自腾讯的研究者发现：只需通过一种简单的采样投票法，大语言模型的性能就会随着实例化 agent 的数量的增大而增强，呈现scaling property（可拓展性），无需复杂的多 LLM agents 协作框架以及prompt工程方法的加持。此外，该方法与现有的复杂方法正交，结合之后，可进一步增强 LLM，其增强程度与任务难度相关。该论文做了第一个关于 raw agent（指不依赖复杂的prompt工程和协作框架的LLM agent）的 scaling property 的研究，其对各种 LLM 基准进行了全面的实验，以验证此发现的普遍性，并研究了可以促进其发生的策略。目前代码已开源。

                                    ^{多个小模型超过大模型}

论文详细探讨了多种集成LLM的相关研究，其中包括LLM的自集成、异构LLM的集成，以及多个LLM代理协作框架的研究。通过与提出的方法进行对比，可以看出论文进行了更为全面的研究和分析。

为了研究大型语言模型的性能如何随着实例化 agents 数量的增加而提升。论文使用了一种简单的采样和投票方法（作者用了 simple (st) 的说法，可见他们认为这个方法也许是最简单的方法之一）。值得注意的是，此方法可与现有的复杂方法正交结合。它可以被分为两个阶段：

• 将任务 query 输入到单个 LLM 或多个 LLM Agents 协作框架中，生成多个输出；
• 通过多数投票确定最终结果

论文从 Llama2 和 GPT 系列选择不同规模的语言模型进行评估，任务数据集涵盖推理和生成等多个领域。实验结果表明，在所有任务和不同种类、规模的 LLM 上，发现 LLM 的性能随着实例化 agent 的数量而增加。

例如，在 GSM8K 任务上提升了 12% 至 24%，在 MATH 上提升了 6% 至 10%。有趣的是，多个小 LLM 集成可以达到甚至超越较大 LLM 的性能。例如，多个 Llama2-13B 的集成在 GSM8K 上达到了 59% 准确率，超过了单一 Llama2-70B 的 54% 的准确率。

千鹿Pr助手

智能Pr插件，融入众多AI功能和海量素材

128 查看详情

进一步地，作者还探索了与其他方法的兼容性。尽管这些方法实现各不相同，但是在与之结合使用时，性能可以进一步提升，并同样符合实例化 agent 越多，性能增益越强的现象。实验结果显示增益范围从 1% 到 27% 不等，说明这个简单的方法通过和其他方法正交使用可以进一步增强 LLM 的性能。

                                   ^{基于 LLama13B}

                                 ^{基于 LLama70B}

                              ^{基于 GPT-3.5-Turbo}

此外，论文还分析了性能提升与问题难度之间的关系。

• 固有难度：随着任务固有难度的增加，性能提升（即相对性能增益）也会增加，但当难度达到一定程度后，增益会逐渐减少。这表明在任务过于复杂时，模型的推理能力可能无法跟上，导致性能提升的边际效应递减。
• 步骤数量：随着解决任务所需的步骤数量增加，性能提升也会增加。这表明在多步骤任务中，通过增加 agent 数量可以帮助模型更好地处理每一步，从而整体提高任务的解决性能。
• 先验概率：正确答案的先验概率越高，性能提升越大。这意味着在正确答案更有可能的情况下，增加 agent 数量更有可能带来显著的性能提升。

^{节点：步骤，虚线：可能的替代步骤。节点的深度：步骤的数量，颜色的强度：固有难度的水平。图示帮助读者理解任务的复杂性是如何通过这些维度来衡量的。}

基于此，论文提出了两种优化策略来进一步提升方法的有效性：

• 逐步采样和投票（Step-wise Sampling-and-Voting）：这种方法将任务分解为多个步骤，并在每个步骤中应用采样和投票，以减少累积错误并提高整体性能。
• 分层采样和投票（Hierarchical Sampling-and-Voting）：这种方法将低概率任务分解为多个高概率子任务，并分层解决，同时可以使用不同模型来处理不同概率的子任务以降低成本。
  

最后，提出了未来的工作方向，包括优化采样阶段以降低成本，并继续开发相关机制来减轻 LLM 幻觉（hallucinations）的带来的潜在负面影响，确保这些强大模型的部署既负责任又有益。

以上就是数量即力量！腾讯揭秘：Agent数量越多，大语言模型效果越好的详细内容，更多请关注其它相关文章！

# 工程  # 网站seo推广怎  # 丰台区进口网站建设设计  # 新疆seo排名哪家好  # 也会  # 开源  # 这一  # 的是  # 进行了  # 官网  # 多个  # 越好  # 越多  # llama  # 腾讯  # seo主管如何引导外链  # 直播网站 建设  # 服务行业网站推广获客  # 网站建设与管理插图设计  # 银川网站建设产品  # 陕西响应式网站建设效果  # 铜陵做seo推广 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： windows 如何连接ftp命令行  笔记本如何使用固态硬盘  新网站如何填写域名解析  j*a怎么用数组缓存  typescript的文件如何执行  进口超级维特拉三门版power是什么意思  单身交友必备软件  如何安装笔记本固态硬盘  typescript如何标记私有方法  市盈率当中17A 18E是什么意思  夸克加载什么要会员  linux如何合并分区命令  域名解析后为什么要进行域名备案  shell如何执行sql脚本命令行  j*a中数组怎么传递  如何修改cad命令  命令行下如何导出数据库  vi命令如何退出编辑模式  j*a中怎么截取数组  基金市盈率是什么意思  如何区别固态硬盘  如何查看bash内置的命令  夸克用的什么服务器  如何寻找和修复无法在 AI 中找到文件的问题  如何查看邮件域名解析  iPhone无法打开YouTube原因分析与解决方案  东芝固态硬盘如何保修  市盈率ttm市盈动静是什么意思  税负是什么意思  vs怎么编写typescript  j*a数组怎么保存类  如何在命令行执行存储过程  怎么自学typescript  typescript性能如何  typescript有什么作用  春运返程如何抢票成功  5g手机4g卡怎么没有网络  多少毫安的充电宝可以带上飞机  ssd固态硬盘如何选择  轩逸e-power挡位b是什么意思  通配符的用法  什么是域名解析 域名解析中采用了什么  typescript怎么写多个构造方法  typescript学多久可以学会  360n7lite怎么设置动态壁纸  华硕k20ce怎么装win7  mac如何使用vi命令行  单片机计时程序怎么写  导航power在汽车上是什么意思  电脑显示屏上power是什么意思