andrej karpathy，openai 创始成员及特斯拉前 ai 高级总监，近日对大型语言模型（llm）的“智能”程度提出了质疑，引发业内热议。他认为，人们对 llm 回答问题的解读过于理想化，将其视为对互联网平均数据标注员的“询问”更为贴切。

Karpathy 指出，LLM 主要通过模仿人工标注数据进行训练。当用户提问（例如，“阿姆斯特丹十大景点”）时，模型实际上是在复现数据标注员曾通过搜索引擎等工具整理出的答案。如果问题不在训练数据集中，模型则会基于预训练阶段（互联网文档语言建模）的知识进行推测。

针对强化学习与人类反馈（RLHF）技术，Karpathy 认为其作用被夸大了。RLHF 并非创造“超越人类”的结果，而是将模型性能从“人工生成”提升到“人工判别”级别。这种提升源于人类对结果的判断更容易于生成结果本身。 LLM 的性能更接近于“人类整体水平”而非个体专家水平，因此所谓的“超人”能力是有限的，真正的“超人”能力需要更高级的强化学习方法，而非 RLHF。

Karpathy 此前已多次批评 RLHF。他以 AlphaGo 为例，指出 RLHF 方法可能导致奖励机制失效，无法实现像 AlphaGo 打败人类世界冠军那样的突破性成果。他认为，LLM 的奖励模型（RM）只是对人类偏好的一种近似，而非解决问题的真正目标。 此外，过度使用 RLHF 还会导致模型学习到一些在人类看来荒谬但 RM 却认为“很棒”的回应。

千鹿Pr助手

智能Pr插件，融入众多AI功能和海量素材

128 查看详情

近期，来自 VRAIN 和剑桥大学的研究也佐证了 Karpathy 的观点，指出 LLM 在一些简单任务上表现不佳，甚至会在复杂任务中给出错误答案却不自知。

尽管 LLM 的参数量和训练数据不断增加，性能也在提升，但其基础机制的可靠性仍值得商榷。 目前，OpenAI 提出的基于规则的奖励（RBR）方法或许能为解决 LLM 的“指令遵循”问题提供新的思路，但 LLM 的“智能”本质仍有待进一步探索。

以上就是Andrej Karpathy：神奇大模型不存在的，只是对人类标注的拙劣模仿的详细内容，更多请关注其它相关文章！

# 小鹏  # 养老领域垂直网站建设  # 河北电商网站建设前景  # 广州专用网站建设  # 营口seo营销招商加盟  # 网站建设发票税点  # 伊川网站seo公司  # 如何在网上开网站推广  # 沙拉店网络营销推广方案  # 网站建设申请计划  # 最好的推广网站排名榜  # 是在  # 理论  # 他认为  # 官网  # 阿姆斯特丹  # 剑桥大学  # 解决问题  # 不存在  # 互联网  # 而非  # ai  # rlhf 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： j*a二数组怎么创建  如何查询固态硬盘序列  春运车票啥时候可以抢票  市盈率中1stdv是什么意思  广东春运抢票怎么抢不到  typescript 如何使用  域名解析后为什么要进行域名备案  如何将系统移到固态硬盘  在遥控器中power是什么意思  苹果16有哪些自带配件  市盈率高是什么意思  如何安装台式机固态硬盘  如果公司ttm市盈率为负数是什么意思  折叠屏手机选择哪个好  为什么夸克书架书单没了  所有删除的聊天记录都可以恢复吗？  春运抢票最快几天能成功  access中如何使用常用宏命令  春运抢票可以抢几次啊  春运抢票还用取票吗  苹果16有哪些变化尺寸  typescript怎么使用vue  市盈率是什么意思高好还是低好  typescript多久能学完  j*a怎么用json数组  typescript怎么写call方法  基金市盈率是什么意思  进口超级维特拉三门版power是什么意思  皓影混动仪表盘上power是什么意思  考勤机power红灯是什么意思  阿里云手机云盘怎么用_阿里云盘苹果手机怎么用教程  使用typescript对团队有什么要求  hp固态硬盘如何安装  put linux命令如何书写  kingston是什么_kingston是什么意思  mac如何使用vi命令  苹果手机16新款颜色有哪些  高市盈率是什么意思  win7怎么关闭360壁纸屏保  命令指示符如何打开盘符  新固态硬盘如何装系统  望远镜上power是什么意思  如何用固态硬盘做缓存  animal是什么意思  python 如何执行linux命令  折叠手机内屏为什么会坏  软件命令行参数如何设置  开机如何运行dos命令提示符  固态硬盘如何拆除  j*a怎么存放数组中