新闻中心
谷歌发布能让 AI 自主判断输出准确性的模型训练框架 ASPIRE
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
谷歌近日发布新闻稿,宣布推出aspire训练框架,专为大语言模型设计。该框架旨在提升ai模型的选择性预测能力。
刺鸟创客
一款专业高效稳定的AI内容创作平台
110
查看详情

谷歌提到,当下大语言模型在自然语言理解和生成内容方面发展迅速,已被用于构建各种创新应用,但要应用于高风险决策类场合依然不妥。这是由于模型预测具有不确定性及“幻觉”可能,因此谷歌开发了一款 ASPIRE 训练框架,为系列模型引入了“可信度”机制,即 —— 模型会输出一系列答案,每个答案都会具有正确概率评分。

▲ 图源 谷歌新闻稿(下同)
在技术层面,该训练框架可划分为三个阶段:特定任务调整、答案采样和自我评估学习。
其中“特定任务调整”阶段是对已接受过基础训练的大型语言模型进行深入训练,专注于强化模型的预测能力。研究人员主要为模型引入一系列可调参数,在特定任务的训练数据集上微调预训练语言模型,从而提升模型预测性能,让模型能够更好地解决特定问题。

第二阶段为“答案采样”,经过特定微调后,模型可以利用先前学习到的可调参数,为每个训练问题生成不同的答案,并创建用于自我评估学习的数据集,生成一系列可信度较高的答案。研究人员同时使用 “集束搜索(Beam Sear
ch)”方法及 Rouge-L 算法来评估答案的质量,并将生成的答案及评分重新输入给模型开启第三阶段。

而在第三阶段“自我评估学习”中,研究人员为模型添加一组可调参数,专门用于提升模型自我评估能力。该阶段的目标是让模型学会“自己判断输出的答案准确性”,从而让大语言模型在生成答案时,还会附上答案的正确概率评分。
谷歌研究人员使用 CoQA、TriviaQA 和 SQuAD 三个问答数据集来验证 ASPIRE 训练框架的成果,据称“经过 ASPIRE 调整的 OPT-2.7B 小模型,表现远超更大的 OPT-30B 模型”。而这项实验结果也同时表明,只要经过适当的调整,即使是小语言模型,在部分场景下也可以超越大语言模型。

研究人员总结称,ASPIRE 框架训练能够显著提升大语言模型输出准确率,即使是较小的模型,也可以在经过微调后进行“准确且有自信”的预测。
以上就是谷歌发布能让 AI 自主判断输出准确性的模型训练框架 ASPIRE的详细内容,更多请关注其它相关文章!
# AI
# 汤泉营销推广策略分析报告
# 临沂网站建设的价格
# 山西全网营销推广方式
# 自然语言
# 明年
# 这是
# 第三阶段
# 多项
# 即使是
# 能让
# 接棒
# 可令
# 可调
# 大语言模型
# 谷歌
# 连云港微信营销推广方案
# 南充教育行业seo推广
# 佛山bdk营销霸屏推广外包公司
# 焦作天眼关键词排名技术
# seo推广有哪些优化
# 简阳房地产网站建设
# 大米行业营销推广方案
相关栏目:
【
行业资讯67740 】
【
技术百科0 】
【
网络运营39195 】
相关推荐:
电动车power灯亮是什么意思
typescript在浏览器里怎么用
夸克为什么老是投屏失败
怎么把手机里爱奇艺的视频下载到u盘里
j*a数组怎么比较abc
选哪个折叠屏手机好用
如何在命令提示符播放音频
品道音响上的power键是什么意思
单片机怎么计算0xf0
j*a怎么处理json数组
如果公司ttm市盈率为负数是什么意思
命令行如何启动应用程序
hp固态硬盘如何安装
开机如何进入命令行模式
单片机怎么储存和显示
空调power灯一直闪是什么意思
双十一的哪一天最优惠呢
夸克加载什么要会员
对应市盈率是30X是什么意思
一分钟等于多少秒
51单片机贴片怎么*
命令行如何打开打印机
vue怎么连接typescript
手机全功能type-c接口是什么意思
如何设置sql命令
命令控制台如何执行sql文件
酷狗音乐pc版的每日推荐在哪 酷狗音乐PC版每日推荐查找指南
复制 命令如何撤销
如何查看邮件域名解析
js怎么设置typescript
导航power在汽车上是什么意思
开机如何运行dos命令提示符
爱奇艺会员qq登录可以几个人用?
满射为什么没有逆映射
vi命令如何使用方法
iPhone无法打开YouTube原因分析与解决方案
金色cmyk色值是多少
如何使用批处理命令编译vc程序
unix时间戳是什么意思
j*a 数组怎么循环输出
如何找出命令行
三星 nfc什么功能是什么意思
为什么用typescript
系统如何装进固态硬盘
如何选购ssd固态硬盘
hive中datediff函数怎么用 Hive中DATEDIFF函数的使用指南
春运订票什么时候抢票
bored是什么意思
如何通过命令行聊天
苹果的type-c接口是什么


2024-01-23
浏览次数:次
返回列表