新闻中心

谷歌发布能让 AI 自主判断输出准确性的模型训练框架 ASPIRE

2024-01-23
浏览次数:
返回列表

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

谷歌近日发布新闻稿,宣布推出aspire训练框架,专为大语言模型设计。该框架旨在提升ai模型的选择性预测能力。

刺鸟创客 刺鸟创客

一款专业高效稳定的AI内容创作平台

刺鸟创客 110 查看详情 刺鸟创客

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

谷歌提到,当下大语言模型在自然语言理解和生成内容方面发展迅速,已被用于构建各种创新应用,但要应用于高风险决策类场合依然不妥。这是由于模型预测具有不确定性及“幻觉”可能,因此谷歌开发了一款 ASPIRE 训练框架,为系列模型引入了“可信度”机制,即 —— 模型会输出一系列答案,每个答案都会具有正确概率评分

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

▲ 图源 谷歌新闻稿(下同)

在技术层面,该训练框架可划分为三个阶段:特定任务调整、答案采样和自我评估学习。

其中“特定任务调整”阶段是对已接受过基础训练的大型语言模型进行深入训练,专注于强化模型的预测能力。研究人员主要为模型引入一系列可调参数,在特定任务的训练数据集上微调预训练语言模型,从而提升模型预测性能,让模型能够更好地解决特定问题。

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

第二阶段为“答案采样”,经过特定微调后,模型可以利用先前学习到的可调参数,为每个训练问题生成不同的答案,并创建用于自我评估学习的数据集,生成一系列可信度较高的答案。研究人员同时使用 “集束搜索(Beam Search)”方法及 Rouge-L 算法来评估答案的质量,并将生成的答案及评分重新输入给模型开启第三阶段

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

而在第三阶段“自我评估学习”中,研究人员为模型添加一组可调参数,专门用于提升模型自我评估能力。该阶段的目标是让模型学会“自己判断输出的答案准确性”,从而让大语言模型在生成答案时,还会附上答案的正确概率评分。

谷歌研究人员使用 CoQA、TriviaQA 和 SQuAD 三个问答数据集来验证 ASPIRE 训练框架的成果,据称“经过 ASPIRE 调整的 OPT-2.7B 小模型,表现远超更大的 OPT-30B 模型”。而这项实验结果也同时表明,只要经过适当的调整,即使是小语言模型,在部分场景下也可以超越大语言模型。

可令 AI 自我判断输出内容正确性,谷歌公布模型训练框架 ASPIRE

研究人员总结称,ASPIRE 框架训练能够显著提升大语言模型输出准确率,即使是较小的模型,也可以在经过微调后进行“准确且有自信”的预测

以上就是谷歌发布能让 AI 自主判断输出准确性的模型训练框架 ASPIRE的详细内容,更多请关注其它相关文章!


# AI  # 汤泉营销推广策略分析报告  # 临沂网站建设的价格  # 山西全网营销推广方式  # 自然语言  # 明年  # 这是  # 第三阶段  # 多项  # 即使是  # 能让  # 接棒  # 可令  # 可调  # 大语言模型  # 谷歌  # 连云港微信营销推广方案  # 南充教育行业seo推广  # 佛山bdk营销霸屏推广外包公司  # 焦作天眼关键词排名技术  # seo推广有哪些优化  # 简阳房地产网站建设  # 大米行业营销推广方案 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 电动车power灯亮是什么意思  typescript在浏览器里怎么用  夸克为什么老是投屏失败  怎么把手机里爱奇艺的视频下载到u盘里  j*a数组怎么比较abc  选哪个折叠屏手机好用  如何在命令提示符播放音频  品道音响上的power键是什么意思  单片机怎么计算0xf0  j*a怎么处理json数组  如果公司ttm市盈率为负数是什么意思  命令行如何启动应用程序  hp固态硬盘如何安装  开机如何进入命令行模式  单片机怎么储存和显示  空调power灯一直闪是什么意思  双十一的哪一天最优惠呢  夸克加载什么要会员  对应市盈率是30X是什么意思  一分钟等于多少秒  51单片机贴片怎么*  命令行如何打开打印机  vue怎么连接typescript  手机全功能type-c接口是什么意思  如何设置sql命令  命令控制台如何执行sql文件  酷狗音乐pc版的每日推荐在哪 酷狗音乐PC版每日推荐查找指南  复制 命令如何撤销  如何查看邮件域名解析  js怎么设置typescript  导航power在汽车上是什么意思  开机如何运行dos命令提示符  爱奇艺会员qq登录可以几个人用?  满射为什么没有逆映射  vi命令如何使用方法  iPhone无法打开YouTube原因分析与解决方案  金色cmyk色值是多少  如何使用批处理命令编译vc程序  unix时间戳是什么意思  j*a 数组怎么循环输出  如何找出命令行  三星 nfc什么功能是什么意思  为什么用typescript  系统如何装进固态硬盘  如何选购ssd固态硬盘  hive中datediff函数怎么用 Hive中DATEDIFF函数的使用指南  春运订票什么时候抢票  bored是什么意思  如何通过命令行聊天  苹果的type-c接口是什么 

搜索