新闻中心
0门槛免费商用!孟子3-13B大模型正式开源,万亿token数据训练
澜舟科技官宣:孟子3-13b大模型正式开源!
这一主打高性价比的轻量化大模型,面向学术研究完全开放,并支持免费商用。
在MMLU、GSM8K、HUMAN-EVAL等各项基准测评估中,孟子3-13B都表现出了不错的性能。
尤其在参量20B以内的轻量化大模型领域,中英文语言能力方面尤为突出。数学和编程能力也位于前列。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
△以上结果基于5-shot。
据介绍,孟子3-13B大模型是基于Llama架构,数据集规模高达3T Tokens。
语料精选自网页、百科、社交、媒体、新闻,以及高质量的开源数据集。通过在万亿tokens上进行多语言语料的继续训练,模型的中文能力突出并且兼顾多语言能力。
孟子3-13B大模型开源
只需两步,就能使用孟子3-13B大模型了。
首先进行环境配置。
pip install -r requirements.txt
然后快速开始。
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizertokenizer = AutoTokenizer.from_pretrained("Langboat/Mengzi3-13B-Base", use_fast=False, trust_remote_code=True)model = AutoModelForCausalLM.from_pretrained("Langboat/Mengzi3-13B-Base", device_map="auto", trust_remote_code=True)inputs = tokenizer('指令:回答以下问题。输入:介绍一下孟子。输出:', return_tensors='pt')if torch.cuda.is_*ailable():inputs = inputs.to('cuda')pred = model.generate(**inputs, max_new_tokens=512, repetition_penalty=1.01, eos_token_id=tokenizer.eos_token_id)print(tokenizer.decode(pred[0], skip_special_tokens=True))
此外,他们还提供了一个样例代码,可用于基础模型进行单轮交互推理。
cd examplespython examples/base_streaming_gen.py --model model_path --tokenizer tokenizer_path
如果想要进行模型微调,他们也提供了相关文件和代码。

事实上,早在3月18日的澜舟大模型技术和产品发布会现场,就透露了孟子3-13B大模型的诸多细节。
易标AI
告别低效手工,迎接AI标书新时代!3分钟智能生成,行业唯一具备查重功能,自动避雷废标项
135
查看详情
当时他们表示,孟子3-13B大模型训练已经完成。
对于选择13B版本的原因,周明解释道:
首先,澜舟明确以服务ToB场景为主,ToC为辅。
实践发现,ToB场景使用频率最高的大模型参数量多为7B、13B、40B、100B,整体集中在10B-100B之间。
其次,在这个区间范围内,从ROI(投资回报率)角度来讲,既满足场景需求,又最具性价比。
因此,在很长一段时间内,澜舟的目标都是在10B-100B参数规模范围内,打造优质的行业大模型。
作为国内
最早一批大模型创业团队,去年3月,澜舟就发布了孟子GPT V1(MChat)。
今年1月,孟子大模型GPT V2(含孟子大模型-标准、孟子大模型-轻量、孟子大模型-金融、孟子大模型-编码)对公众开放。
好了,感兴趣的朋友可戳下方链接体验一下。
GitHub链接:https://github.com/Langboat/Mengzi3
HuggingFace:https://huggingface.co/Langboat/Mengzi3-13B-Base
ModelScope:https://www.modelscope.cn/models/langboat/Mengzi3-13B-Base
Wisemodel:https://wisemodel.cn/models/Langboat/Mengzi3-13B-Base
以上就是0门槛免费商用!孟子3-13B大模型正式开源,万亿token数据训练的详细内容,更多请关注其它相关文章!
# 训练
# 开源
# llama
# 模型
# 皮革网站推广团队
# 瑷尔博士营销推广策略
# 井陉网站建设开发
# 广州网站建设开发设计
# 360 seo提交
# 镇江网站推广 溦薪hfqjwl广告稳定
# 怀化网站流量推广公司
# 手游营销推广区别大吗
# seo优化原创内容范文
# 网站排名优化找巧推网
# 在这个
# 轻量化
# 好了
# 是在
# 这一
# 参数设置
# 结构化
# 多语言
# 孟子
相关栏目:
【
行业资讯67740 】
【
技术百科0 】
【
网络运营39195 】
相关推荐:
恋爱软件免费聊天不收费的有哪些
1s等于多少ms
soup是什么意思
油电混动车仪表盘上的power是什么意思
折叠屏手机信号哪个最强
市盈率中的19a是什么意思
手机全功能type-c接口是什么意思
如何测固态硬盘芯片
每日推荐电声音乐软件有哪些
adb 命令如何后台运行
单片机速度怎么看
怎么在爱奇艺中投屏到电视最新方法
typescript怎么判断单选按钮
怎么看手机是不是双模5g手机
vi命令如何使用方法
typescript掌握哪些可以做项目
固态硬盘如何下载网页
sql isnull函数如何使用
树莓派命令行如何新建文件
光刻机的分类及特点
j*a数组元素怎么用
如何用命令行连接本地数据库
如何安装tree命令
市盈率市净率是什么意思
windows 如何连接ftp命令行
电信开通nfc功能是什么意思
直接gmV是什么意思?直接GMV:定义和概念
typescript怎么用
单片机蜂鸣器响了怎么停
xdm是什么意思
j*a对数组怎么使用
165开头的是什么电话号码
苹果16有哪些改善
为什么夸克流畅播失败
广东春运抢票怎么抢的
单片机.lib文件怎么打开
市盈率ttm市盈动静是什么意思
如何4k对齐固态硬盘
苹果16有哪些bug
春运抢票如何快速抢到票
linux如何使用db2命令
j*a数组怎么放字符
dos命令如何复制目录结构
推特是什么软件国内可以使用吗
夸克po什么意思
征信不好如何恢复信誉度 征信不好恢复信誉度的方法
360n5锁屏壁纸怎么设置
ai文件里无法找到链接文件要怎么解决步骤
阿里云手机云盘怎么用_阿里云盘苹果手机怎么用教程
j*a数组逆序怎么写


2024-04-01
浏览次数:次
返回列表