新闻中心

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

2023-10-07
浏览次数:
返回列表
不得不说,Llama 2 的「二创」项目越来越硬核、有趣了。

自 Meta 发布开源大模型 Llama 2 以来,围绕着该模型的「二创」项目便多了起来。

此前 7 月,特斯拉前 AI 总监、重回 OpenAI 的 Andrej Karpathy 利用周末时间,做了一个关于 Llama 2 的有趣项目 llama2.c,让用户在 PyTorch 中训练一个 baby Llama 2 模型,然后使用近 500 行纯 C、无任何依赖性的文件进行推理。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

致敬templeos,有开发者创建了启动llama 2的操作系统,网友:8g内存老电脑就能跑

今天,在 Karpathy llama2.c 项目的基础上,又有开发者创建了一个启动 Llama 2 的演示操作系统,以及一个调用用户模式助手进行 Llama 2 推理的内核模块。该项目名为 Llama 2 Everywhere(简称为 L2E)。

不过,作者也表示,当前的系统要求是 512MB RAM 和 x86_64(64 位)PC,可用性有待提升。

同时,这个项目还藏有一些彩蛋,比如《毁灭战士》游戏,不过必须解答谜题才能找到它。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑项目地址:https://github.com/trholding/llama2.c

Andrej Karpathy 也转发了这个新项目,表示它具备了「独立运行、二进制、便携和可启动」等特性。他预计自己的 llama2.c 项目将走向成功,这个新项目扩展了想象力。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

L2E 得到了各路网友的认可,有人表示,这真是太棒了。基本上可以在任何旧笔记本上启动,并且可以仅在 CPU 上运行,8G 内存就够了,16G 更好。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

也有人觉得该项目非常像为上帝开发的操作系统 TempleOS(它由已故天才程序员 Terry D*is 独自开发),但项目作者表示自己只是对 Terry 和 TempleOS 的致敬。

L2E 仅仅使用 Linux 内核和一些知识构建了一个操作系统,与 Terry 从头开始构建的操作系统存在天壤之别。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

接下来了解一下 L2E 项目的初衷、Demo 和特性。

L2E 项目介绍

项目作者表示,L2E 旨在确保其在各种设备上的兼容性,比如在 chromebook 上启动、在企业高密度 unikernel 上部署。

未来,通过利用大量具备适度硬件要求的网络化、分布式和自协调的小规模专业 LLM,该项目有潜力释放超越单个大规模 LLM 的群体智慧。

目前,L2E 显著的用例是在不同文本源上训练小规模模型,包括教科书、开放书籍和 SlimPajama 语料库等。这些经过训练的模型使用 L2E 进行部署,从而作为可启动实例在老旧过时的学校计算机上运行。这种部署方案可在互联网连接有限或网络不可用的学校图书馆或教室中发挥重要价值。

项目的最终目标是创建一个包容性的 AI 生态系统,能够适应多样化的环境,并在全球范围内为个人和社区赋能。

此外通过使用各种硬件遥测数据训练,希望模型能够学会解释传感器输入并根据从传感器输入中收集的 insight 来控制执行器。这一研究方向可能会在自动化、太空、机器人和物联网等领域发挥作用,而 L2E 将对弥合 AI 和物理系统之间的差距发挥关键作用。

L2E Demo 展示

项目作者展示了启动 Llama 2 的一些示例。

如下为 Linux 内核的 L2E 操作系统,现在可以在计算机上真正启动并推理 Llama 2 模型了。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

Glean Glean

Glean是一个专为企业团队设计的AI搜索和知识发现工具

Glean 210 查看详情 Glean

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

此外可以做 cat /dev/llama 并回显 "Sudo make me a sandwich!" > /dev/llama 等命令,或者传递一个内核参数 l2e.quest="What is the meaning of life?"。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

最后还可以在大型企业服务器上启动并推理一组 1000 个 Virtural Baby Llama 2 模型。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

L2E 具备很强的便携性,可以在任何 x86_64 操作系统上运行单个可执行文件,比如 Windows、GNU Linux、GNU/Systemd、NetBSD、OpenBSD 等。独立性则表现在可以通过 ZipOS (cosmocc)、INCBIN、strliteral 嵌入模型和 tokenizer。L2E 可以在 CPU/GPU 上运行。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

更多细节内容请参阅原项目。

以上就是致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑的详细内容,更多请关注其它相关文章!


# 是一个  # 重庆装修网站建设  # 兴宁网站建设设计厂商  # 山东食品推广营销策划  # 南通专业网站建设价格  # 推广电子商务网站的方法  # 奥迪s3 seo  # 东港seo排名优化  # 苏州营销推广课程  # 推广旅游网站的策略  # 问答模块seo  # 这一  # 捷豹  # 产业  # 自己的  # 机上  # 句话  # 开源  # 该项目  # 操作系统  # 就能  # llama  # andrej karpathy  # llama2.c  # llama 2 everywhere  # llama 2 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 满射为什么没有逆映射  联想的固态硬盘如何  typescript适合什么用  j*a数组怎么放字符  苹果16系统有哪些系列  输入命令如何换行  typescript怎么写游戏  put linux命令如何书写  performance是什么意思  单片机是怎么复位的  manager是什么意思  哪个品牌有折叠屏手机卖  如何更新苹果ios16  夸克内测有什么好处  mac如何使用vi命令  单片机计时程序怎么写  5g手机4g卡怎么没有网络  锤子手机怎么不出5g  typescript怎么拼接  vi命令如何退出编辑模式  阿里云盘修复工具怎么用  360桌面壁纸怎么弄掉  市盈率百分位roe是什么意思  什么是unix时间戳  typescript中如何引入本地js  苹果16有哪些改善  typescript是什么软件  本科一批和本科二批是什么意思  soup是什么意思  树莓派命令行如何新建文件  系统如何装在固态硬盘  更换固态硬盘如何检查  什么是域名解析地址  市盈率292是什么意思  苹果16有哪些可以设置  ai文件在线打开工具有哪些  vi命令如何退出  春运抢票最新技巧与方法  固态硬盘电脑如何设置  如何winpe cmd命令  怎么下载360桌面壁纸  为什么夸克流畅播失败  燃气热水器上的power是什么意思  市盈率300是什么意思  ao3镜像网站永久地址入口  docs命令如何进入d  进口超级维特拉三门版power是什么意思  power在录音笔上是什么意思  华为使用nfc功能是什么意思  电脑5G怎么上传手机 

搜索