扩散模型，迎来了一项重大新应用——

像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！

这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p(arameter)-diff。

用它来生成网络参数，速度比直接训练最多提高44倍，而且表现毫不逊色。

该模型一经发布后，在AI社区迅速引起了激烈的讨论，圈内专家对其表现出了与普通人看到Sora时一样的惊叹态度。

甚至有人直接惊呼，这基本上相当于AI在创造新的AI了。

就连AI巨头LeCun看了之后，也点赞了这一成果，表示这真的是个cute idea。

而实质上，p-diff也确实具有和Sora一样重大的意义，对此同实验室的Fuzhao Xue（薛复昭）博士进行了详细解释：

Sora生成高维数据，即视频，这使得Sora成为世界模拟器（从一个维度接近AGI）。

而这项工作，神经网络扩散，可以生成模型中的参数，具有成为元世界级学习器/优化器的潜力，从另一个新的重要维度向AGI迈进。

言归正传，p-diff到底是如何生成神经网络参数的呢？

将自编码器与扩散模型结合

要弄清这个问题，首先要了解一下扩散模型和神经网络各自的工作特点。

扩散生成过程，是从随机分布到高度特定分布的转变，通过复合噪声添加，将视觉信息降级为简单噪声分布。

而神经网络训练，同样遵循这样的转变过程，也同样可以通过添加噪声的方式来降级，研究人员正是在这一特点的启发之下提出p-diff方法的。

从结构上看，p-diff是研究团队在标准潜扩散模型的基础之上，结合自编码器设计的。

研究者首先从训练完成、表现较好的网络参数中选取一部分，并展开为一维向量形式。

刺鸟创客

一款专业高效稳定的AI内容创作平台

110 查看详情

然后用自编码器从一维向量中提取潜在表示，作为扩散模型的训练数据，这样做可以捕捉到原有参数的关键特征。

训练过程中，研究人员让p-diff通过正向和反向过程来学习参数的分布，完成后，扩散模型像生成视觉信息的过程一样，从随机噪声中合成这些潜在表示。

最后，新生成的潜在表示再被与编码器对应的解码器还原成网络参数，并用于构建新模型。

下图是通过p-diff、使用3个随机种子从头开始训练的ResNet-18模型的参数分布，展示了不同层之间以及同一层不同参数之间的分布模式。

为了评估p-diff所生成参数的质量，研究人员利用3种类型、每种两个规模的神经网络，在8个数据集上对其进行了测试。

下表中，每组的三个数字依次表示原始模型、集成模型和用p-diff生成的模型的测评成绩。

结果可以看到，用p-diff生成的模型表现基本都接近甚至超过了人工训练的原始模型。

效率上，在不损失准确度的情况下，p-diff生成ResNet-18网络的速度是传统训练的15倍，生成Vit-Base的速度更是达到了44倍。

额外的测试结果证明，p-diff生成的模型与训练数据有显著差异。

从下图（a）可以看到，p-diff生成的模型之间的相似度低于各原始模型之间的相似度，以及p-diff与原始模型的相似度。

而从（b）和（c）中可知，与微调、噪声添加方式相比，p-diff的相似度同样更低。

这些结果说明，p-diff是真正生成了新的模型，而非仅仅记忆训练样本，同时也表明其具有良好的泛化能力，能够生成与训练数据不同的新模型。

目前，p-diff的代码已经开源，感兴趣的话可以到GitHub中查看。

论文地址：https://arxiv.org/abs/2402.13144

GitHub：https://github.com/NUS-HPC-AI-Lab/Neural-Network-Diffusion

以上就是打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞的详细内容，更多请关注其它相关文章！

# 神经网络  # ai  # 大新  # 命令行  # 美图  # 可以看到  # 对其  # 互动  # 麦当劳  # 开源  # sora  # 模拟器  # 事件营销推广案例有哪些  # 山西网络推广seo优化  # 金华网站seo优化推广报价  # 关键词seo排名毫金手指花总十七  # 上海正规新站seo优化价格  # 栾城seo优化推广价格  # seo搞笑视频合集  # 宜昌百度seo多少钱  # 都江堰抖音营销推广招聘  # 广东顺德网站建设  # 结构化  # 进行了 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 花呗征信不好如何恢复 如何修复不良的花呗征信  ai怎么找链接文件位置教程  开机如何运行dos命令提示符  如何用dos命令启动u盘  夸克链信有什么用  j*a怎么把数组输出  固态硬盘如何备份  如何打开管理员命令提示符  360手机壁纸怎么改  win10如何打开dos命令窗口大小  如何打开命令提示符  如何清理固态硬盘  arp命令如何使用  一年多少周  单片机计时程序怎么写  哪些编程软件需用typescript  put linux命令如何书写  什么网址不能域名解析  j*a数组怎么保存类  春运抢票可以抢几次票  高市盈率是什么意思  春运辅助抢票怎么抢  单片机怎么进行排序操作  youtube受限模式是什么_youtube受限模式是什么意思  固态硬盘如何消除缓存  夸克内测有什么好处  手机如何运行ping命令  按键精灵datediff函数怎么用 如何使用按键精灵中的Datediff函数教程  建伍遥控器power是什么意思  干股是什么意思  春运预约抢票能抢到吗  typescript什么意思  单片机的速度怎么求  夸克文字口令是什么意思  市盈率为负数是什么意思  固态硬盘如何接主机  如何在昇腾Ascend 910B上运行Qwen2.5教程  苹果16会有哪些更新  电动车power灯亮红灯是什么意思  苹果16有哪些变化尺寸  如何进入cmd命令行  固态硬盘颗粒如何修理  如何显示固态硬盘  ai文件里无法找到链接文件怎么解决  url解码什么意思  2025年国外最佳语音聊天软件排行榜  什么是base64  typescript怎么使用map  mac如何使用vi命令  vs怎么编写typescript