新闻中心

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

2023-11-24
浏览次数:
返回列表

近期,除了广受关注的大型语言模型持续占据头条,视频生成技术也在不断取得重大突破,多家公司已经相继发布了新的模型

首先,Runway作为最早探索视频生成领域的领头羊之一,升级了其Gen-2模型,带来了电影级别的高清晰度,令人瞩目。同时,视频生成的一致性也得到了重大改进

但是,这种一致性的提升似乎是以牺牲视频动态性为代价的。从 Gen-2 的官方宣传视频中可以看出,尽管集合了多个短片段,但每个片段的动态性相对较弱,难以捕捉到人物、动物或物体的清晰动作和运动。

近期,Meta 也发布了视频生成模型 Emu Video。从 Emu Video 的官方示例中可以看出,其视频的动态性比 Gen-2 有明显提高,但仍然局限于较为简单的动作。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

开发出了经典的文生图模型 Stable Diffusion 的公司 Stability.ai,也于近日发布了开源视频生成模型 Stable Video Diffusion (SVD),引发了开源社区的大量关注和讨论。SVD 效果能和 Gen-2 相当,通过测试样例能看出 SVD 生成的视频也相对缺少动态性。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

在SVD论文中指出了目前SVD生成的视频存在动态性不足的问题

上述示例表明,生成有高度一致性且有丰富动态性的视频,让视频内容真正地动起来,是目前视频生成领域中的最大挑战

在这方面,最新的研究成果 PixelDance 迈出了关键性的一步,其生成结果的动态性显著优于目前现有的其它模型,引起了业界的关注。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

twitter上著名的ai博主@_akhaliq转发的pixeldance新闻已经获得了接近8万次浏览

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

在官网(https://makepixelsdance.github.io)中,PixelDance 给出了两种不同的视频生成模式。

有两种模式可以选择,第一种是基础模式(Basic Mode)。在这种模式下,用户只需要提供一张指导图片和文本描述,PixelDance 就能够生成一段高度一致且富有动态性的视频。指导图片可以是真实的照片,也可以是由现有的文生成图模型生成的

从展示的结果来看,真实风格、动画风格、二次元风格、魔幻风格,PixelDance 通通都可以解决,人物动作、脸部表情、相机视角控制、特效动作,Pixeldance 也都可以很好的完成。只能说一句 tql!

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

第二种是高级魔法模式(Magic Mode),给了用户更多发挥想象力和创造力的空间。在这种模式下,用户需要提供两张指导图片+文本描述,可以更好地生成更有难度的视频内容。网站中展示了用魔法模式做出的各种炫酷特效镜头。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

除此之外,官网还展示了一个完全使用 PixelDance 制作的 3 分钟故事短片

非常震撼的一点是,使用 PixelDance 能按照用户预想的一个故事,制作每一个场景和对应的动作。不管是真实场景(如埃及、长城等),还是虚幻场景(如外星球),PixelDance 都能生成细节丰富、动作丰富的视频,甚至各种特效镜头也不在话下。

主人公北极熊先生的黑色礼帽和红色领结在各种场景中都得到了很好的保持。现在生成长视频已经不再是简单地拼凑不相关的短视频片段了!

而达到这样拔群的视频生成效果,并没有依赖复杂的数据集和大规模的模型训练,PixelDance 在公开的 WebVid-10M 数据集上仅用 1.5B 大小的模型就达到了上述效果。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

论文地址:https://arxiv.org/abs/2311.10982

Glarity Glarity

Glarity是一款免费开源的AI浏览器扩展,提供YouTube视频总结、网页摘要、写作工具等功能,支持免费的镜像翻译,电子邮件写作辅助,AI问答等功能。

Glarity 131 查看详情 Glarity

重新写内容,不改变原意,改写成中文:请访问以下网址获取demo:https://makepixelsdance.github.io

在相应的论文《Make Pixels Dance: High-Dynamic Video Generation》中,作者指出了视频生成难以做出好效果的原因:相比于图片生成,视频生成具有特征空间显著更大、动作多样性显著更强的特点。这就导致了现有的视频生成方法难以学到有效的时域动作信息,生成的视频虽然图片质量较高,但动态性非常有限。

针对上述问题,PixelDance 提出了基于文本指导 + 首尾帧图片指导的视频生成方法,使得模型更充分地关注和学习视频的动态信息。

视频生成中,首帧图片提供了整个视频内容的框架和素材。同时,将上一个视频片段的尾帧作为下一个片段的首帧指导,可以生成更长的视频。视频文本描述则描述了视频动作的具体内容。而尾帧图片指导则为视频生成过程提供了结束状态的信息。作者提出了一种适配的方法,使得模型能够接受相对粗糙的图片作为指导,这使得用户可以使用基本的图片编辑工具来获得尾帧图片指导

官网的信息显示,目前还在积极地迭代模型效果中,未来 2-3 个月内就会放出人人可以试用的模型。目前,作者也提供了途径支持大家发送想要测试的样例,目前官网中已经放出了一些用户的测试样例:

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

如此看来,有了 PixelDance,只要有天马行空的想象力,人人都可以成为「百万特效大师」!

以上就是视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效的详细内容,更多请关注其它相关文章!


# ai  # runway  # stable video  # 模型  # 在这种  # 增城网站建设设计  # 管理学作业营销推广  # 静海区自助营销推广公司  # 营销线上推广共同合作  # 可以看出  # 站上  # 提出了  # 很好  # 官网  # 开源  # 腾讯  # 出了  # 新突破  # stable diffusion  # 营销推广公司 咖啡  # 人生优化模板下载网站  # 运输业seo推广  # 佛山seo按天计费  # 天长集团网站建设方案  # 拼多多的软文营销推广 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 苹果ipad爱奇艺怎么投屏到电视  跨境电商gmv是什么意思?跨境电商GMV:理解其含义、计算方法和影响因素  市盈率3.2是什么意思  j*a 数组怎么循环输出  怎么在typescript写原型链  如何进入 dos 命令行  考勤机power红灯是什么意思  typescript是做什么用的  记录仪power灯亮是什么意思  iPhone无法打开YouTube原因分析与解决方案  折叠屏手机哪款最好  分销是什么意思  苹果16都有哪些型号  华硕k20ce怎么装win7  选哪个折叠屏手机好用  燃气热水器上的power是什么意思  三星固态硬盘如何保修  如何查看固态硬盘分区  夸克转存中是什么意思  什么是域名解析地址  video是什么意思  哪个品牌有折叠屏手机卖  j*a如何运行curl命令行  净水器上的power是什么意思  苹果16哪些型号好用  一天多少分钟  摄像机的power chg是什么意思中文  faq是什么意思  360n4怎么关闭锁屏壁纸  excel中datediff函数怎么用  春运抢票可以抢几张  nfc功能是什么意思怎么开启  为什么程序员热爱typescript  typescript适合什么用  春运抢票最多能抢几趟车  typescript和nodejs哪个好  sql isnull函数如何使用  NoSQL数据库有哪些特点  台达变频器power灯是什么意思  智能锁type-c接口是什么  路亚竿上的power是什么意思  如何进入cmd命令行  typescript中如何引入本地js  春运什么时候开始抢票  折叠屏手机为什么没火  youtube受限模式是什么_youtube受限模式是什么意思  如何用固态硬盘做缓存  如何查看bash内置的命令  多少毫安的充电宝可以带上飞机  得物怎样不扣手续费 如何通过得物不支付手续费 

搜索