新闻中心

首篇仅使用2D标签训练多视图3D占用模型的新范式

2023-09-30
浏览次数:
返回列表

本文经自动驾驶之心公众号授权转载,转载请联系出处。

【RenderOcc,首篇仅使用2D标签训练多视图3D占用模型的新范式】作者从多视图图像中提取NeRF风格的3D体积表示,并使用体积渲染技术来建立2D重建,从而实现从2D语义和深度标签的直接3D监督,减少了对昂贵的3D占用标注的依赖。大量实验表明,RenderOcc的性能与使用3D标签完全监督的模型相当,突显了这种方法在现实世界应用中的重要性。已开源。

题目: RenderOcc: Vision-Centric 3D Occupancy Prediction with 2DRendering Supervision

作者单位: 北京大学,小米汽车,港中文MMLAB

需要重写的内容是:开源地址:GitHub - pmj110119/RenderOcc

3D占用预测在机器人感知和自动驾驶领域具有重要前景,它将3D场景量化为带有语义标签的网格单元。最近的工作主要利用3D体素空间中的完整占用标签进行监督。然而,昂贵的标注过程和有时模糊的标签严重限制了3D占用模型的可用性和可扩展性。为了解决这个问题,作者提出了RenderOcc,这是一种仅使用2D标签训练3D占用模型的新范式。具体而言,作者从多视图图像中提取NeRF风格的3D体积表示,并使用体积渲染技术来建立2D重建,从而实现从2D语义和深度标签的直接3D监督。此外,作者引入了一种辅助光线方法来解决自动驾驶场景中的稀疏视点问题,该方法利用顺序帧为每个目标构建全面的2D渲染。RenderOcc是第一次尝试仅使用2D标签来训练多视图3D占用模型,从而减少了对昂贵的3D占用标注的依赖。大量实验表明,RenderOcc的性能与使用3D标签完全监督的模型相当,突显了这种方法在现实世界应用中的重要性。

网络结构:

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

首篇仅使用2D标签训练多视图3D占用模型的新范式

图1展示了renderocc的一种新的训练方法。与以往依赖昂贵的3d占用标签进行监督的方法不同,本文提出的renderocc利用2d标签来训练3d占用网络。通过2d渲染监督,该模型能够受益于细粒度的2d像素级语义和深度监督

首篇仅使用2D标签训练多视图3D占用模型的新范式

图2.RenderOcc的总体框架。本文通过2D到3D网络提取体积特征并预测每个体素的密度和语义。因此,本文生成了语义密度场(Semantic Density Field),它可以执行体积渲染来生成渲染的2D语义和深度。对于Rays GT的生成,本文从相邻帧中提取辅助光线来补充当前帧的光线,并使用所提出的加权光线采样策略来净化它们。然后,本文用光线GT和{}计算损失,实现2D标签的渲染监督

首篇仅使用2D标签训练多视图3D占用模型的新范式

重写后的内容:图3。辅助光线:单帧图像无法很好地捕捉物体的多视图信息。相邻相机之间只有很小的重叠区域,视角差异有限。通过引入来自相邻帧的辅助光线,该模型可以显著受益于多视图一致性约束

实验结果:

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

首篇仅使用2D标签训练多视图3D占用模型的新范式

需要进行改写的内容是:原文链接:https://mp.weixin.qq.com/s/WzI8mGoIOTOdL8irXrbSPQ

Blackink AI纹身生成 Blackink AI纹身生成

创建类似纹身的设计,生成独特纹身

Blackink AI纹身生成 80 查看详情 Blackink AI纹身生成

以上就是首篇仅使用2D标签训练多视图3D占用模型的新范式的详细内容,更多请关注其它相关文章!


# 北京大学  # seo能给客户带来什么  # 营销推广人员职责是什么  # 中阳网站推广技术指导  # 信阳网站建设论坛  # 百度营销推广模式  # 太原互联网整合营销推广  # 掇刀网站建设资质  # 花店网站建设工作文案  # 论述网站建设的步骤  # 城阳区品牌网站建设方法  # 3D  # 很好  # 小鹏  # 新潮流  # 开源  # 站上  # 重写  # 腾讯  # 十大  # 榜单  # 模型 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 电动车power灯亮红灯是什么意思  j*a怎么用json数组  oppo手机nfc功能是什么意思  语音聊天软件哪个好 语音聊天软件2025排行榜  typescript如何做项目  如何将系统移到固态硬盘  如何查看邮件域名解析  如何安装台式机固态硬盘  如何在命令行执行存储过程  光刻机的分类及特点  市盈率ttm是什么意思  2025年哪个局域网聊天软件好用  如何提高固态硬盘速度  如何卸载typescript  跨境电商gmv是什么意思?跨境电商GMV:理解其含义、计算方法和影响因素  typescript用在哪里  苹果怎么没出5g手机  typescript要用什么工具  微波炉power中文是什么意思  16苹果有哪些机型  学typescript有什么用  高市盈率是什么意思  夸克的答案为什么不对  如何判断固态硬盘端口  酷我音乐怎么改每日推荐 酷我音乐每日推荐修改方法  新的固态硬盘如何分区  夸克投屏为什么那么卡  单片机怎么判定高电平  typescript多久能学会  新固态硬盘如何装系统  如何选择启用固态硬盘  sausage是什么意思  awk命令如何对两列加分隔符  如何查询固态硬盘序列  安装固态硬盘如何设置  如何使用批处理命令编译vc程序  虚拟机如何用命令清除垃圾  如何看固态硬盘型号  ai文件里无法找到链接文件怎么解决  vb中的datediff函数怎么用 ​VB中的DateDiff函数:详尽指南  awful是什么意思  typescript属性只读如何修改  折叠屏手机信号哪个最强  如何看固态硬盘信息  access中如何使用常用宏命令  typescript多久能学完  bored是什么意思  ai怎么找链接文件位置教程  typescript解决了什么  华为5g手机怎么用4g网络 

搜索