来源:3D视觉工坊

在公众号「3D视觉工坊」后台,回复「原论文」可获取论文pdf链接

这里给大家推荐下Gassian Splatting微信群,扫码入群,方便大家沟通交流:

36f5039ae84361c6715e41309662d0b0.jpeg

0. 笔者个人体会

最近3D GS在NeRF圈真是掀起了一股浪潮,不停地刷新NeRF的精度和渲染速度,还推广到了SLAM等很多领域。还有什么是3D GS做不到的呢?

还真有!原始的3D GS很难去建模大规模动态自动驾驶场景,尤其是很难处理包含动静结合区域和多个高速运动物体的复杂驾驶场景。

今天笔者将为大家分享一篇北大&谷歌&加州大学联合开源的最新工作DrivingGaussian,是第一个基于复合GS的大规模动态自动驾驶场景的建模框架,还能实现高保真和多相机一致的逼真环视合成。

下面一起来阅读一下这项工作,文末附论文和代码链接~

1. 效果展示

DrivingGaussian为周围的动态自动驾驶场景实现了真实感渲染性能,而其他方法(包括3D GS)要么产生大量伪影和模糊,要么很难重建几何细节。DrivingGaussian的思想是,引入复合GS,在复杂自动驾驶场景中高效地表示静态背景和多个动态对象。这里也推荐工坊推出的新课程《深度剖析面向自动驾驶领域的车载传感器空间同步(标定)》

c62262bc15f6a2d40c9fb03a1289bb80.jpeg

2. 具体原理是什么?

对于具有移动物体的复杂场景,DrivingGaussian首先使用增量静态3D Gaussians序列渐进地对整个场景的静态背景进行建模,然后利用复合动态Gaussian graph来处理多个移动对象,单独重建每个对象并恢复它们在场景中的准确位置和遮挡关系,最后进一步使用LiDAR先验进行GS来重建具有更多细节的场景并保持全景一致性。

f6407659a18ceebc013d2c8a0c73ca21.jpeg

3. 和其他SOTA方法对比如何?

nuScenes动态重建的定性比较,主要对比EmerNeRF和3D-GS。DrivingGaussian可以支持高速高质量地重建动态对象,同时保持时间一致性。

19eb72d5d84a6d3b385cae981798f55f.jpeg

nuScenes上定量对比,Ours-S表示使用SfM初始化的驱动高斯模型,Ours-L表示使用LiDAR先验训练高斯模型。这里也推荐工坊推出的新课程《深度剖析面向自动驾驶领域的车载传感器空间同步(标定)》

cf2d6e9025e032c3cfb542fa3a07c6d0.jpeg

对更多实验结果和文章细节感兴趣的读者,可以阅读一下论文原文~

4. 论文信息

标题:DrivingGaussian: Composite Gaussian Splatting for Surrounding Dynamic Autonomous Driving Scenes

作者:Xiaoyu Zhou, Zhiwei Lin, Xiaojun Shan, Yongtao Wang, Deqing Sun, Ming-Hsuan Yang

机构:北京大学、谷歌、加州大学

原文链接:https://arxiv.org/abs/2312.07920

代码链接:暂未开源

我是泡椒味的口香糖,专注于CV和SLAM领域。这里有最新的前沿理论,有大佬答疑解惑,还有全网最全的免费视频课程!如果你也是一个人在孤独地摸索学习,那就欢迎扫码加入我们,一起交流学习~

f31d83498571a1587c66172016b82323.jpeg
下载1

在公众号「3D视觉工坊」后台,回复「3d001」,即可获取工业3D视觉(结构光、缺陷检测、三维点云)、SLAM(视觉/激光SLAM)、自动驾驶、三维重建、事件相机、无人机等近千余篇最新顶会论文。

下载2

在公众号「3D视觉工坊」后台,回复「3d002」,即可获取巴塞罗那自治大学3D视觉课件、慕尼黑工业大学3D视觉和视觉导航精品课件。

下载3

在公众号「3D视觉工坊」后台,回复「3d003」,即可获取相机标定、结构光、三维重建、激光-视觉-IMU-GPS多模态融合SLAM、LOAM、ORB-SLAM3,深度估计、模型部署、3D目标检测等学习课件。注:非完整版。

高效学习3D视觉三部曲

第一步 加入行业交流群,保持技术的先进性

目前工坊已经建立了3D视觉方向多个社群,包括SLAM工业3D视觉自动驾驶三维重建无人机方向,细分群包括:

[工业3D视觉]相机标定、立体匹配、三维点云、结构光(面/线/散斑)、机械臂抓取(2D/3D)、2D缺陷检测、3D缺陷检测、6D位姿估计、相位偏折术、Halcon、光场重建、摄影测量、阵列相机、偏振三维测量、光度立体视觉、激光雷达、综合群等。

[SLAM]视觉SLAM、激光SLAM、ORB-SLAM、Vins-Fusion、LOAM/LeGo-LOAM、cartographer、VIO、语义SLAM、滤波算法、多传感器融合、多传感器标定、MSCKF、动态SLAM、MOT SLAM、NeRF SLAM、FAST-LIO、LVI-SAM、LIO-SAM、事件相机/GPS/RTK/UWB/IMU/码盘/TOF(iToF/dToF)/激光雷达/气压计/毫米波雷达/RGB-D相机/超声波等、机器人导航、综合群等。

[自动驾驶]深度估计、Transformer、毫米波|激光雷达|视觉摄像头传感器、多传感器标定、多传感器融合、自动驾驶综合群等、3D目标检测、路径规划、轨迹预测、3D点云分割、模型部署、车道线检测、Occupancy、目标跟踪、综合群等。

[三维重建]NeRF、多视图几何、OpenMVS、MVSNet、colmap、纹理贴图等

[无人机]四旋翼建模、无人机飞控等

除了这些,还有求职、硬件选型、视觉产品落地、最新论文、3D视觉最新产品、3D视觉行业新闻等交流群

大家可以添加小助理微信: dddvisiona,备注:加群+方向+学校|公司, 小助理会拉你入群。

ec156277493f69ac3d28aad9c7b5bdb0.jpeg
添加小助理微信:dddvisiona,加群+方向+学校|公司,拉你入群

第二步 3D视觉从入门到精通系统课程

目前3D视觉工坊平台针对各个方向的知识点,打造了多门从理论到实战课程,包括:

  • 论文写作课程:三维科研

  • 基础入门课程:C++、Linux、相机标定、ROS2、dToF

  • 工业3D视觉课程:面结构光、线结构光、散斑结构光、相位偏折术、机械臂抓取、三维点云(PCL和Open3D)、缺陷检测

  • SLAM课程:LeGo-LOAM、LOAM、LVI-SAM(激光-视觉-IMU-GPS融合SLAM)、Vins-Fusion、ORB-SLAM3、室内/室外激光SLAM等

  • 机器人路径规划与控制课程:机器人规控入门与实践

  • 三维重建课程:comlap、MVSNet等

  • 自动驾驶课程:多传感器标定、视觉Transformer、单目深度估计、3D目标检测、模型部署等。

注:工坊现面向平台所有读者招募主讲老师,奖励丰厚,具体详情可以可以参考:3D视觉主讲老师招募

73bac0719bc52d22fe9b3700fcd9dad1.png
3D视觉精品课程,包括工业3D视觉、SLAM、自动驾驶、三维重建、无人机等,地址:www.3dcver.com 贴心小管家微信:cv3d007

第三步 加入知识星球,问题及时得到解答

「3D视觉从入门到精通」知识星球,依托于微信公众号「3D视觉工坊」、「计算机视觉工坊」、「3DCV」平台,星球内除了包含3D视觉独家秘制视频课程(近20门,包括三维重建三维点云手眼标定相机标定3D目标检测深度估计ORB-SLAM3Vins-Fusion激光-视觉-IMU-GPS融合机械臂抓取等)、3D视觉项目对接3D视觉学习路线最新论文&代码分享入门书籍推荐源码汇总最新行业模组分享编程基础&作业求职招聘&面经&面试题等,更有各类大厂的算法工程人员进行技术指导。目前星球铁杆粉丝已近6000+,让我们一起探索更其妙的3D视觉技术、为祖国的创新发展贡献自己的一份力。知识星球入口:3D视觉从入门到精通

7fa76475be0a647a3cd779ff50c5aa0e.png
Logo

瓜分20万奖金 获得内推名额 丰厚实物奖励 易参与易上手

更多推荐