腾讯AI实验室与腾讯PCG的ARC实验室近日联合推出了一项创新技术——StereoCrafter框架,该技术能将普通2D视频转化为高质量的立体3D视频。这一突破性进展满足了市场对3D内容日益增长的需求,特别是在沉浸式体验领域。
StereoCrafter框架通过深度信息视频重新贴图和立体视频修复两大步骤,有效提升了生成效果。该系统基于预训练的稳定视频扩散模型,并引入了针对立体视频修复任务的微调协议。此外,团队还采用了自回归策略和切片处理技术,以确保系统可以灵活适应不同长度和分辨率的视频输入。
为支持训练,研究团队建立了一条复杂的数据处理流水线,生成了大规模、高质量的数据集。这些数据集由大量立体视频生成,包括视频深度、变换后的视频和遮挡信息,确保了右侧视频的真实基准。
StereoCrafter不仅在技术上取得了突破,也为数字媒体的体验方式带来了潜在的变革,有望改变我们观看和体验数字内容的方式。项目入口:https://stereocrafter.github.io/
🌟 StereoCrafter通过新技术将2D视频高效转换为沉浸式立体3D视频。
🖥️ 系统分为深度视频重构和立体视频修复两个主要步骤,提升生成效果。
📊 研究团队构建了高质量数据集,以支持算法训练,确保输出质量。
暂无评论