投稿获客
广告
广告 广告 广告
广告 广告 广告 广告
广告 █ 推荐【菠萝云】香港16G内存99元 【CDNCloud】极速、安全可靠的加速体验 广告位联系QQ：253000106 【UStat】免费网站统计平台 SSL证书低至2折 单域名36元起 免费测试！海总一手APK免杀处理 广告位联系QQ：253000106 CDN 服务器 反炸 劫持 域名屏蔽 【UStat】专业网站统计平台 域名注册：海量域名快速注册 安卓免杀 谷歌报毒 封装 苹果签名 广告位联系QQ：253000106 【域名被劫持污染如何处理】 安卓免杀★超级签★封装★谷歌屏蔽 广告位联系QQ：253000106

*本站广告为第三方投放，如发生纠纷，请向本站索取第三方联系方式沟通

  1. 创想鸟首页
  2. 科技

只需一张图片、一句动作指令，Animate124轻松生成3D视频

程序猿 • • 科技 • 阅读 0
Animate124，轻松将单张图片变成 3D 视频。
近一年来，DreamFusion 引领了一个新潮流，即 3D 静态物体与场景的生成，这在生成技术领域引发了广泛关注。回顾过去一年，我们见证了 3D 静态生成技术在质量和控制性方面的显著进步。技术发展从基于文本的生成起步，逐渐融入单视角图像，进而发展到整合多种控制信号。
与此相较，3D 动态场景生成仍处于起步阶段。2023 年初，Meta 推出了 MAV3D，标志着首次尝试基于文本生成 3D 视频。然而，受限于开源视频生成模型的缺乏，这一领域的进展相对缓慢。
然而，现在，基于图文结合的 3D 视频生成技术已经问世！
尽管基于文本的 3D 视频生成能够产生多样化的内容，但在控制物体的细节和姿态方面仍有局限。在 3D 静态生成领域，使用单张图片作为输入已经能够有效重建 3D 物体。由此受到启发，来自新加坡国立大学（NUS）和华为的研究团队提出了 Animate124 模型。该模型结合单张图片和相应的动作描述，实现了对 3D 视频生成的精准控制。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

只需一张图片、一句动作指令，animate124轻松生成3d视频

项目主页: https://animate124.github.io/
论文地址: https://arxiv.org/abs/2311.14603
Code: https://github.com/HeliosZhao/Animate124

只需一张图片、一句动作指令，Animate124轻松生成3D视频

核心方法
方法概括
根据静态和动态，粗糙和精细优化，本文将 3D 视频生成分为了 3 个阶段：1）静态生成阶段：使用文生图和 3D 图生图扩散模型，从单张图像生成 3D 物体；2）动态粗糙生成阶段：使用文生视频模型，根据语言描述优化动作；3) 语义优化阶段：额外使用个性化微调的 ControlNet，对第二阶段语言描述对外观造成的偏移进行优化改善。

只需一张图片、一句动作指令，Animate124轻松生成3D视频

图 1. 整体框架
静态生成
本文延续 Magic123 的方法，使用文生图（Stable Diffusion）和 3D 图生图（Zero-1-to-3）进行基于图片的静态物体生成：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

对于条件图片所对应的视角，额外使用损失函数进行优化：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

通过上述两个优化目标，得到多视角 3D 一致的静态物体（此阶段在框架图中省略）。
动态粗糙生成
此阶段主要使用文生视频扩散模型，将静态 3D 视为初始帧，根据语言描述生成动作。具体来说，动态 3D 模型（dynamic NeRF）渲染连续时间戳的多帧视频，并将此视频输入文生视频扩散模型，采用 SDS 蒸馏损失对动态 3D 模型进行优化：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

仅使用文生视频的蒸馏损失会导致 3D 模型遗忘图片的内容，并且随机采样会导致视频的初始和结束阶段训练不充分。因此，本文的研究者们对开始和结束的时间戳进行过采样。并且，在采样初始帧时，额外使用静态函数进行优化（3D 图生图的 SDS 蒸馏损失）：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

因此，此阶段的损失函数为：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

AI社交封面生成器 AI社交封面生成器

一句话/一张图一键智能生成社交媒体图片的AI设计神器

AI社交封面生成器 30 查看详情 AI社交封面生成器

语义优化
即使采用了初始帧过采样并且对其额外监督，在使用文生视频扩散模型的优化过程中，物体的外观仍然会受到文本的影响，从而偏移参考图片。因此，本文提出了语义优化阶段，通过个性化模型对语义偏移进行改善。
由于仅有单张图片，无法对文生视频模型进行个性化训练，本文引入了基于图文的扩散模型，并对此扩散模型进行个性化微调。此扩散模型应不改变原有视频的内容和动作，仅对外观进行调整。因此，本文采用 ControlNet-Tile 图文模型，使用上一阶段生成的视频帧作为条件，根据语言进行优化。ControlNet 基于 Stable Diffusion 模型，只需要对 Stable Diffusion 进行个性化微调（Textual Inversion），即可提取参考图像中的语义信息。个性化微调之后，将视频视为多帧图像，使用 ControlNet 对单个图像进行监督：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

另外，因为 ControlNet 使用粗糙的图片作为条件，classifier-free guidance (CFG) 可以使用正常范围（10 左右），而不用与文生图以及文生视频模型一样使用极大的数值（通常是 100）。过大的 CFG 会导致图像过饱和，因此，使用 ControlNet 扩散模型可以缓解过饱和现象，实现更优的生成结果。此阶段的监督由动态阶段的损失和 ControlNet 监督联合而成：

只需一张图片、一句动作指令，Animate124轻松生成3D视频

实验结果
作为第一个基于图文的 3D 视频生成模型，本文与两个 baseline 模型和 MAV3D 进行了比较。与其他方法相比，Animate124 有更好的效果。
可视化结果比较

只需一张图片、一句动作指令，Animate124轻松生成3D视频

图 2. Animate124 与两个 baseline 比较

只需一张图片、一句动作指令，Animate124轻松生成3D视频

图 3.1. Animate124 与 MAV3D 文生 3D 视频比较

只需一张图片、一句动作指令，Animate124轻松生成3D视频

图 3.1. Animate124 与 MAV3D 图生 3D 视频比较
量化结果比较
本文使用 CLIP 和人工评价生成的质量，CLIP 指标包括与文本的相似度和检索准确率，与图片的相似度，以及时域一致性。人工评价指标包括与文本的相似度，与图片的相似度，视频质量，动作真实程度以及动作幅度。人工评价表现为单个模型与 Animate124 在对应指标上选择的比例。
与两个 baseline 模型相比，Animate124 在 CLIP 和人工评价上均取得更好的效果。

只需一张图片、一句动作指令，Animate124轻松生成3D视频

表 1. Animate124 与两个 baseline 量化比较
总结
Animate124 是首个根据文本描述，将任意图片变成 3D 视频的方法。其采用多种扩散模型进行监督和引导，优化 4D 动态表征网络，从而生成高质量 3D 视频。

以上就是只需一张图片、一句动作指令，Animate124轻松生成3D视频的详细内容，更多请关注创想鸟其它相关文章！

版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/626593.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
0 0

关于作者

程序猿的头像

程序猿签约作者

414.1K 文章
0 评论
2 粉丝
这个人很懒，什么都没有留下～
上一篇 2025年11月11日 09:06:08
下一篇 2025年11月11日 09:06:39

相关推荐

  • 如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法 好文分享

    如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法

    使用HTML构建标签结构，CSS3添加旋转与过渡效果，JavaScript生成随机HSL颜色并设置字体大小，实现动态交互的标签云组件。 要在网页中实现一个动态的标签云组件，结合 HTML、CSS3 变换和随机颜色生成算法，可以按照以下步骤操作。这个组件不仅能提升页面视觉效果，还能通过色彩和旋转增加交…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • 如何在Go Gin应用中集成前端JavaScript模块（如Sentry） 好文分享

    如何在Go Gin应用中集成前端JavaScript模块（如Sentry）

    本文探讨了在Go Gin框架下，通过HTML模板服务前端页面时，如何有效集成JavaScript模块（如Sentry）。针对浏览器不直接支持Node.js模块导入语法的问题，文章详细阐述了利用CDN引入Sentry SDK的解决方案，并提供了具体的代码示例，帮助开发者实现前端错误监控功能，避免了复杂…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html官网浏览入口_html网站设计免费平台 好文分享

    html官网浏览入口_html网站设计免费平台

    html官网浏览入口在https://www.codepen.io，该平台支持实时预览代码、创建Pen项目、Fork开源示例，可添加外部资源，具备点赞评论收藏等社区互动功能，设有挑战活动与作品集分类，开放API接口，界面简洁适合初学者，在线编写无需配置环境，支持多种预处理器和响应式测试。 html官…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html如何修改日期样式 好文分享

    html如何修改日期样式

    在html中，可以使用“::-webkit-datetime-edit”伪元素选择器来修改日期格式，只需要用该选择器选中元素，在设置具体样式即可，具体语法为“::-webkit-datetime-edit{属性:属性值}”。 本教程操作环境：windows7系统、CSS3&&HTML…

    程序猿的头像 程序猿
    2025年12月21日
    100
  • 单选框的type属性值为什么 好文分享

    单选框的type属性值为什么

    单选框的type属性值为“radio”。html type属性可以规定要显示的输入框“”元素的类型；值为“radio”时显示为单选框、“checkbox”时显示为复选框、“select”时显示为下拉式选框等等。 本教程操作环境：windows7系统、HTML5版、Dell G3电脑。 在HTML中，…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • HTML中type是什么意思 好文分享

    HTML中type是什么意思

    在HTML中，type是类型的意思，是一个标签属性，主要用于定义标签元素的类型或文档（脚本）的MIME类型；例在input标签中type属性可以规定input元素的类型，在script标签中type属性可以规定脚本的MIME类型。 本教程操作环境：windows7系统、html5版、Dell G3电…

    程序猿的头像 程序猿
    2025年12月21日
    000

  • HTML中ul标签如何去掉点？HTML无序列表的样式实例解析

    本篇文章主要讲述的是关于html中的ul标签的默认小点给取消掉，还有关于html的无序列表ul标签的样式解释，给出了ul标签中的type属性三种值的介绍。现在就让我们一起来看本篇文章吧 首先这篇文章一开始我们就开始介绍在html中是怎么把ul标签的点给去掉的： 大家应该都使用过ul无序列表标签，ul…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000

  • html中的ol标签如何去掉标号呢？标签的使用方法总结

    本篇文章介绍了html的ol标签是怎么去掉序号标号的，这里还有代码的详细解释，还有介绍了关于html ol有序列表标签如何更改序号，下文介绍了三种序号，大家也可以自己去想填写怎样的序号。现在来看这篇文章吧 一、我们先看看html中的ol标签是如何去掉标号的呢： 我们都知道html的ol标签是个有序列…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000
  • HTML ul标签的什么意思？HTML ul标签的作用详解 好文分享

    HTML ul标签的什么意思？HTML ul标签的作用详解

    本篇文章主要的为大家讲解了关于html ul标签的三种重要的用法，还有关于html ul标签的解释，包含li标签的还有type属性对ul标签的使用情况，好了，下面大家一起来看文章吧 首先让我们先来解释一下HTML ul标签的意思： ul标签定义的是表格当中无序列表，表格当中的无序列表都是在 标签之中…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • javascript框架和库是什么_如何选择React、Vue或Angular？ 好文分享

    javascript框架和库是什么_如何选择React、Vue或Angular？

    JavaScript框架与库分别提供按需调用的功能集合和约束性开发结构；React是UI组件库，生态灵活但需自行整合工具；Vue渐进式易上手，兼顾原型与工程化；Angular是全功能TypeScript框架，适合强规范企业级项目。 JavaScript框架和库是封装好的代码集合，用来简化前端开发——…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • React应用生产环境环境变量配置深度指南 好文分享

    React应用生产环境环境变量配置深度指南

    本文针对react应用在生产环境中无法读取`.env`文件配置的环境变量问题，深入剖析其工作原理、常见原因及排查方法。通过详细的步骤和示例代码，指导开发者正确配置和使用环境变量，解决api调用层面的`null`响应问题，确保应用在生产环境下的稳定运行。 在React应用开发中，环境变量（如API密钥…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具 好文分享

    JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具

    JSDoc是一种JavaScript结构化注释规范，通过@param、@returns等标签描述代码元素，并借助工具生成HTML文档，结合IDE支持和CI/CD可提升团队协作效率。 JavaScript本身不支持原生注解（Annotation）像Java那样的语法，但通过约定的注释格式和配套工具，可…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧 好文分享

    JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧

    在JavaScript中可通过JSDoc使用联合类型注解，如string|number表示多类型支持，结合@param、@typedef等标签提升代码可读性与编辑器提示，适用于函数参数、返回值等场景。 在JavaScript中，虽然原生不支持类型注解，但在使用JSDoc配合现代编辑器（如VS Cod…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • VS Code主题开发：告别JSON，拥抱脚本化生成 好文分享

    VS Code主题开发：告别JSON，拥抱脚本化生成

    vs code主题扩展最终需json格式定义，但开发者可通过javascript或typescript等脚本语言生成此json文件。这种方法有效解决了大型json文件难以维护、不支持注释等问题，并能实现颜色动态计算，显著提升主题开发的灵活性与效率。 为什么选择脚本化生成VS Code主题？ 在开发V…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 如何用Quasar框架开发一个跨平台应用？ 好文分享

    如何用Quasar框架开发一个跨平台应用？

    Quasar基于Vue.js用一套代码构建多平台应用，支持响应式网站、PWA、移动App和桌面应用。通过quasar create创建项目，利用模式（SPA、PWA、Electron等）切换目标平台，使用Quasar组件库编写通用UI，配合Pinia管理状态，最后通过不同构建命令发布到各平台，实现高…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 怎么利用JavaScript进行前端代码覆盖率统计？ 好文分享

    怎么利用JavaScript进行前端代码覆盖率统计？

    答案：利用JavaScript进行前端代码覆盖率统计的核心是通过Istanbul/nyc等工具对代码插桩，结合测试框架收集执行数据并生成报告。具体流程包括：在代码执行前通过Babel或Webpack插件（如babel-plugin-istanbul）插入计数器实现插桩；运行测试时记录哪些代码被执行；…

    程序猿的头像 程序猿
    2025年12月20日
    100
  • typescript中的参数分享 好文分享

    typescript中的参数分享

    TypeScript 中的参数共享允许组件间共享参数，实现跨组件状态维护和数据变更共享。通过 @Input 装饰器传递父组件参数，使用 @Output 装饰器定义子组件事件，以便在子组件状态改变时通知父组件。参数共享提高复用性，简化状态管理，允许子组件向父组件发出通知，但应谨慎使用，避免大量数据共享…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • 手机如何运行typescript方法 好文分享

    手机如何运行typescript方法

    要在手机上运行 TypeScript 方法，可以使用 TypeScript 编译器或第三方库：TypeScript 编译器： 将 TypeScript 代码编译成 JavaScript，然后集成到移动应用程序中。第三方库： 如 React Native 或 NativeScript，允许使用 Typ…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • typescript用来干嘛_typescript的作用 好文分享

    typescript用来干嘛_typescript的作用

    TypeScript 是一种用于构建大型复杂应用程序的开源编程语言，它扩展了 JavaScript 的功能，具有以下作用：类型系统：编译时检查类型错误，提高代码可靠性。面向对象编程特性：支持类、接口、抽象类，增强代码组织性和维护性。模块系统：分解程序为可重用模块，提升可维护性和可扩展性。全面的类型推…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • TypeScript基本用法和语法 好文分享

    TypeScript基本用法和语法

    TypeScript 是一种具有类型系统的 JavaScript 超集，提供以下特性：类型注解：确保变量、函数和类的类型一致。接口：定义方法和属性，供类实现。枚举：提供命名常量集。泛型：创建可重用且类型安全的组件。 TypeScript 基本用法和语法 TypeScript 是一种超集 JavaSc…

    程序猿的头像 程序猿
    2025年12月19日
    000

发表回复

登录后才能评论
关注微信