投稿获客
广告
广告 广告 广告
广告 广告 广告 广告
广告 █ 推荐【菠萝云】香港16G内存99元 【CDNCloud】极速、安全可靠的加速体验 广告位联系QQ：253000106 【UStat】免费网站统计平台 SSL证书低至2折 单域名36元起 免费测试！海总一手APK免杀处理 广告位联系QQ：253000106 CDN 服务器 反炸 劫持 域名屏蔽 【UStat】专业网站统计平台 域名注册：海量域名快速注册 安卓免杀 谷歌报毒 封装 苹果签名 广告位联系QQ：253000106 【域名被劫持污染如何处理】 安卓免杀★超级签★封装★谷歌屏蔽 广告位联系QQ：253000106

*本站广告为第三方投放，如发生纠纷，请向本站索取第三方联系方式沟通

  1. 创想鸟首页
  2. 科技

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024×1024分辨率

程序猿 • • 科技 • 阅读 0
习惯了 Stable Diffusion，如今终于又迎来一个俄罗斯套娃式（Matryoshka）Diffusion 模型，还是苹果做的。
在生成式 AI 时代，扩散模型已经成为图像、视频、3D、音频和文本生成等生成式 AI 应用的流行工具。然而将扩散模型拓展到高分辨率领域仍然面临巨大挑战，这是因为模型必须在每个步骤重新编码所有的高分辨率输入。解决这些挑战需要使用带有注意力块的深层架构，这使得优化更困难，消耗的算力和内存也更多。
怎么办呢？最近的一些工作专注于研究用于高分辨率图像的高效网络架构。但是现有方法都没有展示出超过 512×512 分辨率的效果，并且生成质量落后于主流的级联或 latent 方法。
我们以 OpenAI DALL-E 2、谷歌 IMAGEN 和英伟达 eDiffI 为例，它们通过学习一个低分辨率模型和多个超分辨率扩散模型来节省算力，其中每个组件都单独训练。另一方面，latent 扩散模型（LDM）仅学习低分辨率扩散模型，并依赖单独训练的高分辨率自编码器。对于这两种方案，多阶段式 pipeline 使训练与推理复杂化，从而往往需要精心调整或进行超参。
本文中，研究者提出了俄罗斯套娃式扩散模型（Matryoshka Diffusion Models，MDM）它是用于端到端高分辨率图像生成的全新扩散模型。代码很快将释出。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

论文地址：https://arxiv.org/pdf/2310.15111.pdf
该研究提出的主要观点是将低分辨率扩散过程作为高分辨率生成的一部分，通过使用嵌套 UNet 架构在多个分辨率上执行联合扩散过程。
该研究发现：MDM 与嵌套 UNet 架构一起实现了 1）多分辨率损失：大大提高了高分辨率输入去噪的收敛速度；2）高效的渐进式训练计划，从训练低分辨率扩散模型开始，按照计划逐步添加高分辨率输入和输出。实验结果表明，多分辨率损失与渐进式训练相结合可以让训练成本和模型质量获得更好的平衡。
该研究在类条件图像生成以及文本条件图像和视频生成方面评估了 MDM。MDM 让训练高分辨率模型无需使用级联或潜在扩散（latent diffusion）。消融研究表明，多分辨率损失和渐进训练都极大地提高了训练效率和质量。
我们来欣赏以下 MDM 生成的图片和视频。
苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

方法概览
研究者介绍称，MDM 扩散模型在高分辨率中进行端到端训练，同时利用层级结构的数据形成。MDM 首先在扩散空间中泛化了标准扩散模型，然后提出了专用的嵌套架构和训练流程。
首先来看如何在扩展空间对标准扩散模型进行泛化。
与级联或 latent 方法的不同之处在于，MDM 通过在一个扩展空间中引入多分辨率扩散过程，学得了具有层级结构的单个扩散过程。具体如下图 2 所示。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

具体来讲，给定一个数据点 x ∈ R^N，研究者定义了与时间相关的隐变量 z_t =  z_t^1 , . . . , z_t^R  ∈ R^N_1+…NR。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

研究者表示，在扩展空间中进行扩散建模有以下两点优点。其一，我们在推理期间通常关心全分辨率输出 z_t^R，那么所有其他中等分辨率被看作是额外的隐变量 z_t^r，增加了建模分布的复杂度。其二，多分辨率依赖性为跨 z_t^r 共享权重和计算提供了机会，从而以更高效的方式重新分配计算，并实现高效训练和推理。
接下来看嵌套架构（NestedUNet）如何工作。
与典型的扩散模型类似，研究者使用 UNet 网络结构来实现 MDM，其中并行使用残差连接和计算块以保留细粒度的输入信息。这里的计算块包含多层卷积和自注意力层。NestedUNet 与标准 UNet 的代码分别如下。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

除了相较于其他层级方法的简单性，NestedUNet 允许以最高效的方式对计算进行分配。如下图 3 所示，研究者早期探索发现，当以最低分辨率分配大部分参数和计算时，MDM 实现了明显更好的扩展性。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

最后是学习。
研究者使用常规去噪目标在多个分辨率下训练 MDM，如下公式 (3) 所示。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

YOO必优科技-AI写作 YOO必优科技-AI写作

智能图文创作平台，让内容创作更简单

YOO必优科技-AI写作 38 查看详情 YOO必优科技-AI写作

这里用到了渐进式训练。研究者按照上述公式 (3) 直接对 MDM 进行端到端训练，并展示出了比原始基线方法更好的收敛性。他们发现，使用类似于 GAN 论文中提出的简单渐进式训练方法，极大地加速了高分辨率模型的训练。
这一训练方法从一开始就避免了高成本的高分辨率训练，加速了整体收敛。不仅如此，他们还合并了混合分辨率训练，该训练方法在单个 batch 中同时训练具有不同最终分辨率的样本。
实验及结果
MDM 是一种通用技术，适用于可以逐步压缩输入维度的任何问题。MDM 与基线方法的比较如下图 4 所示。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

表 1 给出了在 ImageNet（FID-50K）和 COCO（FID-30K）上的比较结果。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

下图 5、6、7 展示了 MDM 在图像生成（图 5）、文本到图像（图 6）和文本到视频（图 7）方面的结果。尽管是在相对较小的数据集上进行训练的，但 MDM 仍显示出生成高分辨率图像和视频的强大零样本（zero-shot）能力。

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024x1024分辨率

感兴趣的读者可以阅读论文原文，了解更多研究内容。

以上就是苹果文生图大模型亮相：俄罗斯套娃式扩散，支持1024×1024分辨率的详细内容，更多请关注创想鸟其它相关文章！

版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/810724.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
0 0

关于作者

程序猿的头像

程序猿签约作者

414.1K 文章
0 评论
2 粉丝
这个人很懒，什么都没有留下～
上一篇 2025年11月26日 22:34:30
下一篇 2025年11月26日 22:39:20

相关推荐

  • 如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法 好文分享

    如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法

    使用HTML构建标签结构，CSS3添加旋转与过渡效果，JavaScript生成随机HSL颜色并设置字体大小，实现动态交互的标签云组件。 要在网页中实现一个动态的标签云组件，结合 HTML、CSS3 变换和随机颜色生成算法，可以按照以下步骤操作。这个组件不仅能提升页面视觉效果，还能通过色彩和旋转增加交…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • 如何在Go Gin应用中集成前端JavaScript模块（如Sentry） 好文分享

    如何在Go Gin应用中集成前端JavaScript模块（如Sentry）

    本文探讨了在Go Gin框架下，通过HTML模板服务前端页面时，如何有效集成JavaScript模块（如Sentry）。针对浏览器不直接支持Node.js模块导入语法的问题，文章详细阐述了利用CDN引入Sentry SDK的解决方案，并提供了具体的代码示例，帮助开发者实现前端错误监控功能，避免了复杂…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html官网浏览入口_html网站设计免费平台 好文分享

    html官网浏览入口_html网站设计免费平台

    html官网浏览入口在https://www.codepen.io，该平台支持实时预览代码、创建Pen项目、Fork开源示例，可添加外部资源，具备点赞评论收藏等社区互动功能，设有挑战活动与作品集分类，开放API接口，界面简洁适合初学者，在线编写无需配置环境，支持多种预处理器和响应式测试。 html官…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html如何修改日期样式 好文分享

    html如何修改日期样式

    在html中，可以使用“::-webkit-datetime-edit”伪元素选择器来修改日期格式，只需要用该选择器选中元素，在设置具体样式即可，具体语法为“::-webkit-datetime-edit{属性:属性值}”。 本教程操作环境：windows7系统、CSS3&&HTML…

    程序猿的头像 程序猿
    2025年12月21日
    100
  • 单选框的type属性值为什么 好文分享

    单选框的type属性值为什么

    单选框的type属性值为“radio”。html type属性可以规定要显示的输入框“”元素的类型；值为“radio”时显示为单选框、“checkbox”时显示为复选框、“select”时显示为下拉式选框等等。 本教程操作环境：windows7系统、HTML5版、Dell G3电脑。 在HTML中，…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • HTML中type是什么意思 好文分享

    HTML中type是什么意思

    在HTML中，type是类型的意思，是一个标签属性，主要用于定义标签元素的类型或文档（脚本）的MIME类型；例在input标签中type属性可以规定input元素的类型，在script标签中type属性可以规定脚本的MIME类型。 本教程操作环境：windows7系统、html5版、Dell G3电…

    程序猿的头像 程序猿
    2025年12月21日
    000

  • HTML中ul标签如何去掉点？HTML无序列表的样式实例解析

    本篇文章主要讲述的是关于html中的ul标签的默认小点给取消掉，还有关于html的无序列表ul标签的样式解释，给出了ul标签中的type属性三种值的介绍。现在就让我们一起来看本篇文章吧 首先这篇文章一开始我们就开始介绍在html中是怎么把ul标签的点给去掉的： 大家应该都使用过ul无序列表标签，ul…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000

  • html中的ol标签如何去掉标号呢？标签的使用方法总结

    本篇文章介绍了html的ol标签是怎么去掉序号标号的，这里还有代码的详细解释，还有介绍了关于html ol有序列表标签如何更改序号，下文介绍了三种序号，大家也可以自己去想填写怎样的序号。现在来看这篇文章吧 一、我们先看看html中的ol标签是如何去掉标号的呢： 我们都知道html的ol标签是个有序列…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000
  • HTML ul标签的什么意思？HTML ul标签的作用详解 好文分享

    HTML ul标签的什么意思？HTML ul标签的作用详解

    本篇文章主要的为大家讲解了关于html ul标签的三种重要的用法，还有关于html ul标签的解释，包含li标签的还有type属性对ul标签的使用情况，好了，下面大家一起来看文章吧 首先让我们先来解释一下HTML ul标签的意思： ul标签定义的是表格当中无序列表，表格当中的无序列表都是在 标签之中…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • javascript框架和库是什么_如何选择React、Vue或Angular？ 好文分享

    javascript框架和库是什么_如何选择React、Vue或Angular？

    JavaScript框架与库分别提供按需调用的功能集合和约束性开发结构；React是UI组件库，生态灵活但需自行整合工具；Vue渐进式易上手，兼顾原型与工程化；Angular是全功能TypeScript框架，适合强规范企业级项目。 JavaScript框架和库是封装好的代码集合，用来简化前端开发——…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • React应用生产环境环境变量配置深度指南 好文分享

    React应用生产环境环境变量配置深度指南

    本文针对react应用在生产环境中无法读取`.env`文件配置的环境变量问题，深入剖析其工作原理、常见原因及排查方法。通过详细的步骤和示例代码，指导开发者正确配置和使用环境变量，解决api调用层面的`null`响应问题，确保应用在生产环境下的稳定运行。 在React应用开发中，环境变量（如API密钥…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具 好文分享

    JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具

    JSDoc是一种JavaScript结构化注释规范，通过@param、@returns等标签描述代码元素，并借助工具生成HTML文档，结合IDE支持和CI/CD可提升团队协作效率。 JavaScript本身不支持原生注解（Annotation）像Java那样的语法，但通过约定的注释格式和配套工具，可…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧 好文分享

    JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧

    在JavaScript中可通过JSDoc使用联合类型注解，如string|number表示多类型支持，结合@param、@typedef等标签提升代码可读性与编辑器提示，适用于函数参数、返回值等场景。 在JavaScript中，虽然原生不支持类型注解，但在使用JSDoc配合现代编辑器（如VS Cod…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • VS Code主题开发：告别JSON，拥抱脚本化生成 好文分享

    VS Code主题开发：告别JSON，拥抱脚本化生成

    vs code主题扩展最终需json格式定义，但开发者可通过javascript或typescript等脚本语言生成此json文件。这种方法有效解决了大型json文件难以维护、不支持注释等问题，并能实现颜色动态计算，显著提升主题开发的灵活性与效率。 为什么选择脚本化生成VS Code主题？ 在开发V…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 如何用Quasar框架开发一个跨平台应用？ 好文分享

    如何用Quasar框架开发一个跨平台应用？

    Quasar基于Vue.js用一套代码构建多平台应用，支持响应式网站、PWA、移动App和桌面应用。通过quasar create创建项目，利用模式（SPA、PWA、Electron等）切换目标平台，使用Quasar组件库编写通用UI，配合Pinia管理状态，最后通过不同构建命令发布到各平台，实现高…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 怎么利用JavaScript进行前端代码覆盖率统计？ 好文分享

    怎么利用JavaScript进行前端代码覆盖率统计？

    答案：利用JavaScript进行前端代码覆盖率统计的核心是通过Istanbul/nyc等工具对代码插桩，结合测试框架收集执行数据并生成报告。具体流程包括：在代码执行前通过Babel或Webpack插件（如babel-plugin-istanbul）插入计数器实现插桩；运行测试时记录哪些代码被执行；…

    程序猿的头像 程序猿
    2025年12月20日
    100
  • typescript中的参数分享 好文分享

    typescript中的参数分享

    TypeScript 中的参数共享允许组件间共享参数，实现跨组件状态维护和数据变更共享。通过 @Input 装饰器传递父组件参数，使用 @Output 装饰器定义子组件事件，以便在子组件状态改变时通知父组件。参数共享提高复用性，简化状态管理，允许子组件向父组件发出通知，但应谨慎使用，避免大量数据共享…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • 手机如何运行typescript方法 好文分享

    手机如何运行typescript方法

    要在手机上运行 TypeScript 方法，可以使用 TypeScript 编译器或第三方库：TypeScript 编译器： 将 TypeScript 代码编译成 JavaScript，然后集成到移动应用程序中。第三方库： 如 React Native 或 NativeScript，允许使用 Typ…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • typescript用来干嘛_typescript的作用 好文分享

    typescript用来干嘛_typescript的作用

    TypeScript 是一种用于构建大型复杂应用程序的开源编程语言，它扩展了 JavaScript 的功能，具有以下作用：类型系统：编译时检查类型错误，提高代码可靠性。面向对象编程特性：支持类、接口、抽象类，增强代码组织性和维护性。模块系统：分解程序为可重用模块，提升可维护性和可扩展性。全面的类型推…

    程序猿的头像 程序猿
    2025年12月19日
    000
  • TypeScript基本用法和语法 好文分享

    TypeScript基本用法和语法

    TypeScript 是一种具有类型系统的 JavaScript 超集，提供以下特性：类型注解：确保变量、函数和类的类型一致。接口：定义方法和属性，供类实现。枚举：提供命名常量集。泛型：创建可重用且类型安全的组件。 TypeScript 基本用法和语法 TypeScript 是一种超集 JavaSc…

    程序猿的头像 程序猿
    2025年12月19日
    000

发表回复

登录后才能评论
关注微信