让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com。
近期,大语言模型、文生图模型等大规模 AI 模型迅猛发展。在这种形势下,如何适应瞬息万变的需求,快速适配大模型至各类下游任务,成为了一个重要的挑战。受限于计算资源,传统的全参数微调方法可能会显得力不从心,因此需要探索更高效的微调策略。上述挑战催生了参数高效微调(PEFT)技术在近期的快速发展。
为了全面总结 PEFT 技术的发展历程并及时跟进最新的研究进展,最近,来自美国东北大学、加州大学 Riverside 分校、亚利桑那州立大学和纽约大学研究者们调研、整理并总结了参数高效微调(PEFT)技术在大模型上的应用及其发展前景,并总结为一篇全面且前沿的综述。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

论文链接:https://arxiv.org/pdf/2403.14608.pdf
PEFT 提供了一个高效的针对预训练模型的下游任务适配手段,其通过固定大部分预训练参数并微调极少数参数,让大模型轻装上阵,迅速适配各种下游任务,让大模型变得不再「巨无霸」。
全文长达 24 页,涵盖了近 250 篇最新文献,刚发布就已经被斯坦福大学、北京大学等机构所引用,并在各平台都有着不小的热度。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

具体来说,该综述分别从 PEFT 算法分类,高效 PEFT 设计,PEFT 跨领域应用,以及 PEFT 系统设计部署四大层面,对 PEFT 的发展历程及其最新进展进行了全面且细致的阐述。无论是作为相关行业从业者,或是大模型微调领域的初学者,该综述均可以充当一个全面的学习指南。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

1、PEFT 背景介绍
论文首先以最近大热的 LLaMA 模型作为代表,分析并阐述了大语言模型(LLM)和其他基于 Transformer 的模型的架构和计算流程,并定义了所需的符号表示,以便于在后文分析各类 PEFT 技术。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

此外,作者还概述了 PEFT 算法的分类方法。作者根据不同的操作将 PEFT 算法划分为加性微调、选择性微调、重参数化微调和混合微调。图三展示了 PEFT 算法的分类及各分类下包含的具体算法名称。各分类的具体定义将在后文详细讲解。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

在背景部分,作者还介绍了验证 PEFT 方法性能所使用的常见下游基准测试和数据集,便于读者熟悉常见的任务设置。
2、PEFT 方法分类
作者首先给出了加性微调、选择性微调、重参数化微调和混合微调的定义:
加性微调通过在预训练模型的特定位置添加可学习的模块或参数,以最小化适配下游任务时模型的可训练的参数量。
选择性微调在微调过程中只更新模型中的一部分参数,而保持其余参数固定。相较于加性微调,选择性微调无需更改预训练模型的架构。
重参数化微调通过构建预训练模型参数的(低秩的)表示形式用于训练。在推理时,参数将被等价的转化为预训练模型参数结构,以避免引入额外的推理延迟。
这三者的区分如图四所示:

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

可图大模型 可图大模型

可图大模型(Kolors)是快手大模型团队自研打造的文生图AI大模型

可图大模型 32 查看详情 可图大模型

混合微调结合了各类 PEFT 方法的优势,并通过分析不同方法的相似性以构建一个统一的 PEFT 架构,或寻找最优的 PEFT 超参数。
接下来,作者对每个 PEFT 种类进一步细分:
A. 加性微调:
1)Adapter
Adapter 通过在 Transformer 块内添加小型 Adapter 层,实现了参数高效微调。每个 Adapter 层包含一个下投影矩阵、一个激活函数,和一个上投影矩阵。下投影矩阵将输入特征映射到瓶颈维度 r,上投影矩阵将瓶颈特征映射回原始维度 d。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

图五展示了三种典型的 Adapter 层在模型中的插入策略。Serial Adapter 顺序地插入到 Transformer 模块之后,Parallel Adapter 则并行地插入到 Transformer 模块旁。CoDA 是一种稀疏的 Adapter 方式,对于重要的 token,CoDA 同时利用预训练 Transformer 模块和 Adapter 分支进行推理;而对于不重要的 token,CoDA 则仅使用 Adapter 分支进行推理,以节省计算开销。
2)Soft Prompt
Soft Prompt 通过在输入序列的头部添加可学习的向量,以实现参数高效微调。代表性方法包括 Prefix-tuning 和 Prompt Tuning。Prefix-tuning 通过在每个 Transformer 层的键、值和查询矩阵前面添加可学习的向量,实现对模型表示的微调。Prompt Tuning 仅仅在首个词向量层插入可学习向量,以进一步减少训练参数。
3)Others
除了上述两种分类,还有一些 PEFT 方法同样也是在训练过程引入新的参数。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

典型的两种方法如图六所示。(IA) 3 引入了三个缩放向量,用于调整键、值以及前馈网络的激活值。SSF 则通过线性变换来调整模型的激活值。在每一步操作之后,SSF 都会添加一个 SSF-ADA 层,以实现激活值的缩放和平移。
B. 选择性微调:
1)非结构化掩码
这类方法通过在模型参数上添加可学习的二值掩码来确定可以微调的参数。许多工作,如 Diff pruning、FishMask 和 LT-SFT 等,都专注于计算掩码的位置。
2)结构化掩码
非结构化掩码对于掩码的形状没有限制,但这就导致了其影响效率低下。因此,一些工作,如 FAR、S-Bitfit、Xattn Tuning 等均对掩码的形状进行了结构化的限制。两者的区别如下图所示:

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

C. 重参数化微调:

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

1)低秩分解
这类方法通过寻找预训练权重矩阵的各种低维度重参数化形式,以代表整个参数空间进行微调。其中最为典型的方法为 LoRA,它通过添加两个额外的上投影和下投影矩阵来构建原始模型参数的低秩表示用于训练。在训练后,额外引入的参数还可以被无缝的合并到预训练权重中,避免引入额外推理开销。DoRA 将权重矩阵解耦为模长和方向,并利用 LoRA 来微调方向矩阵。
2)LoRA 衍生方法
作者将 LoRA 的衍生方法分为了动态选择 LoRA 的秩以及 LoRA 在各方面的提升。
LoRA 动态秩中,典型方法为 DyLoRA,其构造了一系列秩,用于在训练过程中同时训练,从而减少了用于寻找最优秩所耗费的资源。
LoRA 提升中,作者罗列了传统 LoRA 在各个方面的缺陷以及对应的解决方案。
D. 混合微调:
这部分研究如何将不同 PEFT 技术融合进统一模型,并寻找一个最优的设计模式。此外,也介绍了一些采用神经架构搜索(NAS)用以得到最优 PEFT 训练超参数的方案。
3、高效 PEFT 设计

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

这部分,作者探讨了提升 PEFT 效率的研究,重点关注其训练和推理的延迟和峰值内存开销。作者主要通过三个角度来描述如何提升 PEFT 的效率。分别是:
PEFT 剪枝策略:即将神经网络剪枝技术和 PEFT 技术结合,以进一步提升效率。代表工作有 AdapterDrop、SparseAdapter 等。
PEFT 量化策略:即通过降低模型精度来减少模型大小,从而提高计算效率。在与 PEFT 结合时,其主要难点是如何更好的兼顾预训练权重以及新增的 PEFT 模块的量化处理。代表工作有 QLoRA、LoftQ 等。
内存高效的 PEFT 设计:尽管 PEFT 能够在训练过程中只更新少量参数,但是由于需要进行梯度计算和反向传播,其内存占用仍然较大。为了应对这一挑战,一些方法试图通过绕过预训练权重内部的梯度计算来减少内存开销,比如 Side-Tuning 和 LST 等。同时,另一些方法则尝试避免在 LLM 内部进行反向传播,以解决这一问题,例如 HyperTuning、MeZO 等。
4、PEFT 的跨领域应用
在这一章中,作者探讨了 PEFT 在不同领域的应用,并就如何设计更优的 PEFT 方法以提升特定模型或任务的性能进行了讨论。本节主要围绕着各种大型预训练模型展开,包括 LLM、视觉 Transformer(ViT)、视觉文本模型以及扩散模型,并详细描述了 PEFT 在这些预训练模型的下游任务适配中的作用。
在 LLM 方面,作者介绍了如何利用 PEFT 微调 LLM 以接受视觉指令输入,代表性工作如 LLaMA-Adapter。此外,作者还探讨了 PEFT 在 LLM 持续学习中的应用,并提及了如何通过 PEFT 微调 LLM 来扩展其上下文窗口。
针对 ViT,作者分别描述了如何利用 PEFT 技术使其适配下游图像识别任务,以及如何利用 PEFT 赋予 ViT 视频识别能力。
在视觉文本模型方面,作者针对开放集图像分类任务,介绍了许多应用 PEFT 微调视觉文本模型的工作。
对于扩散模型,作者识别了两个常见场景:如何添加除文本外的额外输入,以及如何实现个性化生成,并分别描述了 PEFT 在这两类任务中的应用。
5、PEFT 的系统设计挑战
在这一章中,作者首先描述了基于云服务的 PEFT 系统所面临的挑战。主要包括以下几点:
集中式 PEFT 查询服务:在这种模式下,云服务器存储着单个 LLM 模型副本和多个 PEFT 模块。根据不同 PEFT 查询的任务需求,云服务器会选择相应的 PEFT 模块并将其与 LLM 模型集成。
分布式 PEFT 查询服务:在这种模式下,LLM 模型存储在云服务器上,而 PEFT 权重和数据集存储在用户设备上。用户设备使用 PEFT 方法对 LLM 模型进行微调,然后将微调后的 PEFT 权重和数据集上传到云服务器。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述多 PEFT 训练:挑战包括如何管理内存梯度和模型权重存储,以及如何设计一个有效的内核来批量训练 PEFT 等。

针对上述系统设计挑战,作者又列举了三个详细的系统设计案例,以更深入的分析这些挑战与其可行的解决策略。
Offsite-Tuning:主要解决微调 LLM 时出现的数据隐私困境以及大量资源消耗的问题。
PetS:提供了一个统一的服务框架,针对 PEFT 模块提供统一的管理和调度机制。

让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述

PEFT 并行训练框架:介绍了两种并行 PEFT 训练框架,包括 S-LoRA 和 Punica,以及他们如何提升 PEFT 的训练效率。
6、未来研究方向
作者认为,尽管 PEFT 技术已经在很多下游任务取得了成功,但仍有一些不足需要在未来的工作中加以解决。
建立统一的评测基准:尽管已存在一些 PEFT 库,但缺乏一个全面的基准来公平比较不同 PEFT 方法的效果和效率。建立一个公认的基准将促进社区内的创新和合作。
增强训练效率:PEFT 在训练过程中,其可训练参数量并不总是与训练过程中的计算和内存节省一致。如高效 PEFT 设计章节所述,未来的研究可以进一步探索优化内存和计算效率的方法。
探索扩展定律:许多 PEFT 技术都是在较小的 Transformer 模型上实现的,而其有效性不一定适用于如今的各种大参数量模型。未来的研究可以探索如何适应大型模型的 PEFT 方法。
服务更多模型和任务:随着更多大型模型的出现,如 Sora、Mamba 等,PEFT 技术可以解锁新的应用场景。未来的研究可以关注为特定模型和任务设计 PEFT 方法。
增强数据隐私:在服务或微调个性化 PEFT 模块时,中心化系统可能面临数据隐私问题。未来的研究可以探索加密协议来保护个人数据和中间训练 / 推理结果。
PEFT 与模型压缩:模型压缩技术如剪枝和量化对 PEFT 方法的影响尚未得到充分研究。未来的研究可以关注压缩后的模型如何适应 PEFT 方法的性能。

以上就是让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/420897.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月7日 09:15:47
下一篇 2025年11月7日 09:20:07

相关推荐

  • HTML如何计算页面FPS_性能监测实现方法【技巧】

    可通过五种方法实时监测网页FPS:一、requestAnimationFrame计算帧间隔;二、PerformanceObserver监听paint事件;三、chrome://tracing离线分析;四、performance.getEntriesByType(‘frame’…

    2025年12月23日
    000
  • html 如何置顶_设置HTML元素始终置顶显示【始终】

    可通过CSS的position: fixed、position: sticky、JavaScript动态监听滚动、transform + fixed组合及CSS容器查询五种方案实现元素滚动置顶,各适用于不同兼容性与交互需求场景。 如果您希望某个HTML元素在页面滚动时始终保持在视口顶部位置,可通过C…

    2025年12月23日
    200
  • JavaScript教程:如何准确获取HTML中被点击按钮的Value值

    本文详细讲解如何在JavaScript中准确获取用户点击的HTML按钮的`value`属性,尤其当页面存在多个具有相同类名的按钮时。通过使用`addEventListener`方法为每个按钮绑定事件监听器,并利用事件处理函数内部的`this`关键字,我们可以轻松地引用到被点击的特定按钮元素,从而获取…

    2025年12月23日
    000
  • 深入理解Shadow DOM样式隔离:解决用户代理样式与继承冲突

    shadow dom的样式隔离特性导致全局%ignore_a_1%规则无法直接作用于其内部元素。特别是对于可继承属性,用户代理的默认样式可能覆盖外部继承值。本文将详细探讨shadow dom内样式冲突的原理,并提供两种主要解决方案:利用`inherit`关键字确保可继承属性正确传递,以及通过`ado…

    2025年12月23日
    000
  • JavaScript实现单选按钮联动:选择时禁用其他关联输入框的教程

    本教程详细讲解如何通过javascript实现单选按钮的联动效果。当用户选择一个单选按钮时,其关联的输入框将被启用并聚焦,同时禁用其他未选中的单选按钮及其对应的输入框。文章强调了正确的html结构(特别是`name`属性和`label`的使用)以及事件委托机制,以提升用户体验、确保数据完整性和页面可…

    2025年12月23日
    000
  • 使用JavaScript通过事件委托和数据属性实现动态内容更新

    本文详细介绍了如何利用javascript的事件委托机制和html的`data-*`属性,高效地管理和更新网页上的动态内容。通过一个具体案例,演示了如何根据单选按钮的选择,在同一显示区域内切换显示不同的文本和数值,同时保持代码的简洁性和可维护性,并覆盖了默认值设置、数值与文本混合处理等常见需求。 在…

    2025年12月23日
    000
  • JavaScript DOM操作:点击关联元素获取目标文本内容的教程

    本教程详细介绍了如何通过JavaScript处理用户点击事件,并结合DOM的 closest() 和 querySelector() 方法,从复杂的HTML结构中准确获取目标元素的文本内容。文章强调了使用 addEventListener() 进行事件绑定、避免重复ID以及高效DOM遍历的最佳实践,…

    2025年12月23日
    000
  • 优化多元素交互:JavaScript事件委托实践指南

    本教程旨在解决javascript中为多个相似元素添加事件监听器时,仅最后一个元素生效的常见问题。文章将深入分析传统方法的局限性,并详细介绍如何利用事件委托(event delegation)这一高效策略,通过单个监听器管理父元素内所有子元素的交互行为,从而提升代码性能、简化维护,并确保事件处理的准…

    2025年12月23日
    000
  • JavaScript事件委托与数据属性实现单ID多区域动态内容更新

    本文旨在教授如何利用javascript的事件委托机制和html5的`data-*`属性,实现在一个页面上通过单个id动态更新不同区域的内容。通过监听父元素的`change`事件并结合目标元素的自定义数据属性,可以高效、灵活地根据用户选择(例如单选按钮)来更新页面上的显示文本和数值,避免为每个交互元…

    2025年12月23日
    000
  • vs code运行html慢怎么办_解vs code运行html慢问题【技巧】

    首先禁用非必要扩展如自动保存和实时预览类插件,再使用Live Server右键启动HTML实现热重载,配合无痕模式浏览器排除缓存干扰,接着在设置中排除node_modules等文件夹监视并关闭自动保存,最后通过任务管理器检查CPU和内存占用,确保系统资源充足,从而全面提升VS Code运行HTML的…

    2025年12月23日
    000
  • 在Vue应用中动态更新Chart.js折线图数据

    本教程旨在解决在Vue组件中动态更新Chart.js折线图数据不生效的问题。核心在于理解Chart.js实例并非Vue响应式系统的一部分,因此需通过Vue的`watch`机制监听数据变化,并在子组件中获取Chart实例,手动调用`chart.update()`方法来重新渲染图表,确保数据变更能够实时…

    2025年12月23日
    000
  • 在同一网页中实现多个独立图片上传与显示

    本教程旨在解决在同一网页中实现多个独立图片上传功能时,因HTML元素ID重复导致的图片显示冲突问题。我们将深入分析ID的唯一性原则,并提供基于类名(Class)和JavaScript事件监听的优化解决方案,确保每个上传区域都能独立处理图片,避免相互影响,从而提升网页交互的健壮性和用户体验。 问题剖析…

    2025年12月23日 好文分享
    000
  • 前端交互优化:基于单选按钮选择状态控制提交按钮的启用与禁用

    本教程详细讲解如何使用javascript实现提交按钮的条件启用与禁用。核心在于初始禁用提交按钮,并在用户选择特定单选按钮后才启用。文章纠正了常见的javascript事件监听和布尔值使用错误,并重点介绍了利用事件委托机制优化代码,提高性能和可维护性,确保用户界面交互的流畅性和逻辑性。 在现代Web…

    2025年12月23日
    000
  • JavaScript代码重构:优化重复逻辑与提升可维护性

    本文旨在探讨如何通过数据驱动、事件委托和函数封装等策略,对前端javascript代码中重复的ui交互逻辑进行重构。通过将元素配置数据化,并利用事件委托机制集中处理事件,结合一系列通用辅助函数,可以显著减少代码量,提高代码的可读性、可维护性和可扩展性,从而构建更健壮、更易于管理的前端应用。 在前端开…

    2025年12月23日
    000
  • JavaScript实现交互式按钮:动态样式切换与类名管理的最佳实践

    本教程旨在解决javascript中动态修改元素样式和类名时常遇到的问题,特别是如何实现按钮的选中与取消选中功能。文章将深入分析传统方法的不足,例如事件监听器绑定时机和`classname`属性的局限性,并推荐使用单一事件监听器结合`classlist` api进行条件判断,从而实现更健壮、可维护的…

    2025年12月23日
    000
  • React Select 选项绑定复杂对象值的最佳实践

    在react中处理“组件选项绑定复杂对象值时,直接通过`e.target.value`获取将导致数据丢失,因为原生dom的`value`属性仅支持字符串。本文将深入探讨这一常见问题,并提供一种推荐的解决方案:通过将选项的唯一标识符(如`label`)作为“的`value`属性…

    2025年12月23日
    000
  • 使用原生JavaScript管理和展示动态内容的模态框

    本教程将指导您如何使用原生javascript高效地实现动态内容的模态框。通过采用单个模态框、事件委托和html数据属性的策略,您可以避免创建多个重复的模态框元素,从而优化dom结构并简化代码逻辑。文章将详细介绍html、css和javascript的实现细节,确保模态框能够根据不同按钮的点击动态加…

    2025年12月23日
    000
  • 如何解决在线编辑HTML时内存溢出的处理方法

    在线编辑HTML内存溢出主因是DOM复杂、资源过多或JS循环,需简化结构、优化脚本、控制加载并用工具监控内存。 在线编辑HTML时出现内存溢出,通常是因为页面中加载了过多资源、DOM结构过于复杂或存在JavaScript无限循环等问题。这类问题会拖慢浏览器响应,甚至导致标签页崩溃。解决方法需要从优化…

    2025年12月23日
    000
  • JavaScript事件处理:如何精准修改点击元素内的特定子元素样式

    本教程旨在解决JavaScript事件处理中常见的元素选择与状态管理问题。我们将深入分析通过类名全局选择元素后,如何仅修改被点击元素内部特定子元素的样式,同时优化全局状态变量的使用,采用基于CSS类名的局部状态管理方案,以实现更精确、可维护的用户界面交互。 在前端开发中,我们经常需要实现用户点击某个…

    2025年12月23日
    000
  • 使用纯JavaScript实现点击列表项追加内容至文本域

    本教程详细介绍了如何利用纯javascript实现点击网页列表(` `)项时,将其文本内容动态追加到指定文本域(“)中的功能。文章通过简洁的html结构和无依赖的javascript代码,逐步解析了元素获取、事件监听以及内容追加的核心逻辑,强调了纯javascript在前端开发中的基础性和效率。 …

    2025年12月23日
    000

发表回复

登录后才能评论
关注微信