投稿获客
广告
广告 广告 广告
广告 广告 广告 广告
广告 █ 推荐【菠萝云】香港16G内存99元 【CDNCloud】极速、安全可靠的加速体验 广告位联系QQ：253000106 【UStat】免费网站统计平台 SSL证书低至2折 单域名36元起 免费测试！海总一手APK免杀处理 广告位联系QQ：253000106 CDN 服务器 反炸 劫持 域名屏蔽 【UStat】专业网站统计平台 域名注册：海量域名快速注册 安卓免杀 谷歌报毒 封装 苹果签名 广告位联系QQ：253000106 【域名被劫持污染如何处理】 安卓免杀★超级签★封装★谷歌屏蔽 广告位联系QQ：253000106

*本站广告为第三方投放，如发生纠纷，请向本站索取第三方联系方式沟通

  1. 创想鸟首页
  2. 科技

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

程序猿 • • 科技 • 阅读 1
本文提出了一种简单而有效的方法 OPRO，其利用大型语言模型作为优化器，优化任务用自然语言描述就可以，优于人类设计的提示。
优化对于所有领域都至关重要。 
有些优化是从初始化开始的，然后迭代的更新解以优化目标函数。这种优化算法通常需要针对单个任务进行定制，以应对决策空间带来的特定挑战，特别是对于无导数的优化。
接下来我们要介绍的这项研究，研究者另辟蹊径，他们利用大型语言模型 (LLM) 充当优化器，在各种任务上的性能比人类设计的提示还好。
这项研究来自 Google DeepMind，他们提出了一种简单而有效的优化方法 OPRO（Optimization by PROmpting），其中优化任务可以用自然语言来描述，例如 LLM 的提示语可以是「深呼吸，一步一步地解决这个问题」，也可以是「让我们结合我们的数字命令和清晰的思维来快速准确地破译答案」等等。
在每个优化步骤（step）中，LLM 根据先前生成的解决方案及其值的提示生成新的解决方案，然后对新解决方案进行评估并将其添加到下一个优化步骤的提示中。
最后，该研究将 OPRO 方法用于线性回归和旅行商问题（著名的 NP 问题），然后继续进行提示优化，目标是找到最大化任务准确率的指令。
本文对多个 LLM 进行了综合评估，包括 PaLM-2 模型家族中的 text-bison 和 Palm 2-L，以及 GPT 模型家族中的 gpt-3.5-turbo 和 gpt-4 。实验在 GSM8K 和 Big-Bench Hard 上对提示进行了优化，结果表明经过 OPRO 优化的最佳提示在 GSM8K 上比人工设计的提示高出 8%，在 Big-Bench Hard 任务上比人工设计的提示高出高达 50%。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

deepmind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

论文地址：https://arxiv.org/pdf/2309.03409.pdf
论文一作、 Google DeepMind 的研究科学家 Chengrun Yang 表示：「为了进行提示优化，我们从『让我们开始解决问题』这样的基本指令开始，甚至是空字符串，最终 OPRO 生成的指令会使 LLM 性能逐渐变好，如下图所示的向上的性能曲线看起来就像传统优化中的情况一样！」

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

「每个 LLM 即使是从相同的指令开始，经过 OPRO 的优化，不同 LLM 的最终优化指令也显示出不同的风格，优于人类编写的指令，并且可以迁移到类似的任务上。」

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

从上表中我们也可以得出，作为优化器的 LLM 最终找到的指令风格差异很大，PaLM 2-L-IT 和 text-bison 的指令偏简洁，而 GPT 的指令又长又详细。尽管一些顶级指令包含「一步一步（step-by-step）」提示，但 OPRO 都能找到其他的语义表达方式，实现了相媲美或更好的准确性。

不过有研究者表示：「深呼吸，一步一步地来」这个提示在谷歌的 PaLM-2 上非常有效（准确率为80.2）。但我们不能保证它适用于所有模型和所有情况，所以我们不应该盲目地到处使用它。

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

OPRO：将 LLM 作为优化器
图 2 展示了 OPRO 整体框架。在每个优化步骤中，LLM 根据优化问题描述以及元提示（meta-prompt）中先前评估的解决方案（图 2 右下部分）生成优化任务的候选解决方案。
接下来，LLM 在对新的解决方案进行评估并将其添加到元提示中以进行后续优化过程。
当 LLM 无法提出具有更好优化分数的新解决方案或达到最大优化步骤数时，优化过程终止。 

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

图 3 为一个示例展示。元提示包含两个核心内容，第一部分是先前生成的提示及其相应的训练准确率；第二部分是优化问题描述，包括从训练集中随机选择的几个示例来举例说明感兴趣的任务。 

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

豆包大模型 豆包大模型

字节跳动自主研发的一系列大型语言模型

豆包大模型 834 查看详情 豆包大模型

本文首先展示了 LLM 作为「数学优化」优化器的潜力。在线性回归问题中的结果如表 2 所示：

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

接下来，论文还探讨了 OPRO 在旅行商（ TSP ）问题上的结果，具体来说， TSP 是指给定一组 n 个节点及其坐标，TSP 任务是找到从起始节点开始遍历所有节点并最终返回到起始节点的最短路径。

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

实验
实验中，本文将预训练的 PaLM 2-L 、经过指令微调的 PaLM 2-L 以及 text-bison、gpt-3.5-turbo、gpt-4 作为 LLM 优化器；预将训练的 PaLM 2-L 和 text-bison 作为评分器 LLM。
评估基准 GSM8K 是关于小学数学的，有 7473 个训练样本和 1319 个测试样本；Big-Bench Hard (BBH) 基准包含算术推理以外的广泛主题，包括符号操作和常识推理。
GSM8K 结果
图 1 (a) 显示了使用预训练的 PaLM 2-L 作为评分器和 PaLM 2-L-IT 作为优化器的即时优化曲线，可以观察到优化曲线整体呈上升趋势，在整个优化过程中出现了几次跳跃：

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

接下来，本文展示使用 text-bison 评分器和 PaLM 2-L-IT 优化器生成 Q_begin 指令的结果，本文从空指令开始，这时的训练准确率为 57.1，之后训练准确率开始上升。图 4 (a) 中的优化曲线显示了类似的上升趋势，在此期间训练准确率出现了一些飞跃：

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

BBH 结果
图 5 直观地显示了所有 23 个 BBH 任务与「让我们一步一步思考」的指令相比，每个任务的准确率差异。表明 OPRO 找到的指令优于「让我们一步一步思考」。在几乎所有任务上都有很大优势：本文找到的指令在使用 PaLM 2-L 评分器的 19/23 任务上以及使用 text-bison 评分器的 15/23 任务上表现优于 5% 以上。

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

与 GSM8K 类似，本文观察到几乎所有 BBH 任务的优化曲线都呈上升趋势，如图 6 所示。

DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效

以上就是DeepMind发现，向大型模型传达「深呼吸，一步一步来」的提示方法极为有效的详细内容，更多请关注创想鸟其它相关文章！

版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/499330.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
0 0

关于作者

程序猿的头像

程序猿签约作者

414.1K 文章
0 评论
2 粉丝
这个人很懒，什么都没有留下～
上一篇 2025年11月8日 19:33:27
下一篇 2025年11月8日 19:34:37

相关推荐

  • 如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法 好文分享

    如何用HTML插入标签云组件_HTML CSS3变换与随机颜色生成算法

    使用HTML构建标签结构，CSS3添加旋转与过渡效果，JavaScript生成随机HSL颜色并设置字体大小，实现动态交互的标签云组件。 要在网页中实现一个动态的标签云组件，结合 HTML、CSS3 变换和随机颜色生成算法，可以按照以下步骤操作。这个组件不仅能提升页面视觉效果，还能通过色彩和旋转增加交…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • 如何在Go Gin应用中集成前端JavaScript模块（如Sentry） 好文分享

    如何在Go Gin应用中集成前端JavaScript模块（如Sentry）

    本文探讨了在Go Gin框架下，通过HTML模板服务前端页面时，如何有效集成JavaScript模块（如Sentry）。针对浏览器不直接支持Node.js模块导入语法的问题，文章详细阐述了利用CDN引入Sentry SDK的解决方案，并提供了具体的代码示例，帮助开发者实现前端错误监控功能，避免了复杂…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html官网浏览入口_html网站设计免费平台 好文分享

    html官网浏览入口_html网站设计免费平台

    html官网浏览入口在https://www.codepen.io，该平台支持实时预览代码、创建Pen项目、Fork开源示例，可添加外部资源，具备点赞评论收藏等社区互动功能，设有挑战活动与作品集分类，开放API接口，界面简洁适合初学者，在线编写无需配置环境，支持多种预处理器和响应式测试。 html官…

    程序猿的头像 程序猿
    2025年12月23日
    000
  • html如何修改日期样式 好文分享

    html如何修改日期样式

    在html中，可以使用“::-webkit-datetime-edit”伪元素选择器来修改日期格式，只需要用该选择器选中元素，在设置具体样式即可，具体语法为“::-webkit-datetime-edit{属性:属性值}”。 本教程操作环境：windows7系统、CSS3&&HTML…

    程序猿的头像 程序猿
    2025年12月21日
    100
  • 单选框的type属性值为什么 好文分享

    单选框的type属性值为什么

    单选框的type属性值为“radio”。html type属性可以规定要显示的输入框“”元素的类型；值为“radio”时显示为单选框、“checkbox”时显示为复选框、“select”时显示为下拉式选框等等。 本教程操作环境：windows7系统、HTML5版、Dell G3电脑。 在HTML中，…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • HTML中type是什么意思 好文分享

    HTML中type是什么意思

    在HTML中，type是类型的意思，是一个标签属性，主要用于定义标签元素的类型或文档（脚本）的MIME类型；例在input标签中type属性可以规定input元素的类型，在script标签中type属性可以规定脚本的MIME类型。 本教程操作环境：windows7系统、html5版、Dell G3电…

    程序猿的头像 程序猿
    2025年12月21日
    000

  • HTML中ul标签如何去掉点？HTML无序列表的样式实例解析

    本篇文章主要讲述的是关于html中的ul标签的默认小点给取消掉，还有关于html的无序列表ul标签的样式解释，给出了ul标签中的type属性三种值的介绍。现在就让我们一起来看本篇文章吧 首先这篇文章一开始我们就开始介绍在html中是怎么把ul标签的点给去掉的： 大家应该都使用过ul无序列表标签，ul…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000

  • html中的ol标签如何去掉标号呢？标签的使用方法总结

    本篇文章介绍了html的ol标签是怎么去掉序号标号的，这里还有代码的详细解释，还有介绍了关于html ol有序列表标签如何更改序号，下文介绍了三种序号，大家也可以自己去想填写怎样的序号。现在来看这篇文章吧 一、我们先看看html中的ol标签是如何去掉标号的呢： 我们都知道html的ol标签是个有序列…

    程序猿的头像 程序猿
    2025年12月21日 • 好文分享
    000
  • HTML ul标签的什么意思？HTML ul标签的作用详解 好文分享

    HTML ul标签的什么意思？HTML ul标签的作用详解

    本篇文章主要的为大家讲解了关于html ul标签的三种重要的用法，还有关于html ul标签的解释，包含li标签的还有type属性对ul标签的使用情况，好了，下面大家一起来看文章吧 首先让我们先来解释一下HTML ul标签的意思： ul标签定义的是表格当中无序列表，表格当中的无序列表都是在 标签之中…

    程序猿的头像 程序猿
    2025年12月21日
    000

  • html的基础 理论

    本篇文章给大家分享的是关于html基础 理论知识，内容很不错，有感兴趣的朋友可以看一下 HTML 语义化 HTML标签的语义化是指：通过使用包含语义的标签（如h1-h6）恰当地表示文档结构 css命名的语义化是指：为html标签添加有意义的class 为什么需要语义化： 立即学习“前端免费学习笔记（…

    程序猿的头像 程序猿
    好文分享 2025年12月21日
    000
  • javascript的机器学习如何入门_有哪些可用的JavaScript库 好文分享

    javascript的机器学习如何入门_有哪些可用的JavaScript库

    JavaScript适合浏览器端轻量推理与教学，不宜训练大模型；推荐从线性回归、KNN等简单任务入手，优先掌握张量操作、模型流程及Chrome调试技巧。 JavaScript 做机器学习确实可行，但得明确一点：它不适合训练大型模型，更适合在浏览器端做轻量推理、数据预处理、教学演示或与 Web 应用集…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • javascript框架和库是什么_如何选择React、Vue或Angular？ 好文分享

    javascript框架和库是什么_如何选择React、Vue或Angular？

    JavaScript框架与库分别提供按需调用的功能集合和约束性开发结构；React是UI组件库，生态灵活但需自行整合工具；Vue渐进式易上手，兼顾原型与工程化；Angular是全功能TypeScript框架，适合强规范企业级项目。 JavaScript框架和库是封装好的代码集合，用来简化前端开发——…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • React应用生产环境环境变量配置深度指南 好文分享

    React应用生产环境环境变量配置深度指南

    本文针对react应用在生产环境中无法读取`.env`文件配置的环境变量问题，深入剖析其工作原理、常见原因及排查方法。通过详细的步骤和示例代码，指导开发者正确配置和使用环境变量，解决api调用层面的`null`响应问题，确保应用在生产环境下的稳定运行。 在React应用开发中，环境变量（如API密钥…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具 好文分享

    JS注解怎么实现文档化_ JS注解生成开发文档的流程与工具

    JSDoc是一种JavaScript结构化注释规范，通过@param、@returns等标签描述代码元素，并借助工具生成HTML文档，结合IDE支持和CI/CD可提升团队协作效率。 JavaScript本身不支持原生注解（Annotation）像Java那样的语法，但通过约定的注释格式和配套工具，可…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧 好文分享

    JS注解怎么标注联合类型_ JS联合类型的注解书写与使用技巧

    在JavaScript中可通过JSDoc使用联合类型注解，如string|number表示多类型支持，结合@param、@typedef等标签提升代码可读性与编辑器提示，适用于函数参数、返回值等场景。 在JavaScript中，虽然原生不支持类型注解，但在使用JSDoc配合现代编辑器（如VS Cod…

    程序猿的头像 程序猿
    2025年12月21日
    000
  • VS Code主题开发：告别JSON，拥抱脚本化生成 好文分享

    VS Code主题开发：告别JSON，拥抱脚本化生成

    vs code主题扩展最终需json格式定义，但开发者可通过javascript或typescript等脚本语言生成此json文件。这种方法有效解决了大型json文件难以维护、不支持注释等问题，并能实现颜色动态计算，显著提升主题开发的灵活性与效率。 为什么选择脚本化生成VS Code主题？ 在开发V…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 如何用Quasar框架开发一个跨平台应用？ 好文分享

    如何用Quasar框架开发一个跨平台应用？

    Quasar基于Vue.js用一套代码构建多平台应用，支持响应式网站、PWA、移动App和桌面应用。通过quasar create创建项目，利用模式（SPA、PWA、Electron等）切换目标平台，使用Quasar组件库编写通用UI，配合Pinia管理状态，最后通过不同构建命令发布到各平台，实现高…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 如何构建一个支持AI辅助代码生成的开发工具？ 好文分享

    如何构建一个支持AI辅助代码生成的开发工具？

    答案是构建AI辅助开发工具需聚焦开发者真实痛点，通过代码上下文感知引擎理解语义，结合本地与云端推理平衡速度与质量，强化安全隐私保护，并深度集成主流IDE实现反馈闭环，让AI成为响应快、理解准、可信赖的编程搭档。 构建一个支持AI辅助代码生成的开发工具，核心在于将AI能力无缝集成到开发者的工作流中，提…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • JavaScript中的Web Assembly（WASM）带来了哪些性能突破？ 好文分享

    JavaScript中的Web Assembly（WASM）带来了哪些性能突破？

    WASM通过接近原生的执行速度、更小的二进制体积和跨平台能力，显著提升Web性能；它与JavaScript互补，使浏览器能运行AutoCAD、Figma等重型应用，并支持4K视频处理、大模型训练等复杂任务，推动Web向桌面级体验演进。 WebAssembly（WASM）为JavaScript生态带来…

    程序猿的头像 程序猿
    2025年12月20日
    000
  • 怎么利用JavaScript进行前端代码覆盖率统计？ 好文分享

    怎么利用JavaScript进行前端代码覆盖率统计？

    答案：利用JavaScript进行前端代码覆盖率统计的核心是通过Istanbul/nyc等工具对代码插桩，结合测试框架收集执行数据并生成报告。具体流程包括：在代码执行前通过Babel或Webpack插件（如babel-plugin-istanbul）插入计数器实现插桩；运行测试时记录哪些代码被执行；…

    程序猿的头像 程序猿
    2025年12月20日
    100

发表回复

登录后才能评论
关注微信