DSPY：将提示工程转变为提示编程的革命性框架
大型语言模型 (llm) 时代，新模型层出不穷。然而，充分发挥 llm 的潜力往往依赖于繁琐易错的提示工程。dspy 应运而生，它是一个开源框架，彻底改变了我们与 llm 交互的方式。dspy 将提示视为可训练、模块化的组件，而非静态文本，并通过编程方式进行优化。
为什么选择 DSPY？
传统的提示工程依赖于脆弱的手工编写的指令。例如，要求 LLM “写一首关于 DSPY 的诗” 可能会得到不一致的结果。开发者不得不反复调整提示，但这方法效率低下，存在以下问题：
难以扩展到多步推理等复杂任务。跨模型或领域的泛化能力差。需要大量手动尝试，浪费时间和资源。
DSPY 提供了解决方案：它将提示定义为类似代码的模块，并自动优化以获得最佳性能。它将 LLM 视为管道中的组件，使用远程编译器（优化器）迭代优化提示和权重。其核心理念包括：
代码优先的提示: 开发者专注于模型应该做什么，而非如何去做。自我改进: DSPY 程序从数据中学习，优化自身的提示和逻辑。模型无关: 可与任何 LLM 配合使用，例如 GPT-4、Llama 3 和 Claude 等。
DSPY 的核心组成部分：
模块: 可重复使用的、特定于任务的构建块，例如 dspy.predict（用于生成文本）、dspy.Chainofthought（用于逐步推理）和 dspy.retrieve（用于整合检索结果）。 一个简单的模块定义如下：
# 模块定义示例
签名: 类似于合约，用于提示优化。它指定了任务中 LLM 的预期行为。例如，主题 -> 诗歌。
远程编译器（优化器）: 自动化提示优化的工具，例如 BootstrapFewShot、BayesianOptimizer 和 MIPRO（多目标指令提案优化器）。
指标: 指导优化的指标（例如，准确性、BLEU 分数）。DSPY 通过调整提示和示例来最大化这些指标。
DSPY 的工作流程：
定义程序: 将模块组装成管道。初始化: 设置初始提示和模型权重。优化: 迭代测试并调整提示。
评估: 使用指标评估新提示的性能。部署: 部署性能最佳的提示进行推理。
DSPY 与传统方法的对比：
(传统方法) vs. 
(DSPY 方法)
DSPY 的应用案例：
检索增强型生成 (RAG): DSPY 共同优化检索和生成提示，解决静态 RAG 管道经常检索到无关信息的问题。 
微调协调: 使用 DSPY 生成微调样本，简化微调过程。 
DSPY 架构：
程序层: 用户定义的管道。优化层: 远程编译器和指标。模型层: 集成 LLM、向量数据库和外部工具。
结论：
DSPY 将范式从 提示工程 转变为 提示编程，将 提示 转化为构建强大、自我改进的 LLM 应用程序的工具。通过将提示转换为可训练模块并自动化优化，DSPY 帮助我们大规模高效地使用开源 LLM。 无论是构建 RAG 系统、多模态代理还是自适应管道，DSPY 都是关键。
请访问 DSPY 官方文档了解更多信息。
以上就是开源LLMS应该得到代码，而不是提示！ （DSPY，瞧！）的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1355859.html
微信扫一扫 
支付宝扫一扫 
