工程

自己动手做过莫比乌斯带吗？ Waymark Waymark是一个视频制作工具，帮助企业快速轻松地制作高影响力的广告。 79 查看详情 莫比乌斯带是一种奇特的数学结构。要构造一个这样美丽的单面曲面其实非常简单，即使是小孩子也可以轻松完成。你只需要取一张纸带，扭曲一次，然后将两端粘在一起。然而，这样容易…

腾讯的研究团队进行了一项关于agent的可拓展性的研究。他们发现，通过简单的采样投票，大型语言模型（llm）的性能随着实例化agent数量的增加而增强。这项研究首次在各种场景中验证了这一现象的普遍性，并与其他复杂方法进行了对比，探讨了这一现象背后的原因，并提出了进一步发挥scaling效应的方法。 …

大型语言模型 (llm) 被广泛应用于需要多个链式生成调用、高级提示技术、控制流以及与外部环境交互的复杂任务。尽管如此，目前用于编程和执行这些应用程序的高效系统却存在明显的不足之处。 研究人员最近提出了一种新的结构化生成语言（Structured Generation Language），称为SGL…

9 月 12 日，淘天集团联合爱橙科技正式对外开源大模型训练框架 ——megatron-llama，旨在让技术开发者们能够更方便的提升大语言模型训练性能，降低训练成本，并且保持和 llama 社区的兼容性。测试显示，在 32 卡训练上，相比 huggingface 上直接获得的代码版本，megatr…

自动摘要技术近年来取得了显著的进步，这主要得益于范式的转变。过去，该技术主要依赖于在标注数据集上进行有监督微调，但现在则采用了大语言模型（llm）进行零样本 prompt，例如gpt-4。通过细致的 prompt 设置，不需要额外的训练，就能实现对摘要长度、主题、风格等方面特征的精细控制 但一个方面…

近期，复旦大学自然语言处理团队（FudanNLP）推出 LLM-based Agents 综述论文，全文长达 86 页，共有 600 余篇参考文献！作者们从 AI Agent 的历史出发，全面梳理了基于大型语言模型的智能代理现状，包括：LLM-based Agent 的背景、构成、应用场景、以及备受…

通过对 gpt-3.5 和 llama 2 在不同任务上的参数对比，我们可以得知在什么情况下选择 gpt-3.5，什么情况下选择 llama 2 或其他模型。 显然，对 GPT-3.5 进行的扭矩是非常昂贵的。本文通过实验来验证手动扭矩模型是否可以接近 GPT-3.5 的性能，而只是成本 GPT-3…

作者 | heather joslyn 请将以下内容重新编写为中文：星璇 对于许多采用DevOps的公司来说，通过提高开发人员生产力来扩展规模和创造价值是一个巨大的挑战。在本文中，我们讨论了平台工程中最新的人工智能驱动方法。 1、AI驱动的DevOps平台 Digital.ai是一家行业领先的由AI…

本文对按比例扩大的 nfnets 进行了评估，并挑战了 convnets 在大规模问题上表现不如 vits 的观点 深度学习的早期成功可归功于卷积神经网络（ConvNets）的发展。近十年来，ConvNets 主导了计算机视觉基准测试。然而近年来，它们越来越多地被 ViTs（Vision Trans…

powerinfer 提高了在消费级硬件上运行 ai 的效率 上海交大团队最新推出了超强 CPU/GPU LLM 高速推理引擎 PowerInfer。                                   PowerInfer 和 llama.cpp 都在相同的硬件上运行，并充分利用了…