AI 生成优化 Metal 内核,PyTorch 推理速度提升 87%

ai 生成优化 metal 内核,pytorch 推理速度提升 87%

根据 Gimlet Labs 的最新研究成果,AI 已能够自动生成高度优化的 Metal 内核,使 PyTorch 的推理速度提升了87%。这项技术突破不仅显著增强了性能表现,还在测试涵盖的215个 PyTorch 模块上实现了平均1.87倍的加速效果,部分特定工作负载甚至达到了数百倍的速度提升。

研究团队选用了来自 Anthropic、DeepSeek 和 OpenAI 等领先人工智能机构的八个先进模型,利用它们为苹果设备定制高效的 GPU 内核代码。整个过程无需更改用户原有代码,也不依赖新框架的引入,即可在苹果硬件平台上直接实现性能飞跃。

实验平台采用搭载 Apple M4 Max 芯片的 Mac Studio,以 PyTorch 的 eager 模式作为性能基准。测试使用的 KernelBench 数据集包含215个典型 PyTorch 模块,覆盖从基础的矩阵乘法运算到完整神经网络架构等多种场景。

测试流程包括接收输入参数和原始 PyTorch 代码、自动生成对应的 Metal 内核,并验证其功能正确性。数据表明,随着生成尝试次数增加,AI 输出内核的准确性持续提升。例如,在第五次尝试时,正确实现的比例已达到94%。值得注意的是,尽管部分非专为推理设计的模型也具备生成有效内核的能力,显示出跨任务适应的潜力。

百度妙笔 百度妙笔

百度旗下AI创意生成平台

百度妙笔 443 查看详情 百度妙笔

实验结果显示,GPT-5 在某些模块中实现了高达4.65倍的性能提升。更引人注目的是,o3 模型在个别任务中将延迟降低了惊人的9000倍。研究还发现,并非单一模型在所有任务中都表现最优,结合多个模型的优势可进一步提升内核质量与执行效率。

为进一步增强生成效果,研究人员引入了额外上下文信息,如 CUDA 实现代码和 gputrace 提供的性能追踪数据。该策略使平均加速比提升至1.87倍,相较仅使用基础智能体的1.31倍,性能增益提升了约三成。

研究团队特别指出,本项目的核心目标并非追求极致性能上限,而是验证 AI 在自动内核生成方面的可行性,旨在通过智能化手段减轻开发者的底层优化负担。总体来看,这一成果标志着人工智能在硬件级系统优化方向迈出的关键一步。

以上就是AI 生成优化 Metal 内核,PyTorch 推理速度提升 87%的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/358681.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
苹果手机怎么在通知栏显示流量_苹果手机查看本月已用流量数据的具体操作步骤
上一篇 2026年11月14日 10:14:59
OKX虚拟币交易平台官网入口一览(附APP下载地址)
下一篇 2025年12月9日 00:38:53

相关推荐

  • 抖音网页版官网首页登录入口 抖音网页版官方入口登录

    抖音网页版官网首页登录入口 抖音网页版官方入口登录抖音网页版官网首页登录入口 抖音网页版官方入口登录抖音网页版官网首页登录入口 抖音网页版官方入口登录抖音网页版官网首页登录入口 抖音网页版官方入口登录

    抖音网页版官网首页登录入口在哪里?这是不少网友都关注的,接下来由php小编为大家带来抖音网页版官方入口登录,感兴趣的网友一起随小编来瞧瞧吧! https://www.douyin.com/ 快速访问与登录方式 1、直接在浏览器地址栏输入抖音网页版官方网址,即可进入首页界面。 2、点击页面右上角的“登…

    2026年11月14日 • 用户投稿
    300
  • mac安装mysql图形化工具?

    mac安装mysql图形化工具?mac安装mysql图形化工具?mac安装mysql图形化工具?mac安装mysql图形化工具?

    mac安装mysql图形化工具的方法:首先下载mysql图形化工具Navicat Premiun的安装文件;然后点击下载后的dmg文件,拖到application文件夹进行安装,根据安装指导界面的指示一步步操作即可。 Mac下载安装mysql及图形化工具Navicat Premium 一、下载安装m…

    2026年11月14日 • 用户投稿
    100
  • 这款插件让你在开源图像编辑器 GIMP 中体验谷歌 Nano Banana

    这款插件让你在开源图像编辑器 GIMP 中体验谷歌 Nano Banana这款插件让你在开源图像编辑器 GIMP 中体验谷歌 Nano Banana这款插件让你在开源图像编辑器 GIMP 中体验谷歌 Nano Banana这款插件让你在开源图像编辑器 GIMP 中体验谷歌 Nano Banana

    近日,开发者 Josh Ellithorpe 推出了一款名为 Dream Prompter 的开源插件,成功将谷歌最新发布的 Gemini 2.5 Flash Image Preview 模型(内部代号“Nano Banana”)整合进图像编辑软件 GIMP。 该插件允许用户直接在 GIMP 界面中…

    2026年11月14日 • 用户投稿
    100
  • 囧次元官网漫画入口_囧次元网页版在线免费看

    囧次元官网漫画入口_囧次元网页版在线免费看囧次元官网漫画入口_囧次元网页版在线免费看囧次元官网漫画入口_囧次元网页版在线免费看囧次元官网漫画入口_囧次元网页版在线免费看

    囧次元官网漫画入口为jcyapp.cn,该平台汇集海量国内外动漫资源,支持免费在线观看、高清流畅播放、离线缓存及投屏功能,并提供个性化推荐与弹幕互动体验。 观看地址一、“☞☞☞☞☞点击囧次元官网漫画入口☜☜☜☜☜”; 观看地址二、“☞☞☞☞☞点击囧次元网页版在线免费看网址☜☜☜☜☜”; 囧次元官网漫…

    2026年11月14日 • 用户投稿
    000
  • Debian LAMP中PHP如何进行性能调优

    在Debian LAMP架构下对PHP进行性能优化,需要从多个方面着手调整,以下是一些核心的优化方法: 系统与软件更新 保持系统和软件版本最新:“`sudo apt updatesudo apt upgrade 卸载无用的软件包:“`sudo apt-get purge pa…

    2026年11月14日
    000
  • 网易大神怎么看哈利波特魔法觉醒卡组_网易大神卡组查看方法

    网易大神怎么看哈利波特魔法觉醒卡组_网易大神卡组查看方法网易大神怎么看哈利波特魔法觉醒卡组_网易大神卡组查看方法网易大神怎么看哈利波特魔法觉醒卡组_网易大神卡组查看方法网易大神怎么看哈利波特魔法觉醒卡组_网易大神卡组查看方法

    答案:进入网易大神App的《哈利波特:魔法觉醒》游戏圈,通过浏览推荐攻略帖、使用搜索功能查找关键词如“卡组”或具体名称,以及关注投稿达人获取最新高胜率卡组信息。 如果您想在网易大神App中查看《哈利波特:魔法觉醒》的热门或高胜率卡组,但不知道如何操作,可以通过以下步骤快速找到攻略内容。这些方法能帮助…

    2026年11月14日 • 用户投稿
    200
  • 如何配置VSCode的代码格式化规则 统一团队代码风格技巧

    如何配置VSCode的代码格式化规则 统一团队代码风格技巧如何配置VSCode的代码格式化规则 统一团队代码风格技巧如何配置VSCode的代码格式化规则 统一团队代码风格技巧如何配置VSCode的代码格式化规则 统一团队代码风格技巧

    配置 vscode 代码格式化规则可通过三步统一团队代码风格:1. 安装专用格式化插件并设为默认,如 prettier、eslint、black 等;2. 配置 .editorconfig 和对应工具的配置文件确保一致性;3. 开启保存自动格式化,并在团队协作中集成 git 提交前格式化与 ci/c…

    2026年11月14日 • 用户投稿
    700
  • Terminal Escape Injection

    Terminal Escape InjectionTerminal Escape InjectionTerminal Escape InjectionTerminal Escape Injection

    0x00简介: 作为程序猿与网络攻城狮,我们几乎每天都要处理各种脚本,PoC代码,漏洞利用EXP等,但是你们可知里面代码的详细。再没有认真审核代码的情况下去执行的话,有可能一不小心就成了别人的肉鸡. (滴滴滴,有主机上线请注意!) 自计算机诞生以来,终端就一直伴随着我们.有许多不同的终端模拟器.并且…

    2026年11月14日 • 用户投稿
    000
  • docker在centos中如何更新

    centos系统docker更新指南:三种方法助您轻松升级 本文将介绍三种在CentOS系统中更新Docker的方法,帮助您保持Docker环境的最新状态。 在开始更新前,建议备份重要的容器和镜像,以防意外发生。 如果您使用Docker Compose,请确保也更新相关的Compose文件和版本。 …

    2026年11月14日
    000
  • Maven打包WAR文件时如何去除META-INF/maven目录?

    Maven打包WAR文件时如何去除META-INF/maven目录?Maven打包WAR文件时如何去除META-INF/maven目录?Maven打包WAR文件时如何去除META-INF/maven目录?Maven打包WAR文件时如何去除META-INF/maven目录?

    Maven打包WAR文件时,META-INF目录下的Maven相关文件常常导致部署问题。本文将指导您如何配置Maven插件,有效移除这些文件,精简WAR包大小,避免潜在冲突。 许多开发者在使用Maven打包WAR时,都希望去除META-INF/maven目录。尽管尝试过多种方法,例如调整资源过滤配置…

    2026年11月14日 • 用户投稿
    200
  • 苹果电脑屏幕冻结如何处理?强制重启与检查系统资源

    苹果电脑屏幕冻结如何处理?强制重启与检查系统资源苹果电脑屏幕冻结如何处理?强制重启与检查系统资源苹果电脑屏幕冻结如何处理?强制重启与检查系统资源苹果电脑屏幕冻结如何处理?强制重启与检查系统资源

    首先尝试强制退出无响应应用或重启设备,再通过活动监视器检查资源占用,并可进入安全模式排查软件冲突,解决因服务器IP无法解析导致的网站访问问题。 如果您尝试访问某个网站,但服务器无法访问,则可能是由于服务器 IP 地址无法解析。以下是解决此问题的步骤: 本文运行环境:MacBook Pro,macOS…

    2026年11月14日 • 用户投稿
    100
  • 如何让通栏Banner图片保持比例完整显示而不变形?

    如何让通栏Banner图片保持比例完整显示而不变形?如何让通栏Banner图片保持比例完整显示而不变形?如何让通栏Banner图片保持比例完整显示而不变形?如何让通栏Banner图片保持比例完整显示而不变形?

    保持通栏Banner图片比例完整显示的技巧 网页设计中,如何完整显示16:3比例的通栏banner图片,避免裁剪或留白,是一个常见挑战。本文将介绍两种有效方法。 首先,让我们看看object-fit: contain;和object-fit: cover;的效果。object-fit: contai…

    2026年11月14日 • 用户投稿
    000
  • CentOS下HDFS如何优化性能

    在centos下优化hdfs性能可以从多个方面入手,以下是一些关键的优化技巧和方法: 硬件优化 使用高速磁盘:例如SSD,以提高I/O性能。增加内存:用于缓存数据和元数据。使用高速网络设备:例如10Gbps或更高,以提高网络传输速度。 配置参数优化 调整块大小:根据工作负载调整块大小,较大的块可以提…

    2026年11月14日
    000
  • Request包装如何默默防御XSS攻击?

    Request包装如何默默防御XSS攻击?Request包装如何默默防御XSS攻击?Request包装如何默默防御XSS攻击?Request包装如何默默防御XSS攻击?

    Request包装:巧妙抵御XSS攻击 Web安全至关重要,而XSS(跨站脚本攻击)是常见的安全隐患。本文深入探讨利用Request包装实现XSS防护的机制,并解答一个关键问题:为什么简单的Request包装就能有效防御XSS? 场景:开发者使用自定义的XssHttpServletRequestWr…

    2026年11月14日 • 用户投稿
    000
  • “Nano Banana”上线不到 10 天,为谷歌 Gemini 吸引超过 1000 万名新用户

    “Nano Banana”上线不到 10 天,为谷歌 Gemini 吸引超过 1000 万名新用户“Nano Banana”上线不到 10 天,为谷歌 Gemini 吸引超过 1000 万名新用户“Nano Banana”上线不到 10 天,为谷歌 Gemini 吸引超过 1000 万名新用户“Nano Banana”上线不到 10 天,为谷歌 Gemini 吸引超过 1000 万名新用户

    谷歌最新推出的 AI 实验项目“Nano Banana”上周迅速走红。谷歌实验室副总裁 Josh Woodward 在 X 平台透露,该功能上线后,已累计完成超过 2 亿次图像编辑操作,成功吸引超过 1000 万新用户首次使用 Gemini 应用。 谈及这一现象级热度,他幽默表示:“TPU 几乎被压…

    2026年11月14日 • 用户投稿
    000
  • Java中跨类访问对象属性:泛型列表的正确使用姿势

    当在Java中跨类传递包含自定义对象的ArrayList时,若不正确指定泛型类型,可能导致类型信息丢失,从而无法直接访问对象的特定属性和方法。本文将详细讲解如何通过使用泛型列表(如ArrayList)来确保类型安全,实现在不同类中对列表内对象属性的无缝访问,并避免潜在的运行时错误,提升代码的健壮性和…

    2026年11月14日
    000
  • SQL Server在CentOS上的性能调优技巧有哪些

    sql server 是由 microsoft 开发的一款关系型数据库管理系统,而 centos 系统通常支持的是 mysql 或 postgresql 这类数据库。以下是在 mysql 或 postgresql 中提升性能的一些方法: 硬件层面的优化 升级硬件设施:例如将传统的机械硬盘替换为固态硬…

    2026年11月14日
    100
  • 快手官方网页版入口 快手无需下载直接打开

    快手官方网页版入口 快手无需下载直接打开快手官方网页版入口 快手无需下载直接打开快手官方网页版入口 快手无需下载直接打开快手官方网页版入口 快手无需下载直接打开

    快手官方网页版入口为https://www.kuaishou.com/,用户可通过浏览器直接访问,无需下载APP即可登录账号,浏览推荐内容、上下滑动观看视频、互动点赞评论,并支持创作者上传视频、管理内容及定时发布。 快手官方网页版入口在哪里?这是许多用户关心的问题,接下来由PHP小编为大家带来快手网…

    2026年11月14日 • 用户投稿
    100
  • 手机远程看家,摄像头却离线了?可能是这些原因

    手机远程看家,摄像头却离线了?可能是这些原因手机远程看家,摄像头却离线了?可能是这些原因手机远程看家,摄像头却离线了?可能是这些原因手机远程看家,摄像头却离线了?可能是这些原因

    首先检查网络连接,确保手机与摄像头连同一Wi-Fi且信号良好,重启路由器可解决多数问题;其次确认摄像头电源正常,避免因电源线松动或适配器损坏导致断电;再检查设备本身,尝试重启或恢复出厂设置以排除故障;接着更新摄像头APP及固件至最新版本,避免兼容性问题;为预防频繁离线,应保障网络稳定、定期维护设备、…

    2026年11月14日 • 用户投稿
    000
  • 接口failed to fetch是什么场景?第二种异常情况的前端表现及模拟方法是什么?

    接口failed to fetch是什么场景?第二种异常情况的前端表现及模拟方法是什么?接口failed to fetch是什么场景?第二种异常情况的前端表现及模拟方法是什么?接口failed to fetch是什么场景?第二种异常情况的前端表现及模拟方法是什么?接口failed to fetch是什么场景?第二种异常情况的前端表现及模拟方法是什么?

    深入解析接口请求失败:failed to fetch 的两种场景及应对策略 网络编程中,接口请求失败是常见问题。本文将聚焦“failed to fetch”异常,深入探讨其两种不同场景下的前端表现,并提供模拟方法及解决方案。 问题概述 截图显示两种接口请求失败情况。第一种,前端能接收到接口响应,并通…

    2026年11月14日 • 用户投稿
    100

发表回复

登录后才能评论
关注微信