☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
2025年6月9日，中国上海——芯原股份（芯原，股票代码：688521.SH）今日宣布其高性能且超低功耗的神经网络处理器（NPU）IP现已可在移动设备上实现大语言模型（LLM）推理，AI算力可扩展至超过40 TOPS。该NPU架构具有高能效比，专为满足移动平台不断增长的生成式AI需求而打造，不仅能为AI PC等终端设备提供强大算力支撑，同时也能应对智能手机等移动设备对低功耗提出的更高要求。
芯原的这款超低功耗NPU IP采用高度可配置和可扩展的设计，支持混合精度运算、稀疏优化以及并行处理能力。其架构融合了高效的内存管理机制与稀疏感知加速技术，显著减少计算负载和延迟，保障AI任务运行流畅、响应快速。该NPU可支持数百种AI算法，包括AI降噪（AI-NR）、AI超分辨率（AI-SR）等，并兼容Stable Diffusion和LLaMA-7B等主流AI模型。此外，该NPU IP还可与芯原其他处理器IP无缝结合，实现异构计算，帮助SoC设计者开发适用于多种场景的AI解决方案。
同时，芯原的NPU IP也全面兼容TensorFlow Lite、ONNX和PyTorch等主流AI框架，有助于客户加快在各类AI应用场景中的部署进度，并简化集成流程。
“随着生成式AI（AIGC）和多模态大语言模型的快速发展，智能手机等移动设备正逐步成为用户的个人AI中心，市场对AI算力的需求呈现爆发式增长，并已成为移动产品的重要差异化指标。”芯原首席战略官、执行副总裁兼IP事业部总经理戴伟进表示，“在应对高强度AI计算的过程中，如何有效控制功耗是最大挑战之一。芯原持续投入面向智能手机和AI PC的超低功耗NPU研发，并通过与主流SoC厂商的深度合作，成功推动该技术在新一代智能终端中实现量产落地。”
以上就是芯原超低能耗NPU可为移动端大语言模型推理提供超40 TOPS算力的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/119032.html
微信扫一扫 
支付宝扫一扫 
