芯片巨头,争霸NPU
公众号记得加星标,第一时间看推送不会错过。
如今,人工智能已赋能从搜索工具到视频通话等各种功能,但一些笔记本电脑仍然难以流畅运行这些功能。这是因为某些 CPU 并非专为高效处理实时 AI 任务而设计。首次购买电脑时,您可能会关注 CPU 和 RAM 的规格,而不会关注它是否配备 NPU。这种情况正在开始改变。
NPU,即神经处理单元,旨在处理诸如背景虚化、实时字幕和语音隔离等 AI 功能,而不会造成 CPU 过载。这不仅能延长电池续航时间,提升运行流畅度,还能让应用程序即使在后台运行更长时间也能保持快速运行。这些听起来很棒,但它真的能帮助日常使用吗?你会立即感受到它带来的改变,尤其是在运行 AI 功能时。
使用AI确实很有趣,但它最大的缺点是需要额外的电量。随着电脑处理的任务越来越多,你会发现自己需要更频繁地充电。
这就像在你的日常生活中增加了一些琐事。每件事看起来都很小,但积少成多,会让你的系统更加耗电。Enovix的一项研究甚至发现,一个 AI 模型创建一幅图像所消耗的能量相当于给你的手机充满电。如果你的笔记本电脑没有 NPU,GPU 和 CPU 就必须更加努力地工作。
NPU 接管了通常由 CPU 处理的 AI 任务。NPU 以更低的功耗执行相同的任务,从而延长电池续航时间,让您的笔记本电脑无需充电即可运行。
在你听说过NPU之前,诸如背景虚化或实时字幕之类的AI功能通常由CPU或GPU驱动。这意味着其他应用程序的运行速度会变慢,尤其是在你同时打开多个应用程序进行多任务处理的情况下。现在,NPU可以处理这些AI任务,让你的系统运行速度更快。NPU可以处理矩阵乘法;这是AI经常使用的重复性数学运算,但GPU和CPU的设计初衷并非如此。
您可以编辑 Google 文档文件,打开多个 Chrome 标签页浏览网页,或在应用之间切换。即使后台运行 AI 特效,系统也不会感觉迟缓。
一旦使用搭载 NPU 的笔记本电脑,您就能感受到速度的显著提升。应用程序打开速度更快,运行更流畅,并且在使用 AI 相关程序时不会卡顿。
在 Copilot+ PC 上,NPU 提供了旧款笔记本电脑无法处理的功能。Recall 是其中一项引人注目且颇具争议的功能。它会构建一个可搜索的时间线,记录您在 PC 上看到或做过的所有事情。您可以搜索“上次 Team 通话中穿红衬衫的人”或“我在好莱坞星光大道上的照片”,Recall 无需知道您的保存位置就能找到。
Paint 中的 Cocreator 功能可让您勾勒出大致的形状,描述您的需求,并将其转换为图像。它会随着您的操作做出反应,即使您不擅长绘画,它也能为您提供帮助。
NPU 还支持 Windows Studio 特效,包括眼神接触校正、人像光效以及使视频更具动感的滤镜。这些功能可立即应用,且不会降低系统其他部分的速度。即使没有互联网连接,实时字幕现在也可以翻译,因为所有功能都在设备上运行。
当您的 PC 配备设备内置 NPU 时,Recall、Live Captions 和 Cocreator 等 AI 功能将不再依赖云端。所有功能都直接在您的笔记本电脑上运行,利用其硬件处理文本、语音和图像。这意味着您在使用这些工具时,无需离开设备。即使是搜索上周屏幕上的内容或调整视频通话背景,也只需在设备上操作即可。
以 Recall 为例,微软声称它会将您的活动快照保存到与您的 Windows 帐户绑定的私人加密文件夹中。您可以限制其记录的内容、暂停记录或阻止某些应用程序被添加。这些快照不会被上传或共享。您仍然可以使用相同的功能,但所有内容都保留在您的账户中。
据微软称,没有任何信息会被发送到云端或雷德蒙德公司。据说快照是加密的,与你的帐户绑定,只有在 Windows Hello 确认是你之后你才能看到它们。
片上 NPU 或许不太引人注目,但它却悄无声息地提升了笔记本电脑的运行体验。应用程序响应迅速,AI 功能流畅,电池在压力下也能保持更佳的续航能力。如果您使用电脑进行工作、视频通话或创意创作,那么拥有 NPU 后,您会更加珍惜它,并意识到它的存在。
芯片巨头的混战
虽然 GPU 长期以来一直是各种高要求工作负载的默认加速器,但 NPU 的推出已经撼动了处理层次结构,使 PC 能够快速运行 AI 和机器学习工作负载,而不需要像 GPU 那样耗费那么多能量。
到目前为止,NPU 在 PC 中最流行的实现是将处理器与 CPU 和 GPU 集成在片上系统上,例如英特尔酷睿 Ultra 200 系列、AMD Ryzen AI 300 系列和骁龙 X 系列芯片。
然而,也有一些 PC 使用独立于 CPU 或片上系统的独立 NPU 组件的情况。例如,在英特尔在其 Core Ultra 100 系列中引入 NPU 之前,微软于 2023 年发布了一款 Surface Laptop,它使用了独立的英特尔 Movidius 视觉处理单元。
然后是最近发布的戴尔 Pro Max Plus 笔记本电脑,它使用了高通 AI 100 PC 推理卡,戴尔称该设备是“世界上第一款配备企业级独立 NPU 的工作站”。据戴尔称,该推理卡包含两个 Cloud AI 100 数据中心处理器以及 64 GB 的 LPDDR4x 内存,使其能够在高达 75 瓦的散热范围内以每秒 450 万亿次运算 的 8 位整数性能运行。
此外,还有一些不太知名的公司,例如 Encharge AI,正在努力引入独立的 NPU。这家总部位于加州圣克拉拉的初创公司早在 5 月份就宣布推出一款 200TOPS 的 NPU,其功耗低至 8.25 瓦,适用于 M.2 尺寸的笔记本电脑;此外,该公司还发布了一款四 NPU PCIe 卡,可提供约 1,000TOPS 的计算能力,从而提供所谓的“以极低的成本和功耗实现 GPU 级计算能力”。
日前,AMD 的一位高级 PC 高管更是透露,公司正在探索独立神经处理单元的潜力,该单元可以作为 PC 中独立 GPU 的替代品。
AMD 客户端 CPU 业务负责人 Rahul Tikoo 在上个月 AMD Advancing AI 活动前举行的一次简报会上回答 CRN 提问时证实,这家总部位于加州圣克拉拉的公司正在“与客户讨论”专用加速器芯片的“用例”和“潜在机会”,该芯片不是 GPU,但可能是神经处理单元 。
Tikoo 发表上述言论之际,联想、戴尔科技和惠普等 OEM 厂商正开始探索使用独立 NPU 和其他类型的专用加速器芯片,作为 PC 中 AI 工作负载 GPU 的替代品。例如,戴尔上个月宣布,将在新款 Dell Pro Max Plus 笔记本电脑中使用基于 NPU 的 Qualcomm AI 100 PC 推理卡。
“这是一组非常新的用例,因此我们正在密切关注这个领域,但如果你想进入这个领域,我们确实有解决方案——我们能够做到,”Tikoo 表示,他在戴尔担任了 12 年的领导职务后,于去年重返 AMD 担任客户业务部门高级副总裁兼总经理。
至于 AMD 何时推出这样的产品,Tikoo表示他不能“谈论未来的路线图”,并补充说“处于(保密协议)之下”。
“但如果你看看我们的技术和解决方案的广度,不难想象我们很快就能实现这一目标,”他说。
AMD 系统集成合作伙伴 Sterling Computers 的首席技术官上周告诉 CRN,他认为 AMD 利用从 Xilinx 收购的AI 引擎技术作为 Ryzen 处理器中 NPU 组件的基础的方式“为公司未来推出具有更快 NPU 性能的分立产品开辟了广阔的道路”。
该公司首席技术官克里斯托弗·赛尔 表示:“如果这个特定的 NPU 模块每秒可执行 50 TOPS(万亿次运算),那么加上两个,就能达到 100 TOPS。”他的公司位于南达科他州北苏城,在 CRN 的 2025 年解决方案提供商 500 强榜单中排名第 54 位。
不过,他补充道,独立的 NPU 解决方案“必须比独立的 GPU 消耗更少的能源”。
Cyr 表示,AMD 在其处理器上支持 AI 软件的努力给他留下了深刻的印象。他以 AMD 的开源项目 Gaia 为例,该项目旨在在基于 Ryzen 的 Windows PC 上良好运行本地大型语言模型。
他说:“他们在利用整个生态系统方面取得了很大进展。”
今天是《半导体行业观察》为您分享的第4121期内容,欢迎关注。
加星标第一时间看推送,小号防走丢
求推荐
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。