NPU(神经网络处理器)
Neural Processing Unit
专为AI运算设计的芯片——「AI手机」「AI PC」营销话术背后的真正实体。
简单来说
Neural Processing Unit——一种只为神经网络运算而设计的专用芯片。与什么都能干的CPU、擅长并行计算的GPU不同,NPU专门针对AI推理做了优化,功耗低、速度快。
它的特点是被装进手机和笔记本电脑里。「AI手机」「AI PC」这类营销话术,说白了指的就是搭载了NPU——翻译、照片美化、摘要等不需要联网就能完成的端侧AI(on-device AI),靠的正是这块芯片。所以新款手机发布文章里提到「NPU性能提升了几倍」,意思其实是「设备本地能跑的AI能力变强了这么多」。
GPU、NPU、TPU,到底有什么不同
是不是设备里的低功耗专用芯片, 是不是通用计算芯片, 是不是谷歌自用而造的芯片
AI芯片报道里这三个常常出现在同一段话中,让人分不清谁和谁在竞争。其实三者并不在同一个战场上——一个是数据中心里的主力,一个装在你的手机和笔记本电脑里,还有一个是谷歌为运行自家服务而打造的。
| 对比项 | NPU(神经网络处理器) | GPU | Tensor Processing Unit (TPU) |
|---|---|---|---|
| 在哪里 | 你的手机、笔记本电脑里 | 数据中心,云服务器 | 谷歌数据中心 |
| 谁在制造 | 苹果、高通、英特尔等设备厂商 | NVIDIA、AMD | 谷歌(与博通合作生产) |
| 谁在用 | 使用设备的人,大多并不知情 | 几乎所有开发和销售模型的公司 | 谷歌及谷歌云客户 |
| 擅长什么 | 省电运行小型模型 | 最繁重的训练与大规模服务 | 低成本进行大规模训练与服务 |
| 新闻中的样子 | 「AI手机」「AI PC」背后的真面目 | 「GPU争夺战」「NVIDIA财报」 | 「对抗NVIDIA的垄断」 |
| 能买到吗 | 买设备时已经内置其中 | 能买,但供不应求 | 买不到,只能通过谷歌云租用 |
判断方法在数据中心里训练模型的是GPU,在自己设备里运行的是NPU,支撑谷歌服务的是TPU。
相关词条
出现过这个词的报道
目前还没有报道用到这个词。有新报道时会自动出现在这里。