GPU
用来打造和运行AI的芯片,也是NVIDIA成为全球市值最高公司的原因。
简单来说
GPU最初是为了绘制游戏画面而设计的芯片。图形处理的本质就是「同时进行数百万次简单运算」,而AI训练恰好是同一类工作。于是,一款为游戏而生的芯片,变成了AI时代的核心资源。
如果说CPU是「一位教授逐个攻克难题」,那么GPU就是「数千名学生同时解决简单问题」。在AI训练中,后者拥有压倒性优势。
几乎垄断这个市场的公司就是NVIDIA。这也是AI热潮之后NVIDIA成为全球市值最高公司的原因,也是「抢购GPU」「几万块H100」「出口管制」等新闻层出不穷的原因。在AI相关新闻里,GPU基本可以理解为「打造AI的能力」的单位。
在报道中是这样出现的
「某公司启动10万块GPU规模的数据中心建设」——这通常被解读为该公司宣布将具备自主训练大型模型的实力。
GPU、NPU、TPU,到底有什么不同
是不是通用计算芯片, 是不是设备里的低功耗专用芯片, 是不是谷歌自用而造的芯片
AI芯片报道里这三个常常出现在同一段话中,让人分不清谁和谁在竞争。其实三者并不在同一个战场上——一个是数据中心里的主力,一个装在你的手机和笔记本电脑里,还有一个是谷歌为运行自家服务而打造的。
| 对比项 | GPU | NPU（神经网络处理器） | Tensor Processing Unit (TPU) |
|---|---|---|---|
| 在哪里 | 数据中心,云服务器 | 你的手机、笔记本电脑里 | 谷歌数据中心 |
| 谁在制造 | NVIDIA、AMD | 苹果、高通、英特尔等设备厂商 | 谷歌(与博通合作生产) |
| 谁在用 | 几乎所有开发和销售模型的公司 | 使用设备的人,大多并不知情 | 谷歌及谷歌云客户 |
| 擅长什么 | 最繁重的训练与大规模服务 | 省电运行小型模型 | 低成本进行大规模训练与服务 |
| 新闻中的样子 | 「GPU争夺战」「NVIDIA财报」 | 「AI手机」「AI PC」背后的真面目 | 「对抗NVIDIA的垄断」 |
| 能买到吗 | 能买,但供不应求 | 买设备时已经内置其中 | 买不到,只能通过谷歌云租用 |
判断方法在数据中心里训练模型的是GPU,在自己设备里运行的是NPU,支撑谷歌服务的是TPU。