K-文化术语词典 T基础设施与芯片

Tensor Processing Unit (TPU)

Tensor Processing Unit

谷歌自主设计的AI芯片,是对抗英伟达垄断地位的代表力量。

简单来说

Tensor Processing Unit——谷歌为自家AI专门设计的芯片。从2016年至今已经历多代更新,Gemini的训练和服务都运行在这款芯片之上。

这意味着,有一家公司可以不依赖英伟达。在GPU供应普遍依赖单一公司的行业格局下,谷歌通过自研芯片掌握了成本和供应的主动权。其他科技巨头纷纷自研AI芯片,原因也是如此,TPU常被「去英伟达化」相关报道引用为成功案例。

是不是谷歌自用而造的芯片, 是不是通用计算芯片, 是不是设备里的低功耗专用芯片

AI芯片报道里这三个常常出现在同一段话中,让人分不清谁和谁在竞争。其实三者并不在同一个战场上——一个是数据中心里的主力,一个装在你的手机和笔记本电脑里,还有一个是谷歌为运行自家服务而打造的。

对比项	Tensor Processing Unit (TPU)	GPU	NPU（神经网络处理器）
在哪里	谷歌数据中心	数据中心,云服务器	你的手机、笔记本电脑里
谁在制造	谷歌(与博通合作生产)	NVIDIA、AMD	苹果、高通、英特尔等设备厂商
谁在用	谷歌及谷歌云客户	几乎所有开发和销售模型的公司	使用设备的人,大多并不知情
擅长什么	低成本进行大规模训练与服务	最繁重的训练与大规模服务	省电运行小型模型
新闻中的样子	「对抗NVIDIA的垄断」	「GPU争夺战」「NVIDIA财报」	「AI手机」「AI PC」背后的真面目
能买到吗	买不到,只能通过谷歌云租用	能买,但供不应求	买设备时已经内置其中

判断方法在数据中心里训练模型的是GPU,在自己设备里运行的是NPU,支撑谷歌服务的是TPU。