TPU
Tensor Processing Unit
구글이 자체 설계한 AI 칩. 엔비디아 독주에 맞서는 대표 대항마다.
쉽게 말하면
TPU · GPU · NPU, 뭐가 다른가
구글이 자기용으로 만든 칩이냐, 범용 계산기냐, 기기 안의 저전력 전담 칩이냐
AI 칩 기사에 셋이 한 문단에 같이 나오는데, 무엇이 무엇의 경쟁자인지가 안 잡힙니다. 셋은 같은 자리를 놓고 싸우지 않습니다 — 하나는 데이터센터의 주력이고, 하나는 내 폰과 노트북 안에 있고, 하나는 구글이 자기 서비스를 돌리려고 만든 것입니다.
| 구분 | TPU | GPU | NPU |
|---|---|---|---|
| 어디에 있나 | 구글 데이터센터 | 데이터센터. 클라우드 서버 | 내 폰·노트북 안 |
| 누가 만드나 | 구글(제조는 브로드컴 협력) | 엔비디아·AMD | 애플·퀄컴·인텔 등 기기 제조사 |
| 누가 쓰나 | 구글과 구글 클라우드 고객 | 모델을 만들고 파는 거의 모두 | 기기를 쓰는 사람. 대개 모르고 쓴다 |
| 잘하는 일 | 대규모 학습·서비스를 값싸게 | 가장 무거운 훈련과 대규모 서비스 | 전기를 아끼며 작은 모델을 돌리기 |
| 기사에서 | 「엔비디아 독주에 맞선다」 | 「GPU 확보 경쟁」 「엔비디아 실적」 | 「AI 폰」 「AI PC」의 실체 |
| 살 수 있나 | 못 산다. 구글 클라우드로 빌려 쓴다 | 산다. 다만 물량이 모자란다 | 기기를 사면 이미 들어 있다 |
가를 때는데이터센터에서 모델을 만들면 GPU, 내 기기 안에서 돌면 NPU, 구글 서비스 뒤에 있으면 TPU입니다.