GPU
AI를 만들고 돌리는 데 쓰는 칩. 엔비디아가 세계에서 가장 비싼 회사가 된 이유.
쉽게 말하면
GPU는 원래 게임 그래픽을 그리려고 만든 칩입니다. 그래픽 작업의 본질은 「단순한 계산을 수백만 개 동시에」 하는 것인데, 공교롭게 AI 학습이 정확히 같은 종류의 일이었습니다. 그래서 게임용 칩이 AI 시대의 핵심 자원이 됐습니다.
CPU가 「어려운 문제를 하나씩 푸는 교수 한 명」이라면, GPU는 「쉬운 문제를 동시에 푸는 학생 수천 명」입니다. AI 학습은 후자가 압도적으로 유리합니다.
이 시장을 사실상 독점한 회사가 엔비디아(NVIDIA)입니다. AI 붐 이후 엔비디아가 세계에서 가장 비싼 회사가 된 이유이고, 「GPU 확보 경쟁」 「H100 몇만 장」 「수출 규제」 같은 뉴스가 끊이지 않는 이유입니다. AI 뉴스에서 GPU는 곧 「AI를 만들 수 있는 능력」의 단위로 읽으면 됩니다.
기사에서 이렇게 나와요
「○○사, GPU 10만 장 규모 데이터센터 착공」 — 대형 모델을 자체 학습시킬 체급을 갖추겠다는 선언으로 읽힙니다.
GPU · NPU · TPU, 뭐가 다른가
범용 계산기냐, 기기 안의 저전력 전담 칩이냐, 구글이 자기용으로 만든 칩이냐
AI 칩 기사에 셋이 한 문단에 같이 나오는데, 무엇이 무엇의 경쟁자인지가 안 잡힙니다. 셋은 같은 자리를 놓고 싸우지 않습니다 — 하나는 데이터센터의 주력이고, 하나는 내 폰과 노트북 안에 있고, 하나는 구글이 자기 서비스를 돌리려고 만든 것입니다.
| 구분 | GPU | NPU | TPU |
|---|---|---|---|
| 어디에 있나 | 데이터센터. 클라우드 서버 | 내 폰·노트북 안 | 구글 데이터센터 |
| 누가 만드나 | 엔비디아·AMD | 애플·퀄컴·인텔 등 기기 제조사 | 구글(제조는 브로드컴 협력) |
| 누가 쓰나 | 모델을 만들고 파는 거의 모두 | 기기를 쓰는 사람. 대개 모르고 쓴다 | 구글과 구글 클라우드 고객 |
| 잘하는 일 | 가장 무거운 훈련과 대규모 서비스 | 전기를 아끼며 작은 모델을 돌리기 | 대규모 학습·서비스를 값싸게 |
| 기사에서 | 「GPU 확보 경쟁」 「엔비디아 실적」 | 「AI 폰」 「AI PC」의 실체 | 「엔비디아 독주에 맞선다」 |
| 살 수 있나 | 산다. 다만 물량이 모자란다 | 기기를 사면 이미 들어 있다 | 못 산다. 구글 클라우드로 빌려 쓴다 |
가를 때는데이터센터에서 모델을 만들면 GPU, 내 기기 안에서 돌면 NPU, 구글 서비스 뒤에 있으면 TPU입니다.