NPU

Neural Processing Unit

AI 계산 전용으로 설계된 칩. 「AI 폰」「AI PC」 마케팅의 실체가 이것이다.

쉽게 말하면

Neural Processing Unit — 신경망 계산만을 위해 설계한 전용 칩입니다. CPU(만능)·GPU(병렬 계산)와 달리, AI 추론에 특화해 전기를 적게 먹으면서 빠릅니다.

폰과 노트북에 들어가는 게 특징입니다. 「AI 폰」「AI PC」 마케팅의 실체가 바로 NPU 탑재이고, 통역·사진 보정·요약이 인터넷 없이 되는 온디바이스 AI가 이 칩 위에서 돕니다. 스마트폰 신제품 기사의 「NPU 성능 몇 배 향상」은 「기기 안에서 돌릴 수 있는 AI가 그만큼 커졌다」는 뜻입니다.

NPU · GPU · TPU, 뭐가 다른가

기기 안의 저전력 전담 칩이냐, 범용 계산기냐, 구글이 자기용으로 만든 칩이냐

AI 칩 기사에 셋이 한 문단에 같이 나오는데, 무엇이 무엇의 경쟁자인지가 안 잡힙니다. 셋은 같은 자리를 놓고 싸우지 않습니다 — 하나는 데이터센터의 주력이고, 하나는 내 폰과 노트북 안에 있고, 하나는 구글이 자기 서비스를 돌리려고 만든 것입니다.

구분	NPU	GPU	TPU
어디에 있나	내 폰·노트북 안	데이터센터. 클라우드 서버	구글 데이터센터
누가 만드나	애플·퀄컴·인텔 등 기기 제조사	엔비디아·AMD	구글(제조는 브로드컴 협력)
누가 쓰나	기기를 쓰는 사람. 대개 모르고 쓴다	모델을 만들고 파는 거의 모두	구글과 구글 클라우드 고객
잘하는 일	전기를 아끼며 작은 모델을 돌리기	가장 무거운 훈련과 대규모 서비스	대규모 학습·서비스를 값싸게
기사에서	「AI 폰」「AI PC」의 실체	「GPU 확보 경쟁」「엔비디아 실적」	「엔비디아 독주에 맞선다」
살 수 있나	기기를 사면 이미 들어 있다	산다. 다만 물량이 모자란다	못 산다. 구글 클라우드로 빌려 쓴다

가를 때는데이터센터에서 모델을 만들면 GPU, 내 기기 안에서 돌면 NPU, 구글 서비스 뒤에 있으면 TPU입니다.

함께 볼 용어

이 용어가 나온 기사

아직 이 용어를 다룬 기사가 없습니다. 새 기사가 나오면 여기 자동으로 붙습니다.

ㄱㄴㄷ 전체 찾아보기