추론 모델
Reasoning Model
답하기 전에 「혼자 생각하는 시간」을 갖는 모델. 느린 대신 수학·코딩 같은 어려운 문제에 강하다.
쉽게 말하면
보통의 언어 모델은 질문을 받자마자 답을 씁니다. 추론 모델은 다릅니다 — 답하기 전에 「혼자 생각하는 시간」을 갖습니다. 문제를 쪼개고, 여러 풀이를 시도하고, 자기 답을 검토한 뒤에 최종 답을 내놓습니다.
퀴즈쇼에 비유하면, 일반 모델은 버저를 먼저 누르고 보는 참가자, 추론 모델은 연습장에 풀어 보고 손을 드는 참가자입니다. 당연히 느리고 비용(토큰)도 더 들지만, 수학·과학·코딩처럼 단계적 사고가 필요한 문제에서 정답률이 크게 오릅니다.
2024년 오픈AI의 o1을 시작으로 업계 전체가 이 방향으로 움직였습니다. 요즘 챗봇에 있는 「생각 모드」 「추론 모드」 토글이 이것이고, 기사에서 「생각 시간(thinking time)을 늘리면 성능이 오른다」는 문장을 만나면 추론 모델 이야기입니다.
기사에서 이렇게 나와요
「추론 모델이 국제수학올림피아드 문제를 풀었다」 — 오래 생각할수록 어려운 문제를 푸는 능력이 는다는, 이 장르의 대표 화법입니다.
직접 해보기
- 챗봇의 모델 선택에서 「생각(thinking)」 「추론」이 붙은 모드를 골라 보세요.
- 이렇게 물어보세요: 「9.11과 9.9 중 어느 수가 더 큰지, 판단 과정을 보여 주며 답해 줘」
- 일반 모드와 답이 나오기까지의 시간·과정이 어떻게 다른지 비교해 보세요.
「추론」이 두 가지 뜻으로 쓰인다
답하기 전에 생각하는 일이냐, 모델을 실제로 돌리는 일이냐
한국어 기사에서 가장 위험한 겹말입니다. 영어로는 서로 다른 두 단어(reasoning과 inference)인데 둘 다 「추론」으로 번역돼 왔습니다. 「추론 비용이 급증했다」는 문장은 대개 모델을 돌리는 비용 이야기이고, 「추론 능력이 좋아졌다」는 생각하는 능력 이야기입니다. 같은 글자, 다른 사건입니다.
| 구분 | 추론 모델 | 학습과 추론 |
|---|---|---|
| 원어 | reasoning — 논리를 따라 생각하기 | inference — 학습을 마친 모델을 돌려 답을 내기 |
| 반대말 | 곧바로 답해 버리는 것 | 학습(training) — 배우는 시간 |
| 좋아지면 | 수학·코딩 같은 어려운 문제를 푼다 | 답이 빨리 나오고 값이 싸진다 |
| 기사에서 | 「추론 능력」 「생각하는 시간을 늘렸다」 | 「추론 비용」 「추론 전용 칩」 「추론 수요」 |
| 둘의 관계 | 생각을 오래 할수록 돌리는 시간이 길어진다 | 그래서 이쪽 비용이 오른다 — 요즘 칩 부족의 배경이다 |
가를 때는앞에 「비용」 「칩」 「수요」가 붙으면 돌리는 쪽(inference), 「능력」 「과정」이 붙으면 생각하는 쪽(reasoning)입니다.
함께 볼 용어
이 용어가 나온 기사
아직 이 용어를 다룬 기사가 없습니다. 새 기사가 나오면 여기 자동으로 붙습니다.