Reasoning Model
在回答前会自己「花时间思考」的模型。速度较慢,但在数学、编程等难题上表现更强。
简单来说
一般的语言模型一收到问题就立刻开始写答案。推理模型不同——它在回答之前会自己「花时间思考」。它会把问题拆解、尝试多种解法、检查自己的答案,然后才给出最终答案。
打个比方,如果说是一场问答比赛,普通模型是那种抢先按下按铃再想的选手,推理模型则是先在草稿纸上演算完再举手的选手。这样自然会更慢、也更耗费成本(token),但在数学、科学、编程这类需要一步步推理的问题上,正确率会大幅提升。
从2024年OpenAI推出o1开始,整个行业都朝这个方向发展。如今聊天机器人里的「思考模式」「推理模式」开关说的就是这个,当文章里出现「延长思考时间能提升性能」这样的说法时,讲的正是推理模型。
在报道中是这样出现的
「推理模型解出了国际数学奥林匹克竞赛的题目」——这是这类报道中常见的说法,强调思考时间越长,能解决的难题就越难。
亲手试一试
- 在聊天机器人的模型选择里,找到带有「思考」或「推理」字样的模式。
- 试着这样提问:「9.11和9.9哪个数更大?请展示你的判断过程再回答。」
- 比较一下和普通模式相比,得出答案所需的时间和过程有什么不同。
「推理」被用来表达两种不同的意思
是不是回答前先思考, 是不是实际运行模型
这是中文报道中最危险的同词异义现象。英文里本是两个不同的词——reasoning 和 inference,但两者常被译成同一个中文词。「推理成本暴涨」这句话通常说的是运行模型的成本,而「推理能力变强了」说的却是思考能力。同一个词,说的是两件事。
| 对比项 | Reasoning Model | 训练与推理 |
|---|---|---|
| 原词 | reasoning——按逻辑思考 | inference——运行训练好的模型得出答案 |
| 反义 | 不经思考直接给出答案 | training(训练)——学习所花的时间 |
| 变好时 | 能解出数学、编程这类难题 | 出结果更快、成本更低 |
| 报道中常见说法 | 「推理能力」「延长了思考时间」 | 「推理成本」「专用推理芯片」「推理需求」 |
| 两者关系 | 思考得越久,运行时间就越长 | 于是这部分成本上升——这正是当下芯片短缺的背景 |
判断方法前面接「成本」「芯片」「需求」,说的是运行模型(inference);接「能力」「过程」,说的是思考(reasoning)。
相关词条
出现过这个词的报道
目前还没有报道用到这个词。有新报道时会自动出现在这里。