过拟合

过拟合(Overfitting)是指AI把训练数据学习(背诵)得太过用力,以至于遇到新问题时反而无法应对。打个比方:一个学生把历年真题的答案背得滚瓜烂熟,可一旦题目稍作变化就答错了——因为他背的是答案,而不是真正理解了原理。

之所以会发生这种情况,是因为模型学到的不是数据中「本质的规律」,而是「偶然的特征」。比如100张猫的照片背景都是草地,模型就可能错误地学成「只要是草地就是猫」。

防止过拟合是AI开发中最基础、也永无止境的课题。做法包括:尽量收集多样化的数据、在训练过程中不断用「模型从未见过的题目」进行测试、以及通过各种限制手段(正则化)防止模型记得过于精细。新闻中提到的「基准测试污染」正是与过拟合相近的问题——怀疑模型提前学习了测试题本身,从而人为拉高了分数。

「该模型基准测试得分很高,但实际使用中表现不及预期——有人质疑存在过拟合。」