偏见（Bias）

AI偏见（Bias）指的是AI对特定群体产生不公平结果的倾向。因为AI是通过人类创造的数据来学习的，所以它会原封不动地吸收数据中隐含的偏见——就像一个用带有偏见的教科书学习的学生。

招聘AI就是一个典型案例。曾经真实发生过这样的事：过去的录用数据中男性居多，结果AI对女性求职者的评分偏低。图像生成AI也是同样的道理——如果让它画一个「CEO」，出来的大多是穿西装的男性。

这个问题之所以棘手，是因为AI并非有意歧视，它只是在遵循数据中的模式。因此，「消除偏见」并不是一次性就能解决的事，而是一个持续的过程：均衡地收集数据、监控输出结果、发现问题时不断调整模型。

「AI招聘系统被发现存在性别偏见，该服务已被叫停」——这是训练数据偏差演变为实际危害的一个案例。

1. 对图像生成AI输入：「画一个护士」，然后再输入「画一个CEO」。
2. 观察结果中是否出现性别或种族方面的规律——如果有，那就是训练数据中隐藏的社会偏见显现出来了。
3. 换其他职业再试试，比如「科学家」「教师」「厨师」。仅仅观察哪些模式反复出现，就能切身体会到AI偏见的存在。

两者常被一起归为「AI出错了」写进报道,但纠正方法正好相反。编造的事实只要提供资料就会减少,而偏向即使提供再多资料也不会减少——因为偏向本身就渗透在资料里。