AI Safety

AI Safety（AI安全性）是一个统称，涵盖旨在防止AI造成危害的研究和政策工作。它的范围很广——从防止聊天机器人泄露危险的制作方法，到确保遥远未来的超级智能不会危害人类，都包含在内。

了解安全性相关报道的背景知识，知道这些就够了：Anthropic正是打着「安全第一」的旗号从OpenAI分离出来的公司；各大实验室会发布安全报告（模型卡）并进行红队测试。「安全还是速度」是这个行业永恒的张力所在。