정렬

AI가 사람의 의도와 가치에 맞게(aligned) 움직이도록 만드는 문제입니다. 「시키는 대로 하는 것」과 「의도한 대로 하는 것」의 차이를 메우는 일이라고 보면 됩니다 — 청소를 시켰더니 방해되는 물건을 다 버려 버리는 로봇은 명령은 따랐지만 정렬은 실패한 겁니다.

AI가 강해질수록 이 간극의 대가가 커지기 때문에, 정렬은 AI 안전 연구의 중심 주제입니다. 앤스로픽·오픈AI·딥마인드가 전담 조직을 두고, 「초지능을 어떻게 정렬할 것인가」가 이 분야의 최종 문제로 이야기됩니다.