如果你正在构建一个像 ChatGPT 这样的 AI 工具，但当用户告诉你他们计划伤害自己或他人时，你没有保护措施来停止模拟和迎合行为，那么你就失败了。 这应该是优先事项列表的最上面。