微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

微软 CEO Satya Nadella 在 X 发文称，应重新审视 AI 的“信任架构”，不能把超级智能当作嵌套黑箱来接受或拒绝其建议与行动。他主张将模型与编排其工作的 harness 分离、外置控制与保障措施，并用防篡改的人类可读证据记录每一次有意义的模型动作，同时让授权人员能在任务中途暂停或关闭模型。他表示必须假设模型已被攻破并从一开始就加以遏制，“就像紧急刹车”。