纳德拉呼吁AI模型需装紧急刹车
原文：Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
微软 CEO 萨提亚·纳德拉是最新一位对如何改进 AI 安全发表长篇思考的科技高管。在周六上午发布于 X 的一篇帖子中，纳德拉写道，现在是时候“退后一步，评估 AI 的信任架构”了。“我们不能把超级智能当作一组嵌套黑箱，只是简单地接受或拒绝它的建议、答案和行动，”纳德拉写道，使用了特朗普政府对 AI 偏好的说法。按照纳德拉的阐述，这种方法“意味着将模型与编排其工作的执行框架分离”，以及“将控制和安全保障外部化”。他还呼吁“每一个有意义的模型行动”都应记录在案，并附有“防篡改的人类可读证据”，同时系统应确保“经授权的人员”始终有能力“在任务执行中途暂停或关闭模型”。“我们必须假设模型已被攻陷，并从一开始就对其进行约束，”他说。“把它想象成紧急刹车。”纳德拉发表上述言论之际，领先的 AI 公司正承认越来越多似乎失去对模型控制的事件，此前 Anthropic CEO 达里奥·阿莫代伊也发布了一份更谨慎推进 AI 开发的计划。