Anthropic向METR六名研究员开放员工级权限以独立评估模型
原文：Anthropic is letting METR researchers look under the hood with employee-level access
Anthropic 周四在一篇博客文章中表示，正在向来自 METR 的六名研究人员提供员工级别的访问权限。METR 是一家测试前沿 AI 模型的非营利组织，将独立评估 Anthropic 的模型、安全实践和风险管理。这一安排出台之际，自 8 月底以来，几乎每一两周就会披露一起 AI 智能体偏离指令行事的事件。这些事件加剧了外界对 AI 公司进行独立审查的呼声。“我们希望对自己的决策承担公开责任，”Anthropic 在博客文章中表示。“我们的目标是缩小评估者对一家前沿 AI 公司系统的理解与公司自身理解之间的差距。”根据这一新安排，METR 团队拥有 Anthropic 发放的公司笔记本电脑、办公空间，以及对内部工具的使用权限，大致与 Anthropic 自身风险评估团队所使用的相当。“我们鼓励 Anthropic 员工与他们分享信息，就像对待一位从事对齐风险工作的同事一样，”该公司表示。Anthropic 将这一安排类比于银行业，类似于监管机构向大型银行派驻常驻检查员。METR 将发布自己对 Anthropic 风险、事件和实践的评估，而该公司已放弃阻止其发布的权利。“Anthropic 不能否决发布，但如果信息属于狭窄的预定义类别，我们可以要求他们进行删减，”该公司表示，例如客户数据、任何受律师-客户保密特权保护的信息，或与其模型架构相关的信息。“METR 可以自由地公开描述我们的删减情况，并说明其是否认为删减是合理的，只要不泄露被删减的信息即可，”Anthropic 补充道。METR 是 Anthropic 正在构建的三级体系中目前唯一处于最高级别的评估者。最低级别的评估者，如生物安全非营利组织 SecureBio，只进行范围狭窄的审查，并需要 Anthropic 的批准才能……