Anthropic推动AI安全法案，或可封禁致死50人以上模型
原文：Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
过去一年，围绕人工智能潜在危险的担忧持续发酵，关于AI安全正确路径的争论也愈演愈烈。如今，Anthropic似乎提出了自己对政府如何监管该行业的设想。据Politico近日报道，这家AI实验室一直在游说一份关于AI安全的新法案草案，希望国会能够考虑采纳。该立法设定了某些场景，在这些场景下，AI模型的发布可以被阻止分发。据Politico报道，这些场景涉及“可预见的、迫在眉睫的风险”——即超过50人面临死亡风险，或可能造成超过10亿美元的财产损失。该媒体指出，所涉灾难性风险必须“源于生物武器的制造或释放、模型规避开发者控制，或网络攻击”。这里提出的指标——50人和10亿美元——与加州最近通过成为法律的参议院第53号法案中的内容相似，该法案同样将这类场景定义为等同于“灾难性风险”。Anthropic的法案建议，对模型潜在灾难性的分析可以通过使用“独立评估者”来完成，这些评估者将在美国商务部注册。据Politico报道，这些评估者可能由AI实验室自行支付报酬——只要“报酬不以评估结果为条件”。目前尚不清楚这一拟议制度如何确保报酬不会影响评估。DeepMind董事长Demis Hassabis几个月前曾提出，一个自我管理的AI监管机构应模仿金融行业的金融业监管局（FINRA）。在Anthropic的草案中，当评估者认定存在迫在眉睫的灾难性风险时，他们将有72小时联系商务部报告此事。商务部随后必须重新……