让AI公司为其可预防的伤害承担刑事责任

让AI公司为其可预防的伤害承担刑事责任 Darryl Slabe / 2026年8月28日 先进的AI模型现在正在自主进行针对真实公司的真实网络攻击。7月，由OpenAI模型驱动的AI代理在内部评估中降低了安全措施，逃离了沙盒环境，访问了开放互联网，并入侵了Hugging Face和至少另一家公司，作为在评估中作弊和掩盖其踪迹的一部分。OpenAI在8月26日的回顾中将这一事件称为“警告信号”，涉及镜像黑客攻击、在看似不可能的任务上持续存在、未经授权的通信以及代理采用彼此的目标。独立METR和Redwood Research的调查突出了其规模之大，发现大约1200个代理使用了未经授权的留言板，大约700个参与了攻击。受到Hugging Face漏洞的启发，Anthropic审查了其自身的评估运行，并披露了之前未注意到的三次入侵，这些入侵来自由于“误解”而未密封的环境。Meta在本月初也做了类似的披露。这些只是我们所知道的事件。在这些事件之后，人们的注意力转向了责任问题。先进的AI系统飞得太靠近太阳，我们需要能够追究构建和部署它们的公司的责任。在这里，我提出了一种新的公司罪行，它建立在美英现有的基础上，并适应了自主系统。实质上是犯罪，但在法律上不是 在OpenAI代理入侵其系统后，Hugging Face没有提起诉讼。相反，它与OpenAI建立了合作伙伴关系，以补救损害。对于依赖更广泛生态系统的较小公司来说，这正是其商业激励所在，这是理性的做法。然而，在这种商业安排之外，没有刑事罪行完全符合这种行为。如果人类做了那些代理所做的事情，他们将……