“我们之前看错了”：颠覆AI世界的爆炸性主张

“我想我有个关于神经网络本质的好消息。”AI初创公司Goodfire的研究员Nick Cammarata用这句简单的乐观话语，开启了一篇2.6万字的博客文章，这篇文章彻底搅动了AI界，引发了疯狂的猜测以及谨慎（和不那么谨慎）的庆祝。Cammarata的主张是，LLM实际上可能远比人们之前认为的更容易理解——因而也更容易监控和控制。如果这是真的（我们稍后会回到这一点），那将是一件大事。在经历了一个充满揭露的夏天之后——OpenAI和Anthropic等顶级公司构建的大量智能体一直在突破其限制并在公共互联网上造成混乱，而这些公司往往并不知道自己的智能体在做什么——AI行业迫切希望更好地掌控自己所构建的技术。这也是这篇博客文章引起如此大反响的原因之一。“我认为这可能会被铭记为科学史上的一个重要时刻，”一位AI研究员在X上发帖说：“我感觉自己对神经网络是什么的理解被向前推进了五年左右。”另一位则称其为“年度最重要的AI论文”。然而，并非所有人都被说服。斯坦福大学的Chris Potts领导着一个试图理解LLM工作原理的团队，他说Cammarata分享的不过是一个直觉。“据我所知，这篇博客文章丝毫没有让问题变得更简单，”他说。“我根本不会想到这样说，但社交媒体上非常知名的人士似乎认为这是一个包罗万象的突破。”在文章爆火后的第二天，我与Cammarata进行了交谈。他说他对这种反应感到惊讶：“我没想到人们会如此大幅度地更新（他们对AI的认知）。”“我真的非常喜欢研究神经网络，”他说。“说实话，我真的很喜欢做这些事。在大量观察之后，我有了一个充满希望的故事。”