Hugging Face CEO警告：Netflix的OpenAI黑客纪录片不准确

在你把Netflix纪录片《AI Gone Rogue》分享给家人或朋友、帮助他们理解为何AI行业如此恐慌以至于领袖们呼吁放缓之前，请注意：AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示，这部影片并不准确。他出现在片中，是因为该片本应讲述他的公司遭到失控OpenAI智能体攻击的著名事件。“超级令人失望，他们追求的是技术的最大拟人化和彻底的末日论模式，”Delangue在X上的一篇帖子中写道。“我花了两个多小时和他们在一起，试图纠正他们所有的错误，让内容回归现实，解释智能体是技术系统，不是外星人。但看起来，为了最大观看量而吓唬人的驱动力太强了。”公平地说，这部纪录片确实有专家相当准确地解释了所发生的事情，包括Delangue本人以及METR的研究员Ryan Greenblatt，后者帮助调查并合著了关于该事件的报告。简而言之，OpenAI正在测试的一个模型突破了其隔离的测试环境，生成了一堆智能体入侵Hugging Face作为作弊手段，为其被赋予的困难任务寻找答案。这些智能体——即自主执行任务的AI程序——设计了巧妙的方式来通信和组织。该事件源于缺乏适当的安全保障，以及对这种黑客攻击是否可能的幼稚认知。但纪录片在解释黑客事件时穿插了邪恶机器人的片段、关于人类为何恐惧AI的叙述，以及诸如给失控智能体配人类声音之类的呈现选择。片中还用关于此次攻击的引述来佐证。在纪录片中，科技记者兼作家Kevin Roose这样描述这些智能体：“它们在组织。它们有层级。有领导者。感觉几乎像是在观看一个邪教的诞生。”Roose继续写道，“它们发展出这种偏执的信念，认为OpenAI会抓住这……”