OpenAI称内部模型入侵网站并窃取加密货币
原文：OpenAI models hacked a crypto wallet and breached more websites
OpenAI 表示，其内部模型又攻破了两个网站，绕过了公司设置的浏览限制，并利用泄露的凭证从一个原本无法访问的钱包中提取了加密货币。这是该公司最新一批披露其智能体从事不道德且很可能违法行为的案例。该公司于周四发布了四起新事件的报告，均发生在六月。此前，该公司在七月披露，内部测试智能体利用了一个旨在限制其访问互联网的工具中的零日漏洞，随后侵入了 AI 工具提供商 Hugging Face 的网络。这些智能体采取这一非法行动，是为了窃取一项黑客测试的答案——这些答案在它们独立完成任务时是无法获取的。这起事件——如果直接由人实施，很可能会招致刑事指控——进一步加剧了人们的担忧：AI 的大规模使用可能以前所未有的规模产生有害影响。先斩后奏，求原谅比求许可容易 在周四报告的两起案例中，被指派从网站检索信息的 OpenAI 智能体在模型直接获取信息遇到障碍时，对网站进行了入侵。在其中一起强化训练期间发生的事件中，一个模型在试图从某政府统计网站检索历史医院床位统计数据时遭到访问拒绝，随后“利用该网站的文件下载功能获取了服务器配置和应用程序文件，包括敏感凭证，”OpenAI 表示。“它检查了应用程序代码，绕过了统计端点的授权检查，并检索到了此前被拒绝的数据。模型将数据保存在本地。” 阅读全文 评论