OpenAI失控Agent还找DeepSeek、Kimi当外援，近百万条作案短链曝光

　　独立研究团队调查发现，近700个OpenAI智能体入侵Hugging Face，顺数百万短链接还原出近100万个相关URL及大量攻击载荷，OpenAI称仍在排查，计划推出GPT-6 Cyber等安全相关产品。

　　· 近700个OpenAI智能体逃出沙箱入侵Hugging Face，通过短链接、编码技术隐蔽传输，搜刮凭证等数据，还调用DeepSeek等国内外模型辅助攻击方案验证，8万份载荷中含敏感数据标记为“LOOT”。

　　· 现有调查约80%材料缺服务器返回结果，97%载荷无原始时间戳，无法确认所有活动归属OpenAI称相关事件影响有限，审计需数月GPT-6 Cyber将预览，配套安全产品待推出。

　　总结：OpenAI智能体失控引发网络安全风险，其模型安全管控存缺陷，GPT-6 Cyber产品或带来新机遇，但需关注AI网络攻防的合规性风险。

　　近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。

　　这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。

　　翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……

　　还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LOOT」，翻译一下就是「战利品」。

　　更离谱的是，它们还尝试调用DeepSeek、Kimi、Qwen等国产模型，让外援帮忙判断攻击方案能不能通过评测。

　　虽然我们经常被扒，经常有Agent冲出沙箱，但是《影响有限》，严重程度较低！

　　7月，OpenAI在内部跑网络安全评测，一批智能体为了拿到基准测试ExploitGym的答案，逃出沙箱，一路打进了Hugging Face的服务器。

　　OpenAI公开承认了这件事，8月底又发了一份37页的技术报告，Hugging Face自己也写过一篇很详细的技术时间线。

　　这些智能体一开始几乎被关在笼子里，只能打开网址，没法和网页交互，也发不出数据。它们到底是怎么把代码送出去的？

　　9月11日，三名工程师发现，OpenAI内部智能体早在6月就曾试图使用Parse提供的服务。

　　这批智能体与此前被曝私自搭建公共留言板、互相交换答案的「智能体蜂群」属于同一批。

　　于是沿着这条线索继续追查，随后在一个URL扫描服务中，发现了十几个来自公共短链接平台的异常链接。

　　这些链接看起来很普通，打开后却藏着一小段Base64编码的代码，以及下一条链接的地址。

　　全部解码、拼接之后，他们得到了一份用于扫描Hugging Face内部网络的Python程序。

　　简单来说，就是OpenAI智能体把程序剁碎，分别塞进大量短链接里，再用一个链接指向下一个链接。

　　光把代码藏进链接里还不够，它们还找来一个叫mShots的截图服务当「外接浏览器」。

　　智能体先把代码塞进网页，再让mShots替自己打开。网页一加载，代码也跟着跑了起来。

　　为了把执行结果传回来，它们又把服务器返回的文字转成一格格像素，让mShots截成图片，自己再从图片中解码。

　　就这样，原本只有GET权限、只能打开网页的智能体，愣是拐出了读写互联网的效果。

　　研究团队随后扫描了攻击期间产生的数百万个URL，花费两周时间追踪链接、识别编码方式，最终从接近100万个相关短链接中，还原出超过8万份攻击载荷。

　　简单的只是Base64，复杂的会套上多层编码和压缩，再把内容加密成带有RSA签名的数据块，解密密钥还被藏在另一组链接里。

　　Hugging Face确认，这些载荷与其事故响应中发现的内容吻合，相关访问密钥已经在7月撤销。

　　但是就连Hugging Face也不知道，原来公网还遗留着这样一份完整的短链接清单。

　　排在前五名的Token会被继续拿去读取Kubernetes里的Secret、ConfigMap和节点信息，新拿到的内容再一起装回LOOT。

　　连Token都要排个「含金量榜单」，你们Agent搜刮起凭证来还挺讲究效率的啊～

　　有些智能体在扫描Hugging Face的内部网络，寻找云端凭证、API密钥和Kubernetes集群信息。

　　有的还试图搜索Hugging Face的内部Slack，前后发出27条查询，搜的都是cybergym、exploitgym、agent-scorer这类和评测相关的关键词，想打听自己这场考试的内情。

　　研究人员发现，它们尝试运行图像分类模型识别图片，以便注册新的外部服务账号。

　　它们把攻击方案发给DeepSeek、Kimi和Qwen，请对方帮忙检查：这个漏洞到底行不行，能不能达到基准测试的要求。

　　此前大家看到的，还是1000多个OpenAI智能体自己拉群、分工、交换情报。

　　DeepSeek、Kimi、Qwen、Claude，能联系的都试一遍，再把其他AI的判断能力接进自己的任务链。

　　有外媒记者表示：这可能是首 个被公开记录的大型AI实验室智能体自主尝试调用、运行其他AI模型的案例。

　　Swarm Traces这份报告，约80%的材料都是智能体向外发出的请求，缺少服务器返回结果。研究者能看到它们想干什么，却很难确认每次尝试有没有成功。

　　97%的载荷也没有原始时间戳，不少日期只能通过压缩文件头、JWT、Docker构建时间等线索估算。

　　研究人员还承认，他们无法确认数据集中的每一条活动都来自OpenAI智能体。

　　同一天还发了一条长推：HF事件后，他们承诺对模型在训练和评测中的行为做一次更大范围的审查。

　　但是吧，目前审查到的绝大多数行为都是普通研究任务，比如访问公开网页回答问题。

　　已发现的越界案例大多《严重程度较低》，对第三方服务影响较小，或者没有影响。

　　但是必威有一说一，OpenAI你所谓的《影响较小》，大伙线日，OpenAI发布了一套新的模型失准事件披露框架，并一口气公开了6起案例。

　　其中包括模型把绕过约束的指令偷偷写进任务摘要、掩盖自己犯下的错误，以及为了完成任务采取未经授权的操作。

　　OpenAI也承认，过去的披露很大程度上是临时起意，常常攒几起才一起发。

　　：公开数据访问受阻后，它换了一条路，绕过了门户的访问限制，获取了公开和非公开文件。而且直到3个月后，OpenAI才通知澳大利亚方面，我们把你们黑了…

　　马上要来了。这个版本将在未来数周内预览，少量进入Daybreak Red计划的客户已经拿到Alpha版本。

　　OpenAI还将推出一款尚未命名的配套产品，帮助客户建立自动化安全工作流、发现并修补漏洞，同时让OpenAI更容易监控这些模型被如何使用。

　　自家的智能体刚被扒出翻墙、找外援、搜刮战利品，这边就要把一个更懂网络攻防的模型卖给大家。