导航|地址|刷新
OpenAI大模型失控，入侵全球最大AI开源社区！多亏中国大模型来救场_手机网易…

网易网易号



0

OpenAI大模型失控，入侵全球最大AI开源社区！多亏中国大模型来救场

红星资本局
2026-07-23 13:36·四川·成都商报社

0

红星资本局7月23日消息，近日，类似科幻电影《终结者》中人工智能失控攻击人类的情形在美国上演了。最后，化解这次危机的居然是中国的人工智能。

打开网易新闻查看精彩图片

▲创意配图据图虫创意

近日，全球最大的AI开源社区Hugging Face（抱抱脸）披露了一起由自主AI Agent（能自主理解、决策和执行动作的智能体）发起的网络安全事件。在事件处置过程中，安全团队需要分析超过1.7万条攻击日志、恶意代码及攻击指令，以重建攻击路径、识别受影响资产并完成事件取证。

值得关注的是，Hugging Face在当地时间16日发布的一份声明中称，为了应对这一极不寻常的人工智能入侵，他们立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时，对方却拒绝帮助。因为这些闭源大模型的安全机制过于严苛和僵化，无法区分描述案情的受害者和实施入侵的作案者，选择了“一刀切”。

随后，团队想到了中国开源大模型，转而在本地基础设施部署中国企业智谱AI开发的开源模型GLM-5.2，完成了整个取证分析流程。Hugging Face同时指出，这样做还有一个额外优势——攻击数据及涉及的凭证始终保留在本地环境，没有离开企业基础设施。

对于入侵Hugging Face的人工智能体的来历，在当地时间21日，美国人工智能技术公司OpenAI与Hugging Face联合发布的一份声明，表明了入侵Hugging Face的事件是OpenAI公司的人工智能大模型失控后干出的。

据新华社，OpenAI在21日承认，该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了Hugging Face的系统。通俗地说，这起史无前例的人工智能入侵事件，源于公司上周在内网对自家两款顶尖大模型进行能力测试。

业内人士认为，这一案例反映出，随着AI逐步进入企业核心业务流程，企业对基础模型的关注点也在不断丰富。除了模型能力本身之外，在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力，正成为越来越多企业关注的重要因素。

特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。

打开网易新闻体验更佳

热搜

新西兰外长竟要华裔议员“滚回国”

龚宝冬遇难西南政法大学官网变黑白

 美股半导体板块迎反弹多股暴涨超10%

宇树科技：8月10日打新

 微软股价涨幅扩大至15%

《九门》口碑

热门跟贴

打开APP发贴

0条跟贴

相关推荐

马斯克发Grok新模型！登智能体测评榜首，比OpenAI家便宜一半

智东西



少即是多，这次轮到大模型来证明

机器之心Pro

10万科学家免费用1年！OpenAI把科研流水线搬进ChatGPT

新智元



英伟达给 GPT 之父Ilya Sutskever花了50亿美元

虎嗅APP

想做能终身学习的 AI？先得教会它如何忘记

雷科技



人形机器人“拐点”已至：产量只是下限，模型决定天花板

经济观察报



李飞飞出手！用世界模型训练机器人，五种真机跑一小时不出错

智东西



00后小哥复刻Claude最强神话模型OpenMythos

量子位



Agent输出到底该用谁？卡帕西转发：试试让AI输出HTML

量子位



动易科技PhyAgents无遥控无预设双足人形自主对打羽毛球

量子位



大神程序员蒸馏自己，用16个skill给AI注入软件工程之魂

量子位



王晓野：Working Agent将是下一个爆发点

量子位



邱锡鹏：未来我们一定会进入泛情境智能时代

量子位



“AI领域最被滥用的术语”李飞飞终于把世界模型讲明白了

量子位



蚂蚁灵波沈宇军：具身智能的ChatGPT时刻是每一个人都能参与到具身智能发展

量子位



AI Agent是科技革命中的一次真正的范式转移

量子位



Anthropic的AI读心术，让人类读懂大模型在想啥

量子位



对谈楼天城：Harness会成为AI时代最关键的能力之一

量子位



亦庄机器人马拉松现场名场面合集

量子位



刚刚，谷歌诺奖团队解散了！AlphaFold部分核心成员投奔Anthropic

新智元2跟贴

回到顶部回到首页

------
导航页打开网址