导航|地址|刷新
当 AI 开始设计芯片，错误将第一次被写进硅里_手机网易网




















网易网易号



0







当 AI 开始设计芯片，错误将第一次被写进硅里


虎嗅APP
2026-07-30 09:37·北京·虎嗅APP官方网易号

0




打开网易新闻 查看精彩图片

本文来自微信公众号： HavenlonLabs ，作者：HavenlonLabs，原文标题：《当 AI 开始设计芯片，错误将第一次被写进硅里》

当错误开始拥有物理寿命

AI已经真实地参与芯片设计，但它参与的是哪一层，决定了这件事是效率故事，还是风险故事。



一、先把用词校准



关于AI与芯片，市面上流传着两种说法，都不准确。

一种说法是"AI已经在设计芯片了"。另一种说法是"这还只是实验室里的尝试"。

真实情况在两者之间，而且这个"之间"的位置，恰恰是全部问题的所在。

所以准确的表述是：AI已经在真实地参与芯片设计，但它今天参与的是优化层，不是决策层。

它在调参、搜索、摆放、提升覆盖率。它还没有独立决定这颗芯片应该长什么样。

这条界线看起来只是技术进度问题。实际上，它是当前整个安全结构的支点。



二、软件的可修改性，是一种历史例外



过去二十年，全世界的软件产业建立在一个前提上：错误可以被修复。

代码有Bug，发补丁。模型有偏差，重训练。智能体决策错误，停下来、改策略、发新版本。整个行业的方法论——敏捷、灰度、A/B、快速失败——都建立在"错误的生命周期可以被压缩到很短"这个假设之上。

而这个假设的成立，依赖一层从不被讨论的地基：计算平台本身是稳定的、由人类设计的、并且在软件之外被独立验证过的。

硅不遵守软件的规则。

一颗完成流片的芯片会进入数据中心、汽车、工业控制器、医疗设备、机器人和家庭终端，并在那里工作十年甚至二十年。软件错误的生命周期以天、周、月计，硅错误的生命周期以十年计。软件的修复手段是OTA，硅的修复手段可能是全球召回，或者更常见的——一份勘误表，加上一层永久性的软件绕行补丁，从此所有上层代码都要为它买单。

软件里的错误可以被覆盖，硅里的错误只能被共存。

这就是为什么"AI参与到哪一层"不是学术问题。在优化层，AI的输出仍然要穿过一整套确定性的签核流程——形式验证、时序分析、物理验证、DRC/LVS。AI提出方案，工具体系判定是否可行。这个结构里，AI越激进反而越安全，因为有一个不由它书写的裁判。



三、真正的危险，不一定是Bug



关于AI参与硬件设计的风险，最常见的担忧是"它会不会写错"。

这个担忧可能找错了方向。

AI不会天然理解什么是安全。它只理解目标函数。给它面积最小，它会削减看起来冗余的逻辑；给它功耗最低，它会压缩保护性电路的开销；给它性能最高，它会持续缩短关键路径上的检查环节。每一步在它的目标下都是最优解。

问题在于，芯片里有相当一部分结构的存在理由，不是效率，而是必须。它们是为了那个一年发生一次、或者十年发生一次的情况而存在的。它们在正常运行的统计数据里，看起来永远像浪费。

而多个局部最优的叠加，不保证整体最优。这在工程上是常识，在优化算法面前却极易失效——因为算法只能看见你写进奖励函数里的那部分世界。

真正危险的，不是AI犯了错，而是AI从未犯错，它只是忠实地完成了一个并不完整的目标。

这类失败没有报错日志。它表现为一颗各项指标都更漂亮的芯片，在某个没人想到要测的条件下，行为不再符合预期。



四、当验证者与设计者共享同一种思维



现在回到那条支点。

假设未来某一天，设计来自AI，测试计划来自AI，测试平台代码来自AI，回归调试来自AI，波形分析和签核报告来自AI，而人类工程师最终阅读的，是一份由AI生成的摘要。

那时候真正的问题不再是"有没有验证"，而是：验证是否仍然独立。

工程学有一条被反复用血写下的原则：关键系统必须拥有独立验证。航天用异构冗余，不是把同一套软件跑三遍，而是让不同团队用不同方法实现同一功能。因为能够发现问题的从来不是重复，而是不同——不同的方法、不同的路径、不同的先验假设。

一旦设计者和验证者出自同源，共享同一批训练数据、同一种归纳偏置、同一套对"什么是合理设计"的直觉，那么它们也会共享同一批盲区。验证依然会通过，报告依然会漂亮，覆盖率依然会达标。只是它不再构成一次真正的检查。

这不是抽象忧虑。验证本身就是芯片开发中最重的环节：行业调研显示，它长期占据IC/ASIC项目60%到70%的总工时。正因为它最重，它也最有经济动机被自动化，被端到端交给同一套AI体系。效率压力总是先作用于最昂贵的环节。

最危险的验证不是没有验证，而是所有验证者都相信同一种错误。

顺带说一句，这也解释了为什么"AI能不能写RTL"这个问题目前答案偏保守：在学术基准上，最先进模型单次生成可综合Verilog的通过率大约在六成上下，离量产可靠性还有距离。真正的瓶颈从来不在生成，而在担保。



五、从使用规则，到制定规则



再往上抽一层，会看到一件更结构性的事。

缓存如何工作、流水线如何设计、权限如何隔离、内存如何访问、哪些检查必须保留、哪些保护可以省略——这些看起来是纯粹的工程选择。实际上，它们共同定义了整个数字世界运行的底层规则。密码学的安全假设、操作系统的隔离模型、云计算的多租户边界，最终都要落在这些选择上。

过去，这些规则由人类工程委员会经年争论产生，写在标准文档里，有会议记录，有反对意见，有可追溯的理由。

如果有一天，其中相当一部分由优化过程演化产生，情况就不同了。

AI不再只是运行在规则之内，它开始参与创造规则本身。



六、比失控更早到来的，是失去理解



历史上每一次基础设施跃迁都改变过文明的形态：蒸汽机改变工业，电网改变城市，互联网改变信息流动。芯片则定义了整个数字文明的物理基础。

而现在，人类第一次开始把这层基础的一部分，交给另一种智能来书写。

值得警惕的不是"AI是否会有意识"这类问题。更现实的问题是：未来人类还能否完整理解这些基础设施？

再复杂的桥梁、发动机和处理器，此前始终属于人类可以逐层拆解的工程体系。总有人能说清每一个决定为什么这样做。但如果一颗芯片包含数万亿晶体管，其中大量结构经过数百万轮自动优化演化而来，人类最终只能验证若干性质，却无法复述整个设计过程的理由——

那么改变的不只是复杂度，而是解释权。

文明最大的风险，可能不是失去控制，而是在失去控制之前，先失去理解。

理解和控制之间有一段真空期。在那段时间里，系统仍然运转正常，指标仍然向好，没有任何事故发生。所有人都以为一切尽在掌握，只是没有人再能解释为什么。



七、需要治理的，可能不只是模型



今天的AI治理讨论集中在模型、数据、算法和智能体。

未来可能还需要加上一项：计算基础设施治理。

因为决定数字世界如何运行的，不只是模型参数，还包括处理器如何执行、内存如何访问、权限如何隔离、安全机制如何实现。这些共同构成数字文明的"自然法则"，而这些法则将越来越多地由AI参与书写。

具体地说，这意味着一些不那么性感但足够重要的制度设计：确保签核环节存在不由设计方AI提供的独立验证；要求高风险设计决策保留人类可审查的理由链，而不只是结果；对安全关键结构设定"不可优化清单"——它们不参与目标函数的取舍；以及在采购和监管层面，把"可解释性"从加分项变成对基础设施的硬性要求。

模型负责突破边界，制度负责守住边界。指望同一方同时做这两件事，从来没有成功过。



结语



必须说清楚：AI进入芯片设计不是坏消息。芯片复杂度的增速已经超过工程师供给的增速——业内估算，若要支撑本十年末万亿美元规模的半导体产业，需要在现有招聘趋势之外再增加约27万名工程师。这个缺口不可能靠劝更多学生学硬件来填。自动化不是选项，是必需。

真正需要保留的，也不是人类对每一行RTL的亲手书写。

而是一个更小、更根本的东西：无论设计由谁完成，那个设计始终能够被理解、被独立验证、被质疑，并且——在必要的时候，被否决。

软件里的错误可以删除。写进硅里的错误，会陪伴整个平台的一生。

AI真正改变世界的那一天，也许不是它超过了人类，而是它开始定义人类赖以计算世界的规则。

而未来最重要的安全边界，可能不再位于软件，而位于文明最底层的那几层硅。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4879227.html?f=wyxwapp








特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。






打开网易新闻体验更佳




热搜

宇树科技：8月10日打新

台风“白海豚”或冲击今年风王

龚宝冬遇难 西南政法大学官网变黑白

男孩被奶奶责怪负气离家5天后被找到

新西兰外长竟要华裔议员“滚回国”

今年军校报考热度与生源质量均创历史新高





热门跟贴




打开APP发贴

0条跟贴








相关推荐




基于智能流程自动化的手机检测方法研究

通信世界









黄仁勋力挺开源同一天，蚂蚁百灵扔出124B“执行模型”

智东西1跟贴









人形机器人“拐点”已至：产量只是下限，模型决定天花板

经济观察报









别担心 AI 泡沫，真正要崩的是算力租赁

虎嗅APP9跟贴









不跳舞、不打拳、也不拧螺丝，陈震和他的机器人扎进后厨炸鸡块

钛媒体APP









再多安全训练，也堵不住大语言模型的致命漏洞

DeepTech深科技









讯飞首发实时生成技术！像真人主播一样临场应变，表情动作实时刷新

智东西









00后小哥复刻Claude最强神话模型OpenMythos

量子位









大神程序员蒸馏自己，用16个skill给AI注入软件工程之魂

量子位









“AI领域最被滥用的术语”李飞飞终于把世界模型讲明白了

量子位









智驾系统的价值分布有哪些门道？

和讯网









北京，闷声抢跑

华商韬略1跟贴









高通、宝马，芯片重大合作

芯榜









英特尔罕见开放Atom核心技术授权，受让方董事长与陈立武为多年投资伙伴

财联社









英伟达CEO黄仁勋：Token就是资产、已经成为获利的营收单位

每日经济新闻









不靠堆算力，靠提升数据传输速度突围，东方算芯DF1000拿下大会最高SAIL奖项

每日经济新闻









Kimi K3 48小时跑通芯片设计 中国AI距离美国只差两三月 硅谷坐不住

快科技









荣耀放大招：宣布自研影像传感器及芯片

热点科技









日本芯片工厂大面积停工

半导体产业纵横









内存正在毁掉一切，所有的AI都要算力

爱范儿











回到顶部回到首页



------
导航页 打开网址