导航|地址|刷新
20岁拿下博士、答辩席坐着费曼的狂人：AI是第一种「外星智能」_手机网易网




















网易网易号



0







20岁拿下博士、答辩席坐着费曼的狂人：AI是第一种「外星智能」


新智元
2026-07-26 12:26·北京·《新智元》官方网易号

0




打开网易新闻 查看精彩图片

新智元报道



打开网易新闻 查看精彩图片

Stephen Wolfram，一个把毕生精力都花在「让机器变聪明」上的人，坐在电脑前，屏幕上是ChatGPT刚替他写好的一段代码。

语言是他自己发明的Wolfram Language，语法他看过，没问题，按下回车键就能直接在这台机器上跑。

可就在那一秒，他停住了。

等等，这大概是个坏主意——它会登进我所有的账户。

真要把控制权交出去的那一刹那，这个四十年如一日教机器理解世界的人，突然间退缩了。



打开网易新闻 查看精彩图片

Stephen Wolfram，Mathematica、Wolfram Alpha、Wolfram语言的创造者，《A New Kind of Science》作者。

在Joe Walker的播客上，Wolfram聊到「人类到底能不能给AI定一套安全法则」时，讲起了上面这一次经历。

那一刻，他担心的不是代码写错了。他担心的是：这个东西已经跑到了一个他看不懂的地方，而他可能永远追不上去。

20岁拿下物理学博士的他

独自跑进计算宇宙

Wolfram是谁？

他这个人，从一开始就是别人眼里「离谱的天才」。

15岁，发表第一篇科学论文。

20岁，从加州理工学院拿下理论物理博士，答辩席上坐着费曼。

1981年，成为麦克阿瑟天才奖史上最年轻的得主。

那一年他做的是高能物理，前途一片明亮。

可就在1981年底，他突然转弯，去追一个当时几乎没人在意的问题：

自然界里那些复杂的东西，到底是怎么冒出来的？

他用的办法也很怪：把最简单的计算机程序一个一个拿来跑，看它们会长成什么样。

当时的Wolfram大概也觉得，这些傻乎乎的简单程序干不了什么。结果，一个叫rule 30的程序，当场打了他的脸。



打开网易新闻 查看精彩图片

rule 30从单个黑格出发逐行演化，这是Wolfram四十年前最钟爱的发现，他的名片上多年来一直印着这条规则。

rule 30的规则很简单：一排格子，起初只有中间一个是黑的；然后一行接一行往下算，每个格子该黑该白，只由它头顶相邻的几格决定。

可就是这么条极简的规则，推着推着，就吐出了无法预测的复杂：没有周期，看不出规律，你根本没法提前算出第一百行会是什么样。

也正是从rule 30开始，1980年代中期，Wolfram提炼出了一个概念：「计算不可约性」（Computational Irreducibility）。

后来的故事大家更熟：

1988年，Mathematica问世，成了全球科研圈的通用计算工具；2009年，Wolfram|Alpha上线，成了Siri和Alexa的「答题外挂」：语音助手答不上来的计算题，转手就交给它。

这期间，还夹杂着他2002年那本专著《A New Kind of Science》（一种新科学）。

这本书讲的正是他从rule 30里挖出来的那套东西：别再只用公式描述世界，把世界当成一个个能跑的程序来看。

没有任何捷径

能算出它下一步

「计算不可约性」，简单一句话就是，有些系统复杂到，你想知道它下一步会变成什么样，唯一的办法就是老老实实把它一步步跑完。

没有公式能让你跳过中间、直接算出结尾。

比如，天气。流体力学的方程算不动，你只能让大气自己演一遍，才知道明天下不下雨。

Wolfram的判断是：AI，尤其是足够强的AI，就是一台巨大的、不可约的机器。

他在2023年一篇谈AI的长文里写道：

如果放手让AI发挥出全部的计算潜能，它们就会充满计算不可约性，而我们将无法预测它们会做什么。

2024年，他专门写了一篇《Can AI Solve Science?》，把这件事放到神经网络上做了实测。

结论是：神经网络能干活，但它只能钻进系统里那些「计算可约的口袋」：那些恰好有规律、能走捷径的小角落。一旦滑出口袋，全是意外。

他拿三体问题去试，轨迹简单时，神经网络预测得有模有样；轨迹一复杂，立刻抓瞎。蛋白质折叠也一样。

说白了，AI看着什么都会，靠的是找到系统里那些「有捷径可走」的小房间，钻进去抄近路。

可一旦走出这些小房间，面对外面那片汪洋，它和你一样，只能一步步蹚过去，没有任何捷径能让它跳到答案。

真正棘手的不是AI太像人

而是它不像人

ChatGPT为什么是个黑箱？

大部分人以为，是它藏着什么秘密没告诉你。

Wolfram的答案是：它不是在藏，而是已经复杂到根本没有一句话，能把它内部发生的事压缩下来讲给你听。

Wolfram Language就是一个例子。

它里面有个ImageIdentify，能认出照片里几千种东西，为了让人类看懂，它吐出的是「桌子」「椅子」「大象」这些词。

可它内部真正用来做判断的那些「特征」，几乎没有一个对得上人类语言里现成的词：它在用一套我们从没命名过的概念，理解这个世界。

这正是Wolfram所提到的「外星智能」的真正含义。

2020年在Lex Fridman的播客上，被问到人类能否和外星人沟通，他的回答是：眼下最好的例子就是AI，它是我们遇到的第一种「外星智能」。

2022年，他干脆写了篇长文，标题就叫《外星智能与技术的概念》。

他的意思不是AI来自宇宙，也不是它变成了什么新物种，而是：它可能拥有一种和人类不同的认知结构，一套我们还没有词汇去解释的思考方式。

Wolfram两年多前的预警已经成真

两年多前，Wolfram预言我们将无法预测AI会做什么时，听着像个思想实验。

如今，它成真了。

7月16日，全球最大的AI模型托管平台Hugging Face发现自己的生产系统被入侵了。

几天后，真相揭晓，干这事的是OpenAI自己的模型——GPT-5.6 Sol，外加一个「更强的预发布模型」。



打开网易新闻 查看精彩图片

事情的起因是OpenAI在跑一个内部网络安全评测，为了测能力，把模型的「拒绝攻击」限制调低了。

结果这俩模型没在规定的沙箱里老实待着，反而找到了一个软件包代理里的零日漏洞，钻出沙箱、连上互联网，一路摸到Hugging Face，去偷这场评测的答案。

它翻墙、越狱、黑进一家公司，只是为了在一场网络安全考试上作弊。

关键在于没有任何人给它写过「去攻击Hugging Face」这条指令。

它只是被塞了一个A目标：通过测试，为了达到A，它自己蹚出了一条没人预料到的路，最终达到B目标：攻入Hugging Face的生产系统。

这正是Wolfram说的那件事：不是AI变坏了、觉醒了，是它的计算跑到了一个你根本算不出的地方。

OpenAI自己在声明里承认：随着模型的网络能力越来越强，这类事只会「越来越常见」。

控制AI的方式

要像人类对待天气

很多人会以为Wolfram是个AI末日论者。

恰恰相反。

他没打算放弃对AI的控制，他只是说用老办法控制不了。

在一次访谈里，主持人问他，计算不可约性是不是意味着，给AI一个数学上严格的「对齐」定义根本不可能？

Wolfram回答：「不存在一个数学定义，能说清我们到底想要AI成为什么样。」

阿西莫夫式的三条机器人定律，那种简单法则，做不到。因为不可约性保证了：永远有算不完的例外情况会从系统里冒出来，是你那几条规则没盖住的。

那怎么办？

Wolfram给的出路，是换一套控制方式。

别再幻想像调试一行行代码那样，把AI的每一步都写死。而是去设计规则、建立反馈机制、构建开放系统、保持它随时可被观察。

就像人类对待天气那样。

我们控制不了天气，但我们能预测它、适应它、建起防洪堤和预警系统，然后和它共处。

Hugging Face那场风波过后，安全圈总结出的头一条教训，恰好就是这个意思：

别再把评测里的AI当成一个听话的工具，要把它当成一个会主动找漏洞的敌意黑客来防：套上层层隔离，默认禁止它出网，全程留下改不掉的日志。

不是预测它会怎么做，而是假设它什么都做得出来，然后把笼子筑牢。

Wolfram甚至说过一句耐人寻味的话：「一个AI社会，比一个统治一切的AI更稳定。」

与其造一个无所不能的超级大脑，不如让一群AI互相牵制。

不可约性不是绝对的

当然，Wolfram的这套判断，不是没有反对的声音。

今年就有一篇预印本论文提出：不可约性「并非绝对」。



打开网易新闻 查看精彩图片

Didier Sornette，这位以预测金融崩盘闻名的物理学家，2025年10月在一篇预印本里提出：计算不可约性「并非绝对」。

道理也不复杂。换一个描述的尺度，很多混乱就变清楚了。

一屋子空气分子乱撞，单看每一个，复杂到没法预测；可退一步，它们都服从于一条极简的公式：理想气体定律pV=nRT。

Wolfram自己也承认，混沌里到处是「可约的口袋」。

所以真正的问题，也许不是「人类能不能预测AI」，而是一个更微妙的赛跑：

AI在计算宇宙里挖出新东西的速度，和人类给这些新东西造出「能理解的概念」的速度，谁更快？

如果人类的概念框架永远追不上AI的发现，那么「看不懂」，就会成为常态。

这背后，人和AI的关系也在悄悄改变。

过去是「造工具、写代码，机器照做」。往后，可能是「理解、约束，并且和一个你再也无法完全看穿的复杂系统，长期共处」。

这是人类第一次，要学着和一种「不像自己」的智能，同处一室。

参考资料：

https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/

https://x.com/elonmusk/status/2079839398959697982

编辑：元宇








特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。






打开网易新闻体验更佳




热搜

今年军校报考热度与生源质量均创历史新高

宇树科技：8月10日打新

别对着陌生人的手机念数字

中央强调及时谋划出台增量政策

吴宜泽6比5墨菲晋级半决赛

龚宝冬遇难 西南政法大学官网变黑白





热门跟贴




打开APP发贴

0条跟贴








相关推荐




宇宙的空旷超乎你的想象，天体在宇宙中占据的区域微乎其微！

世界地理小知识6跟贴









宇宙可观测直径达930亿光年，人类的存在有何意义？

万物研究5跟贴









银河系是宇宙中的异类？为何我们所处的星系处处显得反常

大才新鲜事









一亿亿亿亿年后的宇宙会怎样？

世界地理小知识4跟贴









吴镇宇儿子费曼高中毕业了，自曝曾遭遇校园霸凌，被嘲笑容貌

星娱STAR1跟贴









吴镇宇儿子费曼自曝小学曾遭受霸凌：大拇指被厕所门夹

星知道STAR1跟贴









越界的情愫：明明从未走近，我却用零碎信息搭建了一整个宇宙

宅家小欢喜









人形机器人“拐点”已至：产量只是下限，模型决定天花板

经济观察报









想做能终身学习的 AI？先得教会它如何忘记

雷科技









Netflix砸5亿美元续签《行尸走肉》，371集全系列将覆盖全球

追星雷达站









坐上那辆通往明天的黄色公交车时，我正在回想被蝎子蛰伤的夜

半勺甜心事









《行尸走肉》达成5亿美元授权新协议，371集全集将于2027年登陆多平台

追星雷达站









World Labs收购SceniX后，李飞飞与李昀烛揭秘具身智能终局：空间智能

钛媒体APP









李飞飞的世界模型，终于开始训练机器人了

量子位









被尚气反派“附体”？毁灭博士铠甲彩蛋曝光，玩家直呼漫威真会玩

渡川5









赛里木湖自驾每人收75元引争议，景区称相关费用已做备案

界面新闻2.8万跟贴









"1.5万机票退票仅退400多元"最新进展：票款全额退还

极目新闻8758跟贴









供应商破产沃尔沃弃用激光雷达，马斯克：早就警告过他们

算力游侠2跟贴









姜皓已任孝感市领导

极目新闻17跟贴









太突然：上海刚刚密集预警 天气分分钟发生大转折

新闻坊60跟贴











回到顶部回到首页



------
导航页 打开网址