2024年12月7日下午，由苇草智酷、信息社会50人论坛联合主办的“2024苇草思想者大会（第八届）——重新理解秩序@计算”在北京大庆朗读成功举办。段永朝以《图灵的天花板：计算主义批判》做主题分享。
以下发言内容整理而成：
先问候今天在现场已经坐了三个小时的各位，大家辛苦了。今天的这个主题，叫做“重新理解秩序@计算”。一句话说，就是今天我们需要面对的一个问题，是“计算如何重塑秩序？”
2024年我们曾就“到底何谓计算”的问题，在景峪书院举办过两次苇草会议，与数位老师深入探讨过计算的本质。在开始之前，我想借用朱嘉明老师刚才提到的两本书——80年前波兰尼的《大转型》和哈耶克的《通往奴役之路》，这两本书反映了百年思想的转折。同时，我认为我们还需要回顾180年前马克思的《关于费尔巴哈的提纲》。这本书中有一句金句，想必大家都耳熟能详：“过去的哲学致力于解释世界，而今天的哲学致力于改造世界。”马克思在近200年前就敏锐地指出了近200年来哲学思想的巨大转变，这一转变通过波澜壮阔的19-20世纪充分表达出来了。然而，通过前面五位讲者的分享，我们已经深刻感受到马克思所说的哲学思想的“逆转”正在重新发生。
什么意思？表面上看大家会觉得改造世界依然风起云涌，改造世界依然摧枯拉朽，改造世界的力量在过去200年来不是一直在碾压解释世界吗？在西方的传统哲学思想里面，解释世界被贴了一个标签叫“形而上学”。过去200年来，西方的“形而上学”经常处于过街老鼠的阶段，被改造世界的思潮或者叫工程师主义，也就是今天的计算主义碾压式打击，这不是正好印证了马克思的判断了吗？但是从5位讲者的阐释中我们可以看到，重新解释这个世界的机缘似乎已经到来。
不过，我觉得还需要细心分辨一下两种不同的解释。特别是经过过去200年来对于形而上学碾压式的摧残之后，“解释”这两个字，在过去200年来似乎已经变得猥琐不堪。其中一种正是这种迎合式的、“庸俗”的解释。
比如说，关于人工智能，新时代流行的解释里面有三种类型：第一种解释致力于解释（人工智能）如何改造世界，第二种致力于解释（人工智能）改造世界的后果是什么？这两种解释都是吓唬人的，没有更多思想内涵，只是人工智能这一术语的“学舌”或者“帮凶”；第三种解释，则是致力于解释（人工智能）改造世界，还需要什么新的解释？
我认为，过去200年乃至今天，充斥于世的、大量的“解释世界”的文本，就是这种猥琐不堪的“庸俗解释”，这些个解释，无非是马后炮样的跟风而已。因此，今天从钟义信老师一开始提的问题，就把矛头直接指向图灵、香农，看他们在基本原理方面到底残留了什么东西？
我认为还存在另一种解释的可能。这另一种解释，就是试图从“庸俗解释都假设了什么”开始，从质疑前一种解释“到底解释了什么”开始。
今天，我发言的题目是《图灵的天花板》。我试图用一个简单的比喻——1.5伏的干电池来“电击”一下这个已经僵尸般附体很久的解释体系，来尝试为新的解释的可能性奠定基础，看看是否能让新的解释系统从“庸俗解释”中解放出来，独立前行。同时，我也想以此来呼应刘晓力老师提到的“重回目的论”。
在过去200年的解释逻辑中，目的论一直被隐藏在幕后，甚至被视为禁忌。一旦提及目的论，就会被认为违背科学的正义感，带有神学色彩。然而，今天的情况或许并非如此。
纪念图灵，就需要思考一个问题，图灵到底贡献了什么？（图1）我们都知道是图灵测试、图灵机以及图灵的密码技术，这些都是他显而易见的成就。但我认为，图灵当年的定义中有一个非常重要的点，值得我们关注。这个点被大大忽略了。为什么？因为我们今天对计算主义的了解，大多建立在两个流行语的基础上：一是“计算崇拜”，二是“技术中立”。其实，我们更应该回到图灵早年的论文中，他开篇第一句话给出一个定义——可计算数。可以说，图灵提供了计算理论的两大思想支撑，分别是可计算数和计算复杂性（计算复杂性在图灵这里，讨论的是“有限步骤”）。
图1 图灵的成就及其思想
所以，我觉得今天我们要回顾从图灵的原始论文和原始思想去看，我认为，图灵的思想并非孤立出现，而是继承并发展了在他之前的众多思想家的成果，如哥德尔、希尔伯特等。图灵的工作证明了从传统数学向计算转型的可行性，这一转型是西方思想史中一个重要的延续。
从莱布尼茨到希尔伯特，西方思想界逐渐形成了一种“计算可以解决一切”的观念。美国一位学者Pamela McCoduck在1979年出版的《人工智能》一书中提到：“人工智能是一个贯穿西方知识分子思想史的观点，是一个亟待实现的梦想。”书中引用了皮格马利翁的传说、赫尔墨斯的神话，以及霍布斯、莱布尼茨、希尔伯特等人的思想，展示了西方“计算至上”观念的形成过程。
大家都非常熟悉，莱布尼茨在26岁的时候出版了一本小册子——《论组合艺术》（1666），他在书中提出了一个极具前瞻性的观点：能不能把哲学家之间的争辩转换成算术计算？通过这种方式，我们可以消除争议，获取共识，并且干脆利落、干干净净地获得共识，从这点可以充分地领会西方知识分子思考计算问题背后的那种人文情怀。
以至于到了希尔伯特之后，这件事情就变得非常地明朗化。希尔伯特采用一种形式主义的方式解决这个问题，最后希尔伯特最大的贡献就是把“证明”与“计算”划上等号。1900年，希尔伯特提出了著名的23个数学问题，其中第10个问题是关于丢番图方程（Diophantine Equation）的求解。他试图将求解丢番图方程的问题转化为一个可以用证明回答“是”或“否”的过程。
哥德尔受到希尔伯特问题的启发，在1928年采用数学技巧，通过构造哥德尔数完成了相关证明（图2）。进而，1931年，哥德尔提出了著名的“不可能性定理”。这个定理我粗浅的理解，就是证明了在算术体系的范畴内鱼和熊掌不可兼得，即一致性和完备性不可兼得。
图2 从哥德尔到图灵：哥德尔数与可计算数
我认为，包括丘奇（Church）和图灵在内的这三位数学家，实际上都在希尔伯特提出的“计算与证明等价性”这一问题上做出了努力。但是殊不知无心插柳柳成荫，我们回过头看这句话，当年图灵面对的问题意识是希尔伯特的问题，而不是什么发明数字计算机，这只是个副产品。图灵机只是给出了一个可以运行的理论计算模型。但是到了20世纪40年代，冯·诺伊曼将这一理论应用于实际，从而催生了我们今天所使用的计算机。
由此，我们不禁要思考这样一个问题：图灵提出的“可计算数”概念，与我们从小学数学开始所理解的、可感知的现实世界之间，究竟存在多大的差距？
图3 可计算数：CTD论题的基石
这是我自己斗胆写的一个东西（图3），我觉得很欠推敲，我说图灵的可计算数，对应的是康托尔发明的概念ℵ0，因为它是可数的，ℵ1是实数集，是不可数的。这两个之间的落差就是希尔伯特23个问题的第1个问题，即康托尔的连续统问题。这个问题到现在没有人解决。也就是说，这意味着我认为图灵的世界跟我们的感知世界之间的“落差”问题，迄今为止悬而未决。所以，我觉得当今时代的“立足之本”，也就是“计算搞定一切”的思想，其实是非常不稳固的，这是其中的一个问题。
此外，丘奇-图灵论题（CTD）或丘奇-图灵原理，如果再结合英国物理学家多伊奇将其推广到量子计算的尝试，本质上只是人类对计算这一问题的猜测，并不是一个已被证明的定理。因此，我们有必要以200年为时间尺度，回顾数学思想的演变历程，尤其是康托尔的贡献。
从数学上对康托尔的思想，需要进行深度的反思甚至是“批判”，为什么呢？数学在康托尔这儿——当然不是他一个人，而是一代人，数学经历了非常重大的转型。时间尺度跨越1850年至1950年这100年间，数学经历了从分析到计算的重大转型，我将其称为“第三次大转型”，就是“三化”，形式化、抽象化、公理化。前两次大转型分别是：笛卡尔的几何代数化（解析几何的创立），以及分析思想的出现（从牛顿-莱布尼茨到分析数学）。
众所周知，康托尔的贡献就是提出来康托尔的集合论（后世称之为一般集合论），它的要点在于，完成了对西方数学思想史（也是哲学史）上争论了2000年的“无穷”观念的拍板定案。西方历史争论的无穷是现实存在的还是潜在存在的？是实无穷还是潜无穷？这个问题争论了2000年。到康托尔这里，主流的数学界渐渐接纳实无穷，拒绝潜无穷，这就是康托尔做的一个“伟大的贡献”。在这个之后，特别是经过爱尔朗根纲领和希尔伯特纲领之后，就完成了数学的形式化、抽象化、公理化的进程，使得数学变成了我们今天的面貌。
今天数学的这个面貌，导致了五个重要的后果：
第一，数学从存在论证明向构造论证明的转变。过去数学在西方历史上长期以来特别中世纪的数学，到了伽利略、牛顿时期的数学，或者说在18世纪以前的数学，它接受存在论证明，典型的就是“N次方程有N个根” 这样的证明方式被广泛接受。
但是到了18世纪中期以后，数学家逐渐变得对存在性证明唯恐避之不及，转而追求构造性证明。换句话说，仅仅证明某物的存在是不够的，还需要提供具体的构造方法。这一转变的重要推动者是德国数学家克罗内克，有趣的是，他也是康托尔的死对头。
构造性数学的集大成者是法国上个世纪60年代处于鼎盛时期的一个学派——布尔巴基学派，他们统统要重新用严格的构造方法改写整个数学，但到了90年代这一学派也逐渐销声匿迹。
第二，几何到代数的转型。我引用英国数学家阿蒂亚20年前的观点，他说“数学思想在20世纪不幸有一个转变，特别指责希尔伯特，希尔伯特是个代数学家，由于希尔伯特的出现，使得整个数学界坚持代数传统，放弃几何传统，”当然这是一种思想上的几何和思想上的代数，换句话说用计算代替直觉，用计算来代替整体上把握世界的能力。甚至阿蒂亚用了一个分量很重的话，把它叫做“浮士德的交易”。“浮士德的交易”意味着数学家获得了超强计算能力，但是交出了自己的“灵魂”，他认为数学家从此进入到了思想上的实用主义（这是他论文中的一个延续）。
第三，科学家退位、工程师崛起。这两种思想的转型意味着科学从此具备了工程意义，科学有了工程意义，追求量化、追求模型，追求实用主义、追求可测量，所有的东西一方面顺应资本主义工业时代和工业革命的需求，另一方面对形而上学式的科学家，对于世界饱含人文关怀、忧虑的科学家的思想情感，逐渐退到边缘层面，大众的科学世界观逐渐地笼罩在工程师思维的氛围之下。
第四，价值中立原则。马克斯·韦伯这一代人随着实用科学的兴起确定价值中立思想。这一思想的两个核心假设是：一是社会价值可以用科学方式度量，二是这种度量方式是中性的。他们的这种假设认为社会科学、经济现象、社会组织甚至包括政治意识形态、心灵因素都可以用科学方式度量；第二、这种度量方式是完全中性的。这种假设其实在上个世纪就已经破产。
第五，香农在其原始论文中明确指出：“信息（information）与意义（meaning）无关”，信息论的作用仅仅是将信息从一地传输到另一地，扮演的是“搬运工”的角色。我个人觉得香农也好，图灵也好，对自己做的事情边界非常清楚，所做的信息学科的数学界定只跟传输有关，只跟通讯理论有关，只跟不确定性有关，但是跟content、Meaning都没有关系。然而，不幸的是，香农初衷逐渐地就被大家忘掉了，以至于大家在上面叠床架屋增加了太多的解释。
基于上述五点，我们可以看出，今天流行的“解释世界”之所以是“庸俗”的，是因为今天的解释传统中，已经蕴含了大量固化的前提。所以，我说在马克思所论的“改造世界”的进程中，附加了太多“固化”的解释能力。也就是说，改造世界之所以盖过了解释世界，不是因为解释不重要了，而是因为解释退化了。
非常不幸，我们解释世界的能力是跟随在改造世界之后的，我们是一种事后诸葛亮式的、马后炮式的总结和解释，并没有发展一种与改造世界的能力等量齐观、平起平坐的一种新的解释世界的能力。
图4 康托尔+哥德尔：图灵的地板与天花板
所以，在我的观察（图4）中，图灵的地板是康托尔，图灵的天花板是哥德尔。康托尔关于实无穷与潜无穷的讨论，为图灵的研究提供了出发点，同时也支撑、限制了图灵对计算的界定；而哥德尔的理论则为图灵的思想设定了某种无法逾越的边界。
第一、图灵的出发点，就是可计算数，他非常清楚是在对数的概念缩小了的范围内讨论图灵机的可计算数，不是在更广泛的实数的范围内讨论数和计算问题。第二、对于哥德尔来说，我引用王浩先生两个著作，《人心胜过机器》，这是王浩晚年印象深刻的哥德尔的观点，甚至可以认为哥德尔是一个唯心主义者。《逻辑之旅》里面说了“可计算主义（computationalism）说的是，人脑和心灵基本上像一台计算机一样工作；神经主义（neuralism）说的则是，人脑和心灵足以解释心智现象。哥德尔在20世纪70年代与我的讨论中，坚定地相信可计算主义和神经主义都是不正确的。”可以看出，哥德尔对被计算抛弃的东西更感兴趣。
在纪念图灵诞生100周年的时候，英国出版了一本《永恒的图灵》，书中20位科学家对图灵的计算思想和对生命的思考进行了深入探讨。这本书更多地还原了图灵对计算的本意，而非对其思想的过度延伸。
图5 GPT简评：图灵可计算数与计算主义的思想渊源
这是我让GPT评价这个问题（图5），它给出这样一个结论，基于可计算性的计算机，其实是实用主义和实证主义的一种登峰造极之作。换句话说，我们今天所讨论的图灵机以及对人工智能的种种延伸解释，可能都是在一个缩小了数与计算的含义和可能性的范围内进行的，而且这些讨论，在某种程度上也只是对图灵思想的续貂之作。
当然，不可否认，这种社会思潮极为强大，以至于在2024年3月在图灵奖颁奖给阿维·威格森之后，我与刘晓力老师有过多次探讨。我觉得这件事情是计算主义滥觞的典型例证。我高度批判今年的诺贝尔化学奖和物理学奖，甚至将其称为“诺奖的堕落”。同样，我认为图灵奖也出现了类似的倾向。
威格森这个人是值得尊敬的，他是一个非常专业的计算科学家，他研究计算复杂性，他的领域是面对计算复杂领域的圣杯（图6），他的工作围绕1971年库克（王浩唯一带出来的博士生）提出的NP问题展开，这也是克雷数学研究所的7个百万美元大奖之一，其中庞加莱猜想20年前被数学奇才佩雷尔曼解决，还有6个没解决，这是其中一个P=NP？
图6 未来世界的两种可能
我用最通俗的语言阐释，这个问题的含义，其实就是“计算能不能搞定这个世界”，或者我加一个限定词，我们今天所理解的计算到底是不是能搞定这个世界？
无非有两种可能，一种是能搞定，P=NP（图6）。一种是没有搞定。无论哪一种，都一定是从数学上来证明，而不是猜测。在我们今天谈论人工智能巴拉巴拉的时候，一定要保持清醒，就是这个问题尚未获得数学上的证明，无论是还是否。
计算复杂性的圣杯为什么这么伟大，就是因为它在发出这样一种召唤，我们到底能不能在严格的人类理性的最高境界，就是用数学来证明，我们到底能不能证明“计算能不能搞定世界”呢？
威格森的结果，我个人认为是非常诡异的。今天人们对这个问题的理解，从计算科学家的角度出发，主流计算科学家倾向于猜测P≠NP，因为这是一再被力证的。虽然猜测P≠NP，但并未给出严格的证明。这个猜测也就意味着“计算搞不定世界”的猜测。
从工程师的思维出发，那么务实的工程师会立马转向实用主义。如果真的搞不定，那我们最好去追求一个满意解，或者我们可以用实用角度得到近似解。威格森的观点是说，我们可以用伪随机数方式接近于搞定这个世界，这就是他获得图灵奖最重要的贡献（当然这么说太简单了，但大意如此）。他认为虽然这个世界根本上能不能搞定不知道——虽然人类是处在“世界”之中，就是处在我们不能搞定的这个世界中，但人们越来越相信既然不能搞定，那我们最好要假装处在这个“已经搞定的世界之外”。也就是说，我们可以假装这个世界是能搞定的。我认为这是威格森获奖的意义所在，或者说威格森几篇著名论文背后隐藏的一些思想。
这个思想到底对人类意味着什么？意味着对这个圣杯的解释，面临巨大的分水岭。
还是这个圣杯，假如这个圣杯依然存在，或者假如这个圣杯会存在千年，这意味着什么？意味着人类有两种可能：一种是继续等待“戈多”，上帝并不干预这个世界，但存在干预的可能。这意味着我们离“天堂”依然有一步之遥，虽然可以无穷逼近。但如果真的被证明P≠NP，那么“天堂”将崩塌，戈多永远不会回来。
每次思考这个问题，我都会感到无比伤感，甚至泪流满面。我衷心希望这个“圣杯”永远无解，因为只有这样，世界才能有足够的空间容纳更多的可能性；如果这个“圣杯”永远无解，这句话其实说的是在人肉智能的可能性下永远无解，那么这个圣杯的存在，将佐证人的某种无法逾越的智力局限（当然乐观主义也将其解读为无穷逼近的可能，这样也不错），将“谦卑”深深地印在人的脑海里，警醒人“虔敬”的生活是怎样的。
如果这个问题真的被解决，这将意味着人将永远不需要戈多，更不必等待什么戈多，这将意味着人竟然真的成为“自然的主人和占有者（笛卡尔语），这将是何等的可怖！思辨哲学家们小心翼翼地为信仰留下的地盘将荡然无存。这个世界将成为概率主义、实用主义驰骋疆场的“丛林世界”，这就是我对威格森，进而对图灵提出“质疑”的根本原因。如果真的如此，我们将面临一个非此即彼的选择，这是一件令人无比伤感的事情。
然而，去年（2023年）图灵奖授予威格森之后，很容易给人一种错觉：即便这个世界无解，人类仍然可以趾高气扬地认为自己有可能达到那个境界。这是一种何等狂妄的想法！
所以，对计算主义的批判其实意味着这么一个很通俗的问题，就是计算到底能不能搞定世界？每个人都值得思考，但是切莫急于回答的问题。与这个问题等价的另一个问题是“梁济之问”。
1918年的梁济之问大家都在引用，“这个世界会好吗？”用在计算上同样是如此。所以我觉得我自己的疑虑是，我们如今所处的这个看似熟悉却又陌生的世界，如果真的被计算搞定，我们在思想上和情感上做好准备了吗？或者我们到底应该以什么样的姿态迎接一个计算主义横行的世界？
我的小小猜测是，如果我们任由“计算崇拜”的思想横行，它可能预示着一种物种级别的改变。刚才张笑宇讲得 “硅幕”的降临，就是物种级别的改变。在这种情形下，六根重塑、心智重塑和认知重启这三件事情可能会同时降临，而所有人都会手忙脚乱，慌不择路，猝不及防。换句话说，我们传统的知识谱系没有能力帮助我们迎接这三大挑战。人类将从此告别几千年来我们可以谈笑风生地讨论的一个确定性崇拜的事情，定数崇拜将不复存在。
在这种情况下，计算崇拜将留下一个巨大的瘢痕——意义永远丧失。
换句话说，在这个信奉计算主义的世界里，我们嚼到嘴里的意义，咀嚼三次就会闻到塑料味道。我们认为吃到肚子里面的营养，就会发现你的排泄物充满了微塑料。这种情形下留给后代生死攸关的挑战就是，假如这个世界没有共识，假如这个世界计算并不能搞定，没有终极答案，这个世界还有没有秩序呢？这个世界的秩序是什么样？我认为这些巨大的问题，已经超越了我们这一代人的头脑，因为我们的头脑是被像康托尔、希尔伯特、图灵这样的思想武装起来的，我们信奉计算主义、工程主义，我们的后代呢？我希望并相信一定不同。但对应他们的那个世界的秩序，到底是什么，这就是真正的未来挑战。顺便说，这也是我们把苇草思想者大会从今年到未来两年的主题，都确定为“重新理解秩序”的一个原因，这是我们共同的关怀。
谢谢大家。