哥德尔与人工智能

摘要：哥德尔不完全性定理可以表述为没有机械定理证明机器（或程序）能够只证明全部真的数学命题。它不仅仅是一个确定的逻辑定理，还对数学真理的本性以及人心与机器的关系等哲学问题有着深远的影响。本文从两个角度讨论哥德尔与人工智能的关系：第一部分从哥德尔不完全性定理出发，以此为工具来考察“人心胜过机器”反机械论中著名的“卢卡斯—彭罗斯论证”以及“哥德尔析取式论证”；第二部分则集中讨论哥德尔对图灵关于机械程序分析的看似不一致的评论，一方面他毫无保留地赞成图灵关于机械程序的分析，但是另一方面他又断言图灵的分析中包含一个“哲学错误”，这个错误会导致图灵的分析为“人心无法超出机械程序”提供证据。最后从科尔纳对哥德尔式反机械论的最新研究以及当代人工智能在数学定理发现与证明方面的最新进展对哥德尔与人工智能的讨论做一些评论与展望。
关键词：哥德尔；人工智能；反机械论；人工直觉

一、导言
说起人工智能，我们可能首先会想起著名的1956年达特茅斯会议①，以及其后尤其是近些年来人工智能在定理证明、棋类竞技和语言处理等方面取得的非凡成就。除了和传统的身心问题这一哲学难题密切相关之外②，人工智能引起人们极大兴趣的另外一个主要原因是其令人瞩目的进展为人类提供的反思契机：人类智能的本质是什么，它一定胜过人工智能吗？

①有关人工智能详细的历史和发展，可以参见尼克：《人工智能简史》，北京：人民邮电出版社2021年版。②如果我们将“身”的概念推广到包括“脑”，而且假定大脑的运作和机器基本无异。

事实上，早在1950年，被誉为“计算机科学之父”与“人工智能之父”的阿兰·图灵（Alan Mathison Turing）就在“计算机与智能”①的论文中第一次提出了用机器来实现智能的想法，并设计了一种后来被称为“图灵测试”的模仿游戏来验证机器是否具备智能。虽然对“图灵测试”这一行为主义标准能否刻画人类智能一直都有质疑②，但是图灵的工作是奠基性的，他不仅为机器智能提供了“图灵机”这样一个足够精确的模型，并且还设想了这一模型可能的延伸和推广，使得我们关于人工智能范围和限度的讨论不再只是单纯的思辨和想象，而是建立在一个稳定而坚实的立足点之上。诚然，我们对人类智能本质的理解还缺乏清晰的认识，传统上以问题解决为核心的模型还未充分考虑到环境交互和学习试错等其他因素，我们同样也面临着现有模型对随机性和复杂度考量之不足以及未来可能模型的多样性的挑战。然而，如果单纯从逻辑和数学这个更为抽象而非可行性的角度来考察的话，我们可以将机器能否具有智能这一稍显含糊的问题规约为机器能证明的数学是否和人类一样多这个更加清晰的问题，即从证明数学命题外延的角度来比较理想的人类心灵的数学能力和理想机器的数学能力强弱。以此为焦点，哥德尔不完全性定理（Gödel’s Incompleteness Theorem,以下简称GT）便扮演了一个重要角色，因为它一劳永逸地为形式系统③在数学领域内的证明能力划定了界限。哥德尔不完全性定理是为了解决1900年希尔伯特提出的20世纪需要解决的23个数学问题之一所得的划时代数学结果④。而100年后美国数学家斯梅尔也设想了21世纪需要解决的18个数学问题,其中的第18个问题便是“人类智能的极限和人工智能的极限是什么？”⑤并且指出,这个问题与哥德尔不完全性定理密切相关。哥德尔不完全性定理可以按照下述形式陈述⑥：

GT数学是不可穷尽的。

GT1每个一致的形式数学理论一定包含不可判定的命题。

GT2没有定理证明机器（或程序）能够只证明全部真的数学命题。

GT3没有既一致又完全的形式数学理论。

GT4数学是机械上（或算法上）不可穷尽的（或不可完全的）。

简单说来，哥德尔定理揭示了数学（甚至算术）的算法上的不可穷尽性（或不可完全性）。按哥德尔的看法，算法上不可穷尽这个事实，表明了不是人心胜过计算机，就是数学不由人心创造，或二者皆真。因此，这个定理和心灵与机器的数学证明能力有着明显的关系。一方面，人们确实很难抵挡从GT这个确定的数学定理出发去试图证明“人心胜过机器”这一哲学论

①Allen Turing,   “ Computing Machinery and Intelligence ”, Mind, 1950, Vol. 49, No. 236, pp. -60.②最著名的反对意见便是塞尔的“中文屋论证”。JohnR. Searle, “Minds ,Brains, and Programs ”  ,Behavioral and Brain Sciences, 1980, Vol. 3,No .3, pp. 417-57.③一个形式系统可以看做是一台理想的证明定理图灵机。④哥德尔是为了解决分析希尔伯特第二问题，即分析的一致性。更确切的说，哥德尔是在他试图解决分析相对于算术的一致性过程中发现其不完全性定理的，具体的细节可以参见他1970年写给Yossef Balas的信件。Kurt Gödel, Collected Works, Volume Ⅳ, Oxford: Oxford University Press, 2003, p.9-10.⑤Steve Smale, “Mathematical Problems for the Nex tCentury ”,The Mathematical Intelligencer, 1998, Vol. 20, No. 2, pp .7-15.⑥以下表述源自王浩。参见王浩：《哥德尔思想概说》，《科学文化评论》2004年第6期，第79-86页。
断，哥德尔自己以及著名“卢卡斯—彭罗斯论证”便是从这个角度出发去论证心灵与机器、人类智能与人工智能之间的关系的。另一方面，作为GT哲学基础之一的“形式系统”概念便是由图灵所定义的“机械程序”——也等价于图灵机。吊诡的是，虽然哥德尔认为图灵的定义是“精确且毫无疑问充分的”，但是他同时也认为图灵的论证中包含一个“哲学错误”从而导致其论证有可能会被误解为支持“人类心智活动不可能超越任何机械程序”。本文拟从哥德尔对GT的哲学意蕴以及他对图灵关于机械程序定义的看似不一致的评论出发，结合最新的哲学与人工智能方面的进展，对哥德尔与人工智能的关系做一个初步的探讨。

图为哥德尔

二、卢卡斯—彭罗斯论证以及哥德尔析取式论证

关于心脑与机器关系问题的争论也许最早可见于波斯特（E.Post）关于人心比机器优越的猜想。1921年波斯特就设想过大致相近的不完全性理论并推断①：数学家远远不只比机器更灵巧，能更快地做到机器最终可以做到的事情。我们看到，机器永远不可能提出完备的逻辑，因为机器一旦造成，我们总能证明一个它不能证明的定理。②

然而经过斟酌之后波斯特不久就修正了这个“看似草率”的推论：“人不是机器”这个结论不能成立。我们所能说的只是，人无法制造一部能做出人类所有思考的机器。要说明这一点，我们可以想象制造一部能够证明相类于其自身心理运作的定律的“人—机器”复合体。③

1961年，牛津哲学家卢卡斯（John Lucas）提出了类似波斯特上述第一个想法的论证④，以GT为基础来论证人心胜过机器的反机械论论证。卢卡斯的论证极具争议，引发了各种辩论和反对意见⑤，但也不乏支持者，其中最有名的是英国数学家、物理学家罗杰·彭罗斯（Roger Penrose）。在1989年出版的《皇帝的新脑》一书中⑥中，彭罗斯不仅对卢卡斯的论证作了扩展，并且还从意识和量子力学等新的角度试图从GT出发直接论证“人心超过计算机”的结论。鉴于二者论证的若干相似之处，我们将类似的从GT出发为人心胜过机器辩护的论证称为“卢卡

①1941年波斯特写了“Absolutely Unsolvable Problems and Relatively Undecidable Propositions–Account for an Antic-ipation” ，其中便包括他于1921年起涉及到不完全性的部分笔记，全文首次公开发表于1965年。②Emil Post,“ Absolutely Unsolvable Problems and Relatively Undecidable Propositions Account of an Anticipation ”,in Martin Davis (ed.) ,The Undecidable, New York: Raven Press, 1965, p. 417.③Emil Post,“ Absolutely Unsolvable Problemsand Relatively Undecidable Propositions –Account of an Anticipation ”,p .423.④JohnR. Lucas, “Minds, Machines and Gödel”, Philosophy, 1961 ,No. 36, pp. 112-127.⑤Paul Benacerraf, “God, the Devil ,and Gödel ”,The Monist, 1967, No. 51, pp. 9-32 ;Davi dLewis, “Lucasagainst Mechanism ”,Philosophy, 1969, Vol .44, No. 169, pp. 231-233.⑥Roger Penrose, The Emperor’s New Mind, Oxford: Oxford University Press, 1989

斯—彭罗斯论证”①。

卢卡斯—彭罗斯反机械论论证的核心可以表述如下：

无论我们造出多么复杂的机器，只要它是机器，就将对应于一个形式系统，那么依照哥德尔构造不可判定命题的方法就能找到一个在该系统内不可证的公式。机器不能把这个公式作为定理推导出来，但是人心却能看出它是真的。因此这台机器不是心灵的一个充分的模型。人们总想制造心灵的一种机械模型，即从本质上是“死”的模型，而心是“活”的，它总能比任何形式的、僵死的系统干得好。多亏了哥德尔定理，心灵总有最后的发言权。②

如果我们将“机器”理解为生成定理的图灵机，那么由于形式系统定义的精确性以及不可判定命题的构造性，卢卡斯的上述论证从技术上而言似乎是不可反驳的。但是其反对者的主要理由是他对GT的运用，即到底是“人心能看出它‘不可判定语句’是真的”还是说“如果人心是一致的，那么人心能看出它是真的”？卢卡斯的论证若要成功，还需要一些其他的理想化假设，即“理想的”人心确实是一致的，并且我们也能认识到（或证明）这一点，而这些假设至少从哲学上而言是需要辩护的。考虑一个从上述角度出发的典型的反对意见，比如按照刘易斯的观点，卢卡斯的论证可以被看作是在为如下超穷的推理规则辩护：

R：如果S是一个语句集，并且C是对应于这个语句集的一致性语句的话，那么可以从S推出C。

相比于作为定理证明机器的任何形式系统F，人心，如果是一台机器的话，那么它在证明能力方面要比F更强大，因为它还可以使用R这条系统的推理规则。R显然是一条可靠的规则：如果前提S中的所有语句都是真的话，那么S必定也是一致的，所以C一定也是真的，因而R是一条保真的推理规则。由于任何形式系统或机器都不能推导出它自身的一致性语句

（否则会和GT矛盾），但是能够使用规则R的人心却可以③，所以人心胜过任何机器。但是，刘易斯认为卢卡斯的论证不是决定性的，因为为了达到他的目标，他还需要额外论证我们有足够的能力去验证（verify）人心所能输出的所有定理。但是和一般的形式系统不同，由于使用了R这条超穷规则，我们可能会面临一些有无穷多前提的证明从而不能保证这种验证一定会成功④。

《皇帝的新脑》和彭罗斯

内容中包含的图片若涉及版权问题，请及时与我们联系删除