数学基础的范畴论分析

《科学技术哲学研究杂志》2014年第四期

一、范畴结构主义的基本思想

20世纪30年代布尔巴基学派提出了数学结构主义，认为我们应该围绕结构而不是经典问题发展数学，主张结构主义关注对象间的关系而不是其内在本质。布尔巴基学派明确支持集合论结构主义，因其能够为数学的各个分支提供一个统一框架，但集合论结构主义面临不能应用于集合论自身，尤其是集合全域的多样性问题。这促使数学家们和哲学家们开始发展其他可以阐明结构主义的方式，其中主要有斯图尔特•夏皮罗(StewartSha-piro)的自成一体(suigeneris)结构主义，但这种结构主义数学含有非严格的结构，如复数a+bi与它的共轭a－bi共享所有的结构属性;杰弗里•赫尔曼(GeoffreyHellman)的模态结构主义(modalstruc-turalism)，其面临的是一致性问题;第三种进路是基于范畴论的，1945年塞缪尔•艾伦伯格(SamuelEilenberg)与麦克兰恩引进了范畴的数学概念，并证明范畴也包含这样的数学结构，由此产生了范畴结构主义。

(一)范畴论的结构主义基础结构主义者夏皮罗对结构的表述是，“我把系统定义为有某些关系的对象的集合，……结构是系统的抽象形式，突出了对象间的相互关系，并且忽略不影响它们与系统中其他对象相联系的任何特征。”［3］为了具体说明结构的概念及结构与数学之间的联系，我们不妨以阿拉伯数字系统来举例说明，例如0，1，2，3，……;以及策梅罗数字系统，例如，，{}，{{}}，{{{}}}，……，这两个系统具有很多不同的特征，比如初始元素不同。但也有一些共有的特征:比如都有一个可辨别的初始元素;除初始元素外的每一元素都是其他元素的后继;并且它们的后继都满足归纳原理，这三个特点就是这些系统的结构性质。这两个系统的抽象形式，与其他具有可辨别的初始对象且又满足归纳原理的后继关系的形式，都是自然数的结构，也就是说满足相同结构性质的系统可以表征同一个结构。结构主义者认为数学对象的性质是与这个结构中其他对象之间的关系，与其内在属性无关。拿自然数结构来说，自然数的实质就是它所拥有的与其他自然数之间的关系。通过对数学的考察，可知自上而下的结构概念占据主导地位，这一现象体现在:它比自下至上的结构概念更灵活，并且能非常有效的为证明定理产生有力的工具。需要指出的是，范畴论可以为自上而下的结构概念提供一个理论框架。总的来讲，范畴论有三个特征是值得注意的:(1)一些结构范畴特征的独立性来自其初始的说明方式，而这种说明方式部分地解释了“自上而下”的概念;(2)范畴论通过其对于同构的一般性概念为“相同结构”和“结构属性”提供了精确的定义;(3)在一个给定范畴中的给定对象可能具有的唯一属性是，作为该范畴中的对象具有结构的属性。因此数学的“箭头理论”①自动为数学提供了一个结构性的方法。因此，至少在表面上，范畴论为阐明结构主义提供了一个理想框架。

(二)范畴论结构主义的形式化表征在集合和函数中，f∶AB表示f是一个定义在集合A上的函数并且它的值在集合B中。每个集合A都有一个恒等函数，对A中的每个x记作1A∶AA和1A(x)=x，并且对A中的所有x任何函数f∶AB和g∶BC都有一个复合gf∶AC和gf(x)=g(f(x))。在形式语言的演绎规则中，f∶AB表示f是一个证明，它唯一的假设是公式A结论是公式B。每个公式A都有一个证明1A∶AA，其中A既是假设又是结论。将证明f∶AB和g∶BC连接起来可以给出gf∶AC。据此，证明可以看作是将假设转变成它的结论。这两个例子所共有的特征在数学中是普遍的，范畴论可以对它们进行公理化处理。范畴公理抽象地谈到“对象”和“箭头”:每个箭头都有一个作为定义域的对象和另一个作为值域的对象，f∶AB表示f是对于定义域A和值域B的箭头。如果某个箭头的值域是另一个的定义域，如f∶AB和g∶BC的这种情况，箭头就有一个“复合”gf∶AC。每个对象A都有一个“恒等箭头”1A∶AA。公理要求对任何箭头f∶AB，g∶BC和h:CD我们都有h(gf)=(hg)f，f1A=f和1Bf=f。按照这样的公理化，我们有范畴“集”()，它的对象是集合，箭头是函数;还有范畴“证明”(Proof)，它的对象是公式，箭头是证明。范畴公理显然适用于“集”和“证明”。还有其他的范畴如:“拓扑”(Top)，拓扑空间是对象，连续函数是箭头;“群”(Group)，对象是群(抽象代数)，箭头是群同态。在这些不同的范畴中，范畴论有一个统一的作用就是论证不同背景下的不同定理，更重要的是，它专注于对象间相关的结构关系。正如史蒂夫•阿沃第(SteveAwodey)对范畴的描述，“范畴为给定的数学结构提供了一种表征和描述的方式，即在具有所讨论的结构的数学对象之间映射的保存方面。范畴可以理解为包含具有某种结构的对象以及保有该结构的对象间的映射。”［4］

(三)作为数学基础的范畴论毋庸置疑，范畴论并非谈论结构的唯一方式，甚或最好的方式。但值得强调的是，范畴论的确是非常恰当的方式。而何以这项工作由范畴论而非图论、泛代数学、一阶逻辑或是描述性集合论来完成有其理论根源。范畴论发展得如此广阔是基于范畴的概念及函子性、自然性与伴随性的相关概念在现代抽象的数学证明中所具有的广泛适用性。而这种广泛的适用性恰好表明了范畴论在具体说明和操作结构时的有效性。在范畴论中，像关系、连接、属性和算子这样的概念都包括在初始的态射概念之下。态射概念所具有的一般性和灵活性，足以达到其他更多概念能发挥的功能。具体来看，需要关系的概念就用乘积和单态射;需要算子的概念就用乘积上的态射;同态的概念就考虑结构范畴;结构之间的连接，用范畴间的函子;连接中的连接，用函子的范畴等等。许多表面上不同的现象都能以统一的方式进行描述，它们很容易通过范畴论的语言相互关联起来。但是这些范畴存在于何处?例如，在任意的范畴C中一个群G的概念仅仅涉及一些对象、箭头和图解，然后讨论这个范畴中所有群的范畴Group(C)，接着讨论从群范畴回到C的所有函子的范畴CGTOUP(C)等等，这些构造一定会发生在某处，它们需要一些采集原理(collectionprinciples)。但情况并非如此，在层级中“向上”(ingup)的思想，需要越来越强的采集原理和存在性假定，而这些却依靠基础主义的概念，其涉及的对象是固定的、确定的。从范畴的角度来看，一个相当于“向下”(ingdown)的思想，则是通过详述更多需要考虑的环绕结构，如在一个笛卡尔的(cartesian)闭范畴S中最初的范畴C是不重要的。那么范畴S来源于哪里?我们通过笛卡尔闭范畴的少数公理来描述它，然后进一步假定其中的范畴C具有任何让我们感兴趣的性质———特别是，它有一个群G。我们是以这个相同的范畴C开始的吗?这个问题毫无意义。因为这里的G、C、S都不是特殊的，它们是图解的结构，也可以说，它们是通过这些范畴上的对象、箭头与条件的构形(configuration)来指定或确定的，这可以在各种不同的情形下假定或得到，反过来也可能是图解的。例如，“现在假设这个特殊的太阳系是一个原子，这个原子在一个巨大的太阳系的一些大物质中，”［5］有人提出另一种说法“现在假设特殊的构形出现了，不是作为太阳系，而是作为太阳系中一些大物质中的原子”。［5］第一个假设确实需要附加的存在性假定，但第二个并不需要。构形一开始仅被假定为一个结构，因此可以通过假定它发生在更多特殊的情形中来具体说明。结构陈述的图解特征对这个方法显然是必不可少的;无论我们最初关于C说什么(例如，在它里面有一个群)，在我们把它放到环绕范畴S中后仍然可以说到C，因为我们起初没有给出任何关于它的特殊假定。然而，我们获得有关结构图解陈述的精确概念了吗?仅仅用范畴论的通常语言与方法就可以获得;它们自动地把数学对象看作结构，并且在所需意义上对它们的范畴陈述是内在“图解的”。基于此，范畴论无疑是结构主义的一种恰当呈现方式。

二、作为数学基础的范畴论面临的争论

威廉•劳佛尔(F．WilliamLawvere)在20世纪60年代初首先提议范畴论可以替代集合论担任整个数学的基础，为传统的数学基础问题提供了新的选择。该主张一经提出，就得到了当代一些倡导数学实践的数学哲学家的拥护，如阿沃第和科林•麦克拉蒂(ColinMcLarty)，他们都赞同我们应把范畴论作为数学的结构主义基础。但与此同时，这一主张也遭到了集合论者以及其他结构主义进路的反对，其中最具代表性的是赫尔曼的批判。两方阵营就是否应把范畴论作为整个数学的基础展开了激烈而持久的论争。

(一)范畴论对集合论的假定赫尔曼指出，范畴的基础假定了集合论与函数，“坦率承认在公理化范畴论时函数概念是假定的，至少是非正式地，在公理化范畴论时”。［6］133“非正式地假定”这个意思就是说首先它意味着公理没有正式的假定任何这样的事情，当然如果公理已经正式假定，那么它必定会被明确地指出。这个事实说明公理没有被假定，只是受到了某一个非正式的函数思想的激发，也可以解释为是函数的概念激发了范畴的箭头概念。麦克拉蒂对此质疑做出了回应“一个最一般的函数概念，早于集合论出现，必然激发了范畴论。但是激发不是假定”。［7］例如，一阶逻辑的句法发展是由所需的语义学激发的，但我们并不能仅依据历史的事实推知一阶逻辑的句法假定了语义学概念。集合范畴的基本理论(简称ETCS)①由集合和函数的一个非正式的思想所激发，甚至一般的范畴公理在20年前正是受到某一个非正式函数的思想激发。另外我们还能证明函数可以在范畴论中定义，例如，把范畴“集”②的内容看作是所有这些小集合的对象和所有这些集合间函数的箭头。在“集”中定义一个内在范畴C，通过这种方式内在范畴C中的函数概念可以看作是环绕范畴“集”中的箭头，由此可以得出一个结论，范畴论可以自主地为函数提供解释，无需得到ZF的支持。

(二)范畴论公理是“图解的”为便于理解这一论题，我们首先回顾有关公理的两个概念:一个是弗雷格式(Fregean)的，也称为确定的，即这个公理传统上是作为普遍的基础真理，如传统的欧几里得几何学概念或者算术公理或者策梅罗－弗兰克尔集合论公理，其中初始术语有确定的意义，所有用到它们的公理都有确定的真值。另一个是希尔伯特式(Hilbertian)的，也称为代数的，图解的。例如群、模块、环、场等的代数结构公理，它们甚至不是断言的，而是在感兴趣的结构类型上定义条件，初始术语的意义也不是确定的，通常只是以图解式的方式得以理解。比如对于范畴而言，其初始术语“对象”、“态射”、“定义域”、“值域”和“复合”等都没有明确的意义，只能在满足公理的特定解释的情况时这些初始术语才能获得意义。可以说，希尔伯特公理系统的崛起和涌现标志着现代数学对结构主义概念的倾向，而范畴论无疑强化了这一趋势的发展。赫尔曼对范畴数学基础的主要批判在于，范畴论公理在他看来总是按图解式得到理解。他认为范畴论“作为一个结构主义的基础框架至少在两个主要相关方面是不完全的:(1)它缺少一个外在的关系理论，(2)它缺少实质性的数学存在公理”。［6］138在赫尔曼的论证中(2)是很容易理解的，在他看来，为了使公理蕴涵涉及数学实体的存在性，公理就必须断言，但从上述公理的概念得知范畴论是图解的，是没有断言的，所以赫尔曼表示“数学存在性的问题真的就是似乎不能由范畴论解决”。［6］136关于(1)在赫尔曼的论证中并不十分显然，他首先指出对这个观点我们要先“了解满足范畴论公理的结构”，［6］135继而“在这个水平上求助于一些形式上的‘集’和‘运算’似乎是不可避免的。事实上，可以在一个逻辑或关系(与作为一元关系的集合)理论下包容这两个概念:那正是范畴和拓扑斯①理论缺失的，两个都作为一阶理论，更重要的是，作为非形式数学，但是由集合论提供。”［6］135也就是说，因为范畴论是图解的，我们需要了解满足其公理的结构，这就反过来使得范畴论依赖某个外在的关系理论。麦克拉蒂对赫尔曼的这一观点提出了反驳。他指出，把范畴论公理和一般的拓扑斯(Topos)公理理解成代数的———也就是没有断言的，这是正确的。然而，某些特别的范畴以及拓扑斯的特定公理是确定的，具体的以范畴为基础的理论就可以提供这样一个框架，他特别指出了集合范畴的基本理论(简称ETCS)以及范畴的范畴作为基础(简称CCAF②)。ETCS和CCAF公理提供了一个与其主题有关的范畴理论的描述———分别即集合与集合间的函数，范畴与范畴间的函子。他主张ETCS和CCAF的公理可以被断言，因而赫尔曼提出的(1)就是无效的。进一步地，ETCS和CCAF对涉及数学实体存在性的问题均提供了具体解答，这就表明赫尔曼提出的(2)也是站不住脚的。

(三)对ETCS和CCAF的质疑ETCS就是将范畴“集”公理化;将“范畴的范畴”公理化，这样得到的公理称为CCAF。这些系统的公理不仅定义了结构类型而且是断言性的，从而对数学实体的存在而言是正确的。事实上，ETCS可以理解为与ZFC所描述的是一回事，尽管前者所使用的是箭头理论而不是初始的集合从属关系。关于CCAF，劳佛尔把“范畴的范畴”作为基础，这样就可以解决存在性的问题。的确，范畴论本身没有这样的公理，但它也不缺乏这样的公理，因为范畴论自身是适用于许多结构的一般理论。每个特殊的范畴基础都提供不同的但相当强的存在性公理。这些都是在范畴的基础上，在ZF的基础上没有这样的多元性。任何人谈到“集合公理”或多或少都会意味着一些潜在性的基础理论，例如ZF，但集合的公理几乎没有其他用途。相反，范畴公理在日常的数学实践中以多种方式应用于多种不同的结果中。不可否认，的确存在一些公理，麦克兰恩等人并未给出特别解释。这进一步引发了赫尔曼的质疑，即何以这些公理没有存在性的声明还能用于如此众多的不同解释中。而这一质疑对ETCS和CCAF来说是不起任何作用的。赫尔曼并未止步于此，他进而对ETCS和CCAF作为基础框架提出了质疑。在他看来，ETCS的不足是它不能充分地解释数学的开放性(－ended-ness)，例如，数学表面上不确定的可扩充性。赫尔曼甚至仅把ETCS看成是“方便的虚构”。

赫尔曼表示与ETCS相比，CCAF算是“抓住了公牛的角”［8］156。他认为，根据日常的、数学的与科学的经验，初始概念和框架的公理这些前提条件应该是明了的。“范畴”和“函子”正是初始概念，因而CCAF公理可以解释范畴的范畴和函子。通过借鉴数学实践可知，能够通达这个初始术语“范畴”的唯一概念途径可以支持范畴的范畴理论，由“结构满足范畴论的代数公理”这种类型的表征所提供的作为恰当数学基础的理论具有足够的一般性。赫尔曼意识到，在数学实践中有无数多例子都用到了“范畴”和“函子”这种初始术语，并为它们提供了一种特定类型概念上的理解。然而，把这种理解看作是恰当的概括，赫尔曼认为这是不充分的;因为这样的概括，必须依靠上述提到的那种表征。此外，所有这些表征都使用了满足或可接受性等这类概念，这些都依赖于外在关系理论。因此，麦克拉蒂对CCAF的解释，在概念层面上依赖于外在的关系理论。麦克拉蒂对赫尔曼的批判进行了反驳，为作为数学基础的范畴论作辩护。关于ETCS，他论证说“这不是我的虚构，我经常拒绝任何确定的或最大的集合全域。”［9］他还援引数学实践中许多“范畴”和“函子”的实例论证了通向CCAF公理概念的途径是完全明了的。例如:任意的偏序集＜P，≤＞构成一个小范畴，其对象是P的元素;态射是从X指向Y的箭头，其中X≤Y。把一个偏序集P看作范畴，那么按P引入的有序系统就可以看作是函子。如此可以定义“范畴的范畴”和“函子”，从而完全明了地通向CCAF公理。此外，赫尔曼使用上述类型的表征得到了广泛的认可，但他认为数学对象只能通过集合论的说明或一些相似的说明才能在一个完全明了的方式上定义。这一观点是不正确的。我们不妨以线性变换为例，当前的数学实践中线性变换定义为同一域上两个向量空间之间的映射。从集合论的意义上讲，定义线性变换首先要对向量空间作定义，但集合论之外的数学实践表明情况并非如此。依据亚历山大•格罗滕迪克(AlexanderGrothend-ieck)对阿贝尔范畴(Abeliancateries)的公理化，线性空间是阿贝尔范畴中的任意对象，通过箭头的方式定义。线性变换可以通过阿贝尔范畴中箭头的加减以及加法的复合来表达。因此描述线性变换不需要谈及向量空间或其他线性空间，除非这些空间是转换的定义域和值域。通过上述线性变换的定义可以例证在逻辑和集合论之外的数学实践中，数学对象通常能以完全明了的方式得到定义，而无须使用集合论或相似的说明。结语“把范畴论作为数学基础”，这一观点的提出从本质上改变了集合论数学基础的传统理解，以全新的语言对数学实践进行重解，不仅消解了集合论数学基础所引发的悖论，更为数学基础问题的研究提供了新的视角与解答。尽管这一主张受到了集合论者以及其他结构主义者的质疑，在一段时间内还会面临新的挑战。但它作为对数学基础的一种可能的崭新解释，正以席卷的方式彻底改变着人们对数学本质的看法。而以范畴论为基础兴起的范畴论结构主义，无疑是诠释数学结构主义的最佳语言，其作为数学结构主义的恰当理论框架，必将成为一个具有发展前景的纲领，在本体论、认识论以及方法论上为数学哲学焕发新的活力，对传统的问题给出新的诠释和求解。

作者：刘杰孔祥雯单位：山西大学科学技术哲学研究中心