/journal/137/544816/chatgpt-or-the-eschatology-of-machines/

翻译：我

自2022年11月发布以来，ChatGPT引发了热情，也造成了恐惧。它对不同语言的语义和语法(但还不是内容)的明显掌握，让那些只期待这是一个普通聊天bot的用户感到惊讶。一些大学立即禁止学生用ChatGPT写作业，因为它表现得比大多数人类学生好。报纸专栏宣布了教育的终结，这不光因为学生可以用它完成作业，还因为ChatGPT可以提供比许多教师能提供的还要多的信息。人工智能似乎征服了另一个在古典哲学中定义着人类本质的领域：逻各斯。存在领域再度丧失，恐慌增长。气候崩溃和机器人反叛增强了人类历史的终末想象。

(资料图片)

末日对于现代人来说并不陌生。哲学家卡尔·洛维特在他1949年的著作《历史的意义》(Meaning in History)中展示了现代历史哲学，从黑格尔到布克哈特，都是末世论的世俗化。历史的目的论——无论是耶稣基督的再临还是神人(Homo Deus)的生成——使超越的存在内在化。这种圣经式或亚伯拉罕教式的时间想象对人类存在提供了许多深刻的思考，但也妨碍了对我们未来的理解。

20世纪60年代，汉斯·布鲁门伯格反对了洛维特关于世俗化的论调，以及卡尔·施密特 “现代国家理论的所有重要概念都是世俗化的神学概念”的说法。布鲁门伯格认为，将现代理解为神学概念的世俗化或转化，削弱了现代的合法性；现代性的某种重要性无法还原为神学的世俗化。同样，人工智能的新颖性和重要性被末世论的想象，被对于机器的现代刻板印象和工业宣传所埋没。

这并不意味着我们应该否认气候变化和抵制人工智能。相反，与气候变化的斗争以及人类与技术之间的建设性关系应该成为我们的首要任务。但为了做到这一点，我们必须对人工智能有充分的理解，超越仅仅是技术的层面。火车、汽车以及后来的飞机的发明也引发了巨大的心理、经济恐惧，然而如今很少有人担心这些机器会摆脱我们的控制。相反，汽车和飞机已经成为日常生活的一部分，常常象征着兴奋和自由。那么为什么人工智能会引起如此大的恐惧呢？

要理解ChatGPT这种处于技术前沿的新技术浪潮，我们可以从约翰·塞尔于1980年提出的著名的“中文房间”思想实验开始，这个实验有逻辑推理的外衣，却掩藏着对计算机机器的最烦人的刻板印象。在这个思想实验中，塞尔设想自己独自呆在一个房间里，根据用英文编写的符号处理程序的指令，回应从门下塞进来的中文内容。在实验中，塞尔并不懂中文：“我不懂中文，无论是写还是说，而且......我都不知道能不能把中文书写从诸如日文书写或无意义的涂鸦中区分出来。”然而，他主张，凭借正确的指令和规则，他可以做出正确的回应，让外面的人相信他懂得中文。简而言之，塞尔认为，仅仅因为一台机器能够按照中文的指令进行操作，并不意味着机器理解中文，这是所谓强AI的标志（与弱AI相对）。理解首先意味着理解语义。虽然语法可以进行硬编码，但语义意义会随着情势和环境而改变。塞尔的中文房间适用于像机械鸭(Digesting Duck)或土耳其机器人(Mechanical Turk)等十八世纪的机器一样运作的计算机。然而，我们今天面对的机器不是这种。诺姆·乔姆斯基、伊恩·罗伯茨(Ian Roberts)和杰弗里·瓦图穆尔(Jeffrey Watumull)正确地指出，ChatGPT是一个“用于模式匹配的笨重统计引擎”。然而，我们必须认识到，尽管模式是信息的主要特征，但ChatGPT做的不仅仅是模式匹配。

这样的句法批评基于一种机械论的认识论，它假设线性因果关系——一种原因后跟一种效果。可以通过反转这种因果过程来找到终极因：第一推动者，第一因的默认状态，这也是所有线性推理的最终命运。与线性因果和机械论哲学相对，基于有机论的哲学思考在十八世纪兴起，伊曼努尔·康德的《判断力批判》是其中最重要的贡献之一。正如我之前所说，康德为哲学思索强加了一个新条件，即哲学必须变成有机式的；换句话说，有机性标志着哲学思维的新起点。今天，必须认识到，康德确立的哲学条件在控制论之后已经终结了。

控制论一词由诺伯特·维纳在1943年左右创造，由一群于四十年代末五十年代初参加的关于控制论的梅西会议(Macy Conferences)的科学家和工程师发展起来。控制论旨在成为一门能够统合所有学科的普遍科学，按吉尔伯特·西蒙东所说，这是十八世纪百科全书派的一种新版本。控制论使用反馈的概念来描述一种新 “控制论机器”的运行，与十七世纪的“机械式机器”相区别。维纳在他1948年的开创性著作中声称，控制论已经克服了牛顿和伯格森所代表的机械论和活力论之间的对立，因为控制论机器立基于一种新的非线性形式的因果关系，或称递归性，而非脆弱和无效的线性因果关系——脆弱是指它不知道如何调节自己的运作模式。想象一个机械表：一个齿轮损坏，整个表都会停止运转。在这种线性机制下，不彻底升级硬件，无法实现推理速度的指数级增长。

如果说机械论和有机论的对立刻画了现代哲学的一场大争论，决定了其发展的方向，那么可以说这场争论持续到了今天，因为许多贬低AI和ChatGPT的言论假设机器只是机械论的，从而无法理解语义意义。同样错误的是声称机器对语义意义的处理只是对人类理智的失败模仿。哲学家和认知科学家布莱恩·坎特韦尔·史密斯严厉批评了这种拟人思维，而捍卫机器的意向性。对他来说，即使在机器中找不到人类意向性，它仍然是一种意向性的形式；它是语义的，即使不是以人类语言的方式。将拟人的语义学与机器的语义学分开是重新思考我们与机器关系的基础，但这只是第一步。

塞尔的论点根本上忽略了当今机器执行的递归计算形式。人们可以争论说计算机科学不应与控制论混为一谈，因为控制论是一门过于普遍的科学。然而，也可以想想哥德尔的递归函数及其与图灵机和阿隆佐·邱奇的λ演算的对等（在计算历史中很出名）。术语“递归性”不仅属于控制论，也属于后机械论的思维方式。控制论的出现只是宣告了在控制论机器中实现这种递归思维的可能性。

哥特哈德·冈瑟(Gotthard Günther)和吉尔伯特·西蒙东正确观察到, 如今机器中的“智能”是一种反思性的运作形式。对于冈瑟来说，控制论是黑格尔的逻辑的实现，而对于西蒙东来说，只有在《判断力批判》对反思判断的阐述中，康德才涉及了控制论。通常将“反思性思维”与人类联系在一起，而不是与机器联系在一起，因为机器只是执行指令而不对指令本身进行反思。但自从四十年代引入控制论以来，这个术语也可以用来描述机器的反馈机制。机器中的反思性思维对于没有准备接受其存在的人类来说是震撼的力量，即使只是作为一种初步和基本的反思形式——它纯粹是形式的，因此不足以处理内容。在此，我们可以理解为什么对于杨立昆(Yann LeCun)之类的计算机科学家来说，ChatGPT可能“并不特别新颖”和“没有革命性”。只有到能处理内容，机器才能朝着所谓技术奇点的方向发展。到目前为止，奇点仍然只是一个神话——也是一个误导而有害的神话，尤其当它被描述为近未来的时候。即使将奇点与神学意义或末世论联系起来，对于理解人工智能或其未来也没有任何贡献。

递归机器，而不是线性机器，是理解人工智能的发展和演变的关键。人类将如何面对这种新型机器？西蒙东提出了一个类似的问题：当技术变得自我反思时，哲学还有什么用？布莱恩·坎特韦尔·史密斯认为AI的能力仅限于计算能力，而不是判断能力，然而很难说这种区别还能维持多久。为区别机器与人，也许已经花了太多的智识努力。

当驯化的动物如马和牛取代人类成为能源提供者时，人类并不感到不安。相反，他们乐于从重复和繁重的劳动中解脱。当蒸汽机取代动物时也是如此；它们甚至更高效，需要更少的人力关注。西蒙东在他的1958年著作《论技术物的存在方式》中准确观察到，热力学机器被信息机器取代标志着一个关键时刻：人类从生产的中心被替代。在工业时代之前，工匠能够创造一个联合的环境，其中工匠的身体和智力弥补了他们的简单工具缺乏的自主。在信息机器或控制论机器的时代，机器自己成为信息的组织者，人类不再处于中心位置，即便他们仍然认为自己是机器的指挥者和信息的组织者。这是人类因自己关于机器的刻板信念而受罪的时刻：他们错误地将自己视为中心，这样，他们只能不断沮丧、惊慌地寻求身份。

机器中的现实与人类运作的现实相异。不可避免的技术演进过程是由非线性因果关系引发的，使得机器能够处理偶然性。学习机器能够区分噪声和故障等偶然事件。它能够区分无组织的输入和必要的输入。通过解读偶然事件，学习机器改进了其决策模型。但即使在这里，机器也需要人类来区分正确的决策和错误的决策，以便继续改进。在发展中国家，一种新型的廉价劳动力是雇佣人类来告诉机器结果是否正确，无论是人脸识别扫描还是ChatGPT的回应。这种新型劳动力剥削与我们交互的机器背后的工人，却常常被抱怨自动化不足的宽泛资本主义批评忽视了。这是当今马克思式技术批判的弱点。

西蒙东在《论技术物的存在方式》中提出了一个关键问题：当人类不再是信息的组织者时，他们有什么用？人类可以从劳动中解放出来吗？正如汉娜·阿伦特在与西蒙东的著作同年出版的《人的条件》中所怀疑的那样，这种解放只会导致消费主义，使艺术家成为还能创造的“最后的人”。在这里，消费主义成为人类行动的限度。阿伦特从人类现实的角度看待机器，将其视为创造之人(Homo faber)的替代品，而西蒙东则展现了如果不能处理和整合机器的技术现实，人与机器、文化与技术之间将不幸地敌对起来。这种敌对不光是恐惧的来源，它还基于对技术的大有问题的理解，这理解是由工业宣传和消费主义塑造的。从这种消极性中，诞生了一种原始主义人道主义，将爱视为人类的最后手段。

西蒙东提出这些问题已经过去了六十多年，但它们仍未得到解决。更糟的是，它们被技术乐观主义和文化悲观主义所掩盖，前者推动着无情的加速，而后者则充当心理疗法。这两种倾向都源自一种对机器的拟人理解，声称它们应该模仿人类（西蒙东激烈批评控制论持有的这一观点，虽然这不很公正）。今天，这种模仿观点最讽刺的表现在于艺术领域，在于试图证明机器可以完成巴赫或毕加索的创作。一方面，恐慌的人类不停在问干什么活才能不被机器取代；另一方面，科技行业有意地努力用机器自动化替换人类干扰。人类活在科技行业的自我实现的替换预言中。确实，该行业不断再生产关于替换的话语，宣布这项工作或那项工作完蛋了，好像一场革命已经到来，然而社会结构和我们的社会想象力毫无改变。

在资本主义社会和所谓抗蜜社会中，替换的话语都没有转变为解放的话语。公平地说，一些加速主义者意识到了这一点，并寻求复兴马克思关于全自动化的愿景。如果高中物理再普及点，我们对加速(加速度)就会有更细致的理解，因为加速并不意味着速率(speed)的增加，而是速度(velocity)的增加。与其阐述人工智能发挥义体作用的未来愿景，主导话语只将其视为对人类智能的挑战与对知识劳动的替换。如今的人类已经不能梦想。如果说对飞行的梦想导致了飞机的发明，那么现在我们对机器的噩梦却正在加剧。最终，技术乐观主义（以超人类主义的形式）和文化悲观主义在二者对末日的预测中相遇。

人类创造力必须采取一种彻底不同的方向，并将人机关系提升到替换的经济理论与交互幻想之上。它必须朝着存在性分析的方向发展。技术的义体性质必须在功能性之外得到肯定，因为自人类起源以来，对真理的接近始终依赖于工具的发明和使用。许多人仍看不见这一事实，使得机器进化和人类存在之间的冲突似乎源于一种深植于文化中的意识形态。

我们生活在被表现为文化的各种正反馈循环中。自现代工业社会开始以来，人体就从属于重复的节奏，因此人的思想也被工业的预言所包含。无论是美国梦还是忠国梦，都压制了巨大的人类潜能，以服务消费主义意识形态。过去，哲学被赋予的任务是限制机器产生的傲慢，以真理的名义将人类主体从反馈循环中解放。然而，如今的技术哲学家们却渴望肯定这些反馈循环，将其视为文明的必然道路。如今，人类认识到技术的核心地位，将所有问题视为技术问题。速率和效率支配着整个社会，而它们曾经仅仅支配工程学科一样。教育工作者希望在几年的时间内实现范式的变革，这使得对技术问题的基本反思变得毫无价值，结果我们又陷入了一个反馈循环。因此，大学继续为技术行业培养人才，这些人才继续开发更高效的算法来侵犯用户的隐私并操纵他们的消费方式。对于大学而言，解决这些问题应该比考虑禁止ChatGPT更加紧迫。

人类能否摆脱这个根深蒂固于当代文化的自我实现预言的正反馈循环？1971年，格雷戈里·贝特森(Gregory Bateson)描述了困住酗酒者的一个反馈循环：一杯啤酒不会害死我；OK，我已经开始喝了，第二杯也应该没关系；哎呀，已经喝了两杯，为什么不喝第三杯呢？酗酒者如果幸运的话，可能会通过“触底反弹”来摆脱这个正反馈循环，例如在经历致命疾病或车祸后幸存下来。这些幸运的幸存者随后与神圣性建立了亲密关系。作为现代的酗酒者，人类是否能够以其集体智慧和创造力摆脱这种触底的命运？换句话说，人类能否采取根本的转变，将创造力引向不同的方向？

难道今天的智能机器不正提供了这样的机会吗？作为义体而不是死记硬背的模式跟随者，机器可以将人类从重复中解放出来，并协助我们实现人类潜能。如何获得这种变革能力，是我们今天的关切，而不是关于机器能否思考的争论，那只是存在危机和先验幻象的表现。也许一些关于人机关系的新前提可以解放我们的想象力。有如下三点（当然还可以加上更多）：

1) 不再悬置AI的发展，而悬置对机器的拟人刻板印象，发展适当的义体文化。科技应该用来使用者的潜能(这里要接入阿玛提亚·森的能力理论)而非与使用者竞争或将他们化约为各消费模式。

2) 不再神秘化机器与人，而理解我们现有的技术现实及其与多样人类现实的关系，以使技术现实与人类现实整合，再生产生命多样性(biodiversity)，心智多样性(noodiversity)和技术多样性(technodiversity)。

3) 不再复读历史的末世论观点(这一观点最世俗的形式在于科耶夫和福山的历史终结论)，而是将理智从其通向一个末日的命定路径上解放。这种解放会打开一个领域，允许我们试验与机器和其他非人共生的伦理方式。

所有发明都有限制与问题。虽然这些限制比起技术性更多是观念性的，但忽略观念正是放任邪恶增长，这是一种形式大于基础的倒错的结果。只有摆脱文化偏见和科技行业的自我实现预言，我们才能发展对未来可能性的更深刻洞见，这不能仅仅基于数据分析和模式提取。很有可能，在我们抵达那个时刻之前，我们时代的业界先知已经会认识到机器比他们更会预言未来。

关键词：