当AI独立思想：人工智能的神话或悲歌 精装

一本关于人工智能话题的有趣的哲学读物。 



 

导言
这本有关人工智能的小书是一本论文集，原名为《人工智能的神话或悲歌》，原书的文章都发表于语言大模型人工智能（LLM）出现之前，即早于 ChatGPT。这次修订，收入了在 ChatGPT 发布之后的若干文章，也删掉了之前的若干缺乏足够相关性的文章。为了区别，本书分为两个部分，即ChatGPT之前和 ChatGPT之后，也可以说是分别属于AlphaGo时期和LLM 时期。根据人工智能的发展可能性，未来新一代人工智能很可能属于世界模型人工智能 （world model AI，缩写为WMAI），以及具身人工智能（embodied AI），但前景尚未明朗，在此时此刻，似乎还缺乏实现这种更接近通用人工智能（AGI）的新型人工智能的关键方法，不过技术发展 神速，或许等到此书出版时，科学家就找到方法了。对于世界模型人工智能的方法论，我在新文章里也给出了基于哲学的一点相关想象，但对于制造 WMAI 是否有用，就不知道了。制造人工智能， 最终要科学家说了算。
保留若干旧文章，是因为其中关于人工智能的论点并不过时甚至仍然是同步的，可见基本问题的变化比起技术升级要缓慢得多。基本问题之所以是“基本的”，就是因为没有被解决而一直 不退场。回头再读旧文章，发现当时的几个预测居然是对的，比如认为 AlphaGo 之类的专门人工智能不是人工智能的前途，人工智能的大发展必定需要以语言作为工作对象的“语言机”。三年后果然出现了ChatGPT。还有，预料人工智能“语言机”会很快通过图灵测试。诸如此类的预测，似乎都说对了，但没什么了不起，此类推测的难度并不高，略微有趣而已。事后知道了，许多人工智能科学家很久之前早就瞄准了“语言机”，否则不能如此 迅速就制造出来。
在旧文章里，还有不少关于人工智能的伦理学讨论，这是关于人工智能的一个争议热点，当时乃至现在，很多学者都参加了对人工智能的伦理批判。我的一个基本论点是反对众所心仪的 “对齐”，试图论证“对齐”会产生更差甚至危险的后果。我仍然 相信这个观点是正确的，并且是必须严肃对待的问题。但似乎得不到同情，更多的人愿意想象人工智能像宠物一样可爱并且专门爱人类。今天我坚持认为，试图让人工智能“对齐”人类价值观，恐怕是一种得不偿失或弊大于利的小资产阶级幻想。关于将要来 临的人工智能时代，或可称为“AI 世”，还有两个未必成真的政治学预言：（1）全面接管人类服务系统的人工智能将证明权力的新公式“服务就是力量”，并以人人接受的“最好服务”去建立 普遍的新专制制度，而且，很少有人反对这种新专制；（2）人工智能将代理人类的知识和精神世界，人类文明将平庸化甚至退化 而形成“新蛮荒时代”。如果人类能够幸而与人工智能形成二元 主体格局，就是令人满意的前途了。显然没有足够证据来预测这两个预言的成真概率，但假如给出一个贝叶斯“先验概率”，我愿意相信，预言（1）成真的可能性很大，而预言（2）的可能性 小于 50%，因为或许获得主体性的人工智能会“兴致勃勃地”替人类推进文明。 ChatGPT 之后的文章所关注的事情有所不同，很少涉及伦理学，主要聚焦于人工智能的知识论问题。LLM 的奇迹显然触发了对意识和思维的深度反思。ChatGPT 是天才之作，在不需要先验论方法助力的条件下，以单纯经验论方法（以贝叶斯概率为基础）去形成能够有效生成知识的算法，这相当于在哲学上重新唤醒了自休谟以来的所有知识论难题，涉及因果关系、逻辑、意识、语言、涌现和自反性（reffexivity）。这里不打算复述讨论细节，只想强调一个看法：在贝叶斯框架内，人工智能不可能真正理解因果关系，也不可能获得自反能力，这注定了令人赞叹的 LLM 模式 终究只是不够先进的一种过渡模型，尽管其成功足够惊人，但仍然距离具有主体性的高级人工智能非常遥远，而且升级的余地不会很大。因此，更先进的人工智能，比如设想中的世界模型人工智能或具身人工智能，必定需要基本方法论的突破，而不仅仅是 算法升级。
对此，我推荐了一种哲学。在1998年出版的《一个或所有问题》（修订版 2023 年）——关于形而上学的一本书——中我宣称需要一种“动词哲学”，近年来又有了一些推进。简略地说，动词思维意味着，以动词作为出发点和交汇点去建立思想的所有链接，并且，以动词系统作为元语言去反思和解释名词系统，形成 一种“仿哥德尔”效果，从而能够增强思想的自反能力。当时设想动词哲学，完全只是哲学上的一种探索，并没有考虑到人工智能。近年来偶然想到，动词思维或许有助于建构世界模型人工智能或者具身人工智能？甚至，动词思维是否可以成为人工智能的一种方法论？当然，这个跨界想法或许想多了。对哲学有意义的方法论未必对人工智能也有用。我有个自娱自乐的幻想：假设人工智能学到了动词思维，经历千辛万苦最终成为一种独立主体，然后人工智能对我说，在我的古代时期，你好像帮过我一点点忙，算你是我的朋友。
赵汀阳 2025 年 5 月 23 日

赵汀阳，中国社会科学院学部委员，哲学研究所研究员。欧洲跨文化研究院学术委员会委员，美国博古睿研究院资深研究员。著有《论可能生活》、《天下体系》、《第一哲学的支点》、《坏世界研究》、《天下的当代性》、《惠此中国》、《四种分叉》、《历史•山水•渔樵》等，以及Alles Unter dem Himmel (德国)；Tianxia tout sous un Meme Ciel(法国)；Redefining a Philosophy for World Governance (英国)；All-under-heaven：The Tianxia System for a Possible World Order (美国)；Tianxia: una filosofia para la gobernanza global(西班牙); Un Dieu ou tous les Dieux (法国，与A. Le Pichon 合著)；Du Ciel ala Terre (法国，与R. Debray 合著)。

本书的论述分为两个部分，即 ChatGPT 之前和 ChatGPT 之后，也可以说是分别属于 AlphaGo 时期和 LLM 时期。ChatGPT 之前所写文章里，有不少关于人工智能的伦理学讨论，这是关于人工智能的一个争议热点，本书一个基本论点是反对众所心仪的“对齐”，试图论证“对齐”会产生更差甚至危险的后果。ChatGPT 之后的文章主要聚焦于人工智能的知识论问题。LLM 的奇迹显然触发了对意识和思维的深度反思。ChatGPT 是天才之作，在不需要先验论方法助力的条件下，以单纯经验论方法去形成能够有效生成知识的算法，这相当于在哲学上重新唤醒了自休谟以来的所有知识论难题。 

导言
在 ChatGPT 之前
一个反存在的存在论问题
人工智能的近忧远虑：“存在的升级”
人工智能的自我意识何以可能？
人的问题还是人工智能的问题？
未来的合法限度
好事比坏事更致命
在 ChatGPT 之后
人工智能还给人类的知识论问题
意识的自反性：知者与作者
想象一种新启蒙：动词思维与无限图书馆