实现技制共治新格局 构建人机命运共同体

《算法社会：技术、权力和知识》（商务印书馆2023年出版）

 

　　王延川教授、粟鹏飞博士的译著《算法社会：技术、权力和知识》主要由荷兰学者马克·舒伦伯格和里克·彼得斯编撰，共有16名作者参与了写作。

 

　　著作从技术、权力和知识三个理论维度解读公共管理、刑事司法和城市治理三个学术领域。著作分为三个部分共十一章。第一章作者对算法、算法权力进行了介绍，同时分析了算法治理弊端以及超越批判。然后分别从“算法治理”“算法司法”“算法城市”三个部分解析了算法的应用场景及相关问题。著作选题前沿、观点新颖、论述深刻，能够带来启发，让人深思。

 

　　算法权力

 

　　根据作者的观点，算法不仅是一项将数学原理应用于海量数据的最新技术创新，它还是一种新型权力。在我看来，要么说权力有了技术的加持而变得更加强大，要么说技术成为了增量的新型的权力与原有权力合二为一，从而更加深刻地塑造了数字社会人类的生活。

 

　　我们都知道，构成人工智能体系的三驾马车是算数、算法和算力。我个人倾向于将大数据称作“算数”，因为大数据中的数据必须能够通过软件算法进行计算，那些没办法进行计算的数据不是大数据。因此，大数据并不在于“多”，而在于“有用”。价值含量、挖掘成本比数量更为重要。“算数”比大数据的表述更为准确。

 

　　对于“三算”中的算法，在我看来，这种具有法律制度意义的新型权力来源于技术、呈现为代码，被作为工具，演化为权力，但追根溯源，其终究由背后的人类而为。而人可能没有偏见也可能有偏见。因此，算法既具有正外部性，能够发挥出“法”的正价值与正功能，如增加社会公平、提高社会效率、提高安全性、具备良好的预测能力等。同时，其也具有负外部性，展现出“法”的负价值与负功能，如算法歧视、算法侵权、算法低效、算法牢笼、算法茧房甚至算法武器，等等。

 

　　这导致的结果，按照作者的话来说就是，算法社会既有“赢家”也有“输家”。因此，如何化危为机，引导其向善而为、可信而做，实现“算法可算”“善用善治”是我们人类共同的期望，作者们也给出了他们的一些答案，可以为我们提供参考借鉴。

 

　　技术篡夺

 

　　根据作者的观点，算法通过否决现有的法律程序和保障措施来推动司法的技术“污染”。在我看来，算法=算+法，其也是特别的“算”+特别的“法”。问题是：是谁在算？其又如何变成法？随着“代码法律化”和“法律代码化”的正在进行着深刻的演变，其也意味着算法的“入侵”领域之广，程度之深、影响之大，时时处处都在“驯服”着人类。

 

　　我们日益受到警示：算法工具具有了越来越大的权力，算法工具甚至在不受控制之下会演变为算法武器从而引发算法战争。因此，一是技术“刚性化”会导致“技术过度强化”，二是技术“刚性化”会导致“制度过度弱化”。由此会在传统的“律法”与新兴的“算法”之间产生冲突。

 

　　对此，如果出现恶的算法，我们应该用传统的“律法”起诉新兴的“算法”，用公平的算法替代不公平的算法，用高效率的算法替代低效率的算法，用维护人权的算法替代侵犯人权的算法，用维护自由的算法替代侵犯自由的算法，用正义的算法替代不正义的算法，最终实现良的算法。即通过“律法”驯服“算法”，实现价值对齐，让算法这种新型权力回归到最朴实的正义轨道上来。

 

　　因此，在作者看来，实现算法决策与法治兼容仍然是一个挑战。在我看来，“算法”与“律法”也并非冰炭不同器。“算法”与“律法”必须携手联姻，消除龃龉，实现耦合，即实现良好的技制共治是未来治理的新格局。

 

　　人类地位

 

　　作者在第十一章“作为生化电子人中心的智慧城市”部分提问：“对互联网的屈服、对算法的默许将会产生什么样的结果？作者将智慧城市作为“特定载体”，认为其会让城市变得“麻木”和“愚蠢”。在我看来，这是人类对于算法入侵采取了类似于“绥靖”的态度，其不仅对智慧城市而且对人类都产生了巨大影响。

 

　　放眼人类历史长河，人类为了维持自身的生存以及维护社会可持续发展等目的，作为主体“人”一直在利用客体“物”的方面不断探索，从旧石器时代到新石器时代的“石器”、青铜器时代的“青铜”……再到今天这个客体“物”已经发展到包括人工智能机器人或人工智能体。

 

　　虽然人类的自身能力非常有限，但是其不断制造、使用工具，不断释放并延伸了人类自身的生理局限并不断增强了自身获取所需的能力。如通过延伸人类自己的触觉、视觉、听觉、体力、精力、脑力等达到自己的多重目的，这也是主体的人类之于客体的工具的必然要求。

 

　　可以说，人工智能机器人或人工智能体的出现并进行快速迭代正是把荀子所言“君子性非异也，善假于物也”逐渐演绎到极致的充分体现。进入强（或超）人工智能阶段，人工智能体可能作为具有独立意识的“主体”而存在，即从“机器换人”时代走向“机器人换人”时代，其将摆脱服务于人类的工具性“奴隶”模式即“仰视人类”地位，走向处于“平视人类”的地位，即其进入与人类处于平等地位的竞争状态，甚至处于“俯视人类”地位的支配状态，最终可能会诱发人工智能“工具性风险”升级为人工智能“主体性风险”。

 

　　因此，未来人类在运用技术改造社会的过程中，从主观上主动逐渐让渡客观方面的“物质维度”，到后来客观上被动突然让渡主观方面的“精神维度”，从而最终让渡了自身的主体性，失去了人类作为人类自身应用的“灵魂”。这种让渡的对象由少到多，由局部到整体，由量变到质变，由质变到“变质”。如从让渡少数器官到多个器官，从让渡局部器官到整体器官，由此逐渐形成新型的“赛博格”（既非碳基人也非硅基人）。当让渡的对象从量变转化为让渡的对象发生质变时，原有的生物人就可能变为忒休斯人，从而在个体身心“变质”、社会秩序乃至人类命运方面产生深度风险。我们不得不问，人类与机器人能否在同一时间和空间平等共处？

 

　　随着中共中央、国务院印发《关于构建数据基础制度更好发挥数据要素作用的意见》的出台和国家数据局《“数据要素×”三年行动计划（2024—2026年）》的发布，我们正在为也将要为算法提供越来越多的数据养料。我们不得不深思和警醒，在算法社会，算法的良性对于未来数字社会的重要意义日益凸显。

 

　　总之，算法在每时每刻地塑造我们的过去，也正在轰轰烈烈地塑造我们的当下，其还将翻天覆地地塑造我们的未来。在我看来，我们需要实现良好的技制共治新格局，构建人机命运共同体。

 

　　（转载于《法治日报·法治周末》2024年01月04日，

作者系西南政法大学教授、经济法学和人工智能法学方向博士生导师）