金陵协和神学院读书会：通用人工智能与知识的“公理化”

金陵协和神学院于2023年12月8日晚在学院图书馆四楼博雅斋举办第七十六期博雅读书会，特邀南京师范大学吴静教授与同学们分享“通用人工智能与知识的‘公理化’”，学院刘若民老师主持。

“人工智能”是当下最热门的话题之一，人们对其褒贬不一，喜忧参半，世界各地哲学家与神学家也对此非常关注。

吴静教授是当前我国从人文社会科学、哲学的角度研究人工智能的领军人物。她首先从哲学的角度分析语言的本质。希腊神话中的赫尔墨斯以及斯芬克斯与俄狄浦斯的对话表明，在希腊哲学中，对话是帮助人认识自己的重要途径。《人类简史》的作者尤瓦尔·赫拉利也强调语言的重要性，特别是上帝用语言进行创造，这体现语言具有创造性和命令作用。

人机对话正是人工智能的重要表现，人类可以通过语言来操作机器，甚至与机器进行对话。而通用人工智能则意味着人工智能的应用应当具备多目的性和普适性，这其中涉及知识表达、推理逻辑、学习方式和交互方式。当下最热门的人工智能工具之一——ChatGPT体现了人工智能已经从数据可视化发展到可以通过言说进行人机互动，但这种互动依然是基于技术无意识的人机互联。

吴教授指出，数字化作为人工智能技术的基础，其核心问题在于：它通过依赖普遍理性（工具）所实现的输出，创造了一种准“强制”的规范。这种规范使其内在具有普遍性和必然性，从而使技术体系对其他社会结构和体系有了前提式影响。正因为如此，在人工智能时代，技术无意识地嵌入于个体化过程和社会化进程，导致“社会其他领域只能无条件地依照技术物体的规律来调节自己”。

通用人工智能是否代表了一种知识的公理化趋势？对此，吴教授认为人类知识具有丰富性和多元性，其目标在于对世界的理解和意义进行探寻。相较之下，通用人工智能的公理化知识则显得单一和封闭，主要停留在对数据的标注层面。这种大语言模型的独白式知识生成模式加强了知识生产的封闭性和普遍性特征。

在谈到“知识公理化：人工智能时代的认识论悖论”时，吴教授认为知识的公共性会对每个人产生影响，技术会无意识地影响个人和群体。她指出当前科技界使用的大语言模型是一个数学语言表征的知识体系，本质上是通过统计学模式学习文本的概率分布和语法结构，形成人工智能技术理解自然语言和文本生成的能力。大语言模型展示了一种对人类一切知识都可以被数字化表征的自信甚至傲慢。

在人工智能快速发展的背景下，人们对其的期望与担忧日益分歧。吴教授引用科学家以利亚和奥特曼的分歧：以利亚主张在发展人工智能之前要实现价值对齐，避免人工智能的价值观与人类出现差异而产生不可预测的伤害；而奥特曼认为应该任凭人工智能技术自然进步，不加干涉。这一分歧反映了当前人类对于人工智能兴起的主要分歧。

吴教授最后给同学们留下三点反思：第一：刺穿技术例外主义的意识形态屏障；第二：探寻人机互联的多样化可能；第三：使知识回到人类对世界的理解维度。

在互动环节中，同学们提出了一系列问题，涉及人工智能对人类存在的价值和意义、大数据的更新与获取、开源是否能促进平等等。吴教授认真回答，强调了在数字时代既要具备形而上思维，又要关注现实经验。在人工智能高度发达的时代，对于人类能做什么、不能做什么，吴教授也没有答案。不过，她认为人类最应该做的就是不放弃思考、沟通和希望。她提醒到，数字化并非均一，仍有许多领域未被涵盖，数字化之外还有许多真实的经验需要人们亲身接触。

文章根据金陵协和神学院公众号推文编辑，请点击此处查看原文。