中国社会科学报2009年终特刊：科学与人文

　　人工智能人文反思新动向

　　段伟文

　　经过60多年的探索，人工智能的大致目标被设定为让计算机完成人类心智能做的各种事情，即至少在功能上具有知觉、联想、预测、规划和运动控制等心智能力。近年来，深度学习算法、大数据、机器人等技术的发展掀起了新一轮人工智能热潮，人工智能哲学与伦理等领域的人文反思也成为学界研究的热点。

　　人工智能人文反思热成为焦点

　　人工智能与哲学和人文的交汇，源于对人工智能的理论基础的讨论。从图灵追问机器如何思考开始，有关人工智能目标和实现途径的探究，不仅试图为人工智能奠定科学基础，而且很自然地延伸至对一般性智能科学的讨论，拓展到对一般性智能及其实现方式的构想。由此，人工智能哲学成为人工智能研究不可或缺的面向。

　　鉴于人工智能哲学倾向于从一般性的智能科学维度探讨人工智能的基础，因而既与心灵哲学、语言哲学、认识论等传统哲学分支密切相关，也和认知科学哲学、信息哲学等新兴领域多有交叉。尽管德雷福斯（Hubert Dreyfus）对符号主义人工智能的批判一度影响到人工智能的发展方向，但人工智能哲学一直主要是在认知层面展开讨论。

　　在2016年人工智能AlphaGo战胜人类棋手李世石之前，人工智能哲学研究并不热门。至于人工智能伦理，虽然相关的信息伦理和机器人伦理研究一直在进行，但在其成为社会焦点话题之前，讨论多围绕阿西莫夫（Isaac Asimov）的机器人定律和各种科幻作品展开。

　　这一波人工智能热，因其关乎时代变革和人类未来而成为人文社会科学研究的焦点，给人工智能哲学带来了再出发的全新契机，也使得人工智能伦理和治理成为一时之显学。它不仅激活了对人工智能哲学既有难问题的重新审视，而且鉴于数据驱动的人工智能的普遍应用，还从中带出了相关性和因果性、数字方法、算法认知等科学与哲学共同关注的全新主题。更为重要的是，当下人工智能哲学和伦理研究的语境是对人工智能的革命性影响，特别是对其可能导致的风险的担忧，使相关研究不再局限于学术领域，而关乎人工智能的后果和前景等社会公认有意义的话题。在此语境下，一方面，对人工智能是否会超越人类智能而失控的深度疑虑，促使人们从哲学上对人工智能在认知、意识、情感等方面的可能性进行了辨析；另一方面，数据权利、算法偏见和技术性失业等问题使得人工智能的社会、伦理和治理成为具有普遍社会需求的领域。

　　多维反思人工智能

　　鉴于上述全新的人工智能发展态势及其被赋予的价值意涵，对人工智能的人文反思成为2019年的热点话题。其中，相对聚焦的问题大致可分为以下四个方面。

　　1.人工智能的认知与情感问题。这方面的研究大致可分为三类。一是重视价值语境，针对人工智能的发展是否会出现奇点及是否会导致终极失控等“要命的问题”，从哲学上探讨是否会出现有能力对人类说“不”的人工智能。沿这一思路，赵汀阳指出，人工智能的自我意识、反思能力尤其是万能语言的获得有可能使其变得十分危险，而鉴于人的欲望和价值观是一切冲突的根源，一旦人工智能拥有拟人化的情感、欲望和价值观，势必更加危险。类似地，梅剑华、潘天群等从因果性等维度对人工智能的讨论也观照到了奇点及对奇点的规避。二是探讨已有的哲学理论和研究对人工智能的认知和情感或情绪研究的作用。王球认为，可以从既有的关于人类自我知识的主流理论中筛选出与人工智能命题态度的自我知识相匹配的理论模型；徐英瑾强调，欧陆现象学对于情绪的研究成果，远未被当下的人工情绪研究所消化。三是有关人工智能和机器智能的认识论以及人机混合智能研究，如成素梅、董春雨等人对人工智能认识论和机器认识论等进行了探讨。

　　2.人工智能的社会、伦理与治理问题。在人工智能所带来的巨大社会影响、伦理风险和治理需求的推动下，2019年堪称我国人工智能伦理和治理规范制定年。国家标准化相关组织相继发布了《人工智能伦理风险分析报告》和《中国机器人伦理标准化前瞻（2019）》，国家新一代人工智能治理专业委员会制定的《新一代人工智能治理原则——发展负责任的人工智能》也于2019年6月发布。下一步，人工智能伦理治理将纳入正在构建的国家科技伦理治理框架。在此背景下，对人工智能、机器人、数据、算法等方面的社会伦理问题的研究取得了诸多成果，大致可以分四类。一是对数据、算法伦理及其风险等技术伦理问题及其调节路径的讨论，特别是如何构建负责任及可信任的人工智能。二是有关人工智能中的道德行为者、机器道德和伦理算法的研究，如基于正义论等道德理论的伦理算法能否克服电车难题中的道德困境等。三是有关人工智能伦理体系、框架和策略的研究，如陈小平探讨了人工智能伦理体系的运行机制、人工智能伦理准则的场景落地、人工智能伦理风险的预测判别以及人工智能伦理对重大社会问题综合创新的支撑机制问题。四是人工智能的社会政治影响研究，在相关讨论中，李醒民明确指出人工智能是一种技性科学（技术化科学），必然会干预人的行为；在赵汀阳看来，人工智能的政治后果是一个有效的问题，人们要运用人工智能就难免为之付出隐私等代价；段伟文则认为，数据智能的发展将导致以数据分析和调节人的行为的解析社会的来临。在此方面，让哲学研究者既感到欣慰又感到有竞争感的是，很多人工智能科学家已加入研究负责任、可信任的人工智能的行列，比如，人工智能专家拉塞尔（Stuart Russell）最近出版了名为《兼容人类：人工智能与控制问题》的新书。

　　3.人工智能与哲学的跨学科研究。由于人工智能具有全局的颠覆性影响，自然成为哲学各个学科关注的重点。从马克思主义哲学来看，对人的重视使得“机器换人”的风险、人的主体性、人的全面发展以及由人工智能带来的后人类主义前景等成为焦点话题。同时，关注人及其社会关系的中国哲学领域的学者也对人工智能的伦理和文化影响展开了探讨。张立文指出，用和合学的理论思维以观情绪中和，人机的情绪思维与中和思维可以互相圆融。鉴于情感是人工智能下一步发展的关键，加之人工智能在艺术和作品的欣赏和创作中的应用日益广泛，对人工智能情感等方面的研究正在成为美学研究新的生长点。

　　4.对人工智能与哲学关系的再思考。哲学从本质上来讲不是基于上帝之眼的全景洞察，而始终有其特定的视角和思想路径，因此哲学研究者要清醒地认识具有批判倾向的哲学也有其固有的局限性。在有关人工智能与自我意识区别的讨论中，江怡指出，哲学家们对意识的讨论更多采取“语义上行”的论述策略，试图通过对意识概念内容的理解去解释意识现象；而当代哲学的发展应以“语义下行”的方式，更多依据人工智能本身的成果，对智能与意识、人工智能与自我意识作出区分。针对德雷福斯对人工智能的批判的意义与合理性，徐献军指出，由于深度学习没有完全超越表征主义进路，德雷福斯的批判依然有效。韩连庆则根据齐泽克（Slavoj ?譕i?觩ek）的分析指出，德雷福斯对现象学的美国式挪用导致对胡塞尔超越论的主体现象学忽视，其根源在于他未能区分“科学本身”和“科学内在的意识形态”而将哲学化约为科学，最终造成了哲学与科学的“短路”，从而错失了现象学（或哲学）的超越论维度。

　　综观上述，具有批判禀赋的哲学可能更擅长通过反思从否定角度去思考人工智能发展的大方向。除为避免终极风险找到“刹车”而远虑，还应近忧当下渗透到现实社会生活中的人工智能应用对人类的生活形式带来的根本性挑战。如果说德雷福斯有关人的智能活动非表征、不可形式化、不可规则化的反思未必能阻止智能机器的刻板化，但却可以告诫人们，不能让人变得越来越像机器。唯其如此，才能构建一个富有人性的人机共生的社会。

　　（作者单位：中国社会科学院哲学研究所）

编辑整理：警戒线杂志社官方网站：www.qnyshzzs.com