信息时代的伦理审视

　　■人与人工智能的关系，既不是主体与客体之间的关系，也不是主体之间的关系，而是一种主体与类主体之间的关系。

　　■信息技术已渗透到人们的日常生活，也深度融入国家治理、社会治理的过程中，对于实现美好生活、提升国家治理能力、促进社会道德进步发挥着越来越重要的作用。

　　■在可以预见的将来，人工智能将重塑生产力、生产关系、生产方式，重构社会关系、生活方式。

　　■从整体上看，应对信息化深入发展导致的伦理风险，应当遵循服务人类原则、安全可靠原则、以人为本原则、公开透明原则。

　　习近平同志指出，当前，以互联网、大数据、人工智能为代表的新一代信息技术日新月异，给各国经济社会发展、国家管理、社会治理、人民生活带来重大而深远的影响。现代信息技术的深入发展和广泛应用，深刻改变着人类的生存方式和社会交往方式，深刻影响着人们的思维方式、价值观念和道德行为。

　　信息时代的伦理变革

　　信息化正在广泛而深刻地影响和改变着人类社会，它不仅对人类引以为荣的智能唯一性发出有力挑战，而且有可能动摇人类的道德主体地位。

　　目前，智能机器已获得深度学习能力，可以识别、模仿人的情绪，能独立应对问题等。那么，智能机器能否算作“人”？人与智能机器之间的关系应当如何定位、如何处理？智能机器应当为其行为承担怎样的责任？智能机器的设计者、制造者、所有者和使用者又应当为其行为承担怎样的责任？人们会不会设计、制造并使用旨在控制他人的智能机器？这样的情况一旦出现，人类将面临怎样的命运？这一系列问题关乎人伦关系的根本性质和价值基础，也关乎人类整体的终极命运。

　　在传统意义上，人与物的关系是主体与客体的关系。信息时代，人工智能创造物已不仅仅是技术化的工具，而是越来越具有类似于人类思维的能力，甚至在某些方面具有超越人类思维的能力。可以说人与人工智能创造物的关系，既不是主体与客体之间的关系，也不是主体之间的关系，而是一种主体与类主体之间的关系。例如，倘若自动驾驶汽车出了交通事故，该由谁承担责任？面对诸如此类的问题伦理学应该如何确立“伦”与“理”？从伦理学角度看，当大数据和人工智能的发展改变甚至颠覆人类活动的主体地位时，传统伦理就会发生解构，人具有排他性主体地位的伦理时代就可能结束。

　　信息时代的伦理进步

　　信息技术已渗透到人们的日常生活中，也深度融入国家治理、社会治理的过程中，对于实现美好生活、提升国家治理能力、促进社会道德进步发挥着越来越重要的作用。

　　信息化深入发展有助于改善政府部门与人民群众的关系。比如，在政务服务领域，各地积极推进“互联网+政务服务”，推出“最多跑一次”事项清单，甚至部分事项“一趟不用跑”，打通政务服务的“最后一公里”，实现“让数据多跑路、让群众少跑腿”，不断增强人民群众的获得感幸福感安全感。又如，在反腐败领域，各地探索运用互联网、大数据和信息化手段，通过微信、微博、手机客户端等新媒体，让失德官员无处躲藏，权力运行更加阳光。

　　信息化深入发展为最大程度实现社会公平提供技术条件。例如，在教育领域，信息技术打破时空藩篱，让即便身在地球两端的学生也能同上一堂课；打破城乡壁垒，让农村孩子有机会与城里孩子享受到同等教育资源；打破线上线下界限，让学习无处不在、课堂互动“永不下线”，进一步促进优质资源共享和教育公平。

　　信息化深入发展扩大社会交往，提出更高的伦理道德要求。传统的社会交往主要局限于相对狭小的熟人范围，人们之所以遵守伦理道德很大程度上是因为相对狭小的熟人圈子中无所不在的外在监督，并且一些人对伦理道德的信守主要局限于相对狭小的熟人圈子，对圈子之外的人则未必守信。现代社会交往日益突破传统的熟人交往范围，建基于强大信息技术的互联网进一步打破传统交往的时空限制，使之成为普遍性的社会交往。这就要求人们具备更高程度的道德自律、更高程度的宽容与尊重，从而促进形成以普遍的诚实、守信为价值基础的现代社会公德。

　　互联网是一个实时、动态、开放的社交平台，各种悖德行为一旦曝光，就会在很短时间内遭到广泛的舆论谴责，在使悖德行为者承受压力的同时，让更多人受到潜移默化的教化。尤其是自媒体的广泛兴起，让人们随时随地能将身边的人和事拍摄下来、发到网上，更广泛有效地发挥社会舆论的监督、谴责与教化作用。

　　信息化深入发展使包括身份信息和行为信息在内的各类信息变得更透明、更对称、更完整，大大提升了对悖德行为乃至违法犯罪行为的防控、识别、监督、追究与惩处能力。例如，居民身份证存储着个人信息并实现全国联网，入住酒店、乘坐交通工具、购置房产以及其他一些有必要知晓行为人身份的行为或业务往来，都要求提供身份证明；政府部门借助发达的网络和信息传递技术，广泛而及时地向人们公布、推送失信人或其他违法犯罪分子的相关信息；重要公共场所安装高清摄像头，有的场所则配置更为先进的人脸识别技术。这使得悖德行为者及违法犯罪分子处于无所不在的监控之下而无处遁形，促使人们更审慎地权衡利弊并尽可能地减少、规避失信行为或其他违法犯罪行为，有效维护、巩固和增进以诚信为基础的主流伦理道德。

　　信息时代的道德风险

　　在可以预见的将来，人工智能将重塑生产力、生产关系、生产方式，重构社会关系、生活方式。

　　实际上，人工智能算法带来的歧视隐蔽而又影响深远。信息的不对称、不透明以及信息技术不可避免的知识技术门槛，客观上会导致并加剧信息壁垒、数字鸿沟等违背社会公平原则的现象与趋势。如何缩小数字鸿沟以增进人类整体福利、保障社会公平，这是一个具有世界性意义的伦理价值难题。

　　信息技术在加速大数据传播、搜集、共享的同时，也为一些国家或组织利用网络霸权干涉别国内政或实施网络攻击提供了漏洞和暗网，严重威胁国家主权和安全。因此，防范数据霸权是信息时代维护国家主权的重要内容。

　　互联网时代出现的一些现象和趋势，应当引起高度重视。例如，有些人沉迷于网络虚拟世界，厌弃现实世界中的人际交往。这种去伦理化的生存方式，从根本上否定传统社会伦理生活的意义和价值，放弃自身的伦理主体地位以及相应的伦理责任担当，已经触及价值观念基础这一更为根本的层面。

　　应对信息时代伦理风险的道德原则

　　习近平同志强调：“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”面对信息技术的迅猛发展，有效应对信息技术带来的伦理挑战，需要深入研究思考并树立正确的道德观、价值观和法治观。从整体上看，应对信息化深入发展导致的伦理风险应当遵循以下道德原则。

　　服务人类原则。要确保人类始终处于主导地位，始终将人造物置于人类的可控范围，避免人类的利益、尊严和价值主体地位受到损害，确保任何信息技术特别是具有自主性意识的人工智能机器持有与人类相同的基本价值观。始终坚守不伤害人自身的道德底线，追求造福人类的正确价值取向。

　　安全可靠原则。新一代信息技术尤其是人工智能技术必须是安全、可靠、可控的，要确保民族、国家、企业和各类组织的信息安全、用户的隐私安全以及与此相关的政治、经济、文化安全。如果某一项科学技术可能危及人的价值主体地位，那么无论它具有多大的功用性价值，都应果断叫停。对于科学技术发展，应当进行严谨审慎的权衡与取舍。

　　以人为本原则。信息技术必须为广大人民群众带来福祉、便利和享受，而不能为少数人所专享。要把新一代信息技术作为满足人民基本需求、维护人民根本利益、促进人民长远发展的重要手段。同时，保证公众参与和个人权利行使，鼓励公众提出质疑或有价值的反馈，从而共同促进信息技术产品性能与质量的提高。

　　公开透明原则。新一代信息技术的研发、设计、制造、销售等各个环节，以及信息技术产品的算法、参数、设计目的、性能、限制等相关信息，都应当是公开透明的，不应当在开发、设计过程中给智能机器提供过时、不准确、不完整或带有偏见的数据，以避免人工智能机器对特定人群产生偏见和歧视。

　　（作者为中国伦理学会副会长）