当代技术的发展日新月异，以大数据、云计算、人工智能、物联网为代表的新一代数字技术日益与实体经济深度融合，深深地影响着自然界、人类社会和人自身。如胡塞尔所提出的，自伽利略以来的近代西方文明，一直致力于将自然界数学化、机械化的目标，而这正是西方科学和文化危机产生的主要原因。我们姑且不论胡塞尔的论断准确与否，但他确实引发了人类对技术及其发展的伦理反思浪潮。而其中的人工智能技术自诞生至今在短短几十年内便渗透到了人类生产生活的每个角落之中。在人工智能为我们提供越来越多便捷的同时，很多人也在担心：人工智能在未来是否会成为一个新的主体，跟人类一样拥有自我意识和情感并最终取代人类？是否会破坏而不是增进人类的福祉？这是一种基于人本主义的伦理忧思，从这个角度看，彭家锋、虞昊、邓玉龙等三位青年学者聚焦人工智能的伦理挑战与科学应对这一主题展开对话，就怎样前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战进行学理阐释，并就如何塑造科技向善的文化理念，让人工智能更好增进人类福祉进行深入研讨，是具有理论意义和实践价值的。
人类的意识是长期进化的结果，是不可能被设计出来的。何为意识？到目前为止，“意识”的产生机制仍令科学家们困惑不已。其实意识并非人类所独有的，有些动物也有相对于人类而言比较简单的意识，例如狗就会看家护院，它们会在陌生人进入家中时感觉到不安全而吠叫。人们认为，意识是生命感知与适应环境、调整自身行为从而保护和完善自己的能力，意识的产生与生物的神经中枢——大脑有着紧密的联系。但遗憾的是，我们对人的大脑如何产生意识这个根本问题的了解还不够深入。幸运的是人类拥有地球上最高级最强大的大脑，它使得我们能完成一系列复杂的意识行为。人工智能是计算机科学的一个分支，它能通过执行人类的指令完成某些工作，产生类似人类的智能反应，但它并不拥有类似人类的意识。
在人们看来，现在的人工智能越来越“聪明”，甚至在某些领域比人类更“聪明”。其实人工智能的“聪明”仅仅是人类基于0和1的编程代码来控制的，或者说人工智能之所以能模仿人类的思维而完成某项工作，关键因素是人类为它们量身打造的一串串操控代码，人工智能仅仅是在完成人类的指令而已。因此无论人工智能如何强大，它也仍然只是在人类编制的智能程序对大量数据处理的基础上得到的结果。目前来看，与人类相比，人工智能都是专能的。人类可以运用所掌握的知识轻松应对自己熟悉的领域中的难题，也能灵活处理陌生的未曾遭遇的困境；虽然目前不管是计算智能、翻译智能、手术智能、围棋智能、家政智能、聊天智能、驾驶智能还是字符识别、人脸识别、声音识别等领域的人工智能都发展迅猛，但它们仅能执行内置程序所规定的任务，对于超出程序规定和数据库的内容和情形它们都无法处理。更重要的是，虽然人工智能可以在某个领域出色地完成人类规定的任务，但它们并不知道自己为什么要完成该项任务，更不会在此过程中拥有快乐、满足的情感体验。基于算法和大数据的人工智能是人类用以发展和改善生产生活的工具，人类发明和发展它们，目的是让它们更好地为人类服务，而不是取代人类自身。
从这个意义上说，人工智能仅仅是一项服务于人类的技术，是人类的工具，人类没有必要也不可能让其拥有独立的自我意识而成为取代人类自身的主体。一部人类文明史，同时也是一部人类不断发展和创造工具以服务于人类自身的历史。从石器到铁器，再到电器，到现在的人工智能，都是人类体力和智力的延伸，都是作为一种工具而增强了人类某些方面的能力。地球上唯有人类拥有高度复杂的大脑结构、无比精细的意识与情感状态。无论人工智能有多“聪明”，它也不可能拥有类似于人类的“智慧”与意识。其他碳基生物虽然有低等的意识，但与人类的智慧与意识相比几乎可以忽略不计。
虽然人类主观上不会让人工智能发展成一个拥有类似人类的意识和情感的主体，但在信息化数字化智能化趋势不断演进、人工智能技术发展和应用场景拓展正在按下“快车键”的当下，其对人类生活带来的新的风险挑战越来越大，却是一个不争的事实。要破解这一难题，我们必须前瞻研判人工智能带来的规则冲突、社会风险、伦理挑战，着力完善相关法律法规、伦理审查规则及监管框架，通过建立健全保障人工智能健康发展的伦理规范和法律体系，更好适应人工智能快速发展的新要求、新变化，从而推动人工智能向善发展、更好增进人类福祉。
（摘编自张今杰《推动人工智能更好增进人类福祉》）
中国《新一代人工智能发展规划》三步走战略目标 | ||||
| ||||
人工智能总体技术和应用与世界先进水平同步，人工智能产业成为新的重要经济增长点，人工智能技术应用成为改善民生的新途径，有力支撑进入创新型国家行列和实现全面建成小康社会的奋斗目标。 | 人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平，人工智能成为带动我国产业升级和经济转型的主要动力，智能社会建设取得积极进展。 | 人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，智能经济、智能社会取得明显成效，为跻身创新型国家前列和经济强国奠定重要基础。 | ||
