人工智能伦理的建立

人工智能：人类新前沿

我们正沐浴着新时代的曙光。技术革命正在飞快地改变着我们的生活，让我们的工作、学习乃至相处方式发生翻天覆地的变化。随着大数据的使用日益深化，人工智能正经历指数级增长，开始应用于安全、环境、研究和教育、卫生、文化和贸易等越来越多的行业中。

人工智能是人类的新前沿。一旦跨越这个边界，人工智能将让人类文明旧貌换新颜。人工智能的指导原则不是拥有自主性或取代人类智慧。但是，我们必须确保人工智能以基于价值观和人权的人本主义方式发展。我们面临的一个关键问题是：我们想要一个什么样的未来社会？人工智能革命开辟了振奋人心的新前景，但是我们需要仔细考虑其带来的巨大人类学和社会影响。

可持续发展的重大机遇

技术革命引发的变革，特别是人工智能发展引起的变革，与联合国教育、科学及文化组织（教科文组织）的各项使命都息息相关。人工智能正引发深刻的教育变革。很快，教育工具将发生变化，包括我们学习、获取知识和培训教师的方式。从现在开始，掌握数字技能是我们所有教育计划的核心。此外，我们必须“学会学习”，因为飞快的创新正在迅速改变劳动力市场。如今，历史、哲学和文学等人文学科，对于我们形成在瞬息万变的世界中采取行动的能力，比以往任何时候都更加重要。人工智能已广泛应用于文化领域，如用于重建遗产的图像。人工智能还应用于科学领域，特别是应用于我们的环境计划和水下研究。通信和信息也直接依靠人工智能的进步，特别是在言论自由和信息获取方面。

人工智能可以为实现联合国在2030年可持续发展议程中制定的可持续发展目标创造巨大的机遇。人工智能的应用可有助于开发创新的解决方案、改进风险评估、实现更好的规划和更快的知识共享。

应对人工智能的挑战
虽然人工智能是我们社会实现负责任发展的一项惊人资产，但也带来了重大的伦理问题。我们如何确保算法不侵犯隐私权和数据保密权以及选择自由权和良心自由权等基本人权？如果我们的意愿可预测并受到牵引，我们的行动自由能否得到保障？我们如何确保人工智能编程不会复制社会和文化成见，特别是性别歧视问题？这些“回路”是否会被复制？能否对价值观进行编程？由谁来编程？当决定和行动完全自动化时，我们如何确保落实问责制？我们如何确保世界各地的所有人都可以享受到这些技术的惠益？我们如何确保人工智能以透明的方式开发，以便生活受到影响的全球公民对人工智能的发展有发言权？

要回答这些问题，我们必须将人工智能对我们社会的直接影响，即我们已经能察觉到的后果，与其长期影响区分开来。这要求我们树立共同的愿景，共同制定战略性行动计划。

开展关于人工智能伦理的全球对话：教科文组织的作用

全世界必须确保新技术，特别是基于人工智能的新技术，用于造福我们的社会并推动社会的可持续发展。全世界应该规范人工智能的发展和应用，使构建我们民主愿景的基本权利得以保障。

企业、研究中心、科学院所、联合国会员国、国际组织和民间社会团体等众多行为体正在呼吁建立人工智能发展的伦理框架。虽然我们对问题有了越来越多的了解，但相关举措需要更加强有力的协调。这是个全球性问题，我们必须在全球层面进行反思，避免面对伦理问题出现“挑三拣四”的做法。此外，如果我们想找到利用人工智能促进可持续发展的方法，就必须在联合国各基金、机构和方案的参与下，采取具有包容性和全球性的做法。

教科文组织将充分、积极地参与这次全球对话。本组织在科技伦理方面拥有多年经验。我们的咨询机构已经撰写了关于机器人技术等方面的许多报告和声明，如2017年发布的《世界科学知识与技术伦理委员会关于机器人技术伦理的报告》。我们的咨询机构也有制定规范性文书的经验，包括1997年《世界人类基因组与人权宣言》和2005年《世界生物伦理与人权宣言》。

教科文组织的优先事项也必须指引我们在这一领域的国际行动。我们必须确保非洲充分参与和人工智能相关的变革，不仅作为受益国，也作为上游国，从而直接促进其发展。在性别平等方面，我们必须消除社会中的各种偏见，保证人工智能应用中不会出现同样的偏见。最后，我们必须增强青年的权能，向他们传授在二十一世纪所需的生活技能，使他们融入不断变化的劳动力市场。

教科文组织在弥合现有分歧方面也需要发挥关键的作用，而人工智能可能会加深现有分歧。消除国家之间和性别之间的分裂，弥合资源和知识鸿沟，可以使更多的人为进行中的数字化变革做出贡献。

出于自身的人道主义使命和国际影响，包括与研究人员、哲学家、程序员、政策制定者以及私营部门和民间社会代表的关系，教科文组织理应主办关于这些伦理问题的辩论。从今年晚些时候开始，教科文组织将在世界上的一些地区组织关于人工智能的辩论，让来自不同背景和专业的专家聚在一起发表意见。第一次辩论已于2018年12月12日在摩洛哥马拉喀什举行，辩论主题是人工智能与非洲。第二次国际会议将于2019年上半年在教科文组织巴黎总部召开。如果成员国达成一致，这次对话最终可能确定人工智能发展的主要伦理原则。

作为一个世界性论坛，教科文组织倾听和尊重每个人的声音，充分发挥自身的作用，为有关我们时代重大变革的全球辩论提供信息资源，同时制定原则确保技术进步服务于共同利益。人工智能的前景及其潜在的伦理问题引人关注，而我们应对这些挑战的举措将改变我们所知的世界。

我们必须团结起来找到最佳解决方案，确保人工智能的发展为人类提供机遇，我们这一代人有责任为下一代构建一个更加公正、和平和繁荣的社会。