从二十世纪中叶起步至今，人工智能迅速改变着我们的世界。
人工智能包括一系列可定义为“自我学习、适应系统”的技术。人工智能可以根据技术、目的（例如面部或影像识别）、功能（例如理解语言和解决问题）或智能体类型（包括机器人和自动驾驶汽车）进行分类。
人工智能还包括各种方法和学科领域，例如机器视觉、语音识别和机器人技术，旨在增强传统的人类能力。人工智能的进展，得益于计算机处理能力和数据技术的提升。
将人工智能用作向善的力量
人工智能具有巨大的潜力，可以通过促进包容性、减少不平等、帮助加快实现可持续发展目标以及改善联合国系统的工作，为联合国提供有力的支撑。人工智能有望成为二十一世纪促进平等的强大力量，但前提是每个国家都有能力参与塑造人工智能的发展，并在这一进程中拥有发言权。
例如，人工智能可以通过以下方式推动可持续发展目标的落实：在医疗保健领域提供诊断和预测分析工具（目标3）；在农业领域提供作物监测和提高气候抗御力（目标2和15）；在教育领域提供个性化学习服务（目标4）；在人道主义应急领域提供危机状况测绘服务和促进物资发放。
人工智能不仅是可持续发展的变革力量，还可以帮助联合国应对世界各地的危机，帮助各国合作共同解决气候变化导致的流离失所问题，并成为一股向善的力量，拯救生命。
但是，迄今为止，人工智能所带来的惠益分配不匀，目前掌握在几个国家少数几个强大的公司手中。2025年，在全球已知的500个最大人工智能计算集群中，75%的算力集中在美国，15%集中在中国，其余所有国家仅占剩下的10%。正如秘书长安东尼奥•古特雷斯最近申明，许多国家获取人工智能工具举步维艰，这凸显了国际合作与团结以弥合发展中国家在人工智能方面的鸿沟的必要性。
“如果没有足够的防护措施，人工智能可能会进一步加剧不平等和扩大数字鸿沟，给最弱势群体造成不成比例的影响。为了全人类的利益，必须抓住历史契机，为人工智能的包容性治理奠定基础”。
虽然人工智能有可能解决人类面临的一些最大挑战，例如促进经济发展和社会转型，但人工智能的快速发展也不可避免地带来了一系列风险和挑战，包括信息准确性问题和人权威胁。
探索全球协调人工智能治理之路
人工智能不受国界限制，其风险也同样不受国界限制。塑造人类未来的技术必须由全人类共同塑造，而不能由少数国家或企业主导。联合国并不取代各国的监管机构，而是致力于提供独立的科学依据、普遍参与的对话平台以及必要的支持，确保每个国家都能参与其中。
2023年，秘书长成立了人工智能高级别咨询机构。该机构于2024年9月发布的最终报告《以人为本的人工智能治理》，为建立首个具有全球包容性的人工智能治理架构提出了蓝图。此后，会员国已落实报告提出的两项建议，即设立独立的国际人工智能科学小组，以及建立人工智能治理问题全球政策对话机制。
指导循证的人工智能治理的科学机构
根据《全球数字契约》，会员国成立了人工智能独立国际科学小组，旨在加强科学认知，确保全球议事以现有最佳证据为指引。科学小组由40位顶尖专家组成，是首个致力于评估人工智能如何重塑社会的全球性科学机构。
专家小组的任务是编写一份年度循证报告，阐述人工智能带来的机遇、风险及影响，提交给联合国人工智能治理全球对话。
专家小组还会发布专题简报，每年向大会汇报最新进展不超过两次，组建工作组，并根据需要咨询外部专家。同时，小组还将研究人工智能在非军事领域的机遇、风险和影响。
数字合作与安全新纪元开启
《全球数字契约》是一个旨在推动全球数字技术与人工智能治理合作的综合性框架。该框架于2024年9月与《未来契约》一同获得通过，为加强全球数字合作、挖掘数字技术的巨大潜力以及弥合现有的数字鸿沟指明了方向。
这一框架由193个会员国经过谈判协商制定，并广泛征求了全球各方意见，承诺各国政府在网络空间维护国际法、保障人权。框架强调，必须采取切实行动，确保数字空间安全无虞。会员国首次在这一框架下就人工智能治理全球合作的共同原则达成一致。
指导循证的人工智能治理的科学机构
在《全球数字契约》的基础上，联合国大会于2025年8月设立了人工智能独立国际科学小组，旨在加强科学认知，确保全球讨论以现有最佳科学证据为指引。该小组由来自联合国五大区域的40名独立专家组成，专家均以个人身份履职。这是全球首个专门评估人工智能如何重塑社会的科学机构。
专家小组的任务是编写一份年度循证报告，阐述人工智能带来的机遇、风险及影响，提交给联合国人工智能治理全球对话。
专家小组还会发布专题简报，每年最多两次向大会通报工作进展，根据需要设立工作组并征询外部专家的意见。同时，小组将研究人工智能在非军事领域带来的机遇、风险和影响。其报告与政策制定密切相关，但不提出规定性建议，其研究结果也无须经过联合国的审查或批准。
该小组于2026年7月1日发布了初步报告，并于2026年9月21日发布了首份专题简报，重点探讨人工智能智能体及人类可能失去对其控制的风险。
人工智能治理全球对话
人工智能治理全球对话汇聚各国政府、科学界、业界和民间社会，共同探讨人工智能治理问题。该对话机制旨在补充现有机制和努力，而非与之竞争。所有会员国均受邀参加2026年7月6-7日在日内瓦举行的首次会议，共有163个国家参与。下一次会议将于2027年5月3-4日在纽约举行。人工智能独立国际科学小组将在全球对话会议上提交年度报告。两项机制各自独立，但相辅相成、相互促进。
在首次全球对话会议上，共同主席指出，各方在四个领域逐渐形成共识：人工智能在促进可持续发展方面的潜力；弥合基础设施、算力、数据和技能方面持续存在的差距的必要性；在人工智能的整个生命周期中尊重人权，特别是保护儿童免受人工智能相关危害；以及认识到任何单一政府、企业或机构都无法独自实现人工智能治理。
加强各国的人工智能能力建设
在发展中国家中，拥有国家人工智能战略的国家不足三分之一。能力建设与安全保障密不可分：一个缺乏自主算力的国家，无法切实参与制定世界其他国家正在讨论的相关标准。
已有20多个国家响应秘书长的呼吁，支持建立由联合国支持的全球人工智能能力建设交流与合作网络。秘书长还呼吁设立全球人工智能能力建设基金，争取约30亿美元的初始资金承诺，以帮助世界各国提升人工智能技能、加强数据能力建设，并获得负担得起的算力资源。各国可参考《国家人工智能和数据战略蓝图》指导本国相关工作。2026年8月，莱索托成为首个应用这一蓝图的国家。
人工智能的光与影：坚持以人为本
相关证据日益增多。人工智能独立国际科学小组发现，目前尚无科学依据能够保证人工智能智能体不会违反所接收的指令。该小组还警告称，人工智能风险的证据存在一个两难困境：等到有关风险的证据确凿无疑时，采取行动可能为时已晚。因此，创新需要必要的规范和保障措施。
正如秘书长指出，在和平与安全领域，“人类命运绝不能交给算法的‘黑箱’。”他强调，在涉及武力使用的决策中，必须确保人类始终占据主导地位，以促进发展并保护人权。
因此，对于生成式人工智能，联合国特别关注四个主要领域：
- 和平与安全：人工智能生成的虚假信息已经危及联合国的和平与人道主义行动，将工作人员和平民置于危险之中。根据最近的一项调查，70%以上的联合国维和人员表示，错误信息和虚假信息严重影响了他们开展工作的能力。
- 侵犯人权：人工智能正被用来制作和传播有害内容，包括儿童性虐待材料和未经当事人同意的色情图片，尤其是针对妇女和女童的内容。联合国担忧，生成式人工智能可能会加剧反犹太主义、伊斯兰恐惧症、种族主义和仇外心理。
- 危害民主：人工智能在选举期间操纵选民和左右公众舆论的潜力，对世界各地的民主进程构成了重大威胁。
- 破坏科学和公共机构：例如，人工智能工具可以通过放大有关气候变化和可再生能源的虚假信息，加剧长达数十年的造谣宣传，从而阻碍气候行动。
人工智能与联合国系统
人工智能治理与数字合作
联合国数字和新兴技术办公室由联合国大会于2025年1月1日设立，旨在推动包容、以权利为基础、多利益攸关方参与的数字合作，同时尊重各国的优先事项和具体国情。该办公室还担任联合国系统数字和新兴技术事务的协调中心。
联合国数字和新兴技术办公室负责协调联合国系统内《全球数字契约》的落实工作。在人工智能领域，该办公室协调人工智能独立国际科学小组秘书处的工作。该秘书处成员包括国际电信联盟和联合国教育、科学及文化组织的代表，并利用联合国系统其他机构的能力和资源。该办公室还与国际电信联盟、联合国教育、科学及文化组织以及秘书长执行办公室共同组成全球人工智能治理对话联合秘书处。此外，该办公室还通过《国家人工智能和数据战略蓝图》等举措，帮助各国加强人工智能能力建设。
人工智能与教育
人工智能正深刻改变着我们的生活，通过感知、问题解决和创造性等能力，为人类提供着极具价值的服务。尽管这些进步有力推动了《2030年可持续发展议程》等全球倡议，但也引发了重大的伦理问题。偏见、人权威胁和气候影响等问题因既有的不平等而加剧，对边缘群体的影响尤其严重。为此，教科文组织通过了《人工智能伦理问题建议书》，旨在在全球范围内应对上述伦理挑战。
在教育领域，人工智能可以应对重大挑战，革新教学实践，助力实现可持续发展目标4的实现。。因此，教科文组织同时发布了首份在教育领域使用生成式人工智能的指南，以帮助各国应对生成式人工智能工具的快速涌现。
然而，技术变革的迅猛速度已超越了相关政策和监管框架的发展步伐。为应对这一挑战，教科文组织推出了《数字能力框架 》，以提升公务员和教育工作者在运用信息和通信技术方面的技能。
人工智能与司法
在人工智能治理领域，司法机构发挥着至关重要的作用，可在利用人工智能改善司法救济的同时，解决与偏见和透明度有关的伦理问题。教科文组织的法官倡议提供培训资源，支持司法机构处理复杂的问题，强化落实人工智能和人权方面的国际标准。
人工智能促进发展
联合国开发计划署（开发署）积极参与有关人工智能和数字技术的全球讨论，实施《全球数字契约》和遵循秘书长的人工智能高级别咨询机构的建议。开发署与联合国人工智能机构间工作组密切合作，并与国际电信联盟和教科文组织等组织建立伙伴关系。
除全球协调外，开发署还扩展了内部的人工智能能力。2024年，开发署启动了“人工智能冲刺”战略倡议，旨在加速整个联合国负责任地应用人工智能。
开发署也在具体国家推动使用人工智能支持可持续发展。例如，加速器实验室利用人工智能分析地球观测数据（例如卫星和无人机图像），识别喀麦隆和佛得角的作物病害，检测危地马拉、菲律宾、塞尔维亚和越南的垃圾堆积区，绘制厄瓜多尔和印度的土地使用与土地覆盖图。
人工智能与工人
人工智能革命可能加剧高收入国家和低收入国家之间的经济不平等。虽然人工智能具有推动创新和提高生产力的潜力，但人工智能技术的投资和应用并不均衡，这意味着高收入国家获得的惠益很可能远远超过中低收入国家。
这种差距在非洲尤为明显，可能会加深现有的社会和经济鸿沟，因为发展中国家在数字基础设施和优质教育资源方面存在显著的不足。为解决这些问题，国际劳工组织确定了三大政策支柱：改善数字基础设施、促进技术转让和培养人工的智能技能。
发展中国家需要强大的数字化工具来支持人工智能的应用，而高收入国家则应协助转让技术技能。为了让工作人员掌握必要的人工智能技能，投资于教育和培训至关重要。
此外，推动社会对话也十分必要，可以确保技术进步让劳动者的权利得到尊重，提升就业质量。2025年关于人工智能和职业安全的全球报告强调了工作场所出现的新机遇和新风险。同样，《注意人工智能鸿沟：塑造关于未来工作的全球视角》呼吁决策者、行业领袖和国际组织通力合作，创造一个公平与包容的由人工智能驱动的未来。
人工智能与儿童
任何儿童都不应成为未经监管的人工智能技术的试验对象。秘书长呼吁制定《人工智能儿童安全承诺》，要求任何儿童可能接触到的人工智能系统遵守以下三项基本规则：
- 证明系统安全：任何企业在部署儿童可接触的人工智能系统之前，都必须开展专门针对儿童的安全测试，并接受独立监督。
- 对儿童性虐待零容忍：任何企业都不得允许其人工智能系统生成涉及儿童的色情图像，所有企业都必须检测、报告并删除此类图像。
- 绝不让身处危机的儿童孤立无援：当儿童表现出痛苦或心理困扰的迹象时，人工智能系统必须停止运行相关互动，并帮助儿童获得真人提供的支持。
儿基会发起了“人工智能一代”倡议，确保人工智能系统尊重儿童的权利。携手世界经济论坛和加州大学伯克利分校等合作伙伴，该倡议致力于最大限度地拓展儿童发展机遇，同时降低与人工智能技术相关的风险。儿基会还通过2025年关于生成式人工智能的分析，密切关注全球人工智能趋势。
儿基会制定了政策指南，在人工智能政策和实践中保障儿童的权利。该指南强调，在开发和部署人工智能系统时必须考虑儿童的需求和权利。
人工智能与健康
世界卫生组织（世卫组织）发布了促进卫生保健领域的人工智能使用符合伦理的全面指导方针。该框架确定了一系列原则，旨在确保人工智能技术的设计与应用促进人类福祉，并保障人权。此外还将发布一份新的区域报告，首次对人工智能如何融入卫生系统进行了全区域的评估。
世卫组织与国际电信联盟（国际电联）共同发起该倡议，为利益攸关方提供了交流平台，共同探讨并制定人工智能在卫生保健领域的运用标准，从而负责地发挥人工智能的潜力。
人工智能与粮食
世界粮食计划署（粮食署）利用人工智能沙盒作为人工智能项目的试验平台，因此得以在人工智能技术投入应用前评估相关解决方案的可行性和影响。这确保了所采用的人工智能工具既有效又负责任。
这种方法确保只部署有效和负责任的人工智能工具，并与《2025-2027年粮食署全球人工智能战略》保持一致，该战略旨在将人工智能融入世界粮食计划署的各项业务，以优化资源配置、加强应急响应能力，并提高粮食安全干预措施的成效。
粮食署与阿里巴巴集团合作，推出了实时饥饿地图。这是一个由人工智能驱动的全球饥饿状况监测系统，对90多个国家的饥饿严重程度进行预测和跟踪，便于采取更及时、精准的干预措施。
人工智能与难民
联合国难民事务高级专员公署（难民署）通过其数据创新计划，利用人工智能和大数据改善人道主义响应措施。该计划不仅提供有关符合伦理地使用数据的服务与训练，还与合作伙伴共同探索创新方法。
这项工作得到了难民署人工智能方法的支持，该方法是一个以权利为基础、以人为本的框架，概述难民署如何利用人工智能增强保护、为人道主义决策提供信息并改善服务交付。
此外，Jetson项目是一个预测分析工具，利用人工智能预测人口流动，使难民署能够预测潜在的难民涌入并做好准备，从而优化应对战略。
人工智能与私营部门
《联合国全球契约》是一项基于首席执行官承诺的自愿性倡议，旨在推动企业落实普遍可持续发展原则并采取行动推动联合国目标的实现。这一倡议鼓励全球企业调整业务和战略，使之符合与人权、劳工、环境和反腐败相关的十项普遍原则。这是世界上最大的企业可持续发展和社会责任倡议。
随着2030年的临近，迫切需要创新解决方案以实现可持续发展目标。私营部门贡献了全球60%以上的国内生产总值，在推动创新和利用生成式人工智能促进可持续发展方面发挥着关键作用。
联合国全球契约的《生成式人工智能赋能全球目标》报告内容包括：可操作的战略、案例研究、生成式人工智能风险管理洞见以及负责任地部署生成式人工智能的资源。
相关资源
- 人权高专办：相关资源：人工智能|人权数字
- 世卫组织：人工智能赋能健康事业
- 知识产权组织：人工智能工具和应用
- 环境署：人工智能环境解决方案
- 联合国教科文组织：使用生成式人工智能的指南
- 国际电联：人工智能向善
- 联合国全球契约：https://unglobalcompact.org/library/6238
- 联合国系统行政首长协调理事会：人工智能
- 人工智能高级别咨询机构：治理人工智能，助力造福人类
- 贸发会议：《2025年技术与创新报告》