统计有赖于土著人民：人工智能时代的数据主权

如今，人工智能工具已是触手可及。但如果让人工智能生成一张土著人民的图像，它大概率会输出一张头戴羽饰、身佩珠饰的人物形象，画风酷似旅游宣传册的配图，由此引出一系列值得深思的问题：人工智能学会了把哪些类型的图像与土著人民绑定在一起？是谁的数据和知识塑造了这类固有印象？又由谁来决定这些内容该如何使用？

多样性对人工智能领域意义重大。如果用于训练系统的数据对土著人民及其语言刻画不足，人工智能便容易将数千个迥异社群的丰富多样性，压缩为寥寥数种刻板表征。联合国报告称，全球土著人民超4.76亿，约占世界总人口的6.2%。他们分属成千上万个社群，使用着全球约7 000种语言中的众多语种。

土著人民身兼多重角色，既是环境守护者、科研工作者，也是历史与集体记忆的传承者。每年8月9日是世界土著人民国际日。这一天提醒我们，应正视土著社群的生存现状与未来发展，并思考全球政策是否真正对土著群体负责。

人工智能能够赋能教育、提升生产力和助力公共治理，甚至可以保护少数群体语言和濒危文化。但与此同时，人工智能也会带来环境代价，还可能在未经许可的情况下攫取数据，将土著知识拆解为可供加工、变现的信息素材。

各界时常谈及“负责任的人工智能”“以人为本的人工智能”和“包容性人工智能”，但如果土著人民在人工智能相关政策制定中没有话语权，这类技术又何以谈得上负责任、以人为本、包容普惠呢？

话语权的缺失不容小觑，因为人工智能系统的根基正是数据。联合国大学可持续性问题高等研究所制作推出了播客系列《人工智能与可持续性》，其中联合国首席信息技术干事贝尔纳多•马里亚诺•儒尼奥尔(Bernardo Mariano Junior)参与的一期节目提到，数据往往由掌权群体塑造。长久以来，土著人民的土地、知识、语言乃至自身群体都一直受到外来者的研究和管控，而人工智能有可能以技术的形式重现旧日的殖民模式。

正因如此，土著人民数据主权必须成为人工智能开发和监管的核心要义。随着数据驱动型人工智能蓬勃发展，落实土著人民数据主权变得愈发紧迫。这项主权保障土著人民有权自主管控本社群与知识体系相关数据的收集、归属、访问、解读及使用，同时也夯实了《联合国土著人民权利宣言》所重申的土著人民固有自决权。

在实践层面，土著人民数据主权已体现在土著语言与人工智能结合的各类新兴探索当中。由加拿大第一民族社群成员主导的魁北克人工智能研究所“土著母语人工智能现实”项目，立足于数据主权与语言自决，搭建面向土著群体的语音人工智能系统。Mozilla基金会的Common Voice计划[思杨1] 则展现了台湾南岛语言社群与志愿者如何通过社群主导的数据创建，参与语音技术的建设。

重新构想人工智能治理

土著数据主权为我们重构人工智能治理提供重要思路。这一方案的核心是：承认土著人民对人工智能系统（包括相关的数据、语言、知识与文化载体）的开发和使用拥有实质性主导权。各国政府、国际组织、技术企业和科研机构都有责任把这项主导权融入人工智能的开发和监管全流程。

第一，人工智能政策必须把土著人民的数据主权确立为法律与伦理层面的硬性要求。这意味着，凡是使用土著语言、文化资料、本土环境知识或教育数据的系统，都必须保障土著社群自项目之初就实质性参与治理，而非等到系统设计完成后才被纳入。

第二，数据拆分统计工作必须遵循由土著群体主导制定的规程。参与人工智能使用、开发和监管的机构必须厘清一系列问题：由谁设定数据分类标准？由谁存储数据？由谁解读分析结果？谁享有分析带来的收益？谁拥有拒绝的权利？

第三，人工智能政策应当恪守《联合国土著人民权利宣言》确认的自由、事先和知情同意原则。知情同意的理念必须贯穿人工智能设计、部署、评估、修订的完整生命周期。

第四，土著人民必须以决策者的身份参与人工智能治理，不能仅仅充当被征询意见的对象或是结果核验者，而要进入标准制定、系统审计、风险评估的相关机构，共同判定哪些人工智能应用适宜在土著社群场景落地。

最后，人工智能系统必须为无法简化为数据集、提示词、指标或预测模型的知识预留空间。真实、包容的人工智能未来必须承认，有些知识需要严格保护，有些知识仅可依照社群内部规范有限共享，还有一部分知识则完全不应数字化。

统计有赖于土著人民

全球仍在持续探讨人工智能的伦理潜力，而人工智能研发与监管的所有利益相关方，都应当借鉴土著群体秉持的责任、互惠、关联与尊重原则。议题已经不再局限于“如何把土著人民纳入人工智能体系”，而是转向“如何以土著知识与土著权利塑造人工智能”。

尽管土著人民在我们眼中的形象已然多元，但他们的知识体系和权利诉求更是丰富多彩，并且积淀着深厚的历史底蕴。上个月我们迎来世界土著人民国际日，借此契机，我们既要做好土著人民的数据统计、重视这一群体，又切忌将其简化为冰冷的数据条目。我们必须把土著人民视为权利主体，与各方共建人工智能生态。我们有责任构建一套治理框架，实现真正包容的人工智能。

本文观点系作者个人意见，未必代表联合国大学的立场。