以全球安全倡议推进人工智能治理

作者：田开元（军事科学院），刘嘉雯（国际关系学院），王怡仙（军事科学院）

当今世界，国际安全形势正经历着前所未有的变局与挑战，地缘政治紧张加剧，地区冲突与局部战争频发，恐怖主义、贸易争端、环境问题等日益严重。传统与非传统安全威胁相互交织，全球安全治理难度不断加大，新兴科技领域，尤其是人工智能技术的快速发展，对全球安全的内涵和外延产生重大变革，也对社会、经济、军事和政治领域产生了深远影响，继而引发了一系列新的安全问题，值得高度关注。

人工智能技术加速应用带来新的安全风险

人工智能的全球化发展已成必然，人工智能安全问题也超越了国家边界，成为人类必须共同面对的挑战。随着计算机技术和运算能力的迅猛发展，人工智能技术正逐渐接近突破技术变革的“奇点”。以ChatGPT为代表的生成式人工智能迅速涌现，不仅可以使人与机器进行自然流畅的“对话”，还可以让机器代替人类执行文本创作、制定方案、进行翻译等多项任务，使得工作效率大幅提高。尽管人工智能的便利性给人们的生活带来了巨大好处，国际社会仍对其安全性表现出担忧。

人工智能技术的全球应用已经成为全球安全治理的一个核心问题。政治安全方面，人工智能技术的发展可能会使非国家行为体“野蛮生长”，极端组织、跨国势力可能利用人工智能技术传播极端思想、恶意制造舆情、分化社会认知，威胁政治安全；经济安全方面，人工智能技术的发展会带动新的产业模式，但也会导致经济结构变化发生动荡，进而引发劳动力贬值、贫富分化加剧等经济问题；社会安全方面，人工智能技术在数据过度采集、算法推荐、人脸识别等应用场景上缺乏有效监管，易被滥用，可能侵犯个人隐私、破坏数据传播、扰乱社会秩序；军事安全方面，人工智能技术的军事运用可能“改变战争游戏规则”，进而引发传统战争法规的失效，对现行国际法体系产生挑战。

全球安全倡议为解决人工智能治理难题提供新思路

安全问题事关各国人民的福祉，事关世界和平与发展的崇高事业，事关人类的前途命运。2022年4月21日，*主席在博鳌亚洲论坛2022年年会开幕式上郑重提出全球安全倡议。2023年2月，中国正式发布《全球安全倡议概念文件》，阐释了全球安全倡议的“六个坚持”核心理念和原则，明确了20个重点合作方向以及五大类合作平台和机制。在《全球安全倡议概念文件》中，重点合作方向的第十五条提出了“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”的倡议。

2023年10月18日，*主席出席第三届“一带一路”国际合作高峰论坛开幕式，并在主旨演讲中宣布中方将提出《全球人工智能治理倡议》，这是中方积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。

《全球人工智能治理倡议》围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，指出中国提倡国际社会共同制定人工智能安全准则，以确保这一技术的安全和伦理使用，通过对话与合作，在尊重各国政策和实践差异的基础上，形成广泛共识。《全球人工智能治理倡议》还强调在以人工智能为主的新兴科技领域，各国应该秉持共同、综合、合作、可持续的安全观，并坚持发展和安全并重的原则，加强人工智能治理等等。

推进人工智能治理的中国方案

在人工智能技术飞速发展的时代，全球安全治理必须适应新的挑战。中国提出的全球安全倡议为解决人工智能安全问题提供了创新视角。

建立科技伦理制度。党的十八大以来，中国对以人工智能为代表的科技伦理重视程度进一步不断提升，明确提出科技伦理是科技活动必须遵守的价值准则，并将科技伦理纳入顶层政策设计，作为科技创新的重要支撑和保障。目前，中国持续建立健全科技伦理制度，塑造科技向善的文化理念和保障机制：组建国家科技伦理委员会，负责指导和统筹协调推进全国科技伦理治理体系建设工作；出台科技伦理相关的政策法规，支持科技伦理治理落地实施；强调人工智能领域的科技伦理治理等等。

推进人工智能领域的标准化建设。2022年11月16日，中方向联合国《特定常规武器公约》缔约国大会提交了《中国关于加强人工智能伦理治理的立场文件》，文件主张各方在监管人工智能技术时，应建立伦理准则与规范，主张明确主体责任和权力边界，发展法律伦理体系，强化风险意识，建立风险预警机制，鼓励多方参与伦理治理；在研发人工智能技术时，强调伦理约束，确保人工智能处于人类控制下，提升算法和数据安全，追求透明性和可解释性，改进数据质量，避免偏见，努力实现人工智能互惠；在使用人工智能技术时，禁止非法收集个人信息，强化质量检测，推动伦理教育，提高公众伦理意识。2023年10月8日，科技部会同教育部、工业和信息化部等10部门联合印发《科技伦理审查办法（试行）》，人工智能研究单位被列入科技伦理（审查）委员会范围。

规范人工智能军事应用。2021年12月13日，中国首次就规范人工智能军事应用问题发布《中国关于规范人工智能军事应用的立场文件》，明确人工智能在研发、部署、使用等方面的核心原则和措施，特别指出在战略安全方面，各国应本着慎重负责的态度在军事领域研发和使用人工智能技术，不谋求绝对军事优势，防止加剧战略误判、破坏战略互信、引发冲突升级、损害全球战略平衡与稳定；在军事政策方面，人工智能不应成为战争工具，应坚决反对危害他国主权的行为；从法律伦理角度来看，人工智能武器应遵守国际法，降低伤害，避免滥用；在技术安全层面，各国应确保人工智能技术可控，保障数据安全；在研发操作方面，各国应加强自我约束，明确人类责任，建立问责机制；在风险管控方面，各国应监管不成熟技术，降低扩散风险；在规则制定方面，各国应履行多边主义，制定共同规则；在国际合作角度，各国应支持发展中国家，消除科技壁垒。

加强人工智能治理国际合作。在这一方面，中国表现出积极开放的态度，并主动创建了多个交流平台。乌镇世界互联网大会已成功举办五届，上海世界人工智能大会吸引了国内外广泛的关注。此外，天津的世界智能大会、重庆的国际智能产业博览会、中国—东盟人工智能合作论坛等也充当着向全球开放的交流平台。

深化人工智能投资研究与发展。在人工智能投资研究与发展方面，中国投入了大量资源。其中，上海一直处于中国人工智能领域的领先地位。在科技部和工信部的支持下，上海成功推动建立国家人工智能创新应用先导区和国家新一代人工智能创新发展试验区。在第三届“一带一路”国际合作高峰论坛上，中国承诺将继续实施“一带一路”科技创新行动计划，举办首届“一带一路”科技交流大会，未来五年把同各方共建的联合实验室扩大到100家，支持各国青年科学家来华短期工作。

回顾既往，从2017年7月20日发布的《新一代人工智能发展规划》到《数据安全法》《个人信息保护法》《新一代人工智能伦理规范》《互联网信息服务算法推荐管理规定》《深圳经济特区人工智能产业促进条例》《互联网信息服务深度合成管理规定》《工业和信息化领域数据安全管理办法（试行）》以及2023年7月10日成文的《生成式人工智能服务管理暂行办法》，中国已经明确了发展与安全并重、创新与伦理并行的人工智能监管和治理思路，在支持、促进创新发展的同时，保障技术应用的安全、可靠、可控。中国呼吁国际社会在普遍参与的基础上就人工智能伦理问题达成国际协议，在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范，以推进人工智能领域的协同效应，超越传统合作的局限性，促进国际合作、信息共享，将人工智能对话合作放在多边框架下，坚持将联合国作为对话主渠道。尽管人工智能全球治理之路进程尚未过半，但共识坚固，前途光明。

来源： 光明网-学术频道