中国前沿人工智能治理的若干考量

Abstract

前沿人工智能模型（frontier AI models）是指能力处于当前技术最前沿的基础模型（foundation models），具备跨领域泛化与快速迭代特征，甚至可能表现出开发者未在训练中明确设定的能力。此类模型及其接入系统所带来的监管挑战，与能力较弱、应用范围较窄的人工智能相比存在本质差异。中国具备应对这些挑战的良好基础，因为过去十年间，中国已经建立了相当完备的人工智能治理制度体系，可将其作为治理前沿人工智能的制度基础。 前沿人工智能带来的风险不同于非前沿人工智能。尤其值得关注的风险包括：人工智能对化学、生物、放射性与核能力的增强、发动大规模网络攻击，以及人类逐渐失去对日益自主化系统的实质性控制。在人工智能达到较高能力水平时，这些风险将更加令人担忧。前沿人工智能还可能涌现出训练过程中未被明确设定的能力，其中一些能力可能要到系统部署之后才会显现（Winter, 2026）。 前沿风险正日益受到各国政府高层与科学界的重视。2025年4月，习近平主席在中共中央政治局集体学习时指出，人工智能带来前所未有的发展机遇，也带来前所未有的风险挑战。他呼吁加快完善相关法律法规，并建立风险监测、预警和应急响应体系（新华社，2025）。包括图灵奖得主姚期智与 Yoshua Bengio 在内的中外科学家共同警示：人工智能系统的不安全开发、部署或使用可能会在我们有生之年给人类带来灾难性甚至生存风险。（IDAIS, 2024）。 各法域正在探索各具特色的路径，而中国已经围绕多种类型的人工智能系统建立起较为完整的制度基础。现有机制包括算法和模型备案制度，以及包含安全测试与安全评估的备案程序；覆盖研究与开发活动的科技伦理审查制度；以及已经开始涵盖生成式人工智能的应急响应框架。除正式监管外，前沿风险也受到法学界、标准制定机构和研究实验室的关注。知名学者团队起草的人工智能法律草案、标准组织制定的安全框架，以及研究实验室的相关工作，都在探索如何应对最先进的人工智能系统所带来的风险。中国现有的制度基础和政策提案作为重要的资源，为后续发展奠定了坚实的基础。本文主要提出若干可依托现有制度快速落地的方案，以应对这一快速发展技术可能带来的风险。鉴于前沿人工智能可能带来深刻的社会转型，部分领域或许需要建立新的监管体系。这一问题将留待后续研究讨论。 现有监管体系可随前沿能力的持续提升而动态调整：在为应用层创新——这一中国人工智能生态系统的重要组成部分——保留发展空间的同时，将监管注意力集中于能力最强的人工智能系统，因为此处正是前沿人工智能风险最易发生的环节。本文结合美国、英国和欧盟的比较经验，在中国制度背景下分析如何实现这一目标。尽管目前尚无司法辖区彻底解决这些问题，但不同治理方式本身为相互学习提供了宝贵资源。