政策指南

随着人工智能能力的不断发展，确保安全的实际措施变得至关重要。我们基于在威尼斯、北京和牛津举行的人工智能安全国际对话（IDAIS）中达成的共识目标，制定了一个全面的指南，为不同的利益相关者规划了潜在的行动方案。

自2023年底以来，人工智能安全国际对话已召集全球顶尖科学家与学者，就前沿人工智能系统风险及应对风险所需的相关治理干预措施达成共识。基于这一共识，人工智能安全国际对话参与者签署公开声明，阐述人工智能安全和治理的一系列目标。

这本政策指南旨在将共识所声明的目标与政策制定者、慈善家、企业家及研究人员考虑采取的直接政策行动挂钩，以改善人工智能安全和治理状况。

该指南根据公开声明目标分为四个关键政策领域：

• 人工智能安全研究

• 测试与评估

• 国内治理

• 国际治理

在每个领域，我们探讨了具体的挑战——从验证方法到监控系统——并概述了潜在的政策措施，借鉴了历史实例和新兴实践。

这是一份动态文件，将随着未来对话和新兴治理挑战的发展而不断演进。它旨在成为政策制定者、公司、研究人员和慈善家推进人工智能安全的实用资源。