中国信息通信研究院人工智能研究所 2024年12月 人工智能风险治理报告 ——构建面向产业的人工智能安全治理实践方案 （2024年） 版权声明 本报告版权属于中国信息通信研究院，并受法律保护。 转载、摘编或利用其它方式使用本报告文字或者观点的，应 注明 “来源：中国信息通信研究院 ”。违反上述声明者，本院 将追究其相关法律责任。 前 言 人工智能技术以其前所未有的发展态势引领新一轮科技革命和 产业变革，深度驱动经济社会发展。技术跃迁释放价值红利，与此 同 时带来风险挑战。 2023年10月，习近平 主席提出《全球人工智能治 理倡议》 ，其中着重指出，做好风险防范，不断提升人工智能技术的 安全性、可靠性、可控性、公平性。人工智能风险治理已经成为把握 未来人工智能发展的核心要素， 也是全人类需要共同应对的时代课题。 当前，全球各界积极探索人工智能风险治理之道。本报告广泛汲 取国际行动、各经济体努力、产业实践等各方经验，勾勒新时代下人工智能风险认知的演进路径， 提炼出人工智能风险认知正向全球性融合、前瞻性考量、系统性分析、交叉性联动不断深化。通过深入分析全球人工智能风险治理多元共治的实践经验，我们深刻认识到，将人工智能风险治理的方案落实到技术革新、产品开发和应用部署中去，是回应社会关切、解决突出矛盾、防范安全风险的必然选择，也是关系到人工智能长远发展的重要议题。 本报告结合国际经验，立足我国产业实践，提出“系统治理-风险 识别-风险评估 -风险应对”的人工智能风险治理实践框架，实现穿透 式风险管控与全链条流程管理的深度融合， 为人工智能产业主体对于技术发展与安全保障提供解决方案。 鉴于人工智能技术应用日新月异，本报告对人工智能风险治理的认识仍有未尽之处， 恳请大家批评指正。 目 录 一、概述 ........................................................................................................................ 1 （一）人工智能风险挑战引发全球关注 ............................................................. 1 （二）人工智能风险治理模式亟需创新 ............................................................. 3 （三）推动面向产业界的人工智能风险治理落地框架迫在眉睫 ..................... 4 二、人工智能风险认知渐进深化 ................................................................................ 6 （一）人工智能内生安全与衍生安全复杂交织 ................................................. 6 （二）人工智能风险认知迈向多维度深化融合 ................................................. 9 三、人工智能风险治理全球实践 .............................................................................. 12 （一）国际层面：加速推进风险治理行动及合作 ........................................... 12 （二）主要经济体：迭代完善风险划分与管控举措 ....................................... 14 （三）产业组织：协同推进治理框架和安全工具 ........................................... 17 （四）企业主体：深化技管融合的风险应对方案 ........................................... 18 四、面向产业的人工智能风险治理实践方案 .......................................................... 19 （一）打造全链条人工智能风险治理框架 ....................................................... 19 （二）提升人工智能风险系统治理能力 ........................................................... 21 （三）设立人工智能风险精准识别机制 ........................................................... 23 （四）健全人工智能风险科学评估体系 ........................................................... 25 （五）完善人工智能风险敏捷应对方案 ........................................................... 27 五、展望建议 .............................................................................................................. 29 （一）促进全球合作，共筑人工智能治理新格局 ........................................... 29 （二）优化治理体系，夯实人工智能安全发展基础 ....................................... 30 （三）发挥桥梁作用，推进行业治理标准化与动态化 ................................... 30 （四）强化内外协同，助力技术创新与责任共担 ........................................... 31