人工智能安全与治理中心
Center for AI Safety and Governance
中心主任：张平 教授
执行主任：杨耀东 研究员
中心概况：
人工智能安全与治理中心专注于跨计算机、法律与伦理的相关研究，将预防和管控前沿人工智能的潜在风险作为其核心使命，在人工智能伦理、价值对齐、安全治理等关键技术领域对人工智能技术研发和应用的社会治理进行研究。旨在确保人类在安全、发展、公平和正义的前提下研究、开发和部署智能技术，保障中国人工智能领域健康发展；同时关注人工智能技术在法律和伦理上的应用，研发法律人工智能技术，形成可推广的法律人工智能产品，助力社会服务，有力推进新时代科技强国建设重大战略实施。
研究成果：
1. 张平教授研制团体标准《个人息处理法律合规性评估指引》(T/CLAST 002-2021)，发起研制团体标准《生成式工智能数据应用合规指南》(T/CECC 027-2024)
2. 2023 年英国首届人工智能安全峰会前，杨耀东研究员联合多高校团队发布《人工智能对齐全面性综述》，是全球首个也是目前最全面的对于价值对齐工作的调研总结，该综述首次提出以 RICE 原则来概括 AI 对齐的宏观目标,涉及鲁棒性可解释性、可控性和道德性，引起广泛关注。
