北京前瞻人工智能安全与治理研究院成立 曾毅：引导AI安全发展

北京前瞻人工智能安全与治理研究院成立 曾毅：引导AI安全发展

来源：bb体育app下载    发布时间：2025-05-10 03:43:10

　　北京前瞻人工智能安全与治理研究院于5月9日正式成立，旨在引导AI安全发展。

　　2.研究院将发挥科研机构与智库平台的双重作用，开展人工智能安全与治理相关研究。

　　3.除此之外，前瞻研究院还将与企业、社会和政府合作，提供人工智能安全护栏与安全人工智能模型与服务。

　　4.近期，前瞻研究院在新加坡人工智能大会上发表研究成果，并在国际合作与交流中做出贡献。

　　5.曾毅表示，希望与更多机构、企业、地方与国家形成深度合作，为AI安全与治理体系贡献中坚力量。

　　5月9日，新京报贝壳财经记者获悉，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院正式成立。

　　北京前瞻人工智能安全与治理研究院院长曾毅对记者表示，此前研究院以“北京人工智能安全与治理实验室”的组织形式筹建与运行了半年多，考虑机构和成果的延续性，英文名称沿用实验室时期的Beijing Institute of AI Safety and Governance (简称Beijing-AISI)。作为新型研发机构和促进应用与产业高质量发展的前瞻研究院以前瞻思想为引领，服务于AI产业发展和安全治理的近期与长远需求，通过开展人工智能安全与治理相关前沿基础理论研究、关键研发技术、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。

　　前瞻研究院将发挥科研机构与智库平台的双重作用，产出人工智能安全与治理相关的前瞻引领科学思想、制度与政策建议，并以科学与技术进展进行落地赋能与实践，以安全与治理促进人工智能的可持续发展。

　　曾毅表示，美、英、日、韩、法、加、新等全球十数个国家分别成立了人工智能安全有关的研究院所与中心，以及诸多人工智能安全相关社会组织。作为中国这样负责任的创新大国中人工智能科技领先的城市之一，北京不仅要有所作为，在人工智能安全领域发挥头雁作用，更要在国际合作中团结国内兄弟单位担当中坚力量。

　　作为来自中国的机构，从筹建期的北京人工智能安全与治理实验室到正式成立的北京前瞻人工智能安全与治理研究院，在全球AI安全与治理议题上发挥了独特的作用。近期，前瞻研究院受邀在新加坡人工智能大会(SCAI 2025)介绍研究成果并组织专题研讨，有关超级对齐的研究成果被大会成果文件《新加坡人工智能安全研究优先事项共识(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在人工智能安全与治理的国际合作与交流中做出了有特色的贡献。

　　无论是筹建期的“北京人工智能安全与治理实验室”还是正式成立的“北京前瞻人工智能安全与治理研究院”，为何其并没有像国外的机构一样只是强调了安全?对此，曾毅表示安全是护栏、必要时候的刹车，而治理不仅是风险防范，更是方向盘，引导人工智能应当向什么方向发展，不应进行何种误用、滥用甚至是恶用。

　　“北京前瞻人工智能安全与治理研究院既是在各级政府机构支持下成立的新型研发机构，更是人工智能安全与治理科技与社会力量汇聚的平台。前瞻研究院发源并落地于中关村门头沟园京西智谷，汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作，并联合中科闻歌、昇腾创新、瑞莱智慧、芯盾时代、智慧云测等A与安全企业一同开展人工智能安全研究与治理实践，积极构筑全球化交流平台，建立健全覆盖研发技术、风险评估、伦理审查、应急处置的全链条安全治理体系。”曾毅说。

　　曾毅表示，希望与更多的机构、企业、地方与各个国家形成深度合作，前瞻院必将为北京、为国家的人工智能安全与治理体系贡献中坚力量，为全球AI安全与治理的协作与合作贡献中国声音，以安全与治理引领人工智能的稳健发展，为全人类与我们共同的未来。