全球人工智能安全闭门研讨会在日内瓦成功举办

2025年7月10日，由瑞士日内瓦大学、苏黎世大学、MPAI（Moving Picture, Audio and Data Coding by Artificial Intelligence）与清华大学人工智能国际治理研究院联合主办的“应对先进人工智能系统挑战”闭门研讨会在日内瓦大学生物技术创新园区成功举办。

本次闭门会议邀请来自中国、瑞士、意大利、法国、德国、加拿大等国家的专家学者参会，来自清华大学、中国信息通信研究院、欧洲核子研究中心（CERN）、苏黎世联邦理工学院（ETH Zurich）、洛桑联邦理工学院（EPFL）、苏黎世大学（UZH）、洛桑大学（UNIL）、布鲁塞尔未来世代中心（Centre for Future Generations）、德国马克斯·普朗克研究所（Max Planck Institute for Medical Research）、联合国系统相关研究机构等高校与智库的二十余位专家围绕人工智能安全治理的全球风险、标准机制、制度安排与合作架构展开深入讨论。会议设有专题发言与多轮深入讨论环节，线上线下同步进行。

日内瓦大学研究员、国际标准化组织前助理秘书长Daniele Gerundino，MPAI主席Leonardo Chiariglione，清华大学人工智能国际治理研究院副院长梁正，清华大学法学院教授申卫星，中国科学院自动化所研究员曾毅，中国信息通信研究院人工智能研究所所长魏凯，苏黎世大学研究员王宁，洛桑大学信息系统系教授、应用人工智能实验室主任Yash Raj Shrestha，苏黎世联邦理工学院讲师Kebene Wodajo，德国马克斯·普朗克人类发展研究所博士后Mengchen Dong，布鲁塞尔未来世代中心高级人工智能研究员Balint Pataki，欧洲核子研究中心开放硬件计划负责人Javier Serrano，苏黎世大学传播与媒体研究系博士研究生毛逸舒等参会并参与研讨。

Daniele Gerundino指出，当前人工智能技术迭代迅速、影响深远，全球各界在推动技术创新的同时，也高度关注其可能带来的“生存性风险”与跨国治理困境。尽管近年来国际社会在人工智能治理方面已开展了一系列重要探索，包括《新加坡共识》（The Singapore Consensus on Global AI Safety Research Priorities）、《先进人工智能安全国际科学报告》（International Scientific Report on the Safety of Advanced AI）等具有全球视野的成果逐渐出台，但人工智能系统性能提升与安全保障投入之间仍存在明显不对称，全球监管与标准协作机制仍较为薄弱，特别是在生成式人工智能和开源模型快速扩展的背景下，治理挑战日益复杂。

此次会议聚焦讨论了建立全球人工智能安全机制的可能路径。与会者围绕是否应推动设立一个由科研机构牵头、整合全球优势资源、深度嵌入人工智能研发流程的新型全球合作平台展开了讨论。与会专家认为，未来的人工智能治理体系应具备高度的科学性、包容性与前瞻性，推动“研发—标准—监管”全链条协同，强化公私合作，助力全球科技共同体构建“负责任的人工智能”发展模式。 

多位学者还结合中欧人工智能治理比较研究、人工智能伦理标准化进展、开源人工智能工具的技术挑战、跨文化语义差异与全球术语协商、法律适应性与多边机制设计等主题进行了深入讨论。部分参会者结合在欧洲核子研究中心、国际标准化组织（ISO）、经济合作与发展组织（OECD）、联合国、大学研究中心等机构中的一线实践，提出了具体建议，强调建立“具备实操性的标准化评估体系”与“国际协同测试平台”的必要性。

本次会议在充分交流的基础上，计划形成会议总结性文件，为后续的国际对话、政策倡议与合作倡议提供参考。清华大学人工智能国际治理研究院作为联合主办单位之一，也在会中探讨了与欧洲多家高校与机构未来开展合作的可能性，并表示将继续致力于推动中国力量在全球人工智能治理体系中的积极建设性参与。

本次闭门会为人工智能全球治理的高质量对话提供了重要平台，推动了科研、政策与产业多方协同发力，为探索构建具有广泛共识和技术可信的人工智能治理生态提供了有益探索。