2025年4月12日，科技创新2030重大专项-“新一代人工智能风险防范与治理手段研究”内部研讨会以线上形式举行。此次研讨会邀请了华东师范大学教授、项目责任专家贺樑，清华大学计算机科学与技术系教授孙茂松，中国科学院公共政策与管理学院特聘教授刘云，清华大学经济管理学院讲席教授、《Risk Science》执行主编冯润恒，项目参与单位海淀教育科学研究院、阿里云、达摩院等代表以及项目科研成员参与了成果汇报讨论。研讨会由清华大学人工智能国际治理研究院副院长、重大专项负责人梁正教授主持。本次研讨会围绕项目三大研究方向（人工智能伦理风险、产业应用与国际治理）展开讨论。项目参与人员汇报了涉及智能教育、伦理风险评估、产业发展、国际治理、智能鸿沟、隐私保护等多个议题的研究成果。与会专家对各篇论文成果进行了深入点评，并提出了宝贵的指导意见。研讨过程中专家们也就未来项目的研究方向提出了建议。贺樑教授强调，随着人工智能技术的深入发展，伦理问题尤其是隐私保护和开源问题将愈加重要。他建议从全球视角出发，设计适应未来发展的伦理治理框架。孙茂松教授指出，大模型的“幻觉”现象是无法完全避免的，他建议通过案例研究，总结成功经验，探索如何通过管理和技术手段，尤其是最小化人工介入，来有效解决幻觉问题。刘云教授强调，数据质量和数据治理是人工智能发展中的关键问题，特别是在国际数据竞争和隐私保护方面，我国应加强数据保障，确保在全球竞争中拥有自主权和合规性。冯润桓教授从经济学角度分析，应通过建立激励相容机制来解决道德风险，并推动人工智能技术的安全发展。徐峰主任提出，未来的研究应更多关注人工智能的前沿发展，从技术的终极形态出发，提前设定治理框架，同时推动研究成果转化为实际应用。总结环节，梁正教授表示在本轮重大项目研究周期中，需要在研究过程中兼顾前瞻性与务实性，既要主动谋划未来发展，也要脚踏实地解决当前人工智能领域中出现的现实问题，推动研究向实践工具和标准的转化。会议最后，与会专家围绕重大项目后期规划进行了交流。
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢