导语
随着前沿人工智能模型能力的持续跃升，人工智能安全议题已从偏见、幻觉、虚假信息等社会治理问题，延伸至网络安全、关键基础设施保护乃至国家安全领域。近期，Anthropic公司推出的Mythos模型，因展现出更强的漏洞发现、攻击链模拟和长周期自主任务能力，引发国际社会对AI增强网络能力的高度关注。前沿模型的网络能力究竟跨过了怎样的技术门槛？部署前的安全测试应如何识别真正危险的能力，同时避免制造新的滥用路径？开源模型是会放大风险，还是为独立审计和防御创新提供必要条件？在中美人工智能竞争持续加剧的背景下，双方能否建立有限但务实的合作？本期《SinoAI Insights》将从Mythos引发的安全争议出发，深入分析前沿AI网络能力的风险、防御与中美合作空间。


【主持】

肖茜

清华大学战略与安全研究中心副主任、人工智能国际治理研究院副院长


【嘉宾】

徐葳

清华大学交叉信息研究院副院长、教授、人工智能国际治理研究院首席专家


傅宏宇

阿里巴巴集团科技伦理委员会研究组负责人、阿里研究院人工智能治理中心主任及数据经济研究中心主任

您将听到

02:26

Mythos事件是未来前沿AI安全风险的“预演”

05:17

未来的治理重点在于“使用控制”（use control）

09:10

从创新到管控？Mythos如何重塑美国人工智能政策格局

12:46

前沿模型评估、网络能力阈值与智能体风险的中国观点

14:39

模型安全的悖论：测试可能创造出更加危险的模型

18:05

全生命周期治理框架与中国的治理路径

23:07

运用“隔离环境”实现测试安全与保密

25:49

美国有限开放Mythos使用的优缺点

27:48

美国“模型上线前安全审查”体系的“三重博弈”

34:48

开放权重模型的风险与价值

46:26

中美在模型评估方面的协调前景

监制 Executive Producer：肖茜 XIAO Qian

制作 Producers：王叶湑 WANG Yexu、刘源 LIU Yuan

后期 Podcast Editor：徐瑞佳 XU Ruijia

内容助理 Content Assistant：蔡乐瑶 CAI Leyao

制图 Graphics Designer：张朔宁 ZHANG Shuoning

因微信平台规则调整，建议您将本公众号设为星标，以便及时获取更新内容。


点击下方“阅读原文”，播放播客







内容中包含的图片若涉及版权问题，请及时与我们联系删除