对话薛澜：人工智能冲击波下的制度应对与城市思考

“专家们对通用人工智能（AGI）实现的预测从‘两三年’到‘三五年’不等，一旦真正落地，其失控风险可能带来系统性影响。” 清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜描述的景象，让“奥本海默时刻”的比喻显得并非危言耸听。人工智能的冲击波正以前所未有的速度重塑全球格局，发展与安全的平衡成为各国无法回避的紧迫考题。

以下为采访实录，有一定删减：

国数院：不少人认为人工智能已经进入“奥本海默时刻”，技术安全成为焦点，您怎么看？中国目前的监管体系能否应对挑战？

薛澜：“奥本海默时刻”的说法表达了人们对通用人工智能（AGI）临近所带来的不确定性和焦虑。目前的技术发展速度确实非常快，专家们对AGI的实现时间预测从“两三年”到“三五年”不等。一旦AGI真正落地，失控风险可能带来系统性影响，因此，安全治理的问题确实是刻不容缓的。

中国在这方面起步较早，自2017年发布《新一代人工智能发展规划》以来，逐步形成了较为系统的监管架构。我们采取的是“逐步迭代、适应调整”的治理思路，通过不断试错和修正，实现与技术演进相匹配的治理实践。比如《生成式人工智能服务管理暂行办法》，就是在很短时间内出台的前瞻性政策，提前设定了若干规则，尽可能预判风险。

当然，技术快于治理是常态，我们还需要不断推进制度更新，保持政策的弹性和动态适应能力。这既是挑战，也是我们制度优势可以发挥作用的地方。

国数院：当前中美关系对人工智能的发展会带来哪些影响？是否还有合作空间？

薛澜：中美企业之间确实在人工智能领域形成了你追我赶的竞争态势，这种博弈不可回避。但在人工智能安全问题上，中美两国其实存在广泛的共同利益。AI失控的风险不分国界，一个系统失控出问题，可能牵连整个人类社会，因此安全需要的是“大家都安全”，是全人类的公共产品。

过去我们已经建立了包括“二轨对话”在内的沟通机制。去年中美双方还在日内瓦举行了一次人工智能安全领域的政府间对话。虽然当前国际形势仍有不确定性，但我始终认为，人工智能安全应成为全球合作的重点方向之一，中国在这方面始终持开放态度，愿意与各国深化交流。

国数院：您提到技术“幻觉”问题很难根除，其实背后也反映了数据质量不足。中国在这方面的短板和应对方向是什么？

薛澜：AI系统出现“幻觉”或“编造”，与其模型的不透明性有关。例如，当模型缺乏相关训练数据时，它就会凭经验生成内容。这说明，高质量数据的缺乏是当前AI应用中的核心问题之一。

中国的数据体量很大，但真正结构化、可用的数据远远不能满足模型训练的需要。目前公开的中文数据集的数量甚至不到英文数据集数量的十分之一，差距非常明显。

为此，我认为可以从两个方向推进：

一是政府要做出表率。公共部门掌握着大量与民生相关的数据资源，应加快推动数据清洗、脱敏和规范公开。目前很多地方的执行力度还不够，应有针对性改进。

二是建设市场化的数据处理机制。很多高质量数据掌握在企业或特定机构手中，比如医疗、交通、金融等领域，这些数据需要有序脱敏后释放到市场。但目前数据清洗行业盈利模式不明确，商业化程度低，建议通过制度和政策创新激励市场主体参与数据共享和流通。

此外，数据确权、隐私保护、脱敏标准等基础性制度也要加快建设。

国数院：AI的发展对就业结构会产生哪些冲击？企业在转型过程中应注意哪些问题？

薛澜：从历史来看，技术进步确实既会替代一部分工作，也会创造新岗位。但这次人工智能的发展带有更强的“替代性”，尤其对服务行业影响很大，而服务业恰恰是许多国家乃至北京等大城市的就业支柱。

我们需要提前布局，从两个层面应对：

一方面，要推动职业培训体系升级，使劳动者尽早接触和掌握人工智能相关技能，减少被动失业的风险；

另一方面，企业在转型过程中不能盲目“跟风”。不是所有的技术都适合所有行业，AI应用要基于场景和成本收益分析来决策。有些企业看着AI“很热”就贸然上项目，结果适得其反。这不仅浪费资源，也影响市场信心。

国数院：如何理解“数字经济友好型城市”？北京在哪些方面已经领先，又有哪些短板？

薛澜：我理解，“数字经济友好型城市”至少应包括三个维度：

产业环境友好：是否具备吸引数字企业和人才的政策支持；

技术应用友好：市民在出行、购物、就医等日常生活中是否便捷使用数字服务；

制度支持友好：城市治理是否为新兴业态预留试验空间。

北京在数字产业发展和市民应用方面都走在全国前列。但也存在一些现实问题，比如房价高、落户难，使得很多年轻人才缺乏归属感，数字人才难以稳定留下来。

此外，北京作为首都，很多制度变革要考虑“示范性”和“风险可控”，在政策试验上往往没有地方城市那么灵活。这也提醒我们，是否可以探索“特区授权”模式，让北京在数字治理方面拥有更多“先行权”。（完）