杭州两会AI热词背后：市政协委员薛晖建言“缓”守智能体安全底线

杭州两会现场，人工智能成为高频热词，多位政协委员围绕AI产业建言献策。其中，市政协委员、阿里巴巴集团高级安全研究员薛晖聚焦“手机智能体”安全议题，发出理性声音：手机智能体发展不能只追求“快落地”，更要守住安全和责任底线，防止“越界创新”透支行业长期信任。

随着人工智能大模型能力不断提升，智能体（Agent）正加快从概念走向应用。手机终端智能体因贴近用户、使用频率高，被视为AI时代最具潜力的应用形态之一。薛晖介绍，当前手机智能体主要存在两种实现路径：一类是通过操作系统和应用之间协同接口完成任务，另一类则是通过模拟人工点击、读取屏幕实现自动化操作。后者虽然看似降低了适配成本、提升了落地速度，但带来的风险不容忽视。

“这种方式本质上是在不断突破操作系统原有的安全边界，”薛晖表示，“在技术原理上，它与黑灰产自动化工具高度相似，一旦被滥用，很容易冲击平台秩序和用户安全。”

他进一步介绍说，模拟操作还会削弱现有的隐私授权机制。用户往往只是在“授权智能体”，却并不清楚智能体究竟调用了哪些应用、获取了哪些数据、执行了哪些操作，相关风险难以被有效感知和控制。

在他看来，当前手机智能体面临的核心问题，并非技术能力不足，而是责任边界模糊。“有些智能体服务方在索取权限时强调自己是‘系统级代理’，一旦出现问题，又退回为普通应用，这种身份模糊容易形成监管空档，也不利于生态长期健康发展。”

针对上述问题，薛晖建议，应尽快明确手机智能体相关各方的基本责任。手机终端厂商要守住系统和数据安全底座，智能体服务方作为决策和执行的直接发起者，应对自身行为承担相应责任，做到过程可追溯、用户可随时接管；应用服务方则应依法维护平台规则，对涉及核心功能和高风险场景保持必要的控制权。

他特别强调，在涉及资金交易、账号安全、身份认证等关键场景中，应明确禁止任何形式的自动化模拟操作，避免技术“越界”演变为系统性风险。

同时，薛晖也表示，规范并不等于限制创新。“只有把规则讲清楚，产业才能真正走远。”他建议，在守住安全底线的前提下，鼓励智能体服务方与应用服务方通过规范接口开展合作，对主动遵守安全标准、接受评测并公开隐私承诺的主体，给予正向引导，推动产业从“绕规则发展”转向“在规则内协同”。

“手机终端智能体是人工智能走向大众的重要一步，”薛晖说，“越是贴近用户，越要慎之又慎。不能用短期体验提升，去交换长期的安全和信任成本。”

杭州正加快建设具有全球影响力的人工智能产业高地。两会期间，围绕AI落地“加速度”与治理“安全阀”的讨论愈发深入。正如薛晖委员的建言：AI要走进千家万户，更要先把安全底线与责任边界讲清楚、立起来。未来，阿里安全将持续发挥在AI领域的技术积累，携手产业生态共建“可信AI”，以安全之力护航创新之翼，为杭州打造全国AI产业发展高地注入坚实底气。

📺直播预告

《追AI的人》第60期邀请了清华大学网络研究院副研究员何林分享《如何在海量IPv6地址空间中“大海捞针”？教你如何快速发现活跃IPv6地址》👇