清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授
12月23日下午，智能无人系统安全与伦理主题论坛在清华科技园阳光厅成功举办。本次论坛汇集了来自学术界、产业界、法律界及创新企业的近百位专家与从业者，围绕智能无人系统在快速发展中面临的安全挑战与伦理议题展开深度对话，共同探寻技术“向善而行”的治理路径与产业机遇。
论坛在主办方致辞中拉开序幕。清华大学自动化系主任、智能无人系统研究中心主任、产学研联盟理事长张涛在致辞中回顾了清华大学智能无人系统研究中心自2017年成立以来的发展历程。他指出，中心始终致力于信息技术与机械工程等学科的深度融合，推动新一代信息技术与战略领域的技术突破。过去一年，中心在智能工厂、工业机器人、自动驾驶、无人机集群及医疗机器人等领域取得了一系列重要成果。他强调，随着无人系统智能化程度不断提升，其安全与伦理问题已成为影响技术落地与可持续发展的关键，需产学研协同构建贯穿技术研发、产业应用与政策治理的保障体系。
启迪控股执行总裁、启迪之星董事长张金生作为联盟副理事长单位代表致辞。他强调了构建开放合作创新生态的重要性，并介绍了清华科技园及启迪全球创新网络在整合政、产、学、研等要素，推动科技成果转化方面的作用。他表示，启迪之星将持续引导创新企业重视技术伦理与安全设计，为智能无人系统等未来产业的健康发展赋能。在主题报告环节，来自顶尖高校研究团队、产业界及专业法律机构的五位讲者，分别从关键技术攻坚、治理范式研究、应用风险防范以及法律合规实践等维度，分享了跨学科、跨领域的前沿洞察，生动体现了“产学研用”协同应对挑战的深度思考。清华大学自动化系副教授封硕在具身智能系统安全主题报告中，聚焦于智能工程系统中的“安全攸关”挑战。他指出，自动驾驶等系统的小概率失效可能带来严重后果，其安全标准需向匹配甚至超越人类驾驶水平提升。他深入分析了AI在处理高维稀疏小概率事件时的局限性，并介绍了其团队提出的创新解决方案：通过理论框架量化数据价值，并利用生成式人工智能构建两阶段智能测试环境，生成兼具真实性与对抗性的高价值数据，以解决自动驾驶安全性能提升中的数据稀缺与指数衰减难题。清华大学人工智能国际治理研究院副院长、公管学院教授梁正围绕人工智能治理前沿展开分享。他指出，当前大模型竞争已从单纯性能比拼进入全栈生态体系建设的新阶段。他从全球视野分析了人工智能治理的动态：美国试图维持技术优势与规则主导权，欧盟正调整其《人工智能法案》以适应快速发展，而中国则积极参与国际合作，强调发展与治理并重、能力共建。在智能无人系统领域，他特别提到国内自动驾驶在多场景、多层次应用上的活跃进展，以及中美在该领域的技术与规则竞争，强调需构建敏捷、同步迭代的治理框架以平衡创新与风险。清华大学助理研究员郑宇探讨了视觉内容伪造检测的技术进展与挑战，直面深度伪造技术泛滥带来的挑战。他指出，随着生成式AI能力的飞跃，逼真度极高的伪造图像、视频和音频正成为信息安全的重大威胁。他系统阐述了当前视觉内容检测与溯源技术的进展，强调了在政治、公安等重点领域建立检测标准与协作机制的重要性，并指出未来技术需在对抗不断进化的伪造手段的同时，提升公众的辨识能力，以共同维护可信的多媒体信息环境。清华大学数字政府与治理研究院郑伟海在人工智能与社会治理主题分享中，从数据科学视角剖析了AI融入公共治理带来的双重影响。他通过案例分析，探讨了算法在提升公共服务效率、优化城市管理的同时，可能引发的公平性欠缺、透明度不足及“数字鸿沟”等伦理与社会问题。他强烈呼吁，在算法设计与政策工具开发之初，就应主动注入公平、包容、向善的社会价值考量，通过技术创新与制度设计的协同，确保人工智能真正服务于社会福祉的提升。世辉律师事务所资深律师刘洋从法律合规实践角度，系统剖析了AI的多元风险与监管脉络。他列举了强人机交互的可信可靠性风险、AI对人类工作替代引发的主体性冲击、底层模型缺陷带来的基础设施安全威胁，以及语料库依赖性导致的内容偏见等问题。他对比了中国“小切口、垂直化”的立法策略与欧盟的全面监管模式，并详细介绍了纳入科技伦理审查清单的活动类型。他强调，中国的AI监管呈现出发展与规范并重、要求日益细化的趋势，企业需从源头管理、过程管理、结果管理及渠道管理四个维度全面构建合规体系，特别是重视数据来源合法性与大模型备案要求。在随后的圆桌论坛上，主持人、智能无人系统产学研联盟副理事长、联想集团副总裁王哲鹏，引导四位嘉宾围绕“智能无人系统安全与伦理的实施路径”展开深度探讨。梁正（清华大学公共管理学院教授）：专注于人工智能治理研究，关注智能无人系统快速发展带来的规则滞后、权责界定等宏观治理挑战。贺锋（美团无人车可靠性与安全团队负责人）：负责无人配送车队的落地安全，工作核心是在复杂城市场景中构建可靠的安全体系与运营规范。郑宇（清华大学自动化系助理研究员）：研究方向聚焦视觉内容安全，致力于通过技术手段检测和防范深度伪造等信息安全威胁。龚杰（长亭科技联合创始人）：从网络安全企业视角，关注AI大模型及具身智能系统全生命周期的安全防护与风险评估。梁正教授指出，当前最突出的矛盾在于技术迭代速度远超治理体系的构建速度。他建议推行“敏捷治理”模式，建立能够与技术发展同步迭代、包容审慎的监管框架，并在国际竞争中积极参与规则制定。刘洋律师在台下补充称，法律层面已在尝试“小切口”立法，针对具体场景（如自动驾驶责任、深度合成管理）进行规范，但需警惕底层模型安全等基础设施性风险。贺锋分享，美团无人车团队与算法研发团队并非简单的甲乙方关系，而是通过嵌入式协作与联合评审机制确保安全目标贯穿始终。当技术目标（如效率提升）与安全要求出现冲突时，拥有“一票否决权”，确保安全红线不被突破。郑宇坦言，完全依靠技术手段杜绝“眼见不为实”极为困难，这是一个“道高一尺魔高一丈”的持续对抗过程。他给公众的建议是：提升媒介素养，对过于完美或煽动性内容保持警惕，并关注信源权威性。技术检测需与平台审核、法律法规协同发力。刘洋律师在台下从合规角度指出，法律已要求深度合成服务提供者进行显著标识，这为公众鉴别提供了制度依据。龚杰介绍，长亭科技的AI安全评估已从传统渗透测试，扩展到对大模型输入输出、内部逻辑及训练数据供应链的全方位审查。面对具身智能，其产品正强化对“物理世界交互”可能引发的连锁风险（如通过操控智能体间接造成物理破坏）的模拟与防护。关于行业标准，嘉宾们一致认为，在技术快速演进期，行业共识与标准引导至关重要，能避免“劣币驱逐良币”，为监管提供技术依据，应鼓励头部企业、学术机构与行业协会共同推动。展望未来三年，嘉宾们认为重点工作应包括：1）加速推进关键场景（如自动驾驶）的责任保险、事故鉴定等配套制度；2）建立国家或行业级的智能无人系统安全测试基准与共享数据库；3）加强跨学科、跨部门的伦理审查与风险对话机制；4）推动面向公众的科技伦理与安全普及教育。本次圆桌论坛不仅厘清了智能无人系统在安全与伦理层面面临的多元挑战，更在治理思路、技术方案、产业实践与公众参与等维度凝聚了共识，为行业在创新与规范的平衡中行稳致远提供了有益参考。本次论坛不仅是前沿思想的交流平台，更是创新资源与产业需求的对接桥梁。联盟将持续通过专业垂直论坛、产业对接、孵化加速等服务，推动智能无人系统等未来产业领域的技术创新与伦理建设同步发展，为培育新质生产力、构建负责任的技术生态提供支撑。
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢