2025人工智能合作与治理国际论坛“面向产业的人工智能，服务社会的人工智能”专题论坛在墨尔本大学成功举办

人工智能作为激发经济增长推动社会进步与治理变革的关键引擎，在应对气候变化、改善公共卫生、提升教育公平等全球性议题方面具有巨大潜力。然而，人工智能的快速发展也带来伦理、安全等潜在挑战。各国人工智能发展和应用水平的差距，还可能导致全球“智能鸿沟”进一步地加剧。为深入探讨上述关键议题，11月27日下午，2025人工智能合作与治理国际论坛“面向产业的人工智能，服务社会的人工智能”（AI for Industry, AI for Society）专题论坛于墨尔本大学成功举行。

清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜（Lan Xue），奇安信集团副总裁罗若月（RuoYue Luo），元戎启行联合创始人刘轩（Xuan Liu），狮心资本风险投资合伙人赛勒斯·霍兹（Cyrus Hodes）、奥克兰大学教授，新西兰政府人工智能专家顾问委员会主席迈克尔·威特布洛克（Michael Witbrock）应邀出席论坛并作精彩发言。本场专题论坛由清华大学人工智能国际治理研究院副院长梁正（Zheng Liang）主持。

梁正教授主持

专题论坛的第一个环节，薛澜院长正式发布了由清华大学人工智能国际治理研究院和中国电信研究院联合撰写的《以智能基础设施合作共促全球人工智能普惠发展》研究报告。

薛澜教授发布报告

报告指出，当前全球在人工智能接入、使用等方面仍存在较大差距。全球智能基础设施合作，成为突破上述困境最具杠杆效应的战略抓手。智能基础设施作为人工智能发展的物质基础，其普惠共享具有多维价值：不仅能弥合智能鸿沟，更能通过技术普及、经济发展、创新生态与协同治理的多重效应赋能跨越式发展。报告特别指出，电信运营商凭借网络覆盖、云服务能力和行业触达等优势，是推动人工智能普惠发展从“可及”走向“可用”的核心纽带。报告建议构建“普及普惠、互利共赢”的多层次合作体系，坚持开放共享与智能平权原则，采取多层协同策略，将智能基础设施打造为连接各国、跨越鸿沟的“数字桥梁”，确保人工智能真正成为造福全人类的国际公共产品。

报告要点

本场论坛发布由清华大学人工智能国际治理研究院与中国电信研究院（天翼智库）共同完成的《以智能基础设施合作共促全球人工智能普惠发展》报告。报告基于当前全球智能基础设施现状，提出构建“普及普惠、互利共赢”的多层次国际合作框架，通过双边、区域与多边机制促进基础设施共建、能力建设与规则协调，推动人工智能真正成为惠及全人类的国际公共产品，为实现联合国2030年可持续发展目标与构建人类命运共同体注入智能动力。（关注公号，在聊天框发送“报告”即可获取全文）

在随后的圆桌讨论环节，奇安信集团副总裁罗若月指出，人工智能系统，尤其是应用于关键基础设施（如电力巡检）的高智能体，一旦接收到错误信息或恶意攻击，可能导致严重故障甚至系统性风险。这些场景的破坏性远非普通场景可比，必须高度重视其可靠性与安全性。具体可采取三项措施：一是根据具体场景设定差异化的容错标准，而不是对所有AI采用同一套要求；二是设置类似“物理断路器”的紧急制动机制，确保系统异常时可被强制干预；三是采用“实习生原则”，限制AI的初始权限以控制潜在损失。此外，建议建立类似产品安全评级的标准化评估体系，由公共部门推动，以应对技术快速迭代带来的监管滞后问题。

罗若月发言

刘轩指出，自动驾驶是人工智能领域中安全要求最高的方向之一，因此我们必须对模型的研发和部署须保持高度谨慎。当前自动驾驶正处于从小范围示范、技术验证进入大规模商业化落地的关键转折期。尽管中美部分城市已批准无人出租车（Robotaxi）运营，但迄今尚无方案能够同时实现大规模部署、可持续商业模式和高安全性三项目标，多数实践不得不在其间权衡取舍。为了应对这一困境，行业正从传统规则的模块化算法转向端到端学习，并引入大语言模型增强自动驾驶系统，通过海量真实数据进行训练。刘轩还介绍了元戎启行近年来的探索实践，包括2021年摆脱高精地图依赖、2023年推出端到端学习方案，以及基于深度思维链的大模型提升决策可解释性，实现了传感器与算力成本的优化。

刘轩发言

赛勒斯·霍兹认为，在人工智能领域的投资决策，必须将安全性与商业价值置于同等重要位置。作为投资者，评估AI项目时不仅应关注技术具有的商业潜力，还应关心安全性和可靠性。投资界需要考量一个关键平衡点：一方面，需要支持创新性的AI技术发展；另一方面，必须确保这些技术不会带来不可控的风险。赛勒斯·霍兹以其投资相关企业为例，说明其在选择投资对象时会特别关注企业有没有将安全理念融入产品设计的全过程，而非仅仅追求短期商业利益。赛勒斯·霍兹认为这不仅是道德要求，更是长期商业成功的基石。尽管AI投资领域存在“疯狂”的竞争态势，但负责任的投资机构仍会坚持将安全性作为投资决策的关键考量因素。AI安全不是简单的“合规检查”，而是需要深入技术底层的系统性思考。赛勒斯·霍兹强调，投资者有责任推动整个行业对于稳定性和安全性的共同承诺。

赛勒斯·霍兹发言

威特布洛克指出，AI发展的核心安全挑战源于其可能引发的社会系统性风险，而人类心智在处理此类复杂性方面存在固有局限。他强调，AI不应被设计为“更高效的人类”，这不仅是因为人类智能本身已足够复杂，更因为作为首个智慧生命，我们的初始设计必然不完美。因此，AI更应扮演互补角色，而非人类的替代品。为应对AI引发的社会系统性风险，他提出构建高保真社会模拟系统的技术路径。以其团队开发的新西兰模拟系统为例，即通过在虚拟环境中推演政策（如基本收入、行业监管）和技术应用的潜在影响，预先识别经济、社会等多维度的风险与收益，为决策提供依据。维特布罗克认为，可通过在公共服务中战略性部署AI，以有限资源提升治理效能。这一实践既可为新西兰本国探索安全的发展路径，也可为更复杂的社会情境治理提供经验借鉴。

自由对话环节，与会专家围绕 AI投资趋势、AI安全发展、AI产业是否存在泡沫等三大议题展开了讨论。赛勒斯·霍德斯（Cyrus HODES）指出，可能有约70%的AI初创企业存在估值问题，资本收益主要来自股票市场。但不可否认，AI技术的应用潜力巨大。投资者应当关注技术是否真正"可用"，而非仅仅看起来"强大"，其需要在更大范围内解决实际、关键的问题。刘轩表示虽然当前存在一些问题，但整体不存在大的AI泡沫。当前自动驾驶面临的最大挑战仍存在于技术层面，商业模式和公众信任都建立在坚实、可验证的技术基础之上。只有当技术经受住大规模实践检验时，部署成本才有望显著下降。相信随着技术创新迭代升级，大规模全无人驾驶部署将成为可能。罗若月认为，AI在科学发现方面具有巨大潜力，能够带来新的科学发现，AI能够创造知识和价值。需要巩固AI作为未来基石的重要性，避免过度投机，确保AI技术能够真正造福人类社会。威特布洛克（Michael Witbrock）认为，当前并非存在一个巨大的、整体的泡沫，但很可能存在大量局部的小泡沫。因为，驱动这场变革的是一场“前所未有的技术革命”，AI的宏观价值是真实、巨大的，整体发展势头是坚实的。当然，在“个别公司层面”估值与实际情况可能出现脱节，存在非理性繁荣的风险。