点击蓝字
关注我们
薛澜
国务院参事、清华大学苏世民书院院长、人工智能国际治理研究院院长、中国科技政策研究中心主任
近日，2024世界人工智能大会暨人工智能全球治理高级别会议闭幕。作为上海市首个人工智能产业集聚区，徐汇区在凝聚法治力量，赋能法律科技新业态中有哪些探索？最新发布的《世界人工智能法治蓝皮书（2024）》中，中国人工智能法治处于高水平发展的爬坡期阶段，该如何定义？人工智能在为经济社会发展注入新动能的同时，又面临哪些挑战？
连日来，围绕“法治”这一关键词，记者在本届人工智能大会中试图寻找这些问题的答案。
突破传统
“您好，我是徐汇区公安局的，与您核对一下身份，您是家住在徐汇区吧，经上级机关通报，您涉及一起重大金融诈骗案，现在案件已转入我局，请您务必配合我们调查。”“我一定配合，但我没有干违法的事情啊！”……
这是徐汇区虹梅司法所一次与数字人展开的反诈沉浸式体验，人机互动间，法律科技的未来变得触手可及。
“数字人”对话 解锁反诈防宣沉浸式新体验
“您好，我是武吒，也可以叫我武警官。”“先生您好，我是上海网信办工作人员……”在不同场景的切换中，身着不同制服的“数字人”即刻呈现在虹梅司法所大厅一楼的大屏幕上，“他们”中，有真警察，也有“假”公职人员。
“这是我们司法所联合虹梅派出所利用园区内企业资源，合作推出的一款‘数字人’反诈沉浸式体验项目，目的就是为了打破传统普法平铺直叙的宣传方式，通过亲身体验一遍诈骗过程，来加深对反诈的认识。”
虹梅司法所所长钱晓鹏告诉记者，虹梅街道与漕河泾开发区高度重叠，园区诈骗案件频发，给群众造成巨大财产损失，成为危害社会的一大顽疾。
“通过对诈骗案例分析发现，高发类型分别是：刷单返利类，投资理财类，冒充电商物流客服类。我们将这些案例进行还原，让体验者与‘数字人’对这几类高发种类的电信诈骗话术进行互动，模拟被骗过程，从而达到引以为戒的目的。”
为了更好贴合辖区企业员工的整体年龄和认知特点，今年，虹梅司法所在“数字人”1.0的基础上还做了2.0升级，“比如我们设置了AI大模型虚拟人进行互动问答，在反诈宣传的同时为居民和企业提供相关法律知识问答、条文解释等服务，帮助来访群众解答法律问题。
钱晓鹏介绍，在此基础上还新增加了一个Facetime诈骗脚本的案例体验，根据用户的选择设置多种结局，进一步提升沉浸式反诈体验的互动性。
“通过这样一个AI数字人，我们希望能够打造成一个面向辖区各个年龄群体的反诈宣防沉浸式中心站，既可以作为涉诈高危人群或资金端预警人群回访宣传点，也可以作为中小学生、企业白领以及中老年人的一个反诈宣防体验点。”钱晓鹏表示。
打造生态联圈 科技顾问法律顾问“双向奔赴”
依托区域人工智能产业与法律服务产业“双业集聚”的资源优势，不断深化法律与科技的良性互动与融合发展，作为上海市首个人工智能产业集聚区，徐汇区在为民、利企的法律实践中研发推出了一批像虹梅“小AI数字人”这样的创新性法律科技产品。
本届人工智能大会法律科技徐汇论坛上，包括升级后的“小AI数字人”在内的一批法律科技产品进行了集中路演。
“像‘友法速dá’智慧法律服务系统目前1.0版本已在徐汇区公共法律服务中心全面投入使用。”徐汇区司法局党委委员、副局长杨佳琛告诉记者，在这套系统中，有诸多“智慧概念”。
比如可以一键实现调解、诉讼、仲裁远程立案，证据材料的扫描与上传、下载及打印一揽子完成；可以用较少的人力资源，为全区27个公共法律服务实体客厅及300余个居委，提供全天候在线公共法律服务。
“在此基础上，今年，我们做了进一步地升级，如将区公共法律服务中心的岛台资源，送抵群众的手机移动终端，并上线“公共法律服务客厅指尖服务系统”，打通公共法律服务的‘最后一公里’。”杨佳琛介绍。
为了构建起法律科技的生态联圈，徐汇区司法局还创新推出法律科技“产学研用”一体化生态联盟，探索形成政府端、科研端、科技企业端、律所端多方共赢的创新合作模式。
“在链接资源过程中，我们鼓励法律服务机构借鉴国际通行做法，设立法律科技企业岗位‘科技顾问’，跟踪研究科技应用和发展态势，提升法律科技产品研发和应用能力。”徐汇区司法局党委书记、局长左静鸣介绍。
在此过程中，徐汇区也支持法律科技企业聘请律师事务所担任“法律顾问”，探索引入符合条件的科技人才担任律师事务所特别合伙人，强化事务所科技力量支持，首批秘塔、云知声等6家科技企业就和君合、汇业等6家律所进行了签约互聘。
法治发展如何？ 好态势与老问题新困难并存
将发展的情况量化成数据，经过测评，2023年中国人工智能法治发展评估总体得分90.82，相较2022年提升0.63分，仍然处于初步“高”水平，较之前的得分增长有所下降，中国人工智能法治处在高水平发展的爬坡期阶段。这是本届人工智能大会期间，最新发布的《世界人工智能法治蓝皮书（2024）》中所传递的信号。
根据蓝皮书显示，总体上，当前，在稳步发展的整体局面下，人工智能法治发展的“好态势”与“老问题”及“新困难”并存。
“一方面，学术界对人工智能法治问题的研究日益深入，为人工智能法治提供了坚实的理论基础，另一方面，得益于2022年以来各地支持性产业政策的大量出台，人工智能产业市场也得到进一步繁荣。”
《蓝皮书》指出，另一点显著的变化在于，政策文件密集出台，执法实施趋于成熟，“2023年，人工智能法治领域在国家层面的认知和规划得到了明显加强。中央和地方各级政府相继出台了一系列重要的政策法规，进一步健全了人工智能法律治理的整体框架。”
此外，社会关注和人才培培养稳步提升，法治环境改善面临挑战。《蓝皮书》指出，2023年人工智能领域的一系列重要立法吸引了公众的广泛关注，然而政策关注度却有所下降，还需要从内容和传播等多个方面发力，有效提高政策文件的公众感知度。
值得关注的是，此次测评发现，法治环境得分略微下降，尽管是应用感受显著增强，但公众对人工智能的包容态度和法律规制感受均有较大下滑，反映了人工智能技术发展带来的便捷与风险并存，技术的飞速发展与法律的相对滞后性之间的张力，仍然是人工智能法治领域的老问题。
专家：谨防技术滥用引发风险，智能向善统筹发展与安全
在人工智能飞速发展的今天，究竟如何统筹安全与发展？专家学者也给出了各自的答案。
“在当前加快形成新质生产力的关键阶段，人工智能技术创新和产业应用的重要性不言而喻，与此同时，人工智能也带来了各种风险和复杂挑战，人工智能发展、安全、治理已经成为国际社会的普遍关切。”在中国科学院院士、上海交通大学校长丁奎岭看来，安全是快速发展的轨道，创新是加速发展的动能，既要快马加鞭，也要行稳致远，把人工智能技术发展好、利用好、治理好。
“当前，生成式人工智能正在成为一种新型生产力，自身的不确定性可能在潜移默化中影响用户思想，带来观念冲突、价值观对立等特点。同时，技术误用滥用带来不可预测的风险，进而衍生出电信诈骗、教唆犯罪等利用人工智能技术的犯罪行为，可能带来更大的社会危害。”
国家网信办信息化发展局副局长李颖新谈道，要坚持智能向善的理念，统筹发展和安全，兼顾活力和秩序。“用更高效的治理能力促进技术红利持续释放，要以人为本，不断提升治理能力和安全水平，确保人工智能始终沿着造福社会的方向发展。”
“在当下，人工智能治理成为了人工智能技术发展的主流议题，不断涌现的风险中潜藏着技术系统、伦理安全、社会应用与国家安全等四个层面的挑战。”清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜也谈道，因而，善治既需要深入的研究和思考，也需要实践中的创新，要求治理的创新性和质量不断提升、治理的供给与维护有持续保障并构筑一个良性的治理生态体系。
关于我们
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
来源 | 本文转载自“徐汇区司法局”，点击“阅读原文”获取更多内容。
评论
沙发等你来抢