6 月 3 日，北京智源大会期间，在 “AI 安全与产业治理”主题论坛上，清华大学联合 RealAI 等企业发布了一款公平、全面的 AI 攻防对抗基准平台。

此次推出 AI 对抗安全基准基本上包括了目前主流的人工智能对抗攻防模型，涵盖了数十种典型的攻防算法。除此之外，本次发布的 AI 安全排行榜也包括了刚刚结束的 CVPR2021 人工智能攻防竞赛中诞生的排名前 5 代表队的攻击算法，进一步提升了该安全基准的科学性和可信性。

 

据 RealAI 项目的北京瑞莱智慧科技有限公司 CEO 田天介绍，RealAI 团队目前围绕打造安全可控人工智能基础设施已经进行了一系列布局，基于自主创新的核心技术，研发了围绕数据安全、算法可靠、应用可靠等一系列领先的人工智能算法和平台。包括在数据安全共享基础设施 RealSecure，通过打通数据孤岛将数据计算环节移动到数据端，解决数据风险和隐私泄露的问题，提升人工智能本身效果；在算法的首个人工智能安全平台 RealSafe，通过内置的攻防算法对各类的人工智能提供端到端的攻防解决方案，提高人工智能系统安全性。

 

清华大学计算机系教授、RealAI 首席科学家朱军介绍说，“通过对 AI 算法的攻击结果和防御结果进行排名、比较不同算法的性能，建立 AI 安全基准具有重要学术意义，可以更加公平、全面地衡量不同算法的效果。”

 

清华方面介绍，本次发布的 AI 安全基准也是依托清华大学人工智能研究院研发的人工智能对抗安全算法平台 ARES 建立。ARES 作为古希腊神话中的战神，集中体现了 AI 安全算法攻防博弈的特点。该平台对主流的攻防算法实现了模块化的设计，支持数十种主流攻防算法的实现，可以方便研究者和开发人员进行使用，有助于推动 AI 对抗攻防领域的发展。

 

田天表示，第三代人工智能通过释放“数据、知识、算法、算力”的全新维度，为实现安全可控的新一代人工智能提供可能，让人工智能走出“浅层智能”的舒适区，重塑全新的产业价值。

 

在安全可控的助力下，“深度智能”时代正加速到来，人工智能在各行业领域的应用广度和深度将不断得到拓展。人工智能的未来图景充满想象，但要实现真正的人工智能，未来的道路仍面临许多挑战。

 

来源: DeepTech深科技

内容中包含的图片若涉及版权问题，请及时与我们联系删除