多款人工智能领域创新成果现身第二十三届高交会

中新网广东新闻12月27日电(蔡敏婕 纪林依) 抵御人工智能新型攻击风险的AI安全防火墙、有效防范大规模技术滥用的AI换脸检测平台、构建人工智能安全防御体系的智能安全靶场……

在新基建的浪潮下，人工智能正成为推动数字经济高质量发展的重要动力。第二十三届中国国际高新技术成果交易会27日在深圳举行，展会现场展出多款人工智能领域的创新成果。

展会现场，一件“隐身衣”吸睛无数。正常情况下，广泛应用于安防场景的目标检测系统，能实时检测出摄像头前经过的人或物体。清华人工智能研究院的官方产学研机构瑞莱智慧科技开发的这件特制T恤，衣服上印刷了特定的图案，能够让识别算法出错、捕捉不到目标，人一旦穿上便可以实现“隐身”。

研发人员解释道，目标检测系统大多基于数据驱动的深度学习算法，存在不透明和不可解释等局限性，即便是开发者也难以理解其内在的运行逻辑，这一结构性漏洞可能导致系统遭受恶意攻击。衣服上看似奇怪的图案是针对算法漏洞生成的“对抗补丁”图案，能够误导识别算法使其出错。

随着人工智能技术在安防、交通、金融等关键应用场景的持续渗透，这也导致算法漏洞的威胁面不断延展，对城市治理产生影响。为了抵御此类新型攻击，瑞莱智慧研发了人工智能防火墙系统，通过集成多项国际领先的对抗防御算法，能够有效检测和抵御针对人工智能系统的新型攻击风险，实现人脸识别、目标检测等计算机视觉场景的安全加固升级，可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护。

当前，火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。现场，瑞莱智慧展示了一段将观众的脸“换”到恶搞舞蹈中的视频。随着技术的不断升级，现有的“换脸”视频精度已经实现肉眼难以辨别的程度，传统人工审核团队束手无策。瑞莱智慧为此研发了一款深度伪造内容检测平台DeepReal，支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别，能够应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景。

此外，瑞莱智慧还展示了业内首个人工智能安全靶场RealRange，包含攻击靶场、防御靶场、攻防演练三大功能，提供实战化、体系化的一站式人工智能攻防演练服务。类似于“演兵场”，该平台基于攻防实战演练将人工智能安全风险暴露前置，提前发现和适应瞬息万变的新型攻击和高级威胁，动态提升团队软实力。

瑞莱智慧副总裁唐家渝表示，伴随规模化建设和应用加速发展，保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。未来，该公司将持续加大核心技术和产品体系的研发力度，在保障人工智能安全的基础上助力其形成更全面、更深入的产业生态。(完)