您当前所在位置:
首页
>国际科技创新中心>高精尖产业
应对新安全威胁,AI安全靶场成新型基础设施

发布日期: 2021- 11- 12 信息来源: 北京日报 字体:[ ]

随着人工智能技术深入各行各业,新技术的落地应用也带来了特有的新风险,对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题开始涌现,并逐步蔓延至金融、互联网、安防、城市和社会治理各个领域,危害社会与国家安全。记者11月11日获悉,为有效应对人工智能新型安全风险 ,清华大学人工智能研究院发起成立的科技成果转化企业瑞莱智慧近日发布了人工智能安全靶场RealRange,该平台提供实战化、体系化的一站式人工智能攻防演练服务支撑,通过预设训练场景模型、对抗攻防实战竞演,帮助政企机构开展安全能力体系检验评估、培育新型安全人才,建设新型人工智能安全防御体系,全面提升人工智能时代新型安全威胁的应对能力。

新安全问题需要新解决方案,为应对人工智能新型安全风险,我国需要构建新一代安全体系。7月12日,工信部官网发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》,提出人工智能安全作为面向新设施新要素的安全技术,需加快构建分类体系、制定检测与评估标准体系等,在人工智能安全方面,突破人工智能模型攻击与防御关键技术,设计实现人工智能系统自动攻防平台,“构建人工智能安全靶场”被征求意见稿列为重点投入方向。

瑞莱智慧副总裁唐家渝介绍,类似于“演兵场”,安全靶场通过攻防实战演练将风险暴露前置,提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁,动态提升团队软实力,快速弥补技术水平与经验的不足,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

唐家渝分析,随着人工智能安全态势不断演化,新型攻击手段不断出现,单点产品只能解决滞后问题,对于未知威胁无法进行风险预判和策略调整,同时作为新兴领域,行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此,打造动态演化、科学调整的安全防御体系成为核心需求,也促使人工智能攻防靶场成为一项重要的新型基础设施。

据介绍,该平台集“学、练”为一体,包含攻击靶场、防御靶场、攻防演练三大功能模块。“攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法;“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练,同时平台可自动化评估攻防两端能力,以攻防态势的可视化功能直观反馈实时战况。

自2008年美国筹建国家网络空间靶场(NCR)以来,靶场已经证明了对国家和社会各层面的安全保障均具有重大推进作用。人工智能时代下,伴随智能产业的纵深发展,一系列前所未有的新型安全威胁正逐步影响到军事、政企、金融等关键领域,研制针对人工智能场景的模拟实战靶场也因此成为行业重点探索的方向。

【打印本页】 【关闭窗口】

分享:
Produced By 大汉网络 大汉版通发布系统