近日，在《财富》杂志A.I.头脑风暴会议上，从事安全分析和自动化业务的Rapid7公司的董事长科里·托马斯谈到：“大多数网络安全仍然需要依靠人工”。戴尔科技全球首席技术官John Roese指出，现在很多网络攻击受到机器智能、高级自动化技术支持。因此，依靠人力构建的网络防御体系会受限于响应速度，遭到攻击和危险。
人工智能技术迭代升级，深入应用到互联网、安防、城市是和社会治理等各个领域，助力行业数字化、智能化升级的同时，催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。行业企业需要更多更新的应对之策，培养预判能力，避免来自外界的破坏。多年来，网络靶场已经成为全球各国争相布局的网络安全重要策略手段。在人工智能时代，面向AI技术的靶场建设也同样不可或缺。
今年七月，来自康奈尔大学的安全研究人员的研究报告显示，恶意软件代码可以藏身于神经网络模型中，能够躲避侦测，甚至不影响该AI模型的性能。如今，基于AI技术的网络攻击已经出现了多种形式，比如通过开发恶意软件，，更改其结构来避免被检测到；通过对抗样本等新型攻击技术，攻破人脸解锁、假冒身份认证、支付盗刷，干扰危险品识别，导致监控失控等恶性事件。
人工智能安全态势不断演化，新型攻击手段不断涌现，单一产品只能解决滞后问题，面对未知威胁的风险预判和策略调整能力不足。人工智能作为新型信息技术，行业存在专业人才不足与实战经验匮乏的双重困境。面对无处不在，层出不穷的网络安全问题，网络靶场建设已经成为世界各国抢先布局的新型网络安全战略。经过全球多年的演练证实，网络靶场对国家和社会各层面的安全保障均具有重大推进作用。建设面向AI技术的安全靶场，是人工智能是到保障网络安全的必要手段。
我国正处在人工智能产业发展与产业落地的关键时期，新技术带来了新风险。随着产业进程的深入，这些安全风险的边界迅速扩散，逐步蔓延至互联网、安防、城市和社会治理等各个领域，危害到社会安全与国家安全。面对日益加剧的人工智能安全问题，政策层面对于建设针对性的防御机制开始加强重视。要构建人工智能安全威胁分类体系，面向人工智能系统的生命周期，建立人工智威胁模型，制定面向人工智能系统安全性检测与评估标准体系。研究人工智能系统可解释性、隐私性等安全要素，突破人工智能模型攻击与防御关键技术，设计实现人工智能系统自动攻防平台，构建人工智能安全靶场。
人工智能安全靶场好比“练兵场”，可以通过攻防实战演练，将安全风险暴露前置，提前发现和适应不断升级、多变的新型攻击和高级威胁。AI技术不断迭代升级，配套应用进一步向更多行业、领域拓展，安全的重要性日益凸显。产业界企业、专家学者开始探索如何确保技术的可靠性与安全性兼备。AI靶场作为保障AI系统安全的“练兵场”，是AI治理的重要一环，将推动AI产业健康发展。
田鑫，专业的企业组网服务商，致力于为企业提供企业组网（SD-WAN、MPLS、云互联），业务云化、数据中心、网络安全、行业IT解决方案等相关服务。
更多相关内容推荐：
