百度安全七大技术亮相 BASS下一代AI安全技术栈护

时间:2019-04-02 21:02:42 | 作者:爱科技网 | 点击: 121 次

   9月4日,2018 ABC SUMMIT百度云智峰会在上海正式开幕。“AI安全与安全生态“安全分论坛上,百度安全正式发布下一代人工智能安全技术栈(Baidu AI Security Stack,简称BASS)。百度首席安全科学家韦韬博士阐述了百度安全探索AI时代下安全生态建设的核心理念与关键技术。

   “技术变革起源于理念变革”,韦韬博士指出:“安全的核心是对抗,对抗是持续的、跨维度的。历史一而再、再而三的告诉我们,安全没有Silver bullet。”安全涉及技术、人性、生态,本质上是一个复杂巨系统,要应对AI时代的挑战,首先要有新的理念体系。

百度安全七大技术亮相云智峰会 BASS下一代AI安全技术栈护航AI生态

百度首席安全科学家韦韬博士

  AI催生产业格局深刻变革,安全挑战亟待新思路

   新技术、新业态催生了传统网络安全格局的深刻变革。伴随移动互联网,大数据、云计算、人工智能等新一代信息技术的快速发展,围绕网络和数据的服务与应用呈现爆发式增长,智能设备将无所不在,智能家居、无人车、物联网将渗透到人类社会的各个角落,丰富的应用场景下暴露出越来越多的网络安全风险和问题,在全球范围内产生广泛而深远的影响。人身安全、数据安全与隐私面临着全新挑战,对互联网发展与治理带来巨大的挑战。

   不仅如此,主流机器学习框架经常被爆出存在安全漏洞,包括传统内存安全漏洞,以及新兴的对抗样本攻击漏洞。这些漏洞会导致AI系统的输出结果被攻击者任意控制,甚至导致系统自身被攻击者控制。关于AI本身的安全性变得前所未有的重要,并超乎我们传统对于安全边界与框架的认知范畴。

   此外,传统的系统安全顽疾到了AI时代将更加集中的爆发。基于IoT的各类智能系统在芯片种类、终端厂商数量、操作系统种类,产品形态种类等方面的不同,“生态碎片化”导致了智能设备中N-day安全漏洞失控,被黑产肆意利用;同时,“C语言魔咒”导致了大规模复杂系统长期维护中不可避免地出现高危内存漏洞,危及生命财产安全。

   韦韬博士指出,现有的安全技术有着本质上的缺陷,难以应对AI时代的安全挑战。

  七大开源技术集中亮相,围绕云管端展开实践

   面对AI时代层出不穷且日益复杂的生态安全问题,百度安全始终倡导通过新一代技术研发与开源,实现对安全问题的快速响应与对抗,以及安全防护的层次化,迄今已实现多项AI安全核心技术的突破。在本次云智峰会安全分论坛上,百度安全正式发布下一代人工智能安全技术栈(Baidu AI Security Stack,简称BASS),其高安全可验证系统架构目前已实现云管端的全方位覆盖,OASES KARMA系统自适应热修复技术、OpenRASP下一代云端安全防护系统、MesaLock Linux内存安全操作系统、MesaLink TLS下一代安全通信库、MesaTEE下一代可信安全计算服务框架、AdvBox AI模型攻防工具包、HugeGraph大规模图数据库等七大开源技术已面向生态开源,为AI安全生态提供全方位技术保障。

   在百度安全探索AI生态安全问题的过程中,BASS下一代AI安全技术栈已经在诸多领域展开实践。例如,OASES KARMA自适应系统热修复技术已经广泛嵌入到智能电视、智能手机的系统层中,改变了以往安卓操作系统需要依靠厂商定期提供更新才能修补漏洞的方式。AdvBox对抗样本工具包针对AI算法模型提供安全性研究和解决方案,目前已应用于百度深度学习开源平台PaddlePaddle。

   本次发布的百度安全开源大规模图数据库HugeGraph在实践过程中,也得到了极好的证明。其在安全反欺诈、知识图谱、机器学习中发挥着重要作用,目前已广泛应用到网址安全检测、威胁情报分析、业务风控、数据安全治理中,其所提供的关联分析图谱,能从看似杂乱无章的关系中寻找到网络黑产的脉络,在百度安全协助公安机关破获多起电信诈骗、伪基站、流量劫持、用户隐私窃取等重大黑产案件中,提供了打击溯源的核心能力,全方位实现从警务数据整合到分析挖掘,助力智慧公安新业态,践行企业社会责任。BASS下一代人工智能安全技术栈将协同七大开源技术持续为AI时代护航。

  构建生态支点,百度安全探索AI安全时代理念体系

   会议现场,韦韬博士借用了传统道家真言中的五个字来描述百度下一代AI安全技术栈BASS的理念体系: