酷应用

百度安全：AI时代安全行业面临四大威胁，开放是百度未来重心

百家作者：万能的大熊 2019-10-15 11:16:12

AI技术的不断进步在推动各行各业持续发展的同时，也给安全行业带来了全新的挑战。10月15日，百度安全总经理马杰在媒体沟通会上表示，面对AI时代的四大安全威胁，百度安全将以更开放的态度联合更多的合作伙伴一起应对AI时代全新的安全挑战。

（百度安全总经理马杰分享百度安全在AI时代的布局）

针对不少网民所关心的网络黑产侵犯用户利益的问题，马杰表示，相关网络黑产是行业顽疾，百度安全一直以来都在不遗余力地进行打击，迄今为止已经针对黑产发起了超过100起的专项打击行动，并配合公安机关破获过多起黑产相关的案件。

AI时代已至

行业面临四大安全挑战

马杰表示，AI时代的安全威胁主要来自模型安全、数据安全与隐私、系统与网络安全、安全生态四个方面。以模型安全为例，自动驾驶技术对于目标物体的识别和判定将直接影响自动驾驶系统的操作判定，如果有人通过伪造交通标识、伪造不存在的障碍物对系统的识别造成干扰，就可能导致车辆在原本不需要刹车的地方进行了刹车，在原本需要减速的地方没有减速，这都会造成很大的安全隐患。这些问题，都已经是百度安全提前思考并已经解决的问题。

（模型安全将是AI时代面临的主要安全隐患之一）

百度安全在技术层面已经有了很多前沿的研究积累。目前，百度安全在AI、大数据以及云计算等技术层面获得了多项全球专利，相关学术论文也多次入选全球顶级安全会议，如Black Hat、DEF CON等。

百度安全在AI时代将更加开放

“开放”是马杰在分享中提到最多的一个词，也是百度安全在AI时代的聚焦方向。马杰表示，百度安全现在已经开放了多项产品、技术及解决方案，例如史宾格隐私合规助手，本身就是一款基于国家“App违法违规收集使用个人信息自评估指南”所推出的App隐私合规一键式检测平台，这款产品已经在百度业务全面使用，并完全开放。而百度安全推出的AIoT安全行业解决方案，也已经引入了包含华为、TCL、创维、长虹等在内的50余家生态合作伙伴，覆盖超过1.5亿部设备，建立起了一个开放的AIoT安全生态。

（百度安全开源的“七种武器”）

在开放产品和解决方案之外，百度安全的开放还表现在对于底层技术的开放上。2018年，百度安全推出了BASS下一代人工智能安全技术栈，将首创的7大技术开源成“7种武器”，全面解决云管端以及大数据和算法层面的一系列安全风险问题。

网络黑产打击是持久战

未来会不断迭代技术

针对网民所关心的用户安全问题，马杰也分享了一些典型案例。例如有些用户在使用百度搜索时，偶尔会发现搜索结果里的某些网址下方会用黄色的字体标注出风险提示信息。对此，马杰表示，百度安全会对收录网页进行7×24小时的监测，当系统发现网站被入侵、篡改时，就会及时上线用户提示信息，避免用户损失。

（百度网址安全中心针对被篡改的网页给出的风险提示）

上述类似行为大部分是网络黑产所为，他们通过篡改页面信息、甚至植入恶意代码侵犯用户利益。一些网民所反馈的在搜索并点击某个结果之后，不久就会接到营销电话的情况，就是被这些网络黑产所影响。

网络黑产一直是百度安全打击的重点。目前，百度安全每天会为用户提供100亿次实时的访问保护，每年会拦截用户搜索风险411亿次，同时，百度安全累计已经开展了超过100起的黑产打击专项行动，并配合公安机关破获了多起网络黑产相关的案件。

“黑产的逐利性决定了我们与黑产的对抗是永无休止的。”马杰表示，在巨大的经济利益驱动下，网络黑产也在不断升级技术，未来甚至可能将会出现“AI对AI”的局面。这就要求我们加大AI安全的研发力度、不断迭代更新技术，同时像攻击者一样思考，提升安全防护能力和效率。

“进入AI时代，整个安全行业将会迎来很多全新的挑战。”马杰表示，“基于百度领先的AI布局和技术，百度安全也做好了相应的准备。但是，安全从来就不是任何一家公司、社区、生态能够独立解决的事情，所以，百度安全也会秉持一直以来的开放态度。从开放产品、技术，到开源核心代码，百度安全希望通过全面开放的诚意，和更多的合作伙伴一起构建一个开放的AI安全生态，共同应对新时代的安全挑战。”