datasheet

戴上“白帽子” 人工智能投身网络安全攻防战

2019-04-15来源: 中国科技网关键字:人工智能  网络安全  安防

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

正在赋能网络安全

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

具备明显“过人之处”

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

不能靠它包打天下

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

脆弱面带来安全风险

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。


关键字:人工智能  网络安全  安防

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/2019/ic-news041512592.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:用它给家里来一场清洁革命!创新洗地机器人,深度清洁污渍
下一篇:巴黎不哭!AI数字重建让圣母院永生

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

2225年 人类可以通过脑机永生?

2019年以来几部与人工智能有关的动画电影可谓火得不行,先是卡梅隆担任制片的《战斗天使:阿丽塔》,之后则是Netflix的自制系列动画《爱、死亡和机器人》,在这些影片中有项技术一直都在出现,那就是“脑机接口”。脑机接口,它是在人或动物脑(或者脑细胞的培养物)与外部设备间建立的直接连接通路,从而实现“大脑”与外部设备之间的交互,通俗点理解就是用意念控制设备。从银屏中走出的技术对脑机接口的研究可以追溯到20世纪70年代,不过让“脑机接口”被广泛认知,当属20年前的一部电影《黑客帝国》。黑客帝国所描述的正是一个在脑机接口下的世界,在当时的背景下其使用了各种超前的科技理念,加上复杂的内容设定,让很多看完一遍后依旧云里雾里。除了上面说到
发表于 2019-04-17

昆仑万维集团押注互联网3.0,大举进攻无人驾驶领域

昆仑万维集团董事长周亚辉在2019年年会上就曾表示,昆仑万维未来的重心将是投资互联网3.0时代,也就是物联网与人工智能的时代。AI技术将给各个行业赋能,未来几年将会爆发性成长,人工智能也将是昆仑万维在未来加大投资的重点领域。 昆仑万维投资版图再下一城。4月11日,昆仑万维公告称,公司全资子公司昆仑集团拟以自有资金5000万美元投资Pony AI,取得Pony融资后3%的股权。  Pony是一家注册地在开曼群岛的新创公司,成立时间为2016年11月份,主营业务为专注于L4级别无人驾驶技术的研发和车队运营。  昆仑万维称,公司投资Pony,前瞻性地布局无人驾驶市场,是投资人工智能领域的重要举措。  跨界造车?在国内,Pony
发表于 2019-04-16

识别黑色素瘤图片,德国人工智能算法胜过医生

德国研究人员最新开发出一种可用于诊断黑色素瘤的人工智能算法。在一场157名皮肤科医生与人工智能算法的诊断比拼中,人工智能的准确度总体来讲更胜一筹。德国国家肿瘤疾病中心等机构研究人员在新一期《欧洲癌症杂志》上发表研究报告说,他们开发出一种人工智能算法,可分析皮肤病变用于诊断。为验证该算法,他们让来自德国12所大学医院的157名皮肤科医生与人工智能展开一场诊断大比拼,内容是分析100张皮肤图片,判断图片所示是正常胎记还是一种皮肤癌——黑色素瘤。100张图片中有20张为确诊病人的黑色素瘤,另80张为良性的胎记。结果显示,157名医生中只有7人的判断比人工智能更准确,14人和人工智能准确度相当,136人没有人工智能准确。研究人员约亨·斯文
发表于 2019-04-15

具备灵活的认知环境的能力, 人工智能才称得上“厉害”

据科技日报报道,无论下棋还是玩电子游戏,人工智能的表现似乎都强于人类。然而,近日,英国研究人员认为,只有能够像鸡、老鼠等动物一样具备灵活的认知环境的能力,人工智能才称得上“厉害”。据新华社报道,研究人员因此举办“动物人工智能奥林匹克”竞赛,让各种人工智能设备在指定“赛场”内完成认知任务,例如,向人工智能展示某种食物并将食物挪走,看它能否重新找到食物。研究人员说,向鸡展示某种食物并当面将食物移走,鸡大概知道这种食物被拿到了哪里,并能够克服障碍重新找到食物。研究人员计划于4月底开放赛场,供参赛队伍训练其人工智能设备,6月开始正式竞技,让参赛人工智能设备解决一些动物日常遇到的小问题。取得优胜的参赛队伍将获得1万美元(约合6.7万元人
发表于 2019-04-15

亚马逊缔造商业帝国需要人工智能黑科技

据国外媒体报道,亚马逊打造的庞大商业帝国离不开其人工智能技术的帮助。其不起眼但功能强大的机器学习功能可以满足从物流中心、云服务以及无人商店。亚马逊的六页备忘录很有名。高管们必须每年写一份计划书,列出他们的商业计划。鲜为人知的是,这些备忘录总要回答一个特殊问题:你打算如何使用机器学习?亚马逊的高管们普遍表示,亚马逊并不鼓励作出像“不多”这样的回答。机器学习是人工智能的一种形式,其从数据中挖掘出可用于预测的有价值信息。当杰夫·威尔克(Jeff Wilke)于1999年加入亚马逊时,机器学习就在亚马逊扎根了。如今威尔克已经是杰夫o贝索斯(Jeff Bezos)的副手,他成立了一个科学家团队,研究亚马逊的内部流程,以提高效率。他将自
发表于 2019-04-15

亚马逊和微软如何出招解决网络安全?

像 Facebook,亚马逊,微软,谷歌和苹果(FAMGA)这样的科技巨头正在大力投资数据安全。  如果说被大家盯得最紧的,莫过于跟消费者最贴近的几家巨头——Facebook、谷歌和苹果了。但是,数据安全并不是 Facebook一家的问题。  事实上,CB Insights 报告指出,这些技术巨头跟踪我们的行为,存储我们的财务信息,了解我们的工作和生活地点,我们购买的产品等等。因此,每一家都需要采取行动。  而采取行动的过程中,巨头们又会优先考虑两个不同领域的网络安全计划:  首先,个人数据。  个人数据已经是数字时代最受追捧的货品了。连马云都说了,阿里巴巴不是零售公司,而是一家数据公司。可见,因为它非常有价值并且不完全被了解
发表于 2019-04-14
亚马逊和微软如何出招解决网络安全?

小广播

热门活动
换一批
更多

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved