美图欣赏 | 设为首页 | 加入收藏 | 网站地图

当前位置:新锦江平台:www.xjj7.com-电脑中国 > 新闻 > 安全资讯 >

McAfee CTO:人工智能如何改变网络安全和网络攻击

2020-08-17 15:02|来源:未知 |作者:dnzg |点击:

人工智能几乎正在席卷每个行业,在提供更好的网络安全软件方面,人工智能的确帮了很大的忙。网络安全公司McAfee是该行业中的佼佼者,该公司正在将AI功能添加到自己的工具套件中,以保护用户免受日益发展的自动化攻击。

过去几年中,一大批新兴公司(例如以色列的Deep Instinct)都获得了资金,以将最新的AI技术集成到企业和消费者的安全解决方案中。但McAfee首席技术官Steve Grobman说,对于那些使用AI来阻止网络攻击的保护者来说,目前还没有一个真正的强者技术。

Grobman谈到了AI在网络安全方面的优缺点,他指出在发现最新攻击方面,人为参与仍然是不可或缺的,AI还无法独立完成。

AI本身的双向性是将其用于改善网络安全存在的一个问题,这就好像是猫和老鼠的游戏。如果安全研究人员使用AI来捕获黑客或防止网络攻击,则攻击者也可以使用AI隐藏或发动更有效的自动攻击。

Grobman特别关注使用改进的计算能力和AI来进行深度伪造,这种伪造技术甚至可以伪造出人们“真的”说过或做过某件事。以下就是外媒对Grobman就AI在网络安全领域进行使用的采访:

Q:我与人工智能公司Nvidia的工作人员通话,询问他们对AI的跟踪情况。他们说,现在有1.2-1.5万个AI初创公司。可不幸的是,他们却没有专注于安全问题的AI初创公司的名单。可这似乎是一个非常吸引创业者的领域。我想知道,从你的角度来看,我们怎么能区分致力于网络安全的AI初创公司呢?因为其中不乏有很多公司是为了获得投资而进行炒作。

Grobman:使用复杂AI技术的准入门槛已经降低,这意味着几乎所有处理数据的网络安全公司都将考虑并可能以一种或另一种形式使用AI技术。我认为AI之所以会如此受追捧,是因为围绕它的炒作太多了,尤其是那些初创公司或成立不久的公司,它们没有其他基础技术也没什么名气,就想着借AI搏一搏眼球。要想在2019年和2020年成立这样的公司并不难,因为我们正在将复杂的AI功能用于网络安全防御。

如果以McAfee为例,我们在整个产品线中都使用了AI。我们将其用于后端分类,将其用于检测端点上的未知恶意活动和未知恶意软件。我们将所谓的人机团队和安全操作员与AI结合使用,以进行调查并了解威胁。我们必须准备好让所有人都可以使用AI,这其中自然也包括我们的对手。

Q:我们经常提到攻击者和防御者之间的猫鼠游戏,你也参与了这场竞赛:能否说一下攻击者对这项技术的使用呢?

Grobman:我们基本可以推测出哪些类型的攻击是通过AI的引导,可要想准确地做出判断还是有一定难度。我们看的是事件产生的结果,而不是事件的组合方式。例如,对手会使用AI来优化他们关注的对象,也就是受害者。如果你认为AI可以很好地解决分类问题,让一个有不良行为的人来识别最脆弱的受害者或者能带来最高投资回报的受害者,这就是他们如何使用AI来发动攻击。

对我们来说,不一定能了解到他们是如何选择受害者就是一个难题。我们只能看到哪些受害者成为了目标。我们可以推测,他们之所以能做出这样明智地选择是利用AI进行了某些分析,但是很难明确断定这一点。

AI正出现在另一个领域:内容的创造。在安全性方面,我们担心的一件事是使用AI来自动执行自定义的网络钓鱼邮件,因为有了AI的协助,你基本上可以大规模部署鱼叉式网络钓鱼。你有一个自定义便笺,受害者很可能会因此上当,这个便签就是使用AI制作的。同样地,我们很难查看网络钓鱼邮件并知道它们是否是人为确定生成的,或者是在基于AI算法的帮助下生成的。很多研究领域都在发生这样的事情,有大量自动生成的文本和音频。从信息战的角度来看,深度伪造是我们非常感兴趣的东西。

Q:这与面部识别安全有关,对吗?

Grobman:的确存在一些与面部识别有关的元素。例如,我们已经进行了一些研究,以供查看。你能制作出一张与某个真人仿真度极高的图像,并且图像上的信息与面部识别系统里这个人的预留信息差别不大,从而来糊弄这个系统让它以为这就是自己一直寻找的人吗?我认为,这是信息战的一个方面;但除此之外,还要能做到说服人们某些事情已经发生了,也就是把实际没有发生的事情描绘地跟真实说过或做过的一样。越是临近2020年的选举周期,我们越是认识到以信息战为目的的伪造品是我们需要重点关注的事情。

Q:是Facebook或Twitter上的东西吗?还是McAfee有理由注意这种欺诈行为?

Grobman: McAfee之所以这么认为的原因有很多。第一,我们试图了解检测技术的最新发展,以便有类似视频出现后,我们能够提供最佳评估,以评估该视频是否是经过深度伪造过程而被篡改的,或存在其他问题。除社交媒体之外,其他类型的组织也可能具有取证能力,比如新闻媒体。如果有人给你一个视频,你就希望自己有能力辨别这个视频的真伪。

其实这种情况经常发生在我们身边,比如虚假账户。有人会创建一个名为“AP Newsx”的帐户,或者他们会稍微修改Twitter句柄并从正确的帐户中窃取图像。乍一看,大多数人都会以为是AP发布的视频。一个组织的信誉会影响内容的可信程度,这就是为什么信誉良好的组织需要工具和技术来帮助他们确定一些应该相信的基本事实,而不是应该更加怀疑什么东西。

Q:好像你已经准备好看到某种违规行为是使用了深度伪造一样,因为我们已经习惯了虚拟人的想法。

Grobman:这一点非常有趣。同样的技术可以用于不同的目的,有好也有坏。如果你可以使虚拟人的外表和声音跟真人十分相似,则可以考虑将其很好地利用起来。如果你能让处于帕金森晚期或是有其他语言障碍的人能跟身边的亲人交流,那显然是在积极使用这项技术。

而消极使用这一技术,就比如一位首席执行官似乎在声明要召回其产品,或者虚假提供公司的收益信息并以此来推动公司股价上涨。其实这是为各种金融犯罪开辟了道路,犯罪分子可以不必通过窃取信息来操纵市场,而是通过AI技术直接采用这些虚假信息。

Q:你已经识别出一种称为“模型黑客”的东西,它是对机器学习系统本身的攻击吗?

Grobman:我们在对抗性AI技术和防御方面做了大量的工作。我们正准备让犯罪分子使用能使AI模型失效的技术。我们正在做的一些研究是为了能最佳地了解这些对抗性技术的工作原理,然后我们还需致力于缓解措施,以使我们的模型更健壮,更不容易受到其中某些功能的影响。这是一个非常活跃的重点领域。

Q:就你了解的而言,这样的活动目前开展情况如何?

Grobman:这项活动开展比较广泛,尤其是在学术界和研究界。与其他一些观点类似,很难知道目前有多少人在集中精力使用这些对抗性技术。大多时候,都是先开始于某些研究领域;然后逐步发展为主动开发,这就是为什么McAfee和业内其他负责任的公司必须做到这一点,并确保在攻击日益普遍时,我们的技术已经准备好开始反击了。

Q:如果这些攻击成功了,你能找出存在哪些危险吗?他们攻击的数据会作何处理?

Grobman:主要是要规避AI的意图。就拿一个典型的网络安全用例来说,AI模型会分析一个以前从未见过的文件,以将其分类为恶意或良性。使用对抗性AI技术会将一些特定特征放入文件中,从而使模型混淆,即使模型是恶意的,也会将其错误地分类为良性。

Q:我跟踪了这个领域中一些初创公司的创立,例如2017年的Deep Instinct。他们从英伟达获得了一些奖项,并获得了投资。他们说的一些话很有道理。我想知道他们的方法在整个行业中到底有多广泛。我知道有很多公司都在筹集资金,承诺如果将AI投入网络安全,能从投资者那里获得一些更好的东西。因为传统的安全保护具有被动性,是你发现哪里存在问题,然后将其放入数据库中并加以保护。而AI技术则是用来超越它并预测你从未见过的威胁。

Grobman:我们发现,最好的效果是将AI与一些传统的威胁研究和威胁情报功能相结合。如果将威胁情报和AI相结合,则比单独做任意一个要好很多。

因为它们各自都存在一些根本问题。如果你只是进行威胁情报处理,这意味着你将基于对世界上存在的威胁的了解来寻找威胁,而问题就在于新的威胁会随时出现。McAfee每分钟都会发现500种新的恶意软件。要想领先于所有新威胁一直都是个难题,如果仅基于威胁情报进行检测,则充其量只能检测到大约90%的威胁。

另一方面,如果你仅使用AI,则基本上是让AI模型在你知道答案的那90%的场景中做出决定。如果你仔细想一下,你会觉得威胁情报还是几乎能让你得到完美的检测率。如果你知道有什么不好的地方,那么你就是真的知道这很不好。那如果这样,单独使用AI的目的又在哪里呢?你为什么要让你的模型对一些明知不好的东西进行评估呢?

当然,使用AI的好处在它可以检测到你从未见过的东西。但是,为了获得较高的检测率,通常需要较高的假阳性率。要想得到更高的检测率,你往往会得到很多错误的检测结果。而McAfee发现,比起单独使用任何一种技术而言,将威胁情报和AI结合在一起,你可以获得更高的检测率和更低的误报率。

原因如下:从威胁情报的角度出发对内容进行分类,然后仅将未知的内容传递给AI分类器,这将使你处于同时用这两种技术模式工作的状态,让它们一起为你提供更好的结果。

Q:现在有多少公司有能力将二者结合呢?有多少公司能在AI这个板块有所突破呢?我相信你们能做到。

Grobman:我们在这方面做的很好。其实你不仅仅需要拥有出色的AI技术,还需要掌握世界上正在发生的事情的良好数据并具有良好可见性。McAfee拥有十亿个威胁传感器,它们从各种各样的角度出发,着眼于威胁遥测。我们使用CASB(云访问安全代理)解决方案,从设备、网络、组织范围甚至云计算方面遥测威胁。除了了解如何有效使用AI以外,知道使用该威胁感知和威胁遥测信息来帮助建立模型也是你需要了解的事情。

Q:就你所知道的而言,当深度学习开始成为现实时,你们何时开始接触这一领域呢?

Grobman:我们使用了多种AI技术。其中一些是工程学习,其中一些是深度学习。但是,我们关注这一技术已经五年了,当时它还并不是特别受关注的领域。该技术已经发展了许多年,我们始终将其视为实现目标的一种工具,而AI本身实则并不等同于目标。我们关心的是它对我们有什么作用。我们的客户关心我们防御威胁的能力。我们发现AI是一项强大的技术,可帮助我们更有效地做到这一点。但总的来说,只要能达到预期的效果,客户就不会真正在乎我们的做法。

Q:你是否觉得需要招聘大量与AI相关的人员才能实现这一目标呢?而不是只拥有传统的工程师。

Grobman:是的,两者兼而有之。我们已经雇用了很多数据科学家。我们有专门的数据科学团队。同时,我们在整个公司范围内进行了许多交叉培训,以使不是数据科学家的工程师也能了解该技术,并能够有效地使用该技术。

Q:要想完全实现AI网络安全集成,还需要多久?

Grobman:AI网络安全这一现象在行业中已经很普遍了。但接下来会发生的事情是,威胁形势将继续发展并变得更加复杂,这将继续要求我们复杂化已有的威胁检测方式。我们不需要看到终点,因为随着威胁形势的不断变化和发展,好的技术也会随之出现。

Q:在网络安全的未来方面,相比其他的一些发展,你觉得AI技术的发展如何?

Grobman:该技术将以其他的一些新方式投入使用。这样来看:我们关注的一部分是如何解决现有的问题;另一部分是我们怎样采用全新的方法来使用全新技术来防御威胁。人工智能可以在这两个方面为我们提供帮助。

例如,在第一个示例中,我们可以使用AI的改进来更好地检测恶意行为和恶意内容。同时,我们也可以使用AI回答以前从未能够回答的问题,例如:攻击是否旨在针对特定组织?它是有针对性的攻击吗?在有人意识到这是一个组织之前,我们可以考虑使用AI来检测新组织的形成。现在,我们可以用AI来回答所有的这些问题。

Q:我想知道区块链是否非常重要。人们指出它是一种可以确保身份的技术。如果你引入区块链,那么你就可以更加确定你想要验证的东西。但是,我看到的另一个与此有关的问题,即勒索软件的蔓延,勒索支付已经变得越来越难以追踪。而使用区块链也是好坏并存。

Grobman:完全正确。区块链非常适合加密货币。那你觉得加密货币是好还是坏呢?实际上两者都有。他们这样做是为了使没有能力与传统金融机构和工具合作的个人(例如在第三世界国家/地区)能够与货币合作。另一方面,这也是使勒索软件能更加有效运行的催化剂。它为犯罪分子提供了一种手段,使他们的受害者可以用难以追踪的货币直接向他们付款。

Q:社交游戏巨头Zynga的Words With Friends数据库遭到黑客入侵,约2亿人的个人纪录遭到侵犯,而且还只是在最后一个季度。你怎么看待这个事情。

Grobman:针对消费者的一些说明性指南表示,如果你要注册任何账户,最重要的是拥有一个独一无二的密码。Zynga就是一个很好的例子,如果你使用的账户信息仅限于登陆Zynga,那就没什么十分有价值的信息可以从Zynga窃取;但如果有人使用与他们银行账户相同的账号和密码登录,那么入侵者就可以通过获取的这些信息访问有价值的东西。所以,如果用户正在访问休闲类型的网站,请使用密码管理器或使用唯一的密码来确保自己信息的安全,哪怕发生信息泄漏这样的事件,被盗信息也只是某一网站的注册信息。

Q:最近该领域还有什么事情引起了你的注意吗?

Grobman:还是有几件事值得一提。2019年,勒索软件的问题依然存在并且是安全领域的一个重大问题。一款名为“Sodinokibi”的勒索病毒作祟,它使用的是会员业务模式。你仔细想想,在商业领域中,有各种各样的特许经营业务模式,大多公司都拥有销售或执行其服务的合作伙伴或分支机构,并且存在利润分享。借助Sodinokibi,一个小组创建了底层勒索软件技术,然后将其提供给不同的组织,以影响个人和组织。一旦赎金支付后,相关联的组织就有了利润分享。许多勒索软件都是针对州和地方政府。

此外,我们还将2019年视为开始通过云对金融机构进行攻击的一年。去年夏季,发生了一次重大泄漏事故,这是由于云的渗透导致的。

(责任编辑:dnzg)