网络安全是一个人力受限的市场——因此，人工智能(AI)自动化的机会是巨大的。通常，人工智能被用于使网络安全的某些防御方面更加广泛和有效。打击垃圾邮件和检测恶意软件就是最好的例子。

另一方面，当试图攻击属于他人的脆弱系统时，使用人工智能有许多动机。这些激励措施包括攻击速度快、成本低，以及在已经受到限制的环境中难以吸引熟练员工。

目前公共领域的研究仅限于白帽黑客使用机器学习来识别漏洞并提出修复建议。然而，以人工智能的发展速度，我们很快就会看到攻击者大规模使用这些功能，如果他们还没有这么做的话。

我们怎么能确定呢?事实上，很难将僵尸网络或网络钓鱼活动归因于人工智能，而非人类。然而，业内人士认为，我们将在一年内看到一场AI驱动的网络攻击;62%接受调查的黑帽会议参与者似乎相信这种可能性。

许多人认为，人工智能已经被高度主动和老练的攻击者用于恶意目的。考虑到人工智能系统让对手的工作变得容易得多，这一点也不奇怪。

为什么?撇开资源效率不谈，人工智能系统在攻击者和受害者之间引入了心理距离。事实上，许多传统的攻击技术包括与他人接触和在场，这反过来限制了攻击者的匿名性。AI增加了匿名性和距离。自主武器就是一个很好的例子;攻击者不再需要扣动扳机并观察其行为的影响。

它也不一定是关于人类生活的。让我们来看看一些不那么严重的人工智能恶意应用:网络犯罪。

社会工程仍然是最常见的攻击载体之一。当某人仅仅点击一个看起来无害的链接时，恶意软件多久会被引入系统

事实上，要吸引受害者点击这个链接，需要付出相当大的努力。从历史上看，制作一个可信的钓鱼电子邮件是一项劳动密集型的工作。成功实施这样的袭击需要几天甚至几周的研究和适当的机会。随着网络人工智能的出现，情况正在发生变化。

分析大型数据集有助于攻击者根据在线行为和估计的财富对受害者进行优先排序。预测模型可以更进一步，根据历史数据确定支付赎金的意愿，甚至可以调整支付的规模，以最大限度地增加网络罪犯的机会，从而增加他们的收入。

想象一下，公共领域中所有可用的数据，以及之前通过各种数据泄露的秘密，现在都在几秒钟内组合在一起，不需要人工操作，就可以完成最终的受害者分析。

当受害者被选中时，人工智能可以用来创建和定制电子邮件和网站，这些邮件和网站很可能会根据经过处理的数据被点击。信任是通过让人们在社交媒体上进行长时间的对话而建立的，不需要人力。聊天机器人现在能够保持这种互动，甚至通过模仿他们的写作风格来模仿真实的联系人。

用于受害者识别和侦察的机器学习大大减少了攻击者的资源投入。事实上，甚至没有必要再讲同样的语言了。这不可避免地导致了高针对性鱼叉式钓鱼攻击的规模和频率的增加。

此类攻击的复杂性也可能上升。由于人工智能在语音合成方面的快速发展，它超越了人类的欺骗能力，能够模仿声音。这些系统可以基于现有数据创建真实的语音记录，并通过模拟将社会工程提升到下一个级别。这与上面讨论的其他技术相结合，描绘了一幅相当可怕的画面。

那么，我们该怎么办呢

让我们概述一些我们应该考虑的潜在防御策略。

首先，很明显，增加人工智能用于网络防御并不是一个坏的选择。一种结合了监督和非监督学习的方法已经被用来预测新的威胁和恶意软件基于现有的模式。

行为分析是另一个探索的途径。机器学习技术可用于监控系统和人类活动，以检测潜在的恶意偏差。

但重要的是，在使用人工智能进行防御时，我们应该假设攻击者已经预料到了它。我们还必须跟踪人工智能的发展及其在网络中的应用，以便能够可靠地预测恶意应用程序。

为了实现这一目标，行业从业者、学术研究人员和决策者之间的合作至关重要。立法者必须考虑到人工智能的潜在用途，并更新一些“黑客”的定义。研究人员应该仔细考虑恶意应用他们的研究成果。补丁和漏洞管理程序应该在企业界得到应有的重视。

最后，应该提高用户对防止社会工程攻击、阻止密码重用以及在可能的情况下提倡双因素身份验证的意识。

来源：ISACA   编辑：Leron Zinatullin