人工智能技术正在变得更为先进，在过去我们无法想象机器可以和我们对话，甚至可以帮助我们完成一些人类才能完成的任务。但是，我们很清楚的知道，随着技术越来越智能化，人工智能同样也会给人类带来威胁。

在未来，我们可能发现黑客们在某种情况系利用人工智能对我们的电脑系统发动更复杂的攻击。然而，卡内基梅隆大学计算机科学学院研究所的Jason Hong副教授认为，这些攻击不会像电影《终结者》中描述的人工智能防御系统那样强大，亦或是像HBO的科幻连续剧《西部世界》描述的那般先进。

Hong认为人工智能会得到一个坏名声是因为人类让它们的想象失去控制，并且将这种行为归因于技术不会真的这样做。尽管如此，人工智能未来不能总被正确的使用，我们需要担心到底是谁选择滥用而不是合理的运用它。

“在接下来的一年我们期望看见恶意软件具有适应性的设计，可以基于成功的学习来提升攻击效力。这个恶意软件新世代将会是情境感知的时代，意味着它将会了解它自己所处的环境然后盘算下一步该做什么。在许多方面，它将开始向人类黑客的行为靠近：执行侦察，识别目标，选择攻击手段和机智地躲避检测。”全球安全策略家Derek Manky说道。

Manky认为恶意软件将使用人工智能代码前体。它将取代传统的“如果不是它的话，那就是它”这样的代码逻辑，而是用一种更复杂的决策逻辑。“自主的恶意软件操作更像是分支预测技术，这种技术能够在执行任务前猜出决策树（Decision tree）上的哪个分支事物会被处理。分支预测器会记录分支是否被采取利用。随着时间推移这种软件会变得更有效。”Manky说道。

Hong 看见一个新兴的领域趋于对抗机器学习，黑客们尝试逆向工程来让软件技术运作。例如，他们正在寻找新的方式获得过去的垃圾邮件过滤器或者寻找毒害数据规格的办法，从而数据所有者在不良数据方向开始训练他们的机器学习系统，并且让机器做出有害的判断。

但是，牢记人工智能系统在圈子内始终是由人类来创造的是非常重要的事情。不是许多系统都能全自动控制的，因为它的副作用对人类来说一直是未知数。

“在未来，人工智能在网络安全方面将会不断地适应越来越多的攻击。现在，人类正在连接数据，分享数据并将数据应用到系统中。然而，我们只是在告诉机器该做什么，在未来，成熟的人工智能系统将有能力做出它们自己的判断。”Manky说道。“在未来，更复杂的决定将会被人工智能夺走。人类和机器必须共存。”

一个让人恐惧的地方是人工智能在今后会利大于弊 “这种事情对我们还很遥远，人类现在还不必担心。还有更大的事情等着信息安全专家去处理。这些人工智能技术只在非常复杂和狭窄的范围内有效，一旦你超出这个有效范围，他们将不会很好地运作。想象一下人工智能正在下一盘象棋然后你将游戏换成了跳棋，它当然就不能很好地运作下去了。”

相反，Hong相信相关组织应该担心的例如数据外泄，弱密码，配置错误和钓鱼攻击这类的安全问题。“我想说人类需要多集中于这些真正基本类型的安全问题上，并且不要担心真正复杂的问题，它们最终会到来的，但是我们还有很多的时间去适应这些系统。”他说。

注：本文为编译作品，作者为Christina Cardoza，原网站http://sdtimes.com/artificial-intelligence-will-invoke-new-hack-attacks/