人工智能（AI）的学习能力将成为网络防御和网络攻击的关键。

2016年夏天，黑客带着7台黑客机器前往美国拉斯维加斯参加美国国防部高级研究计划局（DARPA）主办的“网络超级挑战赛”（CGC）。在几十轮的竞赛上，每台机器都力图找到更多软件漏洞，"企图"加以利用，并抢在其它机器使用同样的战术赢得比赛之前对其进行修复。参赛团队为这些机器赋予了处理能力、软件分析算法和利用工具。

CGC是迄今为止唯一的全机黑客竞赛，初步获胜者是一台名为“Mayhem”的机器，它如今已作为首台“非人类实体”陈列在美国史密森尼国家自然历史博物馆中。这台机器曾在DEFCON大会上赢得了黑客梦寐以求的最高荣誉——黑色徽章。Mayhem 2017年8月参加了另一场与黑客的对决，最后败给了黑客。虽然它能夜以继日地工作，但缺乏与人类竞争的精力和动机。由于机器缺乏创造力、直觉和决断力，Mayhem最终还是输给了人类。

但是，这种情况2018年将发生变化。计算能力、AI研究的理论及实践概念以及网络安全突破技术的发展，将推动机器学习算法和技术成为网络防御的关键组成部分，甚至对攻击也同样有推动作用。黑客正在改进机器的技术，与机器一起运作迎接新的竞争挑战，例如，Shellphish团队推出了开源漏洞利用自动化工具“angr”。

从防御的角度来看，网络安全专家已在使用大量自动化和机器驱动的分析。另一方面，自动化能力也不断应用在进攻性攻击中。网络安全公司Cylance在美国2017年黑帽大会通过调查发现，62%的信息安全专家认为黑客2018年会将AI武器化，并开始利用AI实施攻击。

2017年DEFCON大会上，美国端点安全厂商Endgame一名数据科学家演示并发布了针对学习算法开源工具包OpenAI Gym的恶意软件操作环境。Endgame开发了一款自动化工具，学习如何修改代码中的字节，隐藏恶意文件，逃避反病毒引擎的检测。

随着此类新工具的发展，再加上竞争推动创新，不难想象，这个发展阶梯接下来将会催生适应、学习新环境并识别漏洞的自动化系统，但这样的系统也可能会被黑客玩坏。