延伸阅读：人工智能戴上“白帽子” 投身网络安全攻防战资料文件与下载

戴上“白帽子” 人工智能投身网络安全攻防战

 科技日报记者 刘园园

    面对计算机系统和网络的缺陷和漏洞，黑客们找准机会实施攻击，白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间，人工智能已进驻多个行业，落地无数场景。其中一些行业和场景已为大家所熟知，还有一些正在进入我们的视野，在网络安全领域，AI“白帽”正成为网络安全工程师的得力助手。

    据报道，近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势，其中一个趋势便是用人工智能发现网络威胁。

    正在赋能网络安全

    “人工智能技术的蓬勃发展，为网络安全攻防带来的，不仅有机遇，也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

    先说好的一面。360安全研究院邹权臣博士告诉科技日报记者，目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

    “例如在恶意代码检测方面，人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息，自动识别恶意代码的特征，进而判定分类。”邹权臣介绍，相比于传统的基于动静态分析的特征检测、启发式检测技术，人工智能可以大幅度提升检测的准确率。

    360安全研究院研究员张德岳介绍，在软件漏洞挖掘方面，采用人工智能技术从漏洞相关的数据中提取经验和知识，并用训练好的模型提高漏洞挖掘的精度和效率，可以缓解当前该领域研究遇到的一些瓶颈问题，具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

    “人工智能在网络安全领域的应用日益广泛，运用人工智能赋能网络空间安全，主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说，其中包括采用人工神经网络技术，来检测入侵行为、蠕虫病毒等安全风险源；采用专家系统技术，进行安全规划、安全运行中心管理等；此外人工智能方法还有助于网络空间安全环境的治理，比如打击网络诈骗。

    具备明显“过人之处”

    与传统的应对网络安全的方式相比，人工智能确实展示了其“过人之处”。

    在闫怀志看来，人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势，它能够全面提高威胁攻击的识别、响应和反制速度，提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面，更是如此。

    “人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力，而人工智能方法有时不需要先验知识，对未知威胁的检测能力较强。”闫怀志说。

    不得不说，人工智能系统还具备成本效益优势。闫怀志认为，人工智能可以在第一时间发现和识别预防威胁，并立即启动应急响应，高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

    “传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务，而人工智能可以直接对原始数据进行训练，从大量的数据中提取特征，自动完成分类判定的工作。”张德岳说，如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度，又能提升响应速度和判定的准确率。

    不能靠它包打天下

    “虽然人工智能搅动了网络安全领域的一池春水，但是应该理性看待人工智能在应对网络安全方面的优缺点，不能指望全靠人工智能来包打天下。”闫怀志说，人工智能在应对网络安全问题时，也有较强的局限性。

    邹权臣分析，这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取，而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力，同时面临着持续学习、数据饥饿、可解释性等问题。

    “另一方面机器学习、特别是深度学习过分依赖数据，但在恶意代码检测、软件漏洞挖掘等领域，目前仍然存在数据收集困难的问题，缺少较好的数据集用于训练，影响对相关领域的研究。”邹权臣补充说，另外人工智能严重依赖于耗费计算资源，复杂的深度学习网络需要同时计算成百上千万次的计算，需要强大的人工智能芯片计算力的支撑。

    闫怀志则从不同方面总结了人工智能的不足。比如，易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累，对网络安全的复杂应用场景考虑不足，对于已知威胁的检测效率远低于传统的精确特征识别方法等。

    “使用神经网络和深度学习等算法，能够较好地识别出未知攻击威胁风险，达到‘知其然’的目的，但是这些算法通常无法揭示产生这种安全风险的基本机理，也就是‘不知其所以然’，从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

    脆弱面带来安全风险

    人工智能在应对网络安全问题时，有时甚至会展现出脆弱的一面。

    “一个真实环境中的人工智能系统，会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

    张德岳举例说，在数据安全方面，在数据收集与标注时出现错误或注入恶意数据，将导致数据污染攻击；在模型/算法安全方面，针对人工智能算法存在黑盒和白盒对抗样本攻击，可导致识别系统出现混乱；在实现安全方面，除了人工智能系统本身的代码实现，其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞，也都可能导致严重安全问题。

    “人工智能对现有网络安全格局的影响，离不开算法、数据和计算能力3个方面，其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

    对于防范人工智能的脆弱性所带来的安全风险，闫怀志指出：首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性；其次，要用其所长，尽量减小其暴露给外界的潜在攻击面；最后要构建网络空间安全综合防御体系，从安全技术和安全管理等层面来协同防范安全攻击，间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

    来自360安全研究院的专家也给出多个建议，其中包括：在数据获取过程中，要加强对数据来源的控制与过滤，在一定程度上保证数据安全可靠；在数据传输过程中，要使用更加安全的传输协议与加密算法；在人工智能系统的实现中，要保证代码质量并进行完善的测试，此外还要及时更新或修补框架或依赖库中存在的漏洞等。

    科技日报社 版权所有