网络安全中的人工智能：远离炒作，直面挑战

什么是 AI，也许更重要的是，什么不是 AI

AI 在本质上是一种算法，设计目的是与数据集进行交互，从而模拟智慧行为。随着算法变得越来越复杂，越来越目的明确，产生了一些引人深思的结果，比如看似人类生成的语言、艺术创作以及超越人类的模式识别。值得警惕的是，所谓的人工智能实际上并不是真正的智能，只是看起来像智能而已。以语言生成工具为例。这种工具实际上是基于大量已存在的文本（通常来自 Web）的概率映射。这些工具根据每个新词或新短语在之前生成的词或短语之后出现的概率来生成文本（与用户给出的提示词相关）。虽然事实证明这种概率生成方法非常奏效，但它毕竟不是自由思维，当出现许多种回答的概率很高，但正确的路径只有一条时，就会埋下隐患。必须牢记人工智能的工作原理，这样公司才能正确地加以利用。工具的有效性取决于如何使用。

为什么人工智能在网络安全中很重要

AI 算法可以基于给定的数据集来创建概率映射，然后确定在相同方式下可能生成的结果。当我们将这种能力应用于区分恶意工具和行为与良性工具和行为的概念以及数据集时，就会看到，我们很可能可以预测某个文件、流量模式或行为的恶意概率，即使这种特定事件以前从未见过。在实现这一成果的过程中存在一些关键挑战，要想让人工智能改善网络安全成果，就必须解决这些挑战。

面对最严峻的挑战：在网络安全中成功实施人工智能的途径

• 挑战 1：数据与算法：人工智能力量的基础及其潜在陷阱
  人工智能的好坏取决于使用的算法和训练它的数据。如果算法没有将指示恶意活动的参数数据集映射出来，那么世界上所有的数据都无关紧要，恶意事件将会不被发现。相反，如果没有给正确的算法提供足够的数据和正确的质量，那么映射将永远无法创建足够高水平的概率分布，并且由于算法得出错误的结论，错误事件（包括正面和负面事件）将会发生。
• 挑战 2：混淆：相信黑匣子吗？
  一些供应商让自己的人工智能模型以“黑匣子”的形态运行，混淆了算法和决策过程。这种不可视性可能会造成问题，使人难以甚至无法理解为什么人工智能会将某些事件标记为可疑事件，并引发对问责制和潜在偏见的担忧。
• 挑战 3：整合与专长：破除一针见效的幻想
  人工智能解决方案不是一针见效的灵丹妙药。这类解决方案需要与现有的安全基础设施和专业知识相结合，才能有效地解释和利用其产出。安全团队需要接受培训，了解人工智能的工作原理、局限性，以及如何最好地将其洞察力融入整体的安全态势之中。

超越挑战：破除神话

在面临挑战的同时，还有一些误区影响了人们对网络安全领域人工智能的看法：

• 误区 1：人工智能可以自动完善任何网络安全工具：
  许多网络安全供应商当然希望你相信这是真的，但现实情况是，许多人工智能算法并不贴合需求，以艺术创作为例，错误的算法将导致不能让人接受的结果。
• 误区 2：放之四海而皆准的解决方案：
  不同的人工智能解决方案迎合不同的需求。了解您的具体要求并选择合适的工具才是成功实施的关键。
• 误区 3：牢不可破的安全性
  人工智能与任何技术一样，都容易受到攻击。持续监控和调适人工智能系统对于保持其有效性至关重要。

为什么过去这种方法没有奏效

在某种程度上，这种方法已经奏效，比如建立的模型可以识别恶意文件中的简单模式。从技术上讲，这种模式匹配的模型符合人工智能的基本定义，也是最初的 IDS/IPS 引擎的基础，但它不够强大或“智能”，无法解决安全团队所面临的挑战。拥有正确的模型，也许更重要的是拥有建立和完善这种模型的专业知识，才是至关重要的。建立一个能够以概率方式映射“整个互联网”的模型并非易事，恶意活动与良性活动的建模也是如此。此外，正如上文第一项挑战所讨论的，为这一模型提供的数据必须是海量的（就像使用“整个互联网”的 LLM），同时还要经过适当的分类和筛选。

高管在网络安全计划中采用人工智能时应考虑些什么

人工智能在网络安全方面的作用可能极其强大，但也需要妥善处理。采用一般的人工智能可能导致对威胁情况不够了解，这就要求公司自己训练模型，这是一项极其复杂和计算密集的任务。通过深入考察来评估网络安全供应商将人工智能整合到其产品线中的情况是非常明智的。如果供应商无法解释算法是如何工作的、如何进行训练的，以及基于何种数据，那么相比于供应商声称要解决的风险，潜在的问题可能会使现实情况雪上加霜。