为什么 CISO 需要全面拥抱人工智能
我不是第一个说这句话的人，但这句话值得反复强调：人工智能 (AI) 改变了网络安全的游戏规则。如果我们信任并善用 AI，那么作为技术先进的合作伙伴，它将成为我们网络安全团队人员的重要补充。如果我们不能全面拥抱 AI，坏人就会利用它作为武器来打败我们。
在网络安全领域，AI 是一把双刃剑。现在，网络犯罪分子似乎占了上风。他们利用 AI 加速攻击并扩大规模，使许多战术、技法和程序 (TTP) 更加奏效。
例如，通过使用 ChatGPT 等现成的工具，骗子可以使自己的商业电子邮件泄密 (BEC) 和网络钓鱼攻击更具针对性和真实性。专业水平较低的潜在犯罪分子正在利用 AI 发起远比自己的设备能力复杂得多的攻击。我们现在看到的只是冰山一角。
虽然 AI 已经存在了很长时间，但网络安全领域的 AI 技术仍处于相对初级的阶段。别忘了，ChatGPT 在 2022 年 11 月起才面世。随着应用堆栈的发展，AI 学习的大部分内容将围绕应用堆栈展开。黑客广泛使用 AI 来利用软件代码只是时间问题。
AI 能对你做些什么
网络犯罪分子一直在寻求创新和新的攻击方法。这是一个简单的商业模式：管用就行。他们已经有效地运用了 AI，并渴望更广泛地使用 AI。
鉴于这些挑战，许多 CISO 已经开始警惕 AI 可能对自己做什么，而不是 AI 可能为自己做什么。一家总部位于伦敦的网络安全咨询公司最近对 250 名 CISO 进行了调研。80% 的受访者表示，他们认为 AI 是对自身企业最重大的网络威胁，而高达 81% 的受访者认为 AI 的风险盖过了优势。1
这种想法虽然可以理解，但也是短视的。我们无法控制网络犯罪分子使用的工具和技术。他们将以指数级的速度使用 AI——尤其是如果我们不针对 AI 生成的攻击和基于 AI 的攻击建立强大防御的话。如果我们仅仅依靠人类来抵御基于 AI 的攻击，那我们就是在单打独斗。
我们如何建立这些防御？在我看来，唯一的办法就是以 AI 对抗 AI。
AI 能为你做些什么
现实情况是，AI 可以比人类更快、更准确地完成特定工作。它可以比人类更快地迭代；它可以比人类用更少的时间编写代码。如果使用得当，一个 AI 可以胜任 10 个人的工作。AI 的能力与日俱增。
在当今的环境中，我们使用 AI 来获取警报、监控和应对威胁。明年，我们将利用 AI 监控警报并采取独立行动。
这是为什么呢？因为人类的速度不足以跟上威胁形势的发展。我们必须允许 AI 在受到适当限制的情况下开展工作。要让 AI 采取独立行动，我们必须明确其权利和责任。也许最重要的是，我们必须相信它能完成任务，就像我们信任网络安全团队中的人一样。
团队的另一位成员
如果不正确使用 AI，它就是一个无用的工具，可能会降低企业的安全性。作为 CISO，我认为我们最重要的职责之一就是打造和培育我们企业的文化。如果我们将 AI 视为必要的工具，我们的团队就更有可能接受它。
我建议大家用一种有趣的方式来看待 AI——它是网络安全团队中的另一名员工，拥有很大的自主权，能够全面、准确、极其快速地执行重要任务。
CISO 和我们的团队必须愿意信任 AI，让它来完成许多可能会让人类员工陷入泥沼的重复性任务。这意味着，随着技术的不断发展，要仔细评估 AI 在现在和未来能有效做些什么。它在哪些方面补充了我们人类的工作，在哪些方面可以取代人类的工作，在哪些方面人类可以利用它来提高效率？AI 可以更快、更好、更低风险地完成哪些容易出现人为错误的任务？
我们还必须确保负责任地使用 AI。这意味着要精心设计审计，揭露错误行为。对于像我们 Better 这样处于高度监管市场的公司来说，在使用 AI 时必须采取额外的预防措施。其他金融或医疗等领域的公司也是如此。使用 AI 有一些细微的差别。例如，在我们的领域，我们关注的是潜在的歧视。在医疗领域，医疗误诊可能会带来毁灭性的后果。
是时候加入大潮了
在确定如何最有效地运用 AI 作为我们网络安全团队的武器库中的主动性、预防性和（在许多情况下）防御性工具时，我在本文中提出的想法甚至警告都是需要考虑的因素。关键在于，我们应该考虑如何使用 AI，而不是是否使用 AI。
幸运的是，作为 CISO，我们并不孤单。我们拥有一个相互支持、知识共享的社区。我们在供应商群体中拥有稳固而创新的合作伙伴，他们有资源也有动力投资于 AI 驱动的解决方案，从而帮助我们所有人。
我们已经看到 AI 在实时威胁情报和响应、自动事故响应、行为分析、安全信息和事件管理 (SIEM)、欺诈检测等方面的积极应用。
展望未来，我认为在代码修补和代码生成中使用 AI 的机会非常大，它可以自动识别不良代码并修复漏洞，比我们团队中的人类更快、更准确地完成这些任务。人类从这些任务中解脱出来，就有更多的时间来构建可以创造收入的功能。
使用 AI 来加强我们的防御能力需要一个学习曲线，就像网络犯罪分子利用我们的漏洞也需要一个学习曲线一样。我们不能让坏人弯道超车，领先我们太多。如果他们做到了，就会利用 AI 来压制我们。
CIO 和我们的团队现在应该拥抱 AI，认识到 AI 是网络安全领域的游戏规则改变者，并围绕安全采用和信任 AI 建立一种文化。
Better 是利用数字技术让置业变得更简单、更快捷、更方便的先驱。
1.Chris Middleton, “为什么 80% 的 CISO 将 AI 视为对其业务的最大威胁，” Diginomica, 2023 年 10 月 11 日。