如何保护您的组织免受 GenAI 威胁

生成式人工智能 (GenAI) 对企业具有革命性的潜力，ChatGPT 的一夜走红就是一个典型例子。无论是编写内容、提供客户支持、自动执行任务，还是调试和编写代码，每天都会发现新的应用。

不幸的是，所有这些潜力都伴随着一个令人警惕的现实：它也可能被用于恶意目的。ChatGPT 等人工智能模型可用于复杂的网络钓鱼、恶意软件和冒充方案，模型本身也可能受到攻击以泄露您的数据。

在这个人工智能的新时代，每个组织都需要意识到这些潜在威胁，并采取适当的措施来降低风险。下面列出了一些方法，你可以利用 ChatGPT 等 GenAI 工具来最大限度地降低恶意行为者破坏系统的威胁。

（要了解攻击者可以使用生成式人工智能来攻击组织的更详细方法列表，请阅读我的文章：“ ChatGPT：给我写一个病毒。”）

你可能之前已经听过无数次了，但它仍然和 ChatGPT 之前一样真实：

减少错误信息和曝光的一种方法是只在真正重要的事情上使用 ChatGPT 之类的工具。您还应该确保您所使用的工具实际上是该工具的良好战略用途：生成式人工智能有擅长的事情，也有不擅长的事情。随时关注这个主题，确保您的组织正在使用正确的工具来完成正确的任务。

了解人工智能擅长什么的一种方法是检查其人工智能模型卡，理想情况下，它提供以下信息：它擅长什么，不擅长什么，以及从未测试过什么。

GenAI 可以被攻击者使用，但也可以供防御者使用——你！主流网络安全专家现在可以使用他们的武器库中的两种工具：生成对抗网络 (GAN) 和变分自动编码器 (VAE)。

要了解有关这些工具的更多信息，请阅读本文：“纯粹的魔法：如何在威胁检测和响应中使用 GenAI。 ”

在使用 ChatGPT 等 AI 模型之前，您应该了解该模型的所有细节：这称为模型出处。模型出处是 AI 模型的记录历史和起源：用于训练它的数据、它使用的架构和参数、它具有的任何依赖项以及其他相关细节。

请记住，随着越来越多的模型进入市场，ChatGPT 将只是众多选择之一。要清楚哪些来源和模型是可信的。同样，AI 模型卡是找出这些信息的一种方法。

有关审查 AI 模型的更多信息，请阅读此文章：“安全审查和 AI 模型：如何决定批准什么”。

在这个人工智能新时代，批判性思维是最重要的软技能之一。如果你是领导者，你可以真正地提倡批判性思维，而不仅仅是招聘人才。批判性思维者不太容易受到网络钓鱼、冒充和虚假信息计划的影响，而这些计划可能会被恶意攻击者利用 GenAI 实施。

有关在您的组织中促进批判性思维的更多信息，请阅读此文章：“如何提高团队的批判性思维技能”。

ChatGPT 致力于遵守道德规范，这很好。但是，并非所有生成式 AI 工具都能做到，而且并非所有道德规范都能很好地贯彻。请务必建立一套使用这些工具的道德规范以及举报违规行为的方法。

如果您完全禁止生成式人工智能，这可能会导致人工智能工具不受监管的“影子”使用，攻击者可能会利用这些工具。为了降低这种风险，请制定一项简单的政策，重点关注个人信息的保护并仔细检查人工智能提供的信息。

要了解如何编写 GenAI 使用政策，请阅读此文章：“组织，不要禁止生成式 AI：编写使用政策。 ”

这是一个令人悲伤的事实，但所有软件都有漏洞：进行漏洞测试有助于降低这些漏洞的风险。测试您使用的 AI 工具是否容易受到哪些类型的提示注入攻击。

如果您的组织托管自己的生成式 AI 工具，请记住安全基础知识，即了解谁在何时做了什么。这样，您就可以应对未经授权或可疑的行为。

不要以为每个人都了解人工智能领域。不仅要教育您的组织了解生成式人工智能的强大力量，还要教育其风险。

结论

确保您的组织采取积极措施，不仅要充分利用生成式 AI 为您的业务带来的所有好处，还要防范不良行为者利用它。您可以做的最好的事情之一就是获取（并保持）信息，阅读类似本文的文章。