ChatGPT 冒充者揭示了安全漏洞
员工使用欺诈性 AI
ChatGPT：采用速度最快，但带来了哪些后果呢？
ChatGPT 是 OpenAI 推出的一款基于 AI 的热门大型语言模型 (LLM) 应用，其用户增长速度之快实属罕见，原因有很多。首先，它一经发布就在五天之内吸引了超过 100 万用户，即使是 Facebook 和 Spotify 等历史上最受欢迎的应用也难以匹敌。此外，随着企业寻求提高内容创建、代码生成以及完成其他功能任务的效率，ChatGPT 几乎立即应用于商业环境中。
但随着企业争相利用 AI，攻击者也纷纷效仿这种做法。其中一种值得注意的攻击方式是利用不道德或恶意的 LLM 应用。
遗憾的是，最近这类恶意应用的大量出现，给企业采用 AI 的进程带来了风险。而且，相关风险无法通过单一的策略或解决方案来轻松化解。为了释放 AI 价值而不造成数据丢失，安全领导者需要重新思考如何提高可见性和控制企业应用。
欺诈性“GPT”的类型及其风险
恶意 LLM 应用可以划分为多个类别，各自存在不同的风险，例如：
通过将员工锁定在使用劣质服务并生成不准确的内容来阻碍企业。2023 年 5 月，ZDNet 报告了一个名为“ChatOn”的应用，据称下载量很高，但却将用户锁定在昂贵的订阅服务中。同样地，一款名为“Genie”的应用声称由 ChatGPT 提供支持，但出现幻觉（这个术语是指 AI 报告错误数据）的频率比真实应用更高。这类模仿应用根本只会提供低劣的服务。
窃取账户、窃取数据和破坏网络。2023 年 3 月，发现了一个虚假的 ChatGPT Chrome 扩展程序，其可以劫持 Facebook 企业账户、安装后门程序、收集浏览器信息、窃取 cookie 等。这款虚假的扩展程序通过 Facebook 广告宣传，名为“快速访问 Chat GPT [原文如此]”，最高日安装量超过 2000 次。
安装恶意软件。不可避免的是，攻击者假装使用经典的社会工程学攻击，提供对 ChatGPT 的访问权限。一项活动使用了社交帖子中的链接来安装 ChatGPT 客户端。链接指向了一个外观逼真的页面，并提示用户下载客户端。单击该链接导致了 Fobo 特洛伊木马的安装，它会收集浏览器中存储的账户凭据，特别是与企业账户相关的账户凭据。
虚假应用冒充真实应用来诱骗用户下载恶意软件，这并不是什么新型攻击策略。因为攻击者数十年来一直在操纵用户这样做。但这些基于 ChatGPT 的 攻击表明了一个更大的问题。
更大的问题：缺乏应用意识
对进入企业网络的应用缺乏可见性，自然会导致失去控制，进而使公司容易受到欺诈性应用的攻击。
几乎所有软件都可以通过互联网分发或通过云端访问；这已成为新常态。员工通常能够在几秒钟内，将未经批准的应用安装到公司设备上。
员工还能够使用各种云托管软件即服务 (SaaS) 应用。大多数大型企业无法竭制其员工使用未经授权的云服务；这种现象称之为影子 IT。影子 IT 非常普遍，一项调查显示，80% 的员工使用了未经批准的 SaaS 应用。
这些风险会持续存在，但当一种特定类型的应用（在本示例中是基于 AI 的 LLM）牢牢地融入企业时代思潮时，危险会进一步增加。员工本意是为了提高效率，最终却可能会为攻击者进入企业网络提供立足点。
解决应用控制
网络安全意识培训 已成为维持组织网络安全韧性 的核心，但这是一个技术问题，需要技术解决方案。
多年来，防火墙负责检查第 4 层（传输层）的网络流量。这些防火墙能够阻止往返于未经批准的 IP 地址或端口的流量，从而防止许多攻击。但是，传统防火墙明显无法满足当今时代的需求，因为它们缺乏对第 7 层（应用层）的感知能力，因此，无法确定流量来自哪些应用。
下一代防火墙 (NGFW) 具备这种功能。它们会检查第 7 层的流量，根据来源应用允许或拒绝流量。这种应用意识让管理员能够阻止具有潜在风险的应用。如果应用的数据无法通过防火墙，则无法将威胁引入网络。
然而，与传统防火墙一样，下一代防火墙采用一个独立的专用内部网络，而不是如今这样复杂的 IT 环境，即：应用和数据分布在内部网络、私有云和公共云。现代网络是分布式网络，涵盖 SaaS 应用、Web 应用和远程使用。
因此，企业需要基于云的 NGFW 功能，同时部署在本地网络和云端。
但 NGFW 本身无法应对影子 IT。当 NGFW 检测到恶意应用的使用时可能为时已晚。应用控制必须与云访问安全代理 (CASB) 集成，才能真正保护网络、设备和用户。
除了其他功能之外，CASB 还可以发现影子 IT，并让管理员能够对其进行补救。他们可以部署 URL 过滤功能，以确保不加载网络钓鱼网站和应用，恶意软件 无法连接到已知的恶意 Web 来接收命令和控制服务器发出的指令。管理员可以将已获批准的应用添加到允许列表，从而阻止所有其他应用。他们还可以使用反恶意软件，识别进入网络（无论是本地还是云端）的恶意软件。
保障当前和未来的应用使用安全
ChatGPT 于 2023 年开始流行，未来几年内可能会陆续发布各种 AI 工具。
SaaS 应用对员工协作至关重要，但保障此类应用的安全并非易事。Cloudflare CASB 服务提供对 SaaS 应用的全面可见性和管控，让您能够轻松防止数据泄露和不合规行为。采用 Zero Trust 安全 ，阻止内部威胁、影子 IT、高风险的数据分享和恶意行为者。
本文来自有关影响当今技术决策者的最新趋势和主题的系列文章。
深入探讨这个话题
阅读《简化我们保护 Saas 应用的方式》白皮书，进一步了解 CASB 的工作原理。
关键要点
阅读本文后，您将能够了解：
应用普及之后产生的风险
3 种不同类型的恶意应用
应用可见性和控制的重要作用
如何组合运用 NGFW 和 CASB 来保护现代企业