生成人工智能工具，如ChatGPT或Bard，与大型语言模型(LLM)一起工作，并在企业环境中越来越多地使用。对于组织来说，要利用大型语言模型(LLM) 的潜力，还要能管理隐藏其中的安全风险。

ChatGPT和其他生成人工智能工具与LLM一起工作。通过使用人工神经网络来处理大量的文本数据。在学习了单词之间的模式以及在上下文中的使用方式后，模型就能够用自然语言与用户进行交互。

LLM支持的生成人工智能模型，如ChatGPT等聊天机器人中使用的模型，就像超级搜索引擎一样，使用经过训练的数据来回答问题，并模仿人类语言模式完成任务。无论是公开可用的模型，还是组织内部使用的模型，基于LLM的生成人工智能都可能使公司面临某些安全和隐私风险。

LLM 的 5 大风险

1. 共享敏感数据

基于LLM的聊天机器人不擅长保守秘密。这意味着输入的任何数据都可以被模型吸收并提供给其他人，或者至少用于训练未来的LLM模型。

2. 版权问题

LLM是由大量的数据形成的。但这些信息通常是在未经内容所有者明确许可的情况下从互联网上提取的。如果使用可能会导致版权问题。当前的问题是，有些特定训练数据的原始来源很难找到，这也增加了解决版权问题的困难。

3. 不安全的代码

开发者越来越多地转向ChatGPT和类似的工具来加快产品研发。从理论上讲，它可以帮助快速有效地生成代码片段甚至完整的软件程序。然而，安全专家警告称，这也会产生漏洞。如果开发人员缺乏足够的知识来寻找错误，将带来潜在的安全威胁。如果有缺陷的代码进入到生产中，可能会对声誉造成严重影响，并且需要时间和金钱来修复问题。

4. 破解 LLM 本身

未经授权的LLM访问和操作可能为执行恶意活动提供许多选项，例如通过命令注入攻击让模型泄露敏感信息，或执行其他本应被阻止的操作。其他攻击可能涉及利用LLM服务器上的服务器端请求伪造(SSRF)漏洞，这将允许攻击者提取内部资源。威胁行为者甚至可以找到一种与敏感系统和资源交互的方法，只需通过自然语言提示发送恶意命令。为了提高人们对LLM应用程序漏洞的认识，OWASP基金会最近发布了一份清单，列出了这些应用程序中常见的10个关键安全漏洞。

5. 人工智能提供商的数据泄露

开发人工智能模型的公司总有可能遭遇安全漏洞，例如，网络攻击者可能会窃取包含敏感信息的训练数据。

该如何应对?

数据加密和匿名化：在与LLM共享数据之前加密数据，以保护数据不被窥探，考虑匿名技术，以保护可能在数据集中被识别的个人隐私。数据清理可以达到同样的目的，在将训练数据引入模型之前，从训练数据中删除敏感细节。

包含增强的访问控制：强密码、多重身份验证 (MFA) 和最低特权策略将有助于确保只有经过授权的个人才能访问生成式 AI 模型和后端系统。

定期进行安全审计：有助于发现 IT 系统中的漏洞，这些漏洞可能会影响 LLM 及其所基于的生成式 AI 模型。

实践事件响应计划：一个可靠的、经过精心演练的计划将有助于组织快速响应，以遏制、补救任何违规行为并从中恢复。

把控LLM供应商：与任何供应商一样，确保提供LLM的公司遵循数据安全和隐私方面的行业实践很重要。确保清楚地告知用户数据在哪里被处理和存储，以及它们是否被用于训练模型。它们能保存多久?它们是否与第三方共享?用户可以选择他们的数据不用于培训吗?

确保开发人员遵循严格的安全准则：如果开发人员使用 LLM 生成代码，需要确保他们遵守策略，例如安全测试和同行评审，以降低错误潜入生产环境的风险。

参读来源：

https://www.welivesecurity.com/es/seguridad-corporativa/ai-seguridad-privacidad-grandes-modelos-linguisticos/