原文作者：由 McAfee Enterprise 的首席技术专家、云原生安全负责人 Vishwas Manral 撰写
译者：BlueDog
概述#
由于 OpenAI 发布了面向消费者的聊天机器人 ChatGPT，该机器人利用生成式人工智能技术，大型语言模型（LLMs）引起了广泛关注。ChatGPT 对企业和公司产生了巨大影响，开源人工智能生态系统也同样如此
云服务提供商一直处于领先地位，微软 Azure 通过其平台和认知服务提供 OpenAI API，并在其平台内集成其他 OpenAI 平台。谷歌创建了一个名为 Bard 的类似 ChatGPT 的聊天机器人，并通过其 Vertex AI 平台提供生成式人工智能功能。亚马逊也与其 SageMaker 平台合作
虽然我们还处于人工智能的早期阶段，但有一点是清楚的：云计算是生成式人工智能平台的支柱。企业和公司将在云上使用并创建大部分他们的生成式人工智能应用程序
基础内容#
在我们进一步深入之前，让我们先了解一些基本术语
人工智能 - AI是机器模仿智能人类行为的能力。像 “苹果 Siri” 或 “亚马逊 Alexa” 这样的聊天机器人被认为是人工智能，它们可以用人类的声音进行对话
机器学习 - ML是应用于 AI 的一种方法，它帮助我们从经验中学习和改进。它是计算机科学的一个学科，使用计算机算法和分析来构建预测模型以解决业务问题
深度学习是机器学习的一个子集，涉及到受到人脑结构和功能启发的算法。深度学习算法可以处理大量结构化和非结构化数据。深度学习的关键点在于表示性学习，即自动地学习特征，并且每个层次都会创建更抽象、综合性更强的数据表示
生成对抗网络 - GANs是通过将问题框定为具有两个子模型（生成模型和判别模型）之间监督式训练问题而巧妙地训练生成模型的方法：我们训练生成器模型来生成新样本，并且判别器模型试图将样本分类为真实领域中的样本还是生成的（虚假的）。
生成式人工智能是一类用于创建新内容的 AI 模型和工具。它使用诸如 GANs 和变换器（Transformer）模型等机器学习技术，从大规模数据集中学习并生成独特的输出
AI 服务提供商 - AISP是一种为用户提供 AI 服务的实体，帮助他们构建 AI 应用程序。这些实体可以是云提供商，如 AWS、GCP 和 Azure，也可以是其他专业提供商
AI 服务使用者 - AISU是使用 AISP 提供的服务来为用户构建 AI 应用程序的实体。这些实体通常是企业、中小型企业、初创公司甚至个人开发者
大型语言模型 - LLM是基于深度学习的语言模型，在大量语言数据上进行训练。这些语言能够产生类似人类的语言输出，并执行复杂的自然语言处理任务
提示机制使得用户 / 软件可以使用自然语言与生成式 AI 模型交互。它由给出指令组成，以便要求生成式 AI 提供所需输出
接地化过程为生成式 AI 模型提供上下文信息，强制其根据上下文回答而不会产生幻觉。通过访问客户特定数据来进行接地化有助于生成具有相关背景信息响应
检索增强接地化 - RAG是一种知识接地化形式。它采用微调配方将预先训练好的模型数据与附加上下文相结合
共担责任模型#
NIST 800-145 定义了云服务的服务模型，包括 IaaS、SaaS 和 PaaS。这些模型已经发展并衍生出许多更多的服务模型。以下是演变后的共享责任模型链接，其中包括容器即服务和无服务器
随着生成式人工智能应用程序在云上构建，共享责任模型也可以扩展到生成式人工智能应用程序
生成式人工智能应用#
生成式人工智能应用可分为基础设施即服务（IaaS）、平台即服务（PaaS）和软件即服务（SaaS）
IaaS 应用案例#
对于生成式人工智能 IaaS 应用，AISUs 选择基础模型并使用自有专利数据进行训练。应用程序使用已经训练好的模型，并向用户提供访问权限。这些主要是针对关键商业应用程序，如 BloombergGPT、Einstein GPT 和 Intuit GenOS 等公司为满足客户需求而创建的应用程序
PaaS 应用案例#
AISUs 正在使用 Azure OpenAI (或 Google Vertex AI APIs) 等服务创建 PaaS 应用。 AISPs 将已经训练好的模型托管在租户自己的基础架构中。使用生成式人工智能非常类似于专门的 API 调用，适合大量由 AISUs 构建其应用程序所采取的模型
SaaS 应用案例#
现在有很多现有 SaaS 应用包括了生成式人工智能功能。像 Microsoft365、ServiceNow 和 Salesforce 这样知名企业级应⽤都具备了生成式人⼯智能功能。所有与 AISUs 相关联的模型、培训和理解都不会被暴露。还有一些类似于 ChatGPT 的应用程序正在构建，这些应用程序专注于生成式人工智能。企业需要能够检测到这些影子应用程序，并找到保持其使用安全的方法
生成式人工智能共享责任模型#
AI 应用的安全和合规责任由 AI 服务用户、企业（应用程序所有者 ）和 AI 服务提供商共同承担。这种共享责任模型有助于划分并明确职责分工，使新的 AI 应用能够更快地创建和部署，同时保持安全性和合规性
IaaS 职责#
对于 IaaS 应用程序，包括 GPU、训练或推理基础设施的基础架构由 AISPs 提供。 AISU 负责物理和虚拟基础架构的安全性。 AISPs 可以提供经过策划的 AI 基础模型或预训练模型。使用任何开源或专有数据语料库，AISUs 可以对模型进行培训和调整。选择模型谱系和相关性是 AISU 的责任。需要通过 AISU 验证用于培训模型的数据语料库及其渊源和安全性需求。该模型由 AISU 托管以进行推理处理。当应用程序运行时，所有提示过滤和接地（上下文回答）都由 AISU 提供支持。提示控制、应用程序安全 / 知识产权（IP）以及版权等方面均由 AISU 本身处理
PaaS 职责#
对于 PaaS 应用程序，基础架构以及预先训练好的模型均由 AISP 提供支持。该模型所依赖数据集合与其安全性是 AISP 的职责范畴内 。该模型由 AISP 自行托管。如果一个模型是针对特定任务进行 训练的，则 AISP 可以在用户特定的上下文中进行一些接地，而 AISU 则负责其他方面。应用程序安全 / 知识产权（IP）和版权等方面均由 AISU 本身处理
SaaS 职责#
对于 SaaS 应用程序，LLM 模型被从 AISU 中抽象出来，并由 AISP 负责。SaaS 应用程序使用在 SaaS 应用程序内的用户特定上下文以及从其他应用获取的其他数据来接地该模型。应用程序安全性、大部分提示过滤和 IP 过滤都是 AISUs 的职责范畴内
结论#
虽然 AI 服务模型将会不断发展，共担责任也会随之变化，但本文试图提供一些早期术语和框架，以帮助清晰划分 AI 服务提供商和 AI 服务用户的职责范围，使他们能够独立快速地工作