什么是 Azure OpenAI 服务？

向蓝

马上注册，领取全豆号（服务市场）新人礼包。

您需要登录才可以下载或查看，没有帐号？立即注册

x

本文内容

Azure OpenAI 服务允许通过 REST API 访问 OpenAI 的强大语言模型，包括 GPT-3、Codex 和 Embeddings 模型系列。此外，新的 GPT-4 和 ChatGPT (gpt-35-turbo) 模型系列现已正式发布。这些模型可以轻松适应特定的任务，包括但不限于内容生成、汇总、语义搜索和自然语言到代码的转换。用户可以通过 REST API、Python SDK 或 Azure OpenAI Studio 中基于 Web 的界面访问该服务。

功能概述
[td]

功能	Azure OpenAI
可用的模型	全新 GPT-4 系列 GPT-3 基本系列全新 ChatGPT (gpt-35-turbo) Codex 系列 Embeddings 系列在[color=var(--theme-hyperlink)]模型页中了解详细信息。
微调	Ada Babbage Curie Cushman Davinci 微调目前对新客户不可用。
价格	[color=var(--theme-hyperlink)]此处提供
虚拟网络支持和专用链接支持	是
托管标识	是，通过 Azure Active Directory
UI 体验	用于帐户和资源管理的 Azure 门户用于模型探索和微调的 Azure OpenAI Service Studio
区域可用性	美国东部美国中南部西欧法国中部
内容筛选	使用自动化系统根据内容策略评估提示和完成情况。将筛选高严重性内容。

负责任的 AI

Microsoft 致力于遵照“以人为本”的原则推动 AI 的进步。生成性模型（例如 Azure OpenAI 中提供的模型）提供显著的潜在优势，但如果不经过精心设计和采用全方位的缓解措施，此类模型有可能会生成错误甚至有害的内容。 Microsoft 已做出大量投资来帮助防范滥用和意外损害，其中包括要求申请人展示妥善定义的用例、融入 Microsoft 的负责任 AI 使用原则、生成内容筛选器以支持客户，并向已加入的新客户提供负责任 AI 实施指导。

如何访问 Azure OpenAI？

如何访问 Azure OpenAI？

由于需要应对很高的需求、即将推出的产品改进以及履行 [color=var(--theme-hyperlink)]Microsoft 对负责任 AI 做出的承诺，我们目前会限制访问。当前，我们正在与已经同 Microsoft 建立了合作关系的客户、用例风险较低的客户以及承诺融入缓解措施的客户合作。

申请表单中包含了更具体的信息。感谢你们的耐心，我们将努力以负责的态度实现 Azure OpenAI 的更多样化访问方式。

在此处申请访问：

“立即申请”

比较 Azure OpenAI 和 OpenAI

Azure OpenAI 服务通过 OpenAI GPT-4、GPT-3、Codex 和 DALL-E 模型为客户提供高级语言 AI，并能够实现 Azure 的安全性和企业前景。 Azure OpenAI 与 OpenAI 共同开发 API，确保兼容性的同时能够实现二者之间的平稳过渡。

使用 Azure OpenAI，客户可在运行与 OpenAI 相同的模型时获得 Microsoft Azure 的安全功能。 Azure OpenAI 提供专用网络、区域可用性和负责任 AI 内容筛选功能。

关键概念
提示和补全

补全终结点是 API 服务的核心组件。此 API 提供对模型的文本输入、文本输出接口的访问。用户只需提供一个包含英文文本命令的输入提示，模型就会生成文本补全。

下面是一个简单的提示和补全的示例：

提示：""" count to 5 in a for loop """
补全：for i in range(1, 6): print(i)

令牌

Azure OpenAI 通过将文本分解为标记来处理文本。标记可以是单词，也可以是字符块。例如，单词“hamburger”将分解为标记“ham”、“bur”和“ger”，而“pear”之类的常见短单词只是一个单个标记。许多标记以空格开头，例如“ hello”和“ bye”。

给定请求中处理的标记总数取决于输入、输出和请求参数的长度。处理的标记数量也会影响模型的响应延迟和吞吐量。

资源

Azure OpenAI 是 Azure 上的一个新产品。可以在 Azure 订阅中像使用任何其他 Azure 产品一样通过[color=var(--theme-hyperlink)]创建资源或服务实例开始使用 Azure OpenAI。可以阅读有关 Azure 的[color=var(--theme-hyperlink)]资源管理设计的详细信息。

部署

创建 Azure OpenAI 资源后，必须先部署模型，然后才能开始发出 API 调用和生成文本。可以使用部署 API 来完成此操作。这些 API 允许指定要使用的模型。

上下文学习

Azure OpenAI 使用的模型使用生成调用期间提供的自然语言指令和示例来识别请求的任务和所需的技能。使用此方法时，提示的第一个部分包括自然语言指令和/或所需特定任务的示例。然后，模型通过预测概率最高的下一段文本来完成任务。这种技术称为“上下文”学习。在此步骤中不会重新训练这些模型，而是根据你在提示中包含的上下文做出预测。

上下文学习有三种主要方法：少样本学习、单样本学习和零样本学习。这些方法根据提供给模型的任务特定数据量而异：

少样本学习：在这种情况下，用户在调用提示中包含几个示例来演示预期的答案格式和内容。以下示例显示了几个提示，我们在其中提供了多个示例（模型将生成最后一个答案）：

[backcolor=var(--theme-code-header)][size=0.8]复制[color=var(--theme-success-invert) !important][backcolor=var(--theme-success-base) !important][size=1.125]

Convert the questions to a command: Q: Ask Constance if we need some bread. A: send-msg `find constance` Do we need some bread? Q: Send a message to Greg to figure out if things are ready for Wednesday. A: send-msg `find greg` Is everything ready for Wednesday? Q: Ask Ilya if we're still having our meeting this evening. A: send-msg `find ilya` Are we still having a meeting this evening? Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday. A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday? Q: Thank Nicolas for lunch. A: send-msg `find nicolas` Thank you for lunch! Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting. A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move. Q: Tell John that I need to book an appointment at 10:30. A:

示例数量通常为 0 到 100 个，具体取决于单个提示的最大输入长度可以容纳多少个示例。最大输入长度可能因使用的特定模型而异。少样本学习可以大大减少准确进行预测所需的任务特定数据量。此方法的准确度通常不如微调的模型。

单样本学习：这种情况与少样本学习方法相同，不过只提供了一个示例。

零样本学习：在这种情况下，未向模型提供任何示例，而只提供了任务请求。

模型

该服务为用户提供对多种不同模型的访问。每种模型提供不同的功能和价位。

GPT-4 模型是最新的可用模型。由于需求较高，目前只能通过请求来访问此模型系列。要请求访问权限，现有的 Azure OpenAI 客户可以[color=var(--theme-hyperlink)]通过填写此表单来提出申请

GPT-3 基础模型按功能降序和速度升序顺序分别称为 Davinci、Curie、Babbage 和 Ada。

Codex 系列模型是 GPT-3 的后代，并且已基于自然语言和代码进行训练，可为自然语言到代码用例提供支持。在[color=var(--theme-hyperlink)]模型概念页上详细了解每个模型。

后续步骤

详细了解为 Azure OpenAI 提供支持的基础模型。