Azure OpenAI Service 提供对 OpenAI 强大语言模型(包括 GPT-3、Codex 和 Embeddings 模型系列)的 REST API 访问。此外,新的GPT-4和ChatGPT(gpt-35-turbo)模型系列现已正式上市。这些模型可以轻松适应您的特定任务,包括但不限于内容生成、摘要、语义搜索和自然语言到代码的翻译。用户可以通过 REST API、Python SDK 或我们在 Azure OpenAI Studio 中基于 Web 的界面访问该服务。
功能概述
特征 | Azure OpenAI |
---|---|
可用型号 | 新 GPT-4 系列 GPT-3 基础系列 新查特 (gpt-35-涡轮增压) 法典系列 嵌入系列 在我们的模型页面了解更多信息。 |
微调 | Ada Babbage Curie Cushman Davinci 微调目前不适用于新客户。 |
价格 | 可在此处获得 |
虚拟网络支持和专用链接支持 | 是的 |
托管标识 | 是的,通过 Azure Active Directory |
用户界面体验 | Azure Portal 用于帐户和资源管理, Azure OpenAI Service Studio 用于模型探索和微调 |
区域可用性 | 美国东部 中南部 美国
西欧 |
内容过滤 | 使用自动化系统根据我们的内容政策对提示和完成进行评估。将筛选高严重性内容。 |
负责任的人工智能
在 Microsoft,我们致力于以以人为本的原则推动 AI 的发展。生成模型(例如 Azure OpenAI 中提供的模型)具有显著的潜在优势,但如果没有仔细的设计和深思熟虑的缓解措施,此类模型可能会生成不正确甚至有害的内容。Microsoft 已进行大量投资来帮助防止滥用和意外伤害,其中包括要求申请人展示定义明确的用例、纳入 Microsoft 负责任地使用 AI 的原则、构建内容筛选器以支持客户,以及向已加入的客户提供负责任的 AI 实施指南。
如何访问 Azure OpenAI?
如何访问 Azure OpenAI?
目前,由于我们了解高需求、即将推出的产品改进以及微软对负责任 AI 的承诺,访问受到限制。目前,我们正在与与 Microsoft 建立合作伙伴关系的客户、风险较低的用例以及致力于合并缓解措施的客户合作。
申请表中包含更具体的信息。我们感谢您的耐心等待,因为我们努力负责任地实现对 Azure OpenAI 的更广泛访问。
Apply here for access:
Comparing Azure OpenAI and OpenAI
Azure OpenAI Service gives customers advanced language AI with OpenAI GPT-4, GPT-3, Codex, and DALL-E models with the security and enterprise promise of Azure. Azure OpenAI co-develops the APIs with OpenAI, ensuring compatibility and a smooth transition from one to the other.
With Azure OpenAI, customers get the security capabilities of Microsoft Azure while running the same models as OpenAI. Azure OpenAI offers private networking, regional availability, and responsible AI content filtering.
关键概念
提示和完成
完成终结点是 API 服务的核心组件。此 API 提供对模型的文本输入、文本输出接口的访问。用户只需提供包含英文文本命令的输入提示,模型就会生成文本补全。
下面是一个简单的提示和完成的示例:
提示:
""" count to 5 in a for loop """
完成:
for i in range(1, 6): print(i)
令 牌
Azure OpenAI 通过将文本分解为令牌来处理文本。标记可以是单词,也可以只是字符块。例如,单词“汉堡包”被分解为标记“ham”,“bur”和“ger”,而像“梨”这样的简短而常见的单词是单个令牌。许多标记以空格开头,例如“hello”和“bye”。
给定请求中处理的令牌总数取决于输入、输出和请求参数的长度。正在处理的令牌数量也会影响模型的响应延迟和吞吐量。
资源
Azure OpenAI是Azure上的新产品。你可以像在 Azure 订阅中创建资源或服务实例的任何其他 Azure 产品一样开始使用 Azure OpenAI。可以阅读有关 Azure 资源管理设计的详细信息。
部署
创建 Azure OpenAI 资源后,必须先部署模型,然后才能开始进行 API 调用和生成文本。可以使用部署 API 完成此操作。这些 API 允许您指定要使用的模型。
上下文学习
Azure OpenAI 使用的模型使用生成调用期间提供的自然语言指令和示例来确定所请求的任务和所需的技能。使用此方法时,提示的第一部分包括自然语言指令和/或所需特定任务的示例。然后,模型通过预测最可能的下一段文本来完成任务。这种技术被称为“上下文中”学习。在此步骤中,不会重新训练这些模型,而是根据提示中包含的上下文提供预测。
上下文学习主要有三种方法:少镜头、单镜头和零镜头。这些方法因提供给模型的任务特定数据量而异:
少数镜头:在这种情况下,用户在呼叫提示中包含几个示例,这些示例演示了预期的应答格式和内容。以下示例显示了一个几个镜头提示,其中我们提供了多个示例(模型将生成最后一个答案):
Convert the questions to a command:
Q: Ask Constance if we need some bread.
A: send-msg `find constance` Do we need some bread?
Q: Send a message to Greg to figure out if things are ready for Wednesday.
A: send-msg `find greg` Is everything ready for Wednesday?
Q: Ask Ilya if we're still having our meeting this evening.
A: send-msg `find ilya` Are we still having a meeting this evening?
Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday.
A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday?
Q: Thank Nicolas for lunch.
A: send-msg `find nicolas` Thank you for lunch!
Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting.
A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move.
Q: Tell John that I need to book an appointment at 10:30.
A:
示例数通常介于 0 到 100 之间,具体取决于单个提示的最大输入长度可以容纳多少个示例。最大输入长度可能因您使用的特定型号而异。少样本学习可以大大减少准确预测所需的特定于任务的数据量。此方法通常不如微调模型准确。
单镜头:这种情况与少数镜头方法相同,只是只提供了一个示例。
零镜头:在这种情况下,不会向模型提供任何示例,而只会提供任务请求。
模型
该服务为用户提供对几种不同模型的访问权限。每种型号都提供不同的功能和价格点。
GPT-4 型号是最新的可用型号。由于需求量大,目前只能应要求提供该型号系列。若要请求访问权限,现有 Azure OpenAI 客户可以通过填写此表单进行申请
GPT-3 基本模型被称为达芬奇、居里、巴贝奇和阿达,按能力递减顺序和速度递增顺序排列。
Codex 系列模型是 GPT-3 的后代,并经过自然语言和代码训练,以支持自然语言到代码用例。在我们的模型概念页面上了解有关每个模型的更多信息。
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun230955.html