应用程序和智能体会在整个工作流中做出许多小决策:如何对输入进行分类、将请求路由到哪里,或接下来采取哪个行动。单独来看,它们很简单。但在规模化时,它们的延迟和成本会累积起来。
今天,我们宣布 Decisions API 正式可用。Decisions API 基于 GPT‑6 Luna 构建,将 Luna 的智能聚焦于答案范围有限的问题,帮助应用和智能体根据文本、图像和结构化输入做出近实时决策,并通过 Responses API,最高可比 GPT‑6 Luna 快 10 倍。
自公开测试版以来,我们新增了原生 GPT‑Live 集成、针对复用上下文的提示缓存,以及在美国和欧盟的推理驻留。开发者还可以传入原生 JSON 输入、在问题指令中包含图像,并且每次请求最多可提出 400 个问题,是之前上限的两倍。我们还持续改善延迟,包括在亚洲多个地区增加容量。
团队如何使用 Decisions API
Decisions 的早期采用已表明其在各种用例中的适用性。
在 OpenAI 内部,各团队正在将 Decisions API 应用于产品和业务工作流程中。dots 团队正在使用它来缩短响应时间并提升交互性。我们的个人理财团队正在使用它对交易描述进行分类,而我们的传播团队正在使用 Decisions 按主题对报道进行分类,并评估其是强化还是挑战关键叙事——帮助识别哪些内容值得进一步审查。
这些早期示例展示了快速、结构化的决策如何将传入信息转化为有用的行动,覆盖广泛的使用场景。客户也同样广泛地应用 Decisions API,从准确归因 AI 成本到让语言学习体验更具互动性。
选择你的应用程序所需的决策类型
使用 Decisions API 很简单:开发者定义一个问题和其允许的答案,然后以文本、图像或原生 JSON 形式提供上下文。该 API 返回三种支持的答案类型之一——概率、选择或分数——应用程序可用这些来确定接下来会发生什么。答案类型的多样性使 Decisions 能够适用于各种广泛的用例。
Decisions API 支持三种答案类型:
主要结果
估计某个条件为真的概率,例如产品是否有可见损坏。
概率:条件为真的估计值,范围为0到1。
选择一个预定义选项,例如代理应继续、重试还是请求澄清。
选择:你提供的值之一。响应还包括概率和置信度。
根据评分标准中的有序等级对输入进行评级,例如损坏的严重程度。
得分:等级指数的概率加权平均值。
使用 Decisions API 和 GPT‑Live 构建实时语音体验
借助 GPT‑Live,你可以为语音应用带来自然、富有表现力的对话体验,并通过流畅的打断处理让对话保持连贯。Decisions API 现在与 GPT‑Live 原生集成(在新窗口中打开),帮助应用在实时对话中做出快速、有针对性的决策。客服坐席可以决定是提出澄清性问题、转接请求,还是升级问题。虚拟形象可以在用户对其说话时调整面部表情,并根据用户的话语以眨眼或微笑作出回应,从而打造更具互动性的体验。
下面的示例使用转录更新来选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话中的 session.triggers。
Live 会发出 decision.event;应用程序读取所选反应,并据此为角色播放动画。详细了解如何将语音连接到 Decisions API。(在新窗口中打开)
亲自试用搭载 GPT‑Live 的 Decisions
表达式面板
轻点一个表情即可预览。
实时决策
观看 Decisions API 如何根据你们每个人说的话选择面部表情。
说话时注意反应。
助手的话
当助手回复时,注意观察面部。
我为我的猫排练了试镜。她中途走了出去。
本演示有时间限制。使用本演示即表示您同意 OpenAI 的条款,并确认我们的隐私政策。
构建并评估你的第一个决策
Decisions API 今日起正式可用,可通过专用的 Decisions 端点使用 GPT‑6 Luna。请查看定价和可用性指南(在新窗口中打开),了解当前费率和缓存详情。
从你的应用经常做出的一个反复出现的决策开始。定义问题、可能的答案,以及区分它们所需的上下文。在 Decisions Playground(在新窗口中打开)中,用你自己的文本或图像,在反映真实使用的示例上测试它,或者按照开发者指南(在新窗口中打开)发出你的第一个请求。
Decisions API 每百万输入 token 收费 0.10 美元。缓存输入每百万 token 收费 0.01 美元。有关 30 分钟和 12 小时缓存写入,请阅读我们的定价指南。(在新窗口中打开) 您只需为输入 token 付费:不收取输出 token 费用。区域处理可在美国和欧盟使用,符合条件的客户可使用零数据保留(在新窗口中打开)。有关详情,请参阅定价和缓存(在新窗口中打开)以及数据控制 (在新窗口中打开)。