如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

成本优化

了解 GPT-Live 和 Realtime API 如何计量语音用量,以及如何管理成本。

选择您使用的 API,了解其用量计量方式,以及管理语音应用成本的方法。

GPT-Live 用量与成本

GPT-Live 将语音对话与负责推理和运行工具的后端分开。请分别估算这两部分成本:语音会话费用取决于会话时长,后端费用取决于您使用的模型和工具。

语音会话费用

GPT-Live 语音会话按活跃费率和待机费率逐秒计费。

活跃时长包括用户或助手说话的时间、达到空闲超时前的静默时间,以及推理仍在运行时等待后端处理的时间。如果 WebRTC 会话已配置待机模式,则在推理暂停期间按待机费率计费。将麦克风输入静音后,会话仍处于活跃状态。对话结束后,请关闭会话并收集最终用量。

后端模型和工具的价格请参阅 API 定价。

WebRTC 初始化费用

采用默认启动方式时,通过 POST /v1/live/sessions 创建 WebRTC 会话会在初始化期间先收取 15 秒的语音费用。会话开始运行后,这笔费用会抵扣会话的时长费用。估算成本时,请勿在会话运行时长上再加 15 秒。

例如,活跃时长为 90 秒的会话已经包含初始化时计费的 15 秒。如果应用需要重新连接,或在用户准备好说话之前就创建会话,请在估算成本时计入创建会话的费用。

后端费用

与不提供语音功能的应用一样,后端调用单独计费,与语音会话费用分开计算。请计入模型的输入和输出 Token、模型支持的缓存输入,以及适用的图像或工具费用。如果您的应用还调用其他服务,也请计入这些服务的费用。

您可以单独优化后端处理。参照通用的成本优化指南,减少请求次数和 Token 用量。对于支持提示词缓存的后端模型,请将可复用的指令、工具定义及其他稳定内容放在提示词开头,以便利用缓存。

后端方案也可能影响对话时长。如果某项优化延长了用户的等待时间,或影响了助手完成任务的可靠性,请比较优化前后的总成本。

估算对话成本

将活跃分钟数乘以活跃费率,待机分钟数乘以待机费率,两项相加即可估算语音费用。例如,如果一次通话有 60 秒处于活跃状态、30 秒处于待机状态,则按活跃费率计算 1 分钟的费用,按待机费率计算半分钟的费用。将这两项费用与后端模型和工具费用相加,即可得到总成本。如果任务跨越多个会话,还要计入会话之间的后端处理费用。

优化策略

帮助用户减少不必要的交谈和等待,更快地完成任务,同时保留任务所需的确认和检查步骤。

在会话开始前提供相关上下文

启动语音会话前,先收集应用已获准使用的信息。例如,处理订单问题的助手可以预先获取订单号和当前状态,让用户无需重复提供这些信息或等待再次查询。

确保上下文及时更新,并且与当前任务相关。向语音模型提供对话所需的信息,将详细记录和工作流保留在后端。请参阅会话配置和委派与工具。

缩短等待工具返回结果的时间

缩短等待时间既能改善用户体验,也能降低语音会话费用。例如,假设您的后端使用 gpt-5.6-luna 的快速模式,并行执行彼此独立的工具调用。如果这些优化让用户提前一分钟完成任务并关闭语音会话,就能节省一分钟的语音费用。只要新增的后端费用低于节省的语音费用,总成本就会下降。

您还可以在收到委派事件之前,根据转写片段提前发起推测性查询。统计后端费用时,即使某次推测性查询的结果最终没有用到,也要计入其费用。

有关模型、连接、流式传输和工具的优化方法,请参阅降低后端延迟。通过语音智能体评估验证用户需要等待多久才能听到有用的答复,以及任务能否成功完成。

在执行耗时任务期间关闭会话

语音前端和由应用管理的后端可以独立运行。使用客户端委派时,无论语音会话处于打开还是关闭状态,后端工作进程都可以继续运行。请先保存任务状态和对话上下文,再关闭语音会话。

如果 WebRTC 通话需要在静默期间保持连接,请使用待机模式。如果需要在空闲时断开连接,请按关闭空闲会话并启动新会话中的步骤操作。

对于常驻智能体,当后端处理耗时任务(例如在目标模式下编写代码)时,请关闭语音会话。您可以提供恢复对话按钮,让用户返回时启动新的语音会话,也可以在后端发出任务完成事件时启动新会话,并通知用户结果已就绪。

要恢复对话,请启动新会话,并在 input 中提供已保存的上下文和经过验证的任务结果。例如,通过新的 WebSocket 连接发送以下启动事件:

{
  "type": "session.start",
  "session": {
    "model": "gpt-live-1",
    "instructions": "Help the user review completed work and delegate follow-up tasks.",
    "input": [
      {
        "type": "message",
        "role": "developer",
        "content": [
          {
            "type": "input_text",
            "text": "Saved task: add CSV export. Result: code is ready for review."
          }
        ]
      }
    ],
    "delegation": { "type": "client" }
  }
}

请等到收到 session.started 事件后,再开始流式传输音频。有关支持的历史记录格式,请参阅使用已有对话初始化会话。

如果之前的会话已通过 store: true 保存,您也可以从该会话派生新会话。无论采用哪种方式,都请在应用中保留经过验证的后端任务状态。

关闭会话后,语音计费即停止。请权衡节省的费用、重新连接的成本,以及中断对用户对话的影响。

选择合适的后端模型

先筛选满足任务准确性和可靠性要求的模型,再比较对话总成本,包括语音时长、模型用量、工具调用和重试产生的费用。模型选择指南介绍了如何权衡这些因素。

如果较大的后端模型能更快地完成任务,节省的语音会话费用又超过了额外的 Token 费用,那么总成本反而可能更低。如果价格较低的模型耗时更长、重复调用工具或无法完成任务,总成本反而可能更高。

比较方案时,请同时考察每成功完成一项任务的成本、任务完成率和完成所需的时间。将失败的尝试和重试计入总成本,以免某个低价配置仅仅因为完成的任务较少,就显得更划算。设计对比评估时,请参阅 Cookbook 中的语音智能体评估示例。

监控实际用量

对于每个会话,请分别记录语音时长和后端用量。GPT-Live 以秒为单位报告累计语音用量:

{
  "type": "session.usage.updated",
  "event_id": "event_usage_1",
  "usage": { "seconds": 12 },
  "context_window": { "usage_ratio": 0.42 }
}

每次更新都会替换上一次报告的累计用量。请勿将各次快照的用量相加。发送 session.close 后,请继续接收事件,直到收到 session.closed,并将其中的最终 usage.seconds 记录一次。请按正常关闭会话的流程操作,以便应用在断开连接前收集最终用量。

使用 Responses 委派时,后端响应的 usage 字段位于嵌套的 response.completed 事件中。请通过 response.event 接收这些事件并读取该字段。请按响应 ID 去重,每个后端响应只统计一次,并保留输入、输出和缓存 Token 的用量明细,以便按该模型的费率计算费用。对于应用独立执行的后端任务,也请收集相应请求的用量。

选取有代表性的对话,比较估算总成本与实际总成本。将仅用于评估的模型调用与应用用量分开统计,并结合任务成功情况评估成本。