如需查看完整的文档索引,请参阅 llms.txt。在文档页面的 URL 末尾加上 .md 即可查看该页面的 Markdown 版本。
主导航
主题

推理模型最佳实践

了解何时使用推理模型,以及它们与 GPT 模型有何区别。

OpenAI 提供两类模型:推理模型(如 o3 和 o4-mini)和 GPT 模型(如 GPT-4.1)。这两个系列的模型在处理任务时表现各有不同。

本指南介绍:

  1. 推理模型与非推理型 GPT 模型的区别
  2. 何时使用推理模型
  3. 如何为推理模型编写有效的提示词

进一步了解推理模型及其工作原理。

推理模型与 GPT 模型的区别

o 系列模型与 GPT 模型擅长的任务不同,适用的提示词也不同。两个系列各有所长,没有绝对的优劣之分。

我们在训练 o 系列模型时,将它们定位为“规划者”,让它们花更多时间深入思考复杂任务。因此,它们擅长制定策略、为复杂问题规划解决方案,以及根据大量含义不明确的信息做出决策。这些模型执行任务时也能做到准确而精细,因此非常适合数学、科学、工程、金融服务和法律服务等通常需要人类专家参与的领域。

GPT 模型则是“执行主力”,专为直接执行任务而设计,延迟更低,成本效益更高。应用可以使用 o 系列模型制定解决问题的策略,再使用 GPT 模型执行具体任务。当速度和成本比追求完全准确更重要时,这种分工尤其合适。

如何选择模型

在您的使用场景中,哪些因素最重要?

  • 速度和成本 → GPT 模型速度更快,成本通常也更低
  • 执行定义明确的任务 → GPT 模型擅长处理要求明确的任务
  • 准确性和可靠性 → o 系列模型能够做出可靠的决策
  • 解决复杂问题 → o 系列模型能够理清模糊信息,处理复杂情况

如果您在完成任务时最看重速度和成本,并且使用场景中的任务简单直接、要求明确,那么 GPT 模型最适合您。如果您最看重准确性和可靠性,并且需要分多个步骤解决一个非常复杂的问题,那么 o 系列模型可能更适合您。

大多数 AI 工作流会结合使用两类模型:由 o 系列模型负责智能体的规划和决策,由 GPT 系列模型执行任务。

GPT 模型与 o 系列模型协同处理任务

GPT-4o 和 GPT-4o mini 结合客户信息对订单详情进行初步分类,找出订单问题和适用的退货政策,再将这些信息一并传给 o3-mini,由它根据政策最终判断该订单能否退货。

何时使用推理模型

以下是我们在客户实践和 OpenAI 内部使用中观察到的一些成功做法。这些例子并未涵盖所有可能的使用场景,但可以为您测试 o 系列模型提供实际参考。

准备好使用推理模型了吗?前往快速入门 →

1. 处理要求不明确的任务

即使信息有限或零散,推理模型也很擅长根据简单的提示词理解用户意图,处理指令中交代不全的地方。遇到信息缺口时,推理模型往往会先提问确认,避免凭空猜测或自行补全信息。

“有了 o1 的推理能力,我们的多智能体平台 Matrix 在处理复杂文档时,能够给出内容全面、格式规范、细节充分的回答。例如,只需一个简单的提示词,Matrix 就能通过 o1 轻松找出信贷协议的限制性付款条款下可用的各项例外额度。以往的模型都达不到这样的表现。在针对内容密集的信贷协议设计的复杂提示词中,o1 在其中 52% 上给出的结果优于其他模型。”

—Hebbia,为法律和金融行业提供 AI 知识平台的公司

2. 从海量信息中找出关键细节

当您提供大量非结构化信息时,推理模型擅长理解这些信息,并从中只提取与问题最相关的内容来作答。

“为了分析一起公司收购案,o1 审阅了数十份公司文件,包括合同和租约,以找出可能影响交易的棘手条件。我们让模型标出关键条款,它在脚注中发现了一条至关重要的‘控制权变更’规定:如果公司被出售,就必须立即偿清一笔 7500 万美元的贷款。o1 对细节的高度关注,让我们的 AI 智能体能够为金融专业人士找出业务中的关键信息。”

—Endex,AI 金融情报平台

3. 识别大型数据集中的关联和细微差别

我们发现,推理模型尤其擅长分析复杂文档,例如包含数百页密集非结构化信息的法律合同、财务报表和保险理赔材料。这些模型很擅长找出不同文档之间的相通之处,并根据数据中隐含的事实做出决策。

“税务研究需要综合多份文档,才能最终给出有说服力的答案。我们用 o1 替换 GPT-4o 后发现,o1 更善于分析文档之间的相互关系,得出合乎逻辑的结论,而这些结论单看任何一份文档都不明显。换用 o1 后,我们的端到端性能达到了原来的 4 倍,令人惊叹。”

—Blue J,税务研究 AI 平台

推理模型也擅长分析政策和规则中的细微之处,并将其应用到当前任务中,得出合理的结论。

“在财务分析中,分析师经常需要处理涉及股东权益的复杂情形,并理解其中的法律细节。我们用一个常见却很有挑战性的问题测试了不同提供商的约 10 个模型:融资会如何影响现有股东,特别是在股东行使反稀释权利时?回答这个问题,需要根据投前和投后估值进行推算,还要处理股权稀释计算中的循环依赖。即使是顶尖的金融分析师,也需要 20 至 30 分钟才能算清楚。我们发现,o1 和 o3-mini 都能准确无误地完成这项任务!模型甚至列出了一张清晰的计算表,展示融资对一名持股价值为 10 万美元的股东有何影响。”

—BlueFlame AI,投资管理 AI 平台

4. 为智能体规划多步任务

推理模型在智能体的任务规划和策略制定中发挥着关键作用。我们观察到的一种有效做法,是让推理模型担任“规划者”,为问题制定详细的分步解决方案,再根据每一步更看重模型能力还是低延迟,选择合适的 GPT 模型作为“执行者”,并向它分配任务。

“我们在智能体基础架构中使用 o1 进行规划,让它协调工作流中的其他模型,共同完成多步任务。我们发现,o1 很擅长选择数据类型,也善于把大问题拆成小问题,让其他模型能够专注于执行。”

—Argon AI,面向制药行业的 AI 知识平台

“在我们的办公 AI 助手 Lindy 中,许多智能体工作流都由 o1 驱动。模型通过函数调用从您的日历或电子邮件中获取信息,然后就能自动帮您安排会议、发送电子邮件和处理其他日常事务。我们把智能体工作流中以前容易出问题的步骤全部改用 o1,几乎一夜之间,智能体就很少再出错了!”

—Lindy.AI,办公 AI 助手

5. 视觉推理

目前,o1 是唯一支持视觉功能的推理模型。与 GPT-4o 相比,o1 的独特之处在于,即使是极难解读的视觉内容,例如结构不清晰的图表、表格或画质不佳的照片,它也能理解。

“我们为数百万件线上商品自动进行风险与合规审查,涉及仿制奢侈珠宝、濒危物种和受管制物质等。在我们最难的图像分类任务上,GPT-4o 的准确率达到了 50%。我们没有对处理流程做任何改动,o1 的准确率就达到了令人印象深刻的 88%。”

—SafetyKit,由 AI 驱动的风险与合规平台

在内部测试中,我们发现 o1 能从细节丰富的建筑图纸中识别固定装置和材料,生成完整的物料清单。最让我们惊讶的是,o1 能将不同图像中的信息联系起来:即使没有明确指令,它也能把一页建筑图纸上的图例正确应用到另一页。如下图所示,对于标注为“4x4 PT”的木柱,o1 根据图例识别出“PT”表示经过加压处理。

o 系列模型正确解读建筑图纸中的细节

6. 审查、调试代码并提升代码质量

推理模型在审查和改进大量代码时尤其有效。由于这些模型的延迟较高,代码审查通常在后台运行。

“我们在 GitHub 和 GitLab 等平台上提供自动化 AI 代码审查。代码审查本身对延迟并不敏感,但需要理解跨多个文件的代码差异。这正是 o1 的强项:它能够可靠地识别代码库中的细微改动,而人工审查时可能会漏掉这些改动。改用 o 系列模型后,我们的产品转化率达到了原来的 3 倍。”

—CodeRabbit,专注于 AI 代码审查的初创公司

GPT-4o 和 GPT-4o mini 延迟更低,可能更适合编写代码。不过,我们也发现,在对延迟稍不那么敏感的场景中,o3-mini 在代码生成方面表现突出。

“o3-mini 能稳定地生成高质量、切实解决问题的代码。只要问题定义明确,即使是非常棘手的编程任务,它也往往能得出正确的解决方案。其他模型可能只适合小范围、快速的代码迭代,而 o3-mini 擅长规划复杂软件系统并将设计付诸实现。”

—Windsurf,由 Codeium 开发、以智能体 AI 驱动的协作式 IDE

7. 对其他模型的回答进行评估和基准测试

我们也观察到,推理模型在对其他模型的回答进行基准测试和评估时表现良好。数据验证对于确保数据集的质量和可靠性十分重要,在医疗保健等敏感领域尤其如此。传统的验证方法使用预定义的规则和模式,而 o1 和 o3-mini 等先进模型可以理解上下文并对数据进行推理,使验证方式更加灵活、智能。

“许多客户在 Braintrust 上使用 LLM 担任评审,作为评估流程的一部分。例如,医疗保健公司可以先用 gpt-4o 这样的执行模型概括患者提出的问题,再用 o1 评估摘要的质量。Braintrust 的一位客户发现,将评审模型从 4o 换成 o1 后,F1 分数从 0.12 提升到了 0.74!在这些场景中,客户发现,面对最难、最复杂的评分任务,借助 o1 的推理能力,他们能更好地辨别模型回答之间的细微差异。”

—Braintrust,AI 评估平台

如何为推理模型编写有效的提示词

这些模型在提示词简单直接时表现最佳。有些提示词工程技巧,例如要求模型“逐步思考”,可能无法改善表现,有时甚至适得其反。请参阅下方的最佳实践,或从提示词示例入手。

  • 使用开发者消息代替系统消息:从 o1-2024-12-17 开始,推理模型支持使用开发者消息代替系统消息,以遵循模型规范中规定的指令优先级。
  • 保持提示词简单直接:这些模型擅长理解简短、清晰的指令,并据此作答。
  • 避免使用思维链提示词:这些模型会在内部进行推理,因此无需要求它们“逐步思考”或“解释推理过程”。
  • 使用分隔标记区分内容:使用 Markdown 标记、XML 标签或章节标题等清楚地划分输入内容,帮助模型正确理解各部分。
  • 先尝试零样本提示词,必要时再使用少样本提示词:推理模型通常无需示例就能得到良好的结果,因此请先尝试编写不带示例的提示词。如果您对输出的要求较复杂,可以在提示词中加入几个输入及对应预期输出的示例。请确保示例与提示词中的指令高度一致,两者有出入可能会影响效果。
  • 给出具体要求:如果您希望对模型的回答施加特定限制,例如“提出一个预算低于 500 美元的方案”,请在提示词中明确写出这些限制。
  • 明确具体的最终目标:在指令中尽量写明什么样的回答才算达标,并鼓励模型持续推理和迭代,直到满足您的成功标准。
  • Markdown 格式:从 o1-2024-12-17 开始,通过 API 使用的推理模型默认会避免生成带有 Markdown 格式的回答。如果您希望回答使用 Markdown 格式,请在开发者消息的第一行包含字符串 Formatting re-enabled。

如何降低成本并保持高准确性

随着 o3 和 o4-mini 模型推出,Responses API 对已保存推理项的处理方式发生了变化。此前,使用 o1、o3-mini、o1-mini 和 o1-preview 时,即使后续 API 请求的输入项中包含推理项,这些推理项也一律会被忽略。使用 o3 和 o4-mini 时,与函数调用相邻的部分推理项会纳入模型上下文,帮助模型以尽可能少的推理 Token 取得更好的表现。

为充分利用这一变化,我们建议使用 Responses API,将 store 参数设为 true,并传入先前请求中的所有推理项。您可以使用 previous_response_id,也可以将先前请求的全部输出项作为新请求的输入项传入。OpenAI 会自动将相关推理项纳入模型上下文,并忽略无关项。在更高级的使用场景中,如果您希望更精确地控制模型上下文的内容,我们建议至少包含上一条用户消息与最近一次函数调用之间的所有推理项。这样,当您返回函数调用结果时,模型就无需从头推理,从而改善函数调用表现,并减少总体 Token 用量。

如果您使用 Chat Completions API,推理项永远不会纳入模型上下文,因为 Chat Completions 是无状态 API。在涉及大量函数调用的复杂智能体场景中,这会使模型表现略有下降,并增加推理 Token 用量。如果场景不涉及复杂的多次函数调用,那么无论使用哪个 API,模型表现都应该不会下降。

其他资源

如需更多参考,请访问 OpenAI Cookbook,其中包含示例代码和第三方资源链接。您还可以通过以下资源进一步了解我们的模型及其推理能力: