开放式响应

开放式响应(Open Responses)是一个开源规范及生态系统,旨在基于 OpenAI 响应 API 构建多提供商、可互操作的大型语言模型(LLM)接口。它定义了一个共享的数据结构和工具层,使开发者能够以统一的方式调用语言模型、流式传输结果,并组合代理工作流,而无需关心具体的模型提供方。

为什么选择开放式响应

尽管各大 LLM API 在核心构建模块上已趋于一致——如消息、工具调用、流式传输和多模态输入——但各服务商对这些概念的编码方式仍各不相同。开放式响应为开发者提供了一个共享的、开放的规范(以及参考工具链),让你只需描述一次请求与输出,就能在多个提供商之间无缝运行,几乎无需进行格式转换。

它设计具备以下特点:

  • 默认支持多提供商:一套统一的 schema 可以清晰映射到众多模型服务提供商。
  • 友好适配真实世界的代理工作流:统一的流式事件机制、工具调用模式,以及将“项目”作为模型输出和工具使用的基本单元。
  • 可扩展而不导致碎片化:核心部分保持稳定,同时允许在尚未普适的功能上添加特定于提供商的扩展。

社区

开放式响应是一项面向多供应商生态系统的开源项目。项目全程公开维护,来自行业各个领域的开发者均积极参与贡献。

OpenRouterVercelHugging FaceLM StudioOllamaOpenAIvLLM

由开发者支持:一群追求可移植性、互操作性,并希望共建 LLM 产品底层基础的开发者社区。

快速入门

  1. 阅读规范,理解核心概念:项目(items)、流式事件和工具使用。
  2. 查看 OpenAPI 参考文档,了解完整的接口范围和类型定义。
  3. 使用 合规性测试 验证你的 API 实现是否符合标准

贡献指南

我们非常期待与广大开发者共同演进这一规范。如果你希望推动不同 LLM 提供商之间的互操作性——无论是数据结构、流式处理、工具链、测试方案还是文档——欢迎参与贡献。

如需了解项目决策机制和运行方式,请查阅 技术宪章