Skip to main content

协议转换

TokenOPS.AI 提供了OpenAI协议的兼容层,使您能够使用OpenAI SDK来测试Claude和Gemini模型。通过少量代码更改,您可以快速评估不同模型的能力。

快速开始

要使用OpenAI SDK兼容功能,您需要:
  1. 使用官方OpenAI SDK
  2. 更改以下配置:
    • 更新base URL指向TokenOPS.AI API
    • 使用您的TokenOPS.AI API密钥
    • 更新模型名称为Claude或Gemini模型

示例代码

协议字段映射表

请求字段映射

消息格式映射

响应字段映射

完成原因映射

重要兼容性限制

Claude API限制

  1. 系统消息处理: 所有systemdeveloper消息会被合并为单个系统提示
  2. 格式化输出: response_format通过工具调用实现,而非原生支持
  3. 推理内容: 支持推理能力,但OpenAI SDK无法返回详细的思考过程
  4. 不支持的参数: presence_penalty, frequency_penalty, n等参数被忽略

Gemini API限制

  1. 角色映射: assistant角色映射为model
  2. 安全设置: 自动配置安全阈值,预览模型使用较高阈值
  3. 频率惩罚: 仅1.5 Pro和Flash模型支持

通用限制

  1. 错误格式: 保持与OpenAI API一致的错误格式,但详细错误信息可能不同
  2. 流式响应: 支持SSE流式传输,但具体实现细节可能有差异
  3. 速率限制: 遵循各厂商的原生速率限制规则

最佳实践

  1. 提示词优化: 如果您的提示词针对OpenAI进行了大量调优,建议使用TokenOPS.AI控制台的提示词改进工具
  2. 错误处理: 仅将错误信息用于日志记录和调试,不要依赖具体的错误文本内容
  3. 功能测试: 在生产环境使用前,请充分测试所需的功能特性
  4. 原生API: 如需使用完整功能集(PDF处理、引用、扩展思考、提示缓存等),建议使用原生API

支持的模型

Claude模型

  • claude-sonnet-4-20250514
  • claude-opus-4-250514
  • claude-3-7-sonnet-20250219
  • claude-3-5-sonnet-20241022

Gemini模型

  • gemini-2.5-pro
  • gemini-2.5-flash
  • gemini-2.5-flash-lite
  • gemini-2.0-flash-lite-001
  • gemini-2.0-flash-001

扩展功能

推理能力支持

您可以通过添加reasoning_effort参数来启用扩展推理功能:

多模态支持

支持图像和文档输入(取决于具体模型):

如遇到任何兼容性问题,请联系技术支持。