协议转换
TokenOPS.AI 提供了OpenAI协议的兼容层,使您能够使用OpenAI SDK来测试Claude和Gemini模型。通过少量代码更改,您可以快速评估不同模型的能力。快速开始
要使用OpenAI SDK兼容功能,您需要:- 使用官方OpenAI SDK
- 更改以下配置:
- 更新base URL指向TokenOPS.AI API
- 使用您的TokenOPS.AI API密钥
- 更新模型名称为Claude或Gemini模型
示例代码
协议字段映射表
请求字段映射
消息格式映射
响应字段映射
完成原因映射
重要兼容性限制
Claude API限制
- 系统消息处理: 所有
system和developer消息会被合并为单个系统提示 - 格式化输出:
response_format通过工具调用实现,而非原生支持 - 推理内容: 支持推理能力,但OpenAI SDK无法返回详细的思考过程
- 不支持的参数:
presence_penalty,frequency_penalty,n等参数被忽略
Gemini API限制
- 角色映射:
assistant角色映射为model - 安全设置: 自动配置安全阈值,预览模型使用较高阈值
- 频率惩罚: 仅1.5 Pro和Flash模型支持
通用限制
- 错误格式: 保持与OpenAI API一致的错误格式,但详细错误信息可能不同
- 流式响应: 支持SSE流式传输,但具体实现细节可能有差异
- 速率限制: 遵循各厂商的原生速率限制规则
最佳实践
- 提示词优化: 如果您的提示词针对OpenAI进行了大量调优,建议使用TokenOPS.AI控制台的提示词改进工具
- 错误处理: 仅将错误信息用于日志记录和调试,不要依赖具体的错误文本内容
- 功能测试: 在生产环境使用前,请充分测试所需的功能特性
- 原生API: 如需使用完整功能集(PDF处理、引用、扩展思考、提示缓存等),建议使用原生API
支持的模型
Claude模型
claude-sonnet-4-20250514claude-opus-4-250514claude-3-7-sonnet-20250219claude-3-5-sonnet-20241022
Gemini模型
gemini-2.5-progemini-2.5-flashgemini-2.5-flash-litegemini-2.0-flash-lite-001gemini-2.0-flash-001
扩展功能
推理能力支持
您可以通过添加reasoning_effort参数来启用扩展推理功能:
多模态支持
支持图像和文档输入(取决于具体模型):如遇到任何兼容性问题,请联系技术支持。