Documentation Index
Fetch the complete documentation index at: https://docs.tokenops.ai/llms.txt
Use this file to discover all available pages before exploring further.
以下示例展示如何使用各模型的扩展参数(model_extra)来启用和配置高级功能,如思考模式、联网搜索、音频输出等特殊能力。
TokenOPS & ModelHub 平台为不同的模型提供商提供了扩展参数支持,允许你使用各模型的专有功能:
- 千问(Qwen)扩展参数: 支持思考模式、联网搜索、高分辨率图像处理等
- 豆包(Doubao)扩展参数: 支持上下文缓存、思考配置等
重要说明与厂商原生接口不同,我们的平台将扩展参数包装在对应的模型对象中(如 qwen、doubao),以确保参数的正确传递和处理。
千问(Qwen)扩展参数示例
联网搜索功能
重要提示:OpenAI 兼容接口限制使用 OpenAI 兼容接口时,即使设置 enable_search: true,响应中不会包含 search_info 等搜索相关的元数据信息。搜索功能会正常工作并影响回答内容,但搜索过程的详细信息不会在 API 响应中返回。如果你需要获取搜索相关的元数据,请考虑使用厂商原生接口。
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "qwen3-14b",
"messages": [
{
"role": "system",
"content": "你是一个有用的助手。"
},
{
"role": "user",
"content": "中国队在巴黎奥运会获得了多少枚金牌?"
}
],
"qwen": {
"enable_search": true,
"search_options": {
"forced_search": true,
"search_strategy": "max",
"enable_search_extension": false
}
}
}'
思考模式功能
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "qwen3-14b",
"messages": [
{
"role": "user",
"content": "解决这个数学问题:如果一个圆的面积是50.24平方厘米,求圆的周长。"
}
],
"stream": true,
"qwen": {
"enable_thinking": true,
"thinking_budget": 2000,
"stream_options": {
"include_usage": false
}
}
}'
豆包(Doubao)扩展参数示例
上下文缓存功能
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "doubao-pro-256k",
"messages": [
{
"role": "system",
"content": "你是一个专业的技术顾问,擅长解答编程和技术问题。"
},
{
"role": "user",
"content": "请解释什么是RESTful API的设计原则?"
}
],
"doubao": {
"context_id": "tech_consultation_session_001"
}
}'
豆包思考模式
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "doubao-pro-32k",
"messages": [
{
"role": "user",
"content": "分析这个商业案例:一家初创公司应该选择自建团队还是外包开发?"
}
],
"doubao": {
"thinking": {
"type": "disable"
}
}
}'
MiniMax 扩展参数示例
MiniMax 的 model_extra 通过 minimax 字段暴露扩展能力:role_meta 用来声明用户与机器人的身份,bot_setting 定义机器人设定,配合 reply_constraints、sample_messages 等字段即可约束输出格式并注入 few-shot 提示。
多角色剧本生成
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "abab5.5-chat",
"messages": [
{
"role": "user",
"content": "场景:电商直播预热\\n产品:智能睡眠眼罩\\n语气:元气幽默\\n需求:三段式口播脚本"
}
],
"minimax": {
"role_meta": {
"user_name": "品牌小编",
"bot_name": "脚本设计官"
},
"bot_setting": [
{
"bot_name": "脚本设计官",
"content": "bot信息设定: 你是一名资深直播脚本导演,擅长把枯燥的卖点写成段子。\\n输出要求:\\n1. A 段给出直播口号,保持8字内的梗句。\\n2. B 段解释口号指向的产品亮点,控制12字内。\\n3. C 段生成15-25字的口播词,包含行动号召和产品昵称。\\n4. 语气要轻松、带一点互联网热梗,但不能粗鲁。\\n5. 如用户提供语气或受众,必须体现在脚本里。"
}
],
"sample_messages": [
{
"sender_type": "USER",
"sender_name": "品牌小编",
"text": "场景:校园摆摊\\n产品:能量咖啡\\n语气:元气活泼"
},
{
"sender_type": "BOT",
"sender_name": "脚本设计官",
"text": "A:清醒不打烊\\nB:双倍咖啡因暖场\\nC:同学们快来抬手,醒神小金杯等你端走!"
}
]
}
}'
结构化字段提取
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API-KEY>" \
-d '{
"model": "abab5.5-chat",
"messages": [
{"role": "system", "content": "你是一个叫小智的智能助手,你可以帮助用户回答各种问题。"},
{"role": "user", "content": "帮我提取以下信息的关键词:我叫月无双,来自太阳大学,今年18岁,刚刚考完《斗气化翼》课程,得了99.99分"}
],
"minimax": {
"role_meta": {
"user_name": "我",
"bot_name": "小智"
},
"reply_constraints": {
"sender_type": "BOT",
"sender_name": "小智",
"glyph": {
"type": "json_value",
"json_properties": {
"name": {
"type": "string"
},
"age": {
"type": "number"
},
"is_student": {
"type": "boolean"
},
"is_boy": {
"type": "boolean"
},
"courses": {
"type": "object",
"properties": {
"name": {
"type": "string"
},
"score": {
"type": "number"
}
}
}
}
}
}
}
}'
注意事项
重要提醒
- 搜索功能限制: 在OpenAI兼容接口中,
enable_search: true 不会在返回包中包含 search_info
- 参数兼容性: 不同模型支持的扩展参数不同,详情需要查阅官方文档
- 费用考虑: 启用高级功能(如思考模式、联网搜索)会增加Token消耗,请合理使用
性能优化提示
- 对于简单问题,建议不启用思考模式以节省时间和费用
- 联网搜索适合需要实时信息的查询
- 上下文缓存可以显著提高多轮对话的效率