Skip to main content

Documentation Index

Fetch the complete documentation index at: https://docs.tokenops.ai/llms.txt

Use this file to discover all available pages before exploring further.

Model Extra 参数示例

以下示例展示如何使用各模型的扩展参数(model_extra)来启用和配置高级功能,如思考模式、联网搜索、音频输出等特殊能力。

概述

TokenOPS & ModelHub 平台为不同的模型提供商提供了扩展参数支持,允许你使用各模型的专有功能:
  • 千问(Qwen)扩展参数: 支持思考模式、联网搜索、高分辨率图像处理等
  • 豆包(Doubao)扩展参数: 支持上下文缓存、思考配置等
重要说明与厂商原生接口不同,我们的平台将扩展参数包装在对应的模型对象中(如 qwendoubao),以确保参数的正确传递和处理。

千问(Qwen)扩展参数示例

联网搜索功能

重要提示:OpenAI 兼容接口限制使用 OpenAI 兼容接口时,即使设置 enable_search: true,响应中不会包含 search_info 等搜索相关的元数据信息。搜索功能会正常工作并影响回答内容,但搜索过程的详细信息不会在 API 响应中返回。如果你需要获取搜索相关的元数据,请考虑使用厂商原生接口。
curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "qwen3-14b",
    "messages": [
      {
        "role": "system",
        "content": "你是一个有用的助手。"
      },
      {
        "role": "user", 
        "content": "中国队在巴黎奥运会获得了多少枚金牌?"
      }
    ],
    "qwen": {
      "enable_search": true,
      "search_options": {
        "forced_search": true,
        "search_strategy": "max",
        "enable_search_extension": false
      }
    }
  }'

思考模式功能

curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "qwen3-14b",
    "messages": [
      {
        "role": "user",
        "content": "解决这个数学问题:如果一个圆的面积是50.24平方厘米,求圆的周长。"
      }
    ],
    "stream": true,
    "qwen": {
      "enable_thinking": true,
      "thinking_budget": 2000,
      "stream_options": {
        "include_usage": false
      }
    }
  }'

豆包(Doubao)扩展参数示例

上下文缓存功能

curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "doubao-pro-256k",
    "messages": [
      {
        "role": "system",
        "content": "你是一个专业的技术顾问,擅长解答编程和技术问题。"
      },
      {
        "role": "user",
        "content": "请解释什么是RESTful API的设计原则?"
      }
    ],
    "doubao": {
      "context_id": "tech_consultation_session_001"
    }
  }'

豆包思考模式

curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "doubao-pro-32k",
    "messages": [
      {
        "role": "user",
        "content": "分析这个商业案例:一家初创公司应该选择自建团队还是外包开发?"
      }
    ],
    "doubao": {
      "thinking": {
        "type": "disable"
      }
    }
  }'

MiniMax 扩展参数示例

MiniMax 的 model_extra 通过 minimax 字段暴露扩展能力:role_meta 用来声明用户与机器人的身份,bot_setting 定义机器人设定,配合 reply_constraintssample_messages 等字段即可约束输出格式并注入 few-shot 提示。

多角色剧本生成

curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "abab5.5-chat",
    "messages": [
      {
        "role": "user",
        "content": "场景:电商直播预热\\n产品:智能睡眠眼罩\\n语气:元气幽默\\n需求:三段式口播脚本"
      }
    ],
    "minimax": {
      "role_meta": {
        "user_name": "品牌小编",
        "bot_name": "脚本设计官"
      },
      "bot_setting": [
        {
          "bot_name": "脚本设计官",
          "content": "bot信息设定: 你是一名资深直播脚本导演,擅长把枯燥的卖点写成段子。\\n输出要求:\\n1. A 段给出直播口号,保持8字内的梗句。\\n2. B 段解释口号指向的产品亮点,控制12字内。\\n3. C 段生成15-25字的口播词,包含行动号召和产品昵称。\\n4. 语气要轻松、带一点互联网热梗,但不能粗鲁。\\n5. 如用户提供语气或受众,必须体现在脚本里。"
        }
      ],
      "sample_messages": [
        {
          "sender_type": "USER",
          "sender_name": "品牌小编",
          "text": "场景:校园摆摊\\n产品:能量咖啡\\n语气:元气活泼"
        },
        {
          "sender_type": "BOT",
          "sender_name": "脚本设计官",
          "text": "A:清醒不打烊\\nB:双倍咖啡因暖场\\nC:同学们快来抬手,醒神小金杯等你端走!"
        }
      ]
    }
  }'

结构化字段提取

curl -X POST "https://api.tokenops.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <API-KEY>" \
  -d '{
    "model": "abab5.5-chat",
    "messages": [
      {"role": "system", "content": "你是一个叫小智的智能助手,你可以帮助用户回答各种问题。"},
      {"role": "user", "content": "帮我提取以下信息的关键词:我叫月无双,来自太阳大学,今年18岁,刚刚考完《斗气化翼》课程,得了99.99分"}
    ],
    "minimax": {
      "role_meta": {
        "user_name": "我",
        "bot_name": "小智"
      },
      "reply_constraints": {
        "sender_type": "BOT",
        "sender_name": "小智",
        "glyph": {
          "type": "json_value",
          "json_properties": {
            "name": {
              "type": "string"
            },
            "age": {
              "type": "number"
            },
            "is_student": {
              "type": "boolean"
            },
            "is_boy": {
              "type": "boolean"
            },
            "courses": {
              "type": "object",
              "properties": {
                "name": {
                  "type": "string"
                },
                "score": {
                  "type": "number"
                }
              }
            }
          }
        }
      }
    }
  }'

注意事项

重要提醒
  1. 搜索功能限制: 在OpenAI兼容接口中,enable_search: true 不会在返回包中包含 search_info
  2. 参数兼容性: 不同模型支持的扩展参数不同,详情需要查阅官方文档
  3. 费用考虑: 启用高级功能(如思考模式、联网搜索)会增加Token消耗,请合理使用
性能优化提示
  • 对于简单问题,建议不启用思考模式以节省时间和费用
  • 联网搜索适合需要实时信息的查询
  • 上下文缓存可以显著提高多轮对话的效率