LiteLLM 接入 Seedrise

LiteLLM 设置一览

已于 2026-11-02 对照 LiteLLM 文档核对。

为什么把 Seedrise 接在 LiteLLM 后面

五分钟接入

1. 获取 Seedrise Key。 申请报价单，收到控制台账号后在控制台为你的 LiteLLM 部署创建一把 Key，开通它要调用的模型并设置月额度。
2. 保存 Key。 在代理所在主机上把 Seedrise Key 导出为 SEEDRISE_API_KEY，同时设置 LiteLLM 自身用的 LITELLM_MASTER_KEY。LiteLLM 要求 master key 以 sk- 开头。
   bash复制

   export SEEDRISE_API_KEY="sk-..."      # your Seedrise key
   export LITELLM_MASTER_KEY="sk-..."    # admin key for your proxy

3. 把模型写进 config.yaml。 每个 Seedrise 模型写作 openai/ 加模型 ID，api_base 设为 https://api.seedrise.ai/v1。model_name 是你的应用调用时用的名字。
   yaml复制

   model_list:
     - model_name: claude-sonnet-5-5
       litellm_params:
         model: openai/claude-sonnet-5-5
         api_base: https://api.seedrise.ai/v1
         api_key: os.environ/SEEDRISE_API_KEY
         timeout: 600
     - model_name: gpt-6.1-sol
       litellm_params:
         model: openai/gpt-6.1-sol
         api_base: https://api.seedrise.ai/v1
         api_key: os.environ/SEEDRISE_API_KEY
         timeout: 600
     - model_name: deepseek-v3.2
       litellm_params:
         model: openai/deepseek-v3.2
         api_base: https://api.seedrise.ai/v1
         api_key: os.environ/SEEDRISE_API_KEY
     - model_name: kimi-k2.5
       litellm_params:
         model: openai/kimi-k2.5
         api_base: https://api.seedrise.ai/v1
         api_key: os.environ/SEEDRISE_API_KEY
   
   general_settings:
     master_key: os.environ/LITELLM_MASTER_KEY

4. 启动代理。 运行 litellm --config config.yaml。本页示例使用 4000 端口，与 LiteLLM 自己的文档一致。
   bash复制

   litellm --config config.yaml

5. 发送测试请求。 用 master key 和配置里的某个 model_name 调用 http://localhost:4000/v1/chat/completions。
   bash复制

   curl http://localhost:4000/v1/chat/completions \
     -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
     -H "Content-Type: application/json" \
     -d '{"model":"claude-sonnet-5-5","messages":[{"role":"user","content":"Hello"}]}'

Python SDK，不经过代理

同样三项设置也可以直接用在 litellm.completion() 里。

import os
import litellm

response = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.seedrise.ai/v1",
    api_key=os.environ["SEEDRISE_API_KEY"],
    messages=[{"role": "user", "content": "Summarise this changelog in three bullets."}],
)
print(response.choices[0].message.content)

推荐先用的模型

上下文与输出上限截至 2026 年 11 月 1 日。Seedrise 全部模型及厂商公开标价见模型库。

通过 LiteLLM 的 Anthropic 路由使用 Claude

如果你依赖 Anthropic Messages 格式里的 Claude 功能，例如 cache_control 提示缓存，就用 anthropic/ 前缀加根 URL 路由 Claude。LiteLLM 会自动补上 /v1/messages。

model_list:
  - model_name: claude-sonnet-5-5
    litellm_params:
      model: anthropic/claude-sonnet-5-5
      api_base: https://api.seedrise.ai
      api_key: os.environ/SEEDRISE_API_KEY
      timeout: 600

• 每个 model_name 只配一条路由。无论走哪条，你的应用都照样调用 claude-sonnet-5-5。
• GPT、DeepSeek、Kimi 以及 Key 上的其他模型，继续用 openai/ 前缀。

注意事项

• openai/ 模型的 api_base 以 /v1 结尾。LiteLLM 会自己补上 /chat/completions，不要填完整路径。
• openai/ 前缀只用来告诉 LiteLLM 用哪个客户端，不会发往上游。Seedrise 收到的是不带前缀的 ID，例如 claude-sonnet-5-5。
• Seedrise 暂不提供 Responses API（/v1/responses）。LiteLLM 会把 openai/ 模型的 /v1/responses 请求原样转发到上游，因此会返回 404。如果你的代理有客户端需要这个端点，请改用 custom_openai/ 前缀声明该模型；LiteLLM 文档说明这类请求会经由 Chat Completions 转换。
• 推理模型的流式输出可能持续好几分钟。请把 litellm_params 下的 timeout 设为 600 秒或更长。
• 需要费用统计时，在 model_info 下按报价单填写 input_cost_per_token、output_cost_per_token 和 cache_read_input_token_cost，让 LiteLLM 的费用日志与账单一致。

验证是否成功

• 代理上的 GET /v1/models 会列出你配置的 model_name；Seedrise 上的同一请求会列出你的 Key 可调用的 ID。
• 用量一分钟内出现在 Seedrise 控制台，按 Key 和模型列示。

# models your proxy exposes
curl http://localhost:4000/v1/models -H "Authorization: Bearer $LITELLM_MASTER_KEY"

# models your Seedrise key can call
curl https://api.seedrise.ai/v1/models -H "Authorization: Bearer $SEEDRISE_API_KEY"

常见报错

仍未解决？发邮件到 support@seedrise.ai，附上响应头里的请求 ID、请求时间和模型 ID。

团队使用

团队共用一个代理，Seedrise Key 只放在服务器上，不放在个人电脑里。

• 给开发者发放各自带预算的 LiteLLM 虚拟 Key（需要 LiteLLM 的数据库）。代理后面的 Seedrise Key 始终不离开服务器。
• 想在 Seedrise 账单上按团队拆分费用时，每个团队或环境用一把 Seedrise Key，各自放在独立的环境变量里。
• 把 Seedrise Key 的月额度设为硬上限，略高于各 LiteLLM 预算之和。
• 把代理的出口 IP 加入 Key 的 IP 白名单，这样 Seedrise Key 即使泄露，在别处也用不了。
• 轮换时，先在控制台创建新 Key，更新环境变量并重启代理，再停用旧 Key。

LiteLLM 常见问题