灵果 把 DeepSeek、通义千问、智谱 GLM、Kimi、豆包、MiniMax 与开源权重模型,整合在一套 OpenAI 兼容 API 之下——内置多模型路由、故障切换、预算与限流、审计与权限。数据可不出境,支持私有化与专有云部署。
某个模型服务限流、抖动或长尾响应时,自动重试并切换到备用模型,业务端只看到一次成功响应。预设主备链:DeepSeek → Qwen3 → 开源自托管。
内容检查、PII 识别与脱敏、模型白名单、预算与限流规则按团队与密钥粒度生效,控制台配置实时生效,无需重新部署。
每个团队、应用、Agent 都能设置硬上限与软告警。失控的循环调用在烧钱之前被拦住,财务看到的是分摊到成本中心的明细。
OIDC 单点登录。RBAC、短期密钥、完整的请求审计日志——每一次调用都可还原。
"我们用一份 灵果 配置文件,替换掉了 三套模型对接代码与一个手写的兜底链路。"