每一次到达 灵果 的请求，都经过一条确定性的流水线：先策略校验，再选模型，再计费，最后审计——附加时延小于 15 毫秒，每一步都可解释、可追溯。
应用直接调用 platform.routero.dcsmartvision.com/v1/chat/completions，使用现有的 OpenAI 兼容 SDK。我们接受任何 OpenAI 兼容的请求格式：流式输出、工具调用、视觉、JSON 模式。除对话外，embeddings、rerank、图像、语音等端点也统一暴露在同一 API 之下。
from openai import OpenAI client = OpenAI( base_url="https://platform.routero.dcsmartvision.com/v1", api_key="rt_live_...", ) resp = client.chat.completions.create( model="customer-support", # 或 "deepseek-v4"、"qwen3-max"、"glm-5" ... messages=[...], )
四项校验并行执行：身份（RBAC、工作区范围）、内容（提示词注入检测、PII 识别）、模型（请求的模型是否对该调用方开放）、预算（这次请求是否还在预算之内）。任一失败立即短路并返回结构化错误。
灵果 按健康度、时延、价格、近期错误率对候选模型打分。命中的模型以流式直通的方式被调用。若失败或被限流，自动切换到下一个候选。
Token 数与人民币成本原子化扣减自对应预算账户。完整的决策过程——每一项校验、命中的提供方、考虑过的候选、响应形态——实时写入集中式审计日志，可随时查询与导出。
{
"req": "req_8b2f...",
"user": "u_pa9",
"route": "customer-support",
"chose": "deepseek:deepseek-v4",
"checks": ["id","content","model","budget"],
"latency_ms": 142,
"tokens": { "in": 412, "out": 198 },
"region": "cn-north"
}
灵果 中所有可配置项都属于这四类之一。组合它们，即可建模真实组织结构。
业务自定义的命名别名，如 customer-support。包含有序的「提供方 + 模型」候选列表、兜底规则与超时预算。
每次请求都会执行的防护规则：内容检查、PII 识别与脱敏、模型白名单、限流。可按团队与密钥粒度组合使用。
策略路由 →具备硬上限与软告警的原子化预算账户。可挂在团队、项目、路由或用户身上；并发安全；超额自动拒绝。
预算与限流 →所有决策的完整记录。按用户、路由、时间、合规标签可查询，可推送至 Datadog、Azure Sentinel 或 OpenTelemetry 生态日志平台。
SSO 与审计 →同一控制平面，不同信任边界——按贵司安全团队的偏好选择。
多租户、多区域。境内节点部署。一个 API Key 即可上手，分钟级开通。
在贵司选择的区域独占控制平面。与公有云体验一致，数据物理隔离。
灵果 部署在客户 VPC 或本地数据中心。无第三方数据通路。提供 Docker Compose 与容器化交付方案。