Lumoswitch 推理入口
独立推理数据面,统一模型控制面
客户端直连 Lumoswitch 推理服务,集中管理多渠道模型、Access Key、固定/故障转移路由、限额和用量。
为什么拆分控制面与推理面
当团队同时接入 OpenAI、DeepSeek、Qwen、OpenRouter 或自定义服务时,客户端不应绑定每个上游。Lumoswitch 统一适配推理差异并管理服务状态与业务账务。
Lumoswitch 不代理请求
Lumoswitch 维护模型资源、健康状态、固定/故障转移路由、访问密钥、平台模型计费和调用观测,并统一执行推理、流式响应和上游调用。
适合什么场景
适合在多个接入渠道之间切换、需要统一管理 API Key、希望把 OpenAI-compatible Agent 接入团队模型资源池的团队,也适合提供平台模型并计量成本的平台。
不适合什么场景
如果只是在个人项目里临时调用单个模型,直接使用接入渠道 API 更简单。Lumoswitch 的价值主要出现在多模型、多用户、多密钥、需要容灾和计费的长期运营场景。