每一笔调用都算得清、分得开
按 token 记录每次请求的输入、输出、缓存命中和费用,可按用户、团队、模型、路由池多维度归集。支持按模型定价与分组倍率,账单能导出,也能在看板上看趋势。

枢网网关把分散的模型接入收敛成一个统一入口。应用只对接一次,密钥、配额、限流、路由、日志都在网关层解决——每一笔调用花了多少、谁在用、走的哪条线路,都清清楚楚,并且可以私有化部署在你自己的环境里。
当团队开始大规模用大模型,真正难的往往不是把接口调通,而是花销失控、权限混乱、出了问题查不到。枢网网关站在应用和模型之间,把成本、访问、稳定性和审计统一管起来,让 AI 调用像其他企业系统一样可控、可查、可审。
按 token 记录每次请求的输入、输出、缓存命中和费用,可按用户、团队、模型、路由池多维度归集。支持按模型定价与分组倍率,账单能导出,也能在看板上看趋势。
每把 API Key 都能单独设配额、有效期、可用模型范围和 IP 白名单,还能按周期自动重置额度。管理员、普通用户角色分明,谁能做什么一目了然。
支持按金额或 token 数两种预算方式,配额用尽自动拦截。基于滑动窗口的限流精确到分组,高并发下也不会算错。额度偏低时可通过邮件 / Webhook 提前告警。
同一模型可以挂多个上游渠道,按权重和优先级路由,失败自动重试并切换。内置健康检查会定时体检,异常渠道自动下线、恢复后自动上线,不用半夜起来救火。
每条请求都记录用户、密钥、模型、耗时、token、费用、渠道、客户端 IP 和请求 ID,可检索、可导出 CSV。独立的审计链路和节点标识,满足合规留痕的要求。
支持 Docker / 私有化部署,数据库可选 SQLite / MySQL / PostgreSQL,配合 Redis 与内存缓存,可多节点高可用运行。数据和密钥都留在你自己的边界内。
网关对外提供一套统一、兼容主流格式的接口,屏蔽底层不同来源的差异。通过模型名映射,你可以对内保持稳定的模型名称,底层想换就换;新增或下线一个模型,只在网关配置,应用侧无感。
Docker / Compose 一键部署,数据不出你的环境。
SQLite、MySQL、PostgreSQL 按需选择。
多节点运行,Redis + 内存缓存,批量写入。
看板、用量排行、CSV 导出,随时掌握用量。
告诉我们你现在的模型使用情况、团队规模和合规要求,我们可以先做一次网关演示,再帮你规划私有化部署和接入方案。