南京 · 企业服务 × AI
FORLIM / API 中转站 · 网页充值即用

把 15 家国产模型,
收进一个 API。

ForLimit 是一个可自托管的大模型统一网关。DeepSeek、通义千问、Kimi、智谱 GLM、豆包……收进同一套 OpenAI 兼容端点,客户端不用改代码,只换 baseURL 和 Key。网页充值,余额实时可查。

  • 15家国产厂商
  • 37个预置模型
  • 3 类兼容端点
  • 按量充值即用
FORLIM / v1.0.0 运行中

POST /v1/chat/completions · model = qwen3-max · stream = true

  1. 校验 API Keysk-forlimit-… hmac
  2. 查模型与主渠道 router
  3. 转发 dashscope 渠道 channel
  4. SSE 流式透传 stream
  5. 计量与记账 meter
响应 / 2元数据
  • 200finish_reason: stop1.2s
  • USAGE1,284 tokens · ¥0.0042已入账
界面示意 · 5 步 · 1 次请求 · 日志不存正文
✳FORLIM · 大模型统一网关 ✳15 家国产厂商 ✳OPENAI 兼容 换 baseURL 即可 ✳主备渠道 自动故障转移 ✳日志 只留元数据
能力 / Capability

一个网关,六件事。

不是把六家 API 摆在一起,而是让它们看起来像一家——请求从哪来、路由到哪、花了多少,都说得清。

OpenAI SDK · Cherry Studio · Dify · FastGPT · LangChain

统一 API UNIFY

一个端点,接完全部模型。

  • 三类端点

    /v1/chat/completions、/v1/embeddings、/v1/models,覆盖对话、向量与模型列表。

  • 客户端不改代码

    兼容 OpenAI SDK、Cherry Studio、Dify、NextChat、LobeChat、FastGPT、LangChain——只换 baseURL 和 Key。

  • 流式原样透传

    SSE 完整转发,自动注入 stream_options.include_usage,用量和费用不会因为流式而丢。

多厂商 CHANNELS

15 家国产厂商,预置 37 个模型。

  • 预置目录

    DeepSeek、通义千问、Kimi、智谱 GLM、豆包、混元、文心一言、讯飞星火、MiniMax、阶跃星辰、百川、零一万物、商汤日日新、硅基流动、魔搭。

  • 任意 OpenAI 兼容渠道

    vLLM、Ollama、One API、企业自建网关,填 Base URL 就能挂上来。

  • 上游模型 ID 可改

    厂商改名、换接入点(如火山方舟的 ep-…)时,在模型广场直接改,不用等版本更新。

密钥治理 KEYS

每个 Key 有自己的边界。

  • 只存哈希

    Key 只保存 HMAC-SHA256,明文仅在创建时展示一次;渠道密钥用 AES-256-GCM 加密落盘。

  • 四道限制

    RPM 限速、每日预算、模型白名单、过期时间,按应用分开配,不共用一个万能 Key。

  • 个人 Key 绑定账号

    用户自己创建的 Key 只能看自己的,账号停用后立刻失效。

智能路由 ROUTE

主渠道挂了,自动切备用。

  • 主备渠道

    一个模型可以挂多个渠道,主渠道优先,备用渠道待命。

  • 三类故障自动转移

    上游 5xx、限流、超时都会触发切换,调用方只看得到一个正常的响应。

  • 超时与重试可控

    每个渠道单独设超时和请求头,卡住的请求会被掐断并写进日志。

用量与日志 METER

每次调用算得清,但看不到你的内容。

  • 四个维度计量

    按天、模型、渠道、密钥拆开看 Token 与费用,CSV 可直接导出。

  • 性能看得见

    每条请求记录状态、耗时、首字延迟(TTFT)、Token 和费用。

  • 正文不落盘

    日志只留元数据,不保存提示词与回复内容——这是默认行为,不是可选项。

控制台 CONSOLE

管理员看全局,用户只看三个入口。

  • 管理端九个页面

    总览、模型广场、渠道、密钥、日志、用量、调试台、接入文档、系统设置。

  • 用户工作台 /portal

    普通用户只有对话、我的密钥、用量三个入口,不需要接触渠道和厂商 Key。

  • Windows 桌面版

    网关、界面与 SQLite 打成一个程序,双击 limit.exe 就能跑,不需要装 Node.js。

接入 / Where it fits

谁在用它。

三类典型接法,共同点只有一个:改一行地址。

桌面 Cherry Studio 网关地址 + Key 15 家模型任选 不用逐家充值
工作流 Dify · FastGPT baseURL + API Key 统一限流 按应用计费
自研 OpenAI SDK base_url 一行 故障转移 用量看板

以上为接入示意,实际以各客户端版本的配置项为准。

边界 / Limits

它不做什么。

网关的边界要和能力一样清楚。这几条,在 1.0.0 发布时就写明白。

账号按邮箱开通,余额按量扣

网页用邮箱验证码登录,充值的余额按 token 实时扣减;每日/每月上限是成本保护,余额与账单在控制台可查、可导出。

不替厂商负责

模型能力、价格与合规以各厂商为准。预置的模型名与价格是可编辑的参考值,更新很快。

不存你的正文

请求日志只记录状态、耗时、Token 与费用,不保存提示词和回复内容——排查问题时不靠翻你的对话。

管理端不对外下载

管理控制台与本地管理端只对管理员开放,官网不提供软件下载;对外交付的是 API 与网页服务。

充值 / Recharge

网页充值,
登录就能用。

邮箱验证码登录 → 充值余额 → 创建 Key → 把 baseURL 换成 ForLimit 的地址。余额、用量、Key 和账单都在控制台里,随时可查。