一句话看懂:GitHub 上有个叫 FreeLLMAPI 的开源项目,半年攒了 4 万多 star。它干的事是把 Google、Groq、Cerebras 等 34 家 AI 厂商的免费额度,聚合成一个 OpenAI 兼容的接口——你的程序只管往一个地址发请求,它在背后帮你挑模型、换key、扛限流。官方口径是「每月 74 亿 token 的免费推理额度」,但这个数字要怎么读,我后面给你算笔账。
项目地址:https://github.com/tashfeenahmed/freellmapi(MIT 协议,TypeScript 写的)
| 名称 | FreeLLMAPI(v0.16.9,2026-10-23 更新) |
| 平台 | Windows / macOS / Linux / Docker / 安卓 Termux |
| 核心功能 | 聚合各家免费额度,统一成一个 OpenAI 兼容接口,智能路由 + 自动故障转移 |
| 授权 | MIT(核心代码永久免费) |
| 难度 | 中等 —— 会装 Docker 就能跑,但「用好」需要理解各家限额 |
它解决的是什么痛点
现在稍微像样的 AI 厂商都会给开发者免费额度:Google 每天几十万 token、Groq 每天一千次请求、Cerebras 也送一堆。单看每家都够你玩,但有个恼人的现实——34 家就是 34 套 SDK、34 套限额规则、34 个可能出错的环节。你的代码里塞满 if-else,每家报错格式还不一样。
FreeLLMAPI 把这些全部收进本地的一个服务里:你的程序像调用 OpenAI 官方 API 一样,把请求发给 http://localhost:3001/v1/chat/completions,剩下的——选哪家、用哪个key、撞了限流怎么办——它全管。
先看官方给的账面数字,再看我的算法:
我的读法是:74 亿是「全部 34 家注册 + 额度全拉满」的营销口径。注册要海外手机号和信用卡,多数人实际会注册 8–10 家,打完这层折大约剩 30 亿;再算上速率限制——真实卡你的从来不是月度总量,而是「每分钟只能发几次请求」——大约剩 10 亿;最后强模型(Gemini、DeepSeek、Kimi 这类)日额度最小、最先耗尽,你真正高频用得上的,估计就是 3–5 亿 token 每月。
听起来缩水严重?其实打完折的数字对个人开发依然是天量——大多数人一个月自己写加调试也烧不掉 1 亿 token。所以这项目不是骗局,只是你要按正确的方式读它的广告。
上手就三步
第一步:装起来
有 Docker 的一行命令(脚本会建目录、生成密钥、拉镜像、起容器):
curl -fsSL https://freellmapi.co/install.sh | bash
Windows 用户更省事:到 Releases 下载 exe 安装包双击装。嫌「管道到 bash」不放心的,安装脚本原文在这里,可以先看再跑。
第二步:填各家免费 key
浏览器打开 http://localhost:3001,在 Keys 页把你注册的各家 API key 填进去(AES-256 加密存在本地 SQLite,不上传)。没有的就去各家开发者页面免费申请,先从两三家开始就行。
第三步:拿统一 key,指给任何程序
Keys 页顶部会生成一个统一 key。之后不管是官方 OpenAI SDK、Claude Code、Gemini CLI,还是你自己写的脚本,把接口地址和 key 一换就接入。它兼容的面非常宽:OpenAI 全套接口、Anthropic Messages 格式、Gemini 原生接口,甚至还能模拟 Ollama 给 Zed、JetBrains 这类编辑器用。
它真正值钱的不是「免费」
这是我用下来最想强调的一点:就算你明天给每家都买了付费套餐,这个项目依然值得装。因为它真正的价值是三样工程能力:
- 自动故障转移:撞了 429 限流或 5xx 报错,自动冷却这个key、切换到链上的下一个模型,你的程序无感知。
- 会学习的配额账本:它给每个「平台×模型×key」记 RPM/RPD/TPM/TPD 四个计数器,还会从各家的报错响应里学习真实限额是多少,尽量保证发出去的请求不白撞墙。
- 统一模型视图:同一家模型被 3 家转发商提供时合并成一个条目,组内自动接力。
本质上,它做的是「把一堆不可靠的免费端点,包装成一个看起来可靠的接口」——这是网关工程,不是白嫖工具。
国内用户怎么用,说点实在的
官方 README 不会告诉你这层:34 家里绝大多数(Google、Groq、Cerebras、OpenRouter……)在国内直连基本不通,注册还要海外手机号。对多数国内用户,74 亿的主要来源其实等于没有。我把 34 家按「网络可达 + 账号可得 + 条款允许」重新分了一遍:
所以国内用户的正确姿势不是冲着免费额度去,而是把它当自托管统一网关用:列表里 Z.ai 和阿里魔搭(ModelScope)国内可用,另外它的「自定义端点」功能可以把任何 OpenAI 兼容接口挂进来——DeepSeek、通义、豆包这些有免费额度的国产 API,加上你本地跑的 Ollama / LM Studio,全都可以进 fallback 链。比如「白天用国产云 API,超限自动降级到本地小模型」,这个玩法不花钱也成立。
隐私方面加分:模型目录的更新服务器不看你的对话内容,key 加密存本地。但请求最终发给哪家厂商,就受那家隐私政策管,这点别误会。
难得的诚实:作者自己把丑话说在前面
这是我愿意写它的主要原因。现在很多开源项目 README 全是优点,这个项目的文档里塞了三块「反营销」内容:
- Limitations 一节明说:没有前沿模型的持续访问能力、延迟忽高忽低、没有 SLA,而且「端点的有效智力会随着一天推进而下降」——强模型日额度最先耗尽,路由自动降级到小模型,UTC 零点才重置:
- Disclaimer 一节明说:仅供个人实验和学习,别拿去做产品;免费层不是稳定的推理基座,上架前换付费 API。各家条款你自己的账号自己负责。
- 逐家 ToS 评估表:作者真去读了 13 家的服务条款——Groq、Cerebras、Mistral 标「大概率没问题」,Gemini、NVIDIA 标「谨慎」,Cohere 直接标红「别用」(条款 §14 至今禁止个人和家庭用途)。一家开源项目主动帮用户划红线,这少见。
付费墙设在哪,值不值
核心代码 MIT 永久免费,功能一点不阉割。它卖的是模型目录的实时更新:路由器每天从官方拉两次带签名的目录(新模型上线、限额变动、接口修复),免费版只能拿月度快照——新模型要晚 30 天才到你这,目前免费版大约落后 303 个模型。付费 $19/年 或 $49 买断,才能当天同步。
我的看法:这是「卖数据新鲜度」而不是「卖功能」,比常见的那种「开源版砍你一刀」的套路体面得多,而且代码离线也能跑、目录服务器不碰你的 prompt。但你要心里有数:这类项目成败的关键恰恰是目录维护——厂商随时改规则,目录过期了它就是个报错生成器。作者的付费设计也明说了是为了养活每天的人工测试和目录维护。逻辑自洽,算得上诚实的商业模式。
哪些人适合,哪些人别碰
| 适合 | 别碰 / 谨慎 |
|---|---|
| 想白嫖各家免费额度跑开发、学习、写小工具的个人开发者 | 想拿它给线上产品供模型服务的人——作者明说仅供个人实验,无 SLA |
| 想把国产 API + 本地模型统一成一个接口管理的自托管爱好者 | 对延迟和稳定性敏感的场景(傍晚降级是常态) |
| 想要自动 failover 和配额账本,哪怕用付费 API 的人 | 想把它暴露到公网或多账号共用的人——它没有多租户鉴权,别开放外网 |
下载
- 项目主页(含安装文档、中文 README):github.com/tashfeenahmed/freellmapi
- Windows / macOS 安装包:Releases 页面
- 模型目录一览(635 个免费端点的限额明细):freellmapi.co/models
数据核对日期:2026-10-24。star 数、版本号均为当天实查;文中三张图为按公开文档绘制的示意分析,非官方图表。
文章版权声明
1 原创文章作者:yueliang,如若转载,请注明出处: https://www.52hwl.com/118296.html
2 温馨提示:软件侵权请联系469472785#qq.com(三天内删除相关链接)资源失效请留言反馈
3 下载提示:如遇蓝奏云无法访问,请修改lanzous(把s修改成x)
4 免责声明:本站为个人博客,所有软件信息均来自网络 修改版软件,加群广告提示为修改者自留,非本站信息,注意鉴别



微信扫一扫
支付宝扫一扫