分享一个自己做的 AI API 中转服务, Vercel 部署,不用服务器 - V2EX
请不要在回答技术问题时复制粘贴 AI 生成的内容
Parsifal

分享一个自己做的 AI API 中转服务, Vercel 部署,不用服务器

  •  
  •   Parsifal 1 day ago 1164 views

    一直在 V 站潜水,现在做了个只需要 Vercel 部署的轻量级 AI API 中转,大佬们瞅瞅!

    我的核心痛点:

    • 不想搞 VPS ,只想用 Vercel 部署
    • 能随时随地加 API Key 给我的 Hermes 用

    为啥不用现有的:

    • OpenRouter 是 SaaS ,按量付费,长期用不划算
    • OneAPI / new-api 要自己搞服务器,还得维护
    • 我这个就是个纯中转层,轻量、免费、够用

    AI Relay 基于 Vercel Edge Runtime 的轻量级 AI API 中转

    GitHub: https://github.com/MoyuFamily/ai-relay

    主要功能:

    • 多 Key 轮换 + 429 自动退避
    • 多 Provider 路由( OpenAI / Claude / DeepSeek / MiMo / 自定义)
    • 熔断器,Provider 挂了自动切换
    • 管理后台,手机也能操作
    • 临时 API Key ( HMAC 签名,用完即焚)
    • 完全兼容 OpenAI SDK ,改个 base_url 就行

    部署: 点击 Deploy 按钮 → 填 3 个 Key → 等 2 分钟 → 搞定


    管理后台截图:

    运行概览

    密钥管理

    辅助工具


    整个项目基本都是由 Hermes 的 4 个 Agent 完成的,从调研、立项、开发到迭代、开源,绝大部分都是 Agent 自己做的,我只是提供权限和要求。

    希望能给大家带来方便,有问题直接提 Issue~

    11 replies    2026-05-25 19:17:55 +08:00
    MangoCloud
        1
    MangoCloud  
       8h 34m ago
    部署后报错了,点击密钥管理,Failed to fetch provider configuration
    不知道怎么加服务商的 key ,方便的话可 v 或者其他方式联系下
    geeek
        2
    geeek  
       8h 28m ago
    @MangoCloud 要在 vercel 里新增个 Storage 选择 Upstash 免费的 Redis ,关联到 ai-relay 后再重新部署就好了
    Parsifal
        3
    Parsifal  
    OP
       6h 15m ago
    @MangoCloud 是的是的,不好意思,前面写漏了使用说明,需要自己到 Vercel 后台创建下 Storage ,然后 connect 到这个项目。
    Parsifal
        4
    Parsifal  
    OP
       6h 15m ago
    Parsifal
        5
    Parsifal  
    OP
       6h 4m ago
    oakgeol
        6
    oakgeol  
       3h 48m ago
    有没有可能加上一个冷却机制,部分 api 限流一分钟多少次的,这样可以设定冷却期内调用其余的 api
    Parsifal
        8
    Parsifal  
    OP
       1h 50m ago
    @oakgeol 这个场景是啥?目前的策略是,你配置了 fallback ,如果失败了,自然会用 fallback 里的渠道,应用方 Agent 是无感知的。
    oakgeol
        9
    oakgeol  
       1h 47m ago
    @Parsifal 只能算是一个很小的很小的 case 吧 在 fallback 的基础之上,冷却期每个 api 轮换分担压力
    Parsifal
        10
    Parsifal  
    OP
       1h 10m ago
    @oakgeol 哦,是类似 CPA 里那种不同策略?一个会话一个 API Key 死命蹬完,还是一个会话请求随机分配到不同 API Key 这种的?
    oakgeol
        11
    oakgeol  
       43 mins ago
    @Parsifal 对的对的,有时候有的 api 你连续的用他会限制你的用量,如果随机分配,每个都有自己的冷却休息时间,api 就不会限制你了,类似 Antigravity 你如果用它的 flash 用的太狠了不光是五小时限制,还会 Weekly limit 。有些 API 也是类似的这种情况如果说你轮换使用随机使用,这样的话都达不到他们的这种单位时间内的限制。可能这个需求可能非常小众吧。
    About     Help     Advertise     Blog     API     FAQ     Solana     3426 Online   Highest 6679       Slect Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 71ms UTC 12:01 PVG 20:01 LAX 05:01 JFK 08:01
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86