开源 AI 开发平台 AxonHub 发布 v0.4 版本 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
looplj
V2EX    分享创造

开源 AI 开发平台 AxonHub 发布 v0.4 版本

  •  
  •   looplj
    looplj 39 天前 1975 次点击
    这是一个创建于 39 天前的主题,其中的信息可能已经有所发展或是发生改变。

    项目地址: https://github.com/looplj/axonhub

    感兴趣的可以看看,觉得有用的话,欢迎点个。

    详细介绍一下核心能力:

    1. OpenAI/Anthropic 请求格式互转,业务开发只要接一种格式,就可以对接各种不同的模型,减少开发成本
    2. 完善的控制面板,渠道管理,项目管理,权限控制,用户管理,API Key 管理等
    3. 低侵入 LLM API Trace ,支持不需要 SDK 就可以 trace 一次对话的多个 request ,以及保存 Request 和 Response 内容,方便排查问题

    本项目和 new-api 等项目的不同,本项目目标用户是 AI 产品开发者,不是中转服务商,所以会有更多开发监控相关能力,比如 Trace 。

    项目核心代码都有单测覆盖,并且技术选型比较新颖

    • 后端:Go + ent + gqlgen
    • 前端:React + TypeScript + Shadcn + Graphql

    本项目已经迭代了好几个版本了,本次正式发布 v0.4.0 ,主要添加功能

    1.trace/threads 可以 trace 并且查看同一个任务的多个请求,并且可以开启 claude code trace 支持,了解自己本次任务到底用了多少 token 等。 Trace

    2.支持配置保存 request/response 以及 response 的 SSE events 到外部 s3,gcs 等存储,减少数据库压力

    未来规划:

    1. Prompt Evaluation ,修改了 prompt 可以批量自动化回归是否有问题
    2. Agent 开发支持等

    更多信息大家可以看看项目 README ,有什么其他问题的欢迎提问或者创建 issue 。

    上文可见:

    https://v2ex.com/t/1164472

    https://v2ex.com/t/1160378

    4 条回复    2025-11-11 20:25:49 +08:00
    ylkk925
        1
    ylkk925  
       39 天前
    如果业务针对的 c 端用户是按 token 消耗量多少来计费,业务开发类似的功能就比较麻烦了。
    该平台是否有计划集成类似的功能。
    looplj
        2
    looplj  
    OP
       39 天前
    @ylkk925 #1
    1. 后续计划提供将某个 request 和业务 user_id 关联的方法
    2. 平台记录了每个 request 对应的 usage log ,包含 request 的 input/output token 用量
    3. 然后通过 user id 查询到 request 列表,然后可以统计出总的 token 用量
    ylkk925
        3
    ylkk925  
       39 天前
    @looplj usage log 的数据量会非常大,这种统计方式不太好。如果是做成报表,实时性又不够。
    looplj
        4
    looplj  
    OP
       39 天前
    @ylkk925 #3 大概理解你的场景了,类似 new-api 支持的那样,充值,然后消耗余额。
    这一块确实暂时不在本项目开发计划里面,现在更专注内部开发调试之类的。
    后续可能会接入 quota 限额之类的,但是应该不会接入充值。
    性能为他,都是可以优化的,如果不是订阅制,token 都是累加的,可以更好优化。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2303 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 21ms UTC 01:57 PVG 09:57 LAX 17:57 JFK 20:57
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86