一般统计类的需求,你们都是找数仓实现,还是自己 mysql 搞个计数表? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
ShineHyper
V2EX    数据库

一般统计类的需求,你们都是找数仓实现,还是自己 mysql 搞个计数表?

  •  
  •   ShineHyper 222 天前 1902 次点击
    这是一个创建于 222 天前的主题,其中的信息可能已经有所发展或是发生改变。

    RT ,类似那种全量数据统计的需求,比如有个每日打卡的需求,用户每天都可以点击打卡按钮打卡,保存一条打卡记录,最终要统计每个用户每周、每月、每年打卡天数在全站排名前百分之几; 假用户量千万级。

    类似这种全量统计的需求,一般你们是丢给数仓直接全量刷数据统计,还是自己搞个业务 mysql 表一点点统计?

    5 条回复    2025-03-03 10:13:02 +08:00
    dobelee
        1
    dobelee  
       222 天前
    我的经验,一般准确性、实时性要求高的,就走服务端;涉及复杂关联或聚合的就走数仓。
    你这个例子,服务端记录简单的操作日志,用户查询走服务端。聚合统计走数仓,这种一般是运营数据需求,非业务需求,理论上你可以不用管。
    sagaxu
        2
    sagaxu  
       222 天前 via Android
    打卡这个例子并不好,每年打卡最多才 366 次,每个次数都记录下人数,再记录比每个次数多的人数总和,根本用不上全量统计,直接实时出结果。
    CodeCaster
        3
    CodeCaster  
       222 天前
    这个需要结合业务一起来看,就比如你说的这个打卡的例子,显然是一个实时性并不高的业务场景,每天刷新一下结果就可以了,那么用 MySQL 存储每个人的打卡记录,每天定时任务离线计算结果,同时,对一定时间之前的打卡数据转移至冷数据表,保证热数据表数据量不会无限增长。
    dode
        4
    dode  
       221 天前
    单独做一个幂等更新的用户每日打卡结果表,然后就可以直接算每日,每周,每年的排行了
    spritecn
        5
    spritecn  
       220 天前
    数仓门槛那么高,这点小活给大数部门人家都懒得理你
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     855 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 21:40 PVG 05:40 LAX 14:40 JFK 17:40
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86