etcd 一次性插入大量数据导致超时 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
The Go Programming Language
http://golang.org/
Go Playground
Go Projects
Revel Web Framework
kalista
V2EX    Go 编程语言

etcd 一次性插入大量数据导致超时

  •  
  •   kalista 2021-11-08 18:28:42 +08:00 via Android 2469 次点击
    这是一个创建于 1446 天前的主题,其中的信息可能已经有所发展或是发生改变。
    数据量大概在一百万条,一开始是每次插入建立一个新连接,发现 put 操作超时,后面改成了 put 共用一个连接,在跑了两小时后仍然超时,想问下各位有没有比较好的办法做这个操作,还是说我应该想办法了解为什么超时,服务器间网络是没有问题的。
    11 条回复    2021-11-09 16:34:42 +08:00
    imherer
        1
    imherer  
       2021-11-08 18:31:07 +08:00
    100w ?什么数据这么多数据,感觉这个不应该用 etcd 来做
    kalista
        2
    kalista  
    OP
       2021-11-08 18:32:25 +08:00 via Android
    @imherer 一言难尽,属于历史遗留问题了,现在版本又得想办法做这个操作
    dallaslu
        3
    dallaslu  
       2021-11-08 18:32:43 +08:00
    「 etcd (读作 et-see-dee )是一种开源的分布式统一键值存储,用于分布式系统或计算机集群的共享配置、服务发现和的调度协调」

    一百多万条了,要不要试试别的吧
    leonme
        4
    leonme  
       2021-11-08 18:38:15 +08:00 via iPhone
    属于乱用中间件了……
    hopingtop
        5
    hopingtop  
       2021-11-08 20:44:54 +08:00
    一百万数据并不多的。如果在读场景少的情况下。 从节点不多的情况,一般不会出现这样的情况。
    出现问题,主要是看 client 的使用方式是否有问题,还有就是 ETCD 的配置。如果是云服务,一般是大多数场景的最佳配置。特别注意一下 关于 ETCD 存储大小和压缩相关的设置
    看看 client 端吧。 如果是基于 v2 版本的 HTTP , 也要注意一下 Request 包是否有什么问题。
    还有就是每一个 KV ,V 是否过大?
    如果会其他语言,可以试着换一种语言的 Client 试试
    hopingtop
        6
    hopingtop  
       2021-11-08 20:45:45 +08:00
    @hopingtop 这里只单纯讨论为什么可能出现超时,不讨论为什么要这么用 ETCD
    mogging
        7
    mogging  
       2021-11-08 21:48:02 +08:00 via Android
    是不是--max-request-bytes 用的是默认值
    SmiteChow
        8
    SmiteChow  
       2021-11-09 11:02:15 +08:00
    etcd 也没想到自己被迫吃这么多 k-v

    讲真,盲猜是一直在一个节点进行快速写入+内部节点同步导致 cpu 爆掉问题。
    建议搞 pool ,把集群所有节点都连上,均匀写入以及控制写入频率。
    luoqeng
        9
    luoqeng  
       2021-11-09 12:27:14 +08:00
    etcd 是用来存 Meta 数据的
    996635
        10
    996635  
       2021-11-09 16:31:41 +08:00
    检查 etcd 版本, 3.4 以后有优化
    另外对于一个分布式系统来说, 并发写事务性能不会太高, 官方的 benchmark 是 10 万 KEY,QPS 有 33K, leader only 和 all members 差别还是蛮大的.
    996635
        11
    996635  
       2021-11-09 16:34:42 +08:00
    建议先查 etcd server log, 看一下超时的原因再做优化
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2773 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 06:45 PVG 14:45 LAX 23:45 JFK 02:45
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86