发现处理十万条以上数据的时候 sed、awk 命令就 bug 了 - V2EX
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
artandlol
V2EX    Linux

发现处理十万条以上数据的时候 sed、awk 命令就 bug 了

  •  
  •   artandlol Mar 13, 2017 4622 views
    This topic created in 3351 days ago, the information mentioned may be changed or developed.

    十万条以上就开始只能处理一部分而已

    16 replies    2017-03-14 09:31:35 +08:00
    mdzz
        1
    mdzz  
       Mar 13, 2017
    看到 grep - md5.sum 的时候楞了几秒钟
    Martin9
        2
    Martin9  
       Mar 13, 2017
    @mdzz 我也
    ElmerZhang
        3
    ElmerZhang  
       Mar 13, 2017
    你确定不是你的 md5.sum 一直有 append ?
    yiyiwa
        4
    yiyiwa  
       Mar 13, 2017
    10 万条不至于吧!
    congeec
        5
    congeec  
       Mar 13, 2017 via iPhone
    这种情况下不用 cut 么?
    rrfeng
        6
    rrfeng  
       Mar 13, 2017
    从未遇到过
    noark9
        7
    noark9  
       Mar 13, 2017
    从未遇到过,你确定你的数据只是按行还是有增加,或者数据没问题,之前导数据的时候三五百万是松松的处理啊
    lrz0lrz
        8
    lrz0lrz  
       Mar 13, 2017
    处理几千万行数据从没遇到过这个问题
    est
        9
    est  
       Mar 13, 2017
    在 hdfs /hadoop stream 上跑 grep 的路过。都不是事儿~~
    airqj
        10
    airqj  
       Mar 13, 2017
    @mdzz
    @Martin9
    以为这是 grep 某种自己未知用法 :(
    rogerchen
        11
    rogerchen  
       Mar 13, 2017
    楼主总想搞个大新闻, FSF 这些远古套件出问题的可能性几乎没有,你也不想想用户群有多大。。。
    lhbc
        12
    lhbc  
       Mar 13, 2017 via iPhone
    十万也算量?
    fxxkgw
        13
    fxxkgw  
       Mar 13, 2017
    C 的效率对付几十万条数据还是妥妥的
    chineselittleboy
        14
    chineselittleboy  
       Mar 13, 2017
    下午刚处理过三百万行的文本,几十秒
    halfbloodrock
        15
    halfbloodrock  
       Mar 14, 2017
    想用 shell 处理大量文本数据的话,用 while 结合 awk , sed 。
    feiyang21687
        16
    feiyang21687  
       Mar 14, 2017
    md5.sum......
    About     Help     Advertise     Blog     API     FAQ     Solana     990 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 88ms UTC 23:05 PVG 07:05 LAX 16:05 JFK 19:05
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86