pandas loc 操作会内存泄漏? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
wuwukai007
V2EX    Python

pandas loc 操作会内存泄漏?

  •  
  •   wuwukai007 2020-01-17 09:41:33 +08:00 4007 次点击
    这是一个创建于 2108 天前的主题,其中的信息可能已经有所发展或是发生改变。

    df = pd.DataFrame() df 大概用了 1.5GB 内存 然后我 df = df.loc[xxx] df 切片为原来的 10 分之一,用 sys.getsizeof(df) df 内存为 100 多 MB,但是 python 的内存还是 1.5G+, 怎么会这样呢? 用了 gc.collect()也是不行

    14 条回复    2020-01-17 15:47:14 +08:00
    djj510620510
        1
    djj510620510  
       2020-01-17 10:01:33 +08:00
    未复现:
    import pandas
    import sys

    df = pandas.DataFrame([[j for j in range(100)] for i in range(10000)])
    print(sys.getsizeof(df)) # 8000104
    df = df.loc[:100]
    print(sys.getsizeof(df)) # 80904
    djj510620510
        2
    djj510620510  
       2020-01-17 10:02:38 +08:00
    @djj510620510

    是不是 df 里面有 list 或者 dict 之类的引用类型,
    wuwukai007
        3
    wuwukai007  
    OP
       2020-01-17 10:06:22 +08:00
    @djj510620510 切片后内存确实是少了
    但是你看 python 的内存,没释放
    wuwukai007
        4
    wuwukai007  
    OP
       2020-01-17 10:08:33 +08:00
    在 ipython 里面,这样操作后,切片后的内存对象小了,
    但是查看当前 python 占用内存,还是 切片之前的
    djj510620510
        5
    djj510620510  
       2020-01-17 10:22:28 +08:00
    @wuwukai007

    啊,我看漏了,的确是内存还是那么多。

    不过我再测了一下,如果把处理放到函数里面的话,函数执行完了,内存就会减少:

    In [1]: def test():
    ...: df = pandas.DataFrame([[j for j in range(1000)] for _ in range(10000)])
    ...: df = df.loc[:100]
    ...: return df
    ...:

    In [2]:

    In [2]: import pandas

    In [3]: a = test()
    Kelan
        6
    Kelan  
       2020-01-17 11:29:50 +08:00
    python 就有这种问题,如果运算过程对内存很紧张的话,建议开子进程,用完销毁
    zk8802
        7
    zk8802  
       2020-01-17 11:33:46 +08:00 via iPhone
    IPython 的 In 与 Out 是不是保持了切片之前的数组的引用?试试 IPython.display.clear_output()
    jyyx
        8
    jyyx  
       2020-01-17 11:46:49 +08:00
    用 ipython 你可以看下 globals()里面还有原来的变量
    wuwukai007
        9
    wuwukai007  
    OP
       2020-01-17 11:48:32 +08:00
    @Kelan @djj510620510 @zk8802
    用了一个曲线的方法,
    df2 = df.loc[:100].copy()
    del df
    但是有一个问题,如果切片的数据也是很多的话比如源数据 1.5G 切一般,
    这样曲线做还是会临时增加 800MB 的内存。。。。
    wuwukai007
        10
    wuwukai007  
    OP
       2020-01-17 11:49:09 +08:00
    @jyyx @zk8802
    不是 ipython 的问题,我在脚本里跑发现这个问题才在 ipython 里面测试的
    zk8802
        11
    zk8802  
       2020-01-17 13:08:11 +08:00 via iPhone
    试试强制 garbage collection:
    import gc; gc.collect()
    cheng6563
        12
    cheng6563  
       2020-01-17 13:46:19 +08:00
    不懂 python,会不会是 gc 回收内存后不会实时把内存还给操作系统。
    TPOB
        13
    TPOB  
       2020-01-17 15:37:22 +08:00
    我之前也遇到过类似的情况,后来像楼上说的用子进程了
    jyyx
        14
    jyyx  
       2020-01-17 15:47:14 +08:00
    我试了下的确用切片会有问题
    df = df.loc[xxx, :] 这样写会有问题
    可以试下改成 df.drop(xxxx, inplace=True)
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     865 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 31ms UTC 22:39 PVG 06:39 LAX 15:39 JFK 18:39
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86