推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
这是一个创建于 2189 天前的主题，其中的信息可能已经有所发展或是发生改变。
我使用 scrapy-redis 开发了一个分布式爬虫，并分别部署在 4 个 docker 中，抓取程序中的 pipeline 负责连接 hadoop 并将数据追加到 hadoop 中，但因为是分布式的存在，必定会造成同一时刻有多个 client 操作同一个 file，就违反了 hadoop 的 lease 机制，从而造成数据入库失败，大家有什么办法解决吗
 | 1 vveexx 2019-12-24 12:57:15 +08:00  1 和楼主的场景类似，我们走了 kafka，多生产者，单个消费者 |
 | 2 hdbzsgm 2019-12-24 12:59:38 +08:00 1 简单场景 随便用个单点 redis 做锁喽 |
 | 3 deepall OP |
 | 4 F281M6Dh8DXpD1g2 2019-12-24 13:22:24 +08:00 没这么复杂，每个爬虫自己写自己的文件最后合起来处理就行了 |
 | 6 Leiothrix 2019-12-24 14:33:35 +08:00 用 redis 实现一个简单的分布式进程锁可解，用 lua 脚本保证操作原子性 |
Select Language