
也就开了 32 个线程这样,爬一会就疯狂报错 然后把并发改为 10 之后就可以正常爬了
requests.exceptions.SSLError: EOF occurred in violation of protocol (_ssl.c:645) 还有个问题:爬虫插入 mysql 的策略是什么? 一定数量批量插 还是一条一条插 感觉一条条插在高并发的情况下十分不稳定
1 xxxy 2018 年 8 月 3 日 貌似是 openssl 的限制? |
2 lhy360121 2018 年 8 月 3 日 批量插 |
3 lllllllllllllll 2018 年 8 月 3 日 pip install 'requests[security]' |
4 nu11001 2018 年 8 月 3 日 试试异步 aiohttp |
5 SpiderXiantang OP @xxxy 后来我发现 我开并发为 10 的情况下也会报错 |
6 SpiderXiantang OP @lllllllllllllll 我试试 |
7 awah 2018 年 8 月 3 日 via Android @SpiderXiantang 你好,我也遇到这个问题。请问解决了吗? |
8 SpiderXiantang OP @luguhu 安装 requets[security] |