这是一个创建于 3048 天前的主题，其中的信息可能已经有所发展或是发生改变。
我自己做了一个分布式爬虫，但是我想知道我到底能到什么速度，有没什么办法可以离线测试抓取速度呢，比如：一秒钟可以下载完成多少个网页，不需要太精确，有个大概就行？
 | 1 t6attack 2017-09-03 12:04:02 +08:00 网络环境是影响速度的重要因素。离线了还咋测试速度 |
 | 2 linuxchild 2017-09-03 12:07:50 +08:00 via iPhone 监控网络速度吧，然后取均值 |
 | 3 huangfs 2017-09-03 12:14:24 +08:00 日志能估算吧。 |
 | 4 bazingaterry 2017-09-03 12:18:10 +08:00 via iPhone 自己写的爬虫，里面写一下统计有难度吗…… |
 | 5 SlipStupig OP |
 | 6 ericls 2017-09-03 12:34:41 +08:00 via iPhone 既然是分布式 还是测试 scalability 吧 |
| 7 bazingaterry 2017-09-03 13:09:34 +08:00 via iPhone @SlipStupig 看你需要的精度？大不了一个页面一行 log。 |
 | 8 Devmingwang 2017-09-03 13:50:31 +08:00 爬吧，豆瓣网子域名，read01 等等等一大批网站都已经疯掉国外部分 IDC 访问了。。。。 |
 | 9 nywwsba 2017-09-03 16:20:25 +08:00 楼主现在用什么来跑爬虫呢？ vultr 怎么样 |
 | 10 jalena 2017-09-03 20:56:20 +08:00 在执行前和执行结束写个时间，算一下不就好了么？多测试几次取个平均值就好了嘛 |
Select Language