抓取淘宝店铺商品 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
jerryge
V2EX    Node.js

抓取淘宝店铺商品

  •  
  •   jerryge 2014-04-12 15:09:19 +08:00 8018 次点击
    这是一个创建于 4211 天前的主题,其中的信息可能已经有所发展或是发生改变。
    写了个简单的爬虫,想抓下一家淘宝店正在出售的宝贝(/search.htm?spm=a1z10.1.0.0.N8xbI3&search=y&orderType=hotsell_desc)。请求频率7秒抓一次,但发现抓了几次之后就要求登陆,跳转到登陆页面。请问有类似经验的同学吗
    11 条回复    1970-01-01 08:00:00 +08:00
    manhere
        1
    manhere  
       2014-04-12 15:53:44 +08:00 via Android
    淘宝api
    leofml
        2
    leofml  
       2014-04-12 15:54:30 +08:00
    检查 Referer, UA 和 Cookies
    jsonline
        3
    jsonline  
       2014-04-12 16:33:14 +08:00 via Android
    用phantom吧
    alay9999
        4
    alay9999  
       2014-04-12 20:18:36 +08:00
    @manhere API 好像只能提供你账号对应店铺的商品数据吧
    andrewrong
        5
    andrewrong  
       2014-04-12 20:40:58 +08:00
    公司之前是使用淘宝API的,但是后来淘宝封了,现在的话是自己写爬虫爬,但是为了防止淘宝识别就通过代理(VPN)进行爬,这样就可以防止淘宝探测到...你的现象比较像被淘宝检测出然后进行限制了..当然是我的猜测...不是很懂
    alexapollo
        6
    alexapollo  
       2014-04-12 20:42:30 +08:00   1
    bladecamper
        7
    bladecamper  
       2014-04-12 21:36:51 +08:00
    API现在基本等于封闭状态。
    用火车头采集器吧。
    ryan10107
        8
    ryan10107  
       2014-04-12 22:37:06 +08:00
    可以AD拨号吧,搞多点cookie和header的模拟,现在淘宝封店铺商品列表封得很厉害,做爬虫还是看IP的
    jerryge
        9
    jerryge  
    OP
       2014-04-13 22:17:28 +08:00
    @andrewrong 是指通过VPN轮训IP吗
    jerryge
        10
    jerryge  
    OP
       2014-04-13 22:18:06 +08:00
    @manhere 现在的API基本废了
    jerryge
        11
    jerryge  
    OP
       2014-04-13 22:19:16 +08:00
    @ryan10107 倒霉孩子不是ADSL上网的。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2973 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 13:07 PVG 21:07 LAX 06:07 JFK 09:07
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86