推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
新人学 Python 爬虫，用了 BS4，目前只会爬取具体的 url，求问如何爬取整个页面呢或者是某个日期呢
kiko12324 2022-04-19 13:33:05 +08:00 3199 次点击这是一个创建于 1282 天前的主题，其中的信息可能已经有所发展或是发生改变。
爬取的网站： https://www.beiei.com/navisample.php
爬取目标：公司名称
如图：这是爬取单个页面，用 request 请求下来再用 bs4 解析设置条件为 li 和 li0 就能够获取了，但是在外面的 url 好像都是没有啥关联的...
如图:比如爬取 4.18 号，发现用 bs4 不知道该怎么取到该段 HTML ，怎么用 bs4 限制到这段呢
爬取目标：公司名称
如图：这是爬取单个页面，用 request 请求下来再用 bs4 解析设置条件为 li 和 li0 就能够获取了，但是在外面的 url 好像都是没有啥关联的...
如图:比如爬取 4.18 号，发现用 bs4 不知道该怎么取到该段 HTML ，怎么用 bs4 限制到这段呢
 | 1 janda 2022-04-19 13:35:05 +08:00 xpath |
 | 2 colatea 2022-04-19 13:39:11 +08:00 我用 xpath,大同小异,取到 div 内容为 2022.04.18 以后,向上找父节点,再向下找 table html.xpath("\\div[text()='2022.04.18']/../table/tbody") |
 | 3 a href="/member/Ritter" class="dark">Ritter 2022-04-19 13:40:16 +08:00 百度 bs4 doc |
 | 4 NotFoundEgg 2022-04-19 13:50:58 +08:00 divs = soup.findAll(name='div', attrs={"class": "dateDiv"}) for div in divs: if '2022.04.18' in div.next: table = div.find_next('table') |
 | 5 Joshuam 2022-04-19 18:58:14 +08:00 via Android 推荐个 chrome 插件：SelectorGadget 只需点点点你要的数据，他给你 CSS Selector ，然后使用 bs4 处理 CSS Selector |
 | 6 AmberJiang 2022-04-25 15:55:55 +08:00 建议查看 BS4 的官方文档学习 |
Select Language