火车头采集

火车采集器之列表页分页采集获取功能使用方法教程_爬虫软件技术与爬虫软件网页数据采集器门户

火车采集器之列表页分页采集获取功能使用方法教程_爬虫软件技术与爬虫软件网页数据采集器门户

火车采集器之列表页分页采集获取功能使用方法,对于设置列表分页,下图设置是最常见也是最常用的。

火车采集器之列表页分页采集获取功能使用方法教程截图1

现在教大家另外一个获取分页的办法,就是通过列表页分页采集获取功能来自动获取分页。

使用这个功能,起始页就只需要把首页地址添加进去就可以了如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图2

分页设置是在 “多级网址获取”里的“列表分页获取”如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图3

上图“从该区域中提取列表分页网址”这里就是找到源代码里面分页开始和结束,中间包含的地址就分页地址。

对于那种分页全部列出来的,设置好这一步就可以了,但是很多情况下分页都不是完全列出来的,中间会有省略号代替如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图4

现在针对全部列出,和不是全部列出这2种情况,做一个都适用的设置,我一直都是用这种方式获取,几乎解决所有的网站。

我们重要的是要找到当前页源代码的特点。我是用http://news.qq.com/newsgn/zhxw/shizhengxinwen.htm 这个列表页来做说明的。

我们看下第一页分页源代码的情况如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图5

再看下第二页源代码的情况如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图6

然后我们不再一页一页看随便看一页,查看源代码我这里选第五页如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图7

通过红色标注,大家看到规律了没有?当前页都是<strong></strong>这个代码后面紧接着一个<a >就是下一页地址。

也就是说我们是要通过当前页获取下一页,这样一级一级的向下获取,直至把所有分页获取到。

那么放到采集器里面的表示就是从<div class="pageNav">开始,中间我不管是什么用(*)表示,然后遇到第一个<strong>(*)strong>,因为页码也是变化的所以中间我用(*)表示变化的。
然后到再到第一次出现</a> 做为结束,中间包含的就是下一页地址。

而且分页地址也有一个规律<a href="http://news.qq.com/newsgn/zhxw/shizhengxinwen_6.htm"> 变化的是页码数字,变化的用参数来替代,其他是不变化的,那么我们只要获取变化

的就可以了。

原理就是这样,在我遇到的分页都是有这样的规律的,源代码肯定是不一样的,但是规律是一样的,大家要会举一反三,不要死脑筋。这里告诉的是方法!!!!

写到采集器里面如下图:

火车采集器之列表页分页采集获取功能使用方法教程截图8

我们可以通过上图“最多获取分页数”来设置要获取多少页,0为全部获取。

右侧“组合生成列表页分页”我们做了设置的,上图的“自动识别分页”就不需要勾选了。最好不要勾选,有时候会出错。

我上面的截图都是勾选上的,默认是勾选的,设置好规则了,就把这个勾选取消。

火车头采集

更多有关于 火车头采集

如何利用火车采集软件采集58招聘信息_爬虫软件技术与爬虫软件网页数据采集器门户

什么是火车采集器 如何使用火车采集器软件_爬虫软件技术与爬虫软件网页数据采集器门户

如何使用火车采集器制作zencart数据包来进行批量导入商品_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器的DedeCMS5.7文章免登陆发布接口_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器如何把浏览器里面的cookie到火车头采集器里面_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器教程之如何通过fiddler获取cookie简单教程_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器FTP设置 图片下载上传的路径的设置_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器文件图片下载路径设置简易说明_爬虫软件技术与爬虫软件网页数据采集器门户

火车采集器采集淘宝天猫商品采集多页获取宝贝详细教程_爬虫软件技术与爬虫软件网页数据采集器门户

本人擅长Ai、Fw、Fl、Br、Ae、Pr、Id、Ps等软件的安装与卸载,精通CSS、JavaScript、PHP、ASP、C、C++、C#、Java、Ruby、Perl、Lisp、Python、Objective-C、ActionScript、Pascal等单词的拼写,熟悉Windows、Linux、OS X、Android、iOS、WP8等系统的开关机。

通过下面的方式来联系我们:

电邮:138762189@qq.com

联系QQ:点击这里给我发消息

官方站:www.tadke.com

※ ※ 联系请加我的企鹅号 ※※

※ ※技术支持请微信联系站长 ※※

Copyright © 2016 Tadke.com. Powered by Wordpress.