软件应用教程

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户

通过火车采集器官网的faq为例来说明采集器采集的原理和过程。

本例以 http://faq.locoy.com/qc-12.html 演示地址,以火车采集器V9为工具进行示例说明。

(1)新建个采集规则

选择一个分组上右击,选择“新建任务”,如下图:

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
(2)添加起始网址

在这里我们需要采集 5页数据。

分析网址变量规律

第一页地址:http://faq.locoy.com/qc-12.html?p=1

第二页地址:http://faq.locoy.com/qc-12.html?p=2

第三页地址:http://faq.locoy.com/qc-12.html?p=3

由此我们可以推算出p=后的数字就是分页的意思,我们用[地址参数]表示:

所以设置如下:

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
地址格式:把变化的分页数字用[地址参数]表示。

数字变化:从1开始,即第一页;每次递增1,即每次分页的变化规律数字; 共5项,即一共采集5页。

预览:采集器会按照上面设置的生成一部分网址,让你来判读添加的是否正确。

然后确定即可

(3)[常规模式]获取内容网址

常规模式:该模式默认抓取一级地址,即从起始页源代码中获取到内容页A链接。

在这里给大家演示用 自动获取地址链接 +设置区域 的 方式来获取。

查看页面源代码找到文章地址所在的区域:

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
设置如下:

注:更详细的分析说明可以参考本手册:

操作指南 > 软件操作 > 网址采集规则 > 获取内容网址

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
点击网址采集测试,看看测试效果

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
(3)内容采集网址

以 http://faq.locoy.com/q-1184.html 为例讲解标签采集

注:更详细的分析说明可以下载参考官网的用户手册。

操作指南 > 软件操作 > 内容采集规则 > 标签编辑

我们首先查看它的页面源代码,找到我们“标题”所在位置的代码:

分析得出: 开头字符串为:

数据处理——内容替换/排除:需要把- 火车采集器帮助中心 给替换为空

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
内容标签的设置原理也是类似的,找到内容所在源码中的位置

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
分析得出: 开头字符串为:

结尾字符串为:

数据处理——HTML标签排除:把不需要的A链接等过滤

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
再设置个“来源”字段

火车采集器V9.7之文章采集规则编写案例教程_爬虫软件技术与爬虫软件网页数据采集器门户
这样一个简单的文章采集规则就做好了,使用火车采集器并按照这个示例的步骤就可以进行其它类型数据采集的扩展啦。

软件应用教程

更多有关于 软件应用教程

如何利用火车采集软件采集58招聘信息_爬虫软件技术与爬虫软件网页数据采集器门户

什么是火车采集器 如何使用火车采集器软件_爬虫软件技术与爬虫软件网页数据采集器门户

如何使用火车采集器制作zencart数据包来进行批量导入商品_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器的DedeCMS5.7文章免登陆发布接口_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器如何把浏览器里面的cookie到火车头采集器里面_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器教程之如何通过fiddler获取cookie简单教程_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器FTP设置 图片下载上传的路径的设置_爬虫软件技术与爬虫软件网页数据采集器门户

火车头采集器文件图片下载路径设置简易说明_爬虫软件技术与爬虫软件网页数据采集器门户

火车采集器采集淘宝天猫商品采集多页获取宝贝详细教程_爬虫软件技术与爬虫软件网页数据采集器门户

本人擅长Ai、Fw、Fl、Br、Ae、Pr、Id、Ps等软件的安装与卸载,精通CSS、JavaScript、PHP、ASP、C、C++、C#、Java、Ruby、Perl、Lisp、Python、Objective-C、ActionScript、Pascal等单词的拼写,熟悉Windows、Linux、OS X、Android、iOS、WP8等系统的开关机。

通过下面的方式来联系我们:

电邮:138762189@qq.com

联系QQ:点击这里给我发消息

官方站:www.tadke.com

※ ※ 联系请加我的企鹅号 ※※

※ ※技术支持请微信联系站长 ※※

Copyright © 2016 Tadke.com. Powered by Wordpress.