采集教程及采集分页设置问题
采集教程及采集分页设置问题
发布时间:2016-12-26 来源:查字典编辑
摘要:其实采集可以这么理解,定义头和尾,除了在截取链接不需要检测,在其它地方你定义的头和尾,在同一个html表里不能有相同的,为什么不能有相同的呢...

其实采集可以这么理解,定义头和尾,除了在截取链接不需要检测,在其它地方你定义的头和尾,在同一个html表里不能有相同的,为什么不能有相同的呢?是因为采集的每一步(除了截取链接外)都是根据你所定义的头和尾来截取页面内容的。所以你在定义头和尾不仅不能有相同的,还要尽可能地把不需要的内容排除开。如果你理解了这个定义头和尾,基本上对于简单的页面是能采集的。下面我以一个实例来说明一下:

以下内容为程序代码:

新闻列表网址:http://ent.qq.com/newxw/thd_sjym.htmhttp://ent.qq.com/newxw/thd_sjym.htmhttp://ent.qq.com/newxw/thd_sjym.htm

列表开始代码:<tdstyle="padding-left:6px;"><tableborder="0"cellpadding="0"cellspacing="0"class="table_logo">

列表结束代码:<tdheight="5"colspan="2"></td>

链接开始代码:·<atarget="_blank"href="

链接结束代码:">

标题开始标记:<title>

标题结束标记:</title>

正文开始标记:<divid="ArticleCnt">

正文结束标记:<divid="ArticleTopic"></div>

上面所采集的页面是比较标准的。现在来分析一下:

列表网址:就是你要采集的页面,这一步很关键,以前这一步我是乱搞,现在发现这一步关系到你能否采集完所有内容。一般你进入采集页面先判断一下是不是有多页,如果有多页你进入第二页和第一页是不是有规律变化,比如是:xxxx_1.htm,xxx_2.htm,特别注意数字,如果第一页开始就有_id的规律,那就把第一页作为列表网址,如果第一页与第二页没相关规律,而是从第二页开始才能这样的规律,那将第二页作为列表网址,第一页放到一边,等所有数据采集完了,再来采集单独页面,反正以后也只采集第一页,为啥?因为一般更新的都在第一页。

列表开始与结束:这里就是向采集程序说明你要采集的内容大概方向,比如上例里的列表网址,里面有好多内容,我只采集右边的新闻,这时你可以搜索第一条新闻,向上看,找段在这个HTML文件里唯一的内容,这里定义头和尾要值得注意的是:空格也算的。比如<ahref前有四个空格,这也算个特征,反正不管怎么样,只要是全文仅有的就行。同样方法,只是这次搜索最后一条新闻,定位一下,省得全文乱找,浪费时间,往下推找个全文仅有的代码,

链接开始与结束,这里你得看一下采集页面了,然后再看HTML文件,一般是<ahref=开始,>结束。中间的内容就让采集程序帮你去放

到这里已经接近成功了,这时为了保险一点,随机点五个页面,找五个页面的共同点,把标题开始与结束,正文开始与结束填一下,

最后测试一下。应该可以了吧。

下面谈谈分页,分页有二种,一种是采集页的分页,另一种是文章内容的分页。

采集页的分页:

例:

以下内容为程序代码:

新闻列表网址:http://www.pconline.com.cn/mobile/news/hgxz/index_1.htmlhttp://www.pconline.com.cn/mobile/news/hgxz/index_1.html

列表开始代码:1pxsolid;">文章列表</TD>

列表结束代码:<DIVALIGN="CENTER">

列表索引分页:批量生成:http://www.pconline.com.cn/mobile/news/hgxz/index_{$ID}.htmlhttp://www.pconline.com.cn/mobile/news/hgxz/index_{$ID}.html

生成范围:4to1

链接开始代码:<ahref="

链接结束代码:target="_blank"

标题开始标记:<title>

标题结束标记:-太平洋电脑网Pconline-[手机新品速递]</title>

正文开始标记:广告:ad_top</IFRAME>

正文结束标记:<brclear=all>

请注意列表网址与列表索引分页链接的不同之处:就是将index_1.html改为了index_{$ID}.html,

生成范围:这里有多少页就?to?,有二种选择,由后到前,前到后,随便你喜好。

内容页的分页:

例:

以下内容为程序代码:

新闻列表网址:http://www.enet.com.cn/emobile/inforcenter/articlelist.jsp?page=1&atype=A&acid=4146http://www.enet.com.cn/emobile/inforcenter/articlelist.jsp?page=1&atype=A&acid=4146

列表开始代码:<tdclass="filter4"width="350"><fontcolor="#FFFFFF">手机资讯

列表结束代码:<tdheight="2"></td>

批量生成:http://www.enet.com.cn/emobile/inforcenter/articlelist.jsp?page={$ID}&atype=A&acid=4146http://www.enet.com.cn/emobile/inforcenter/articlelist.jsp?page={$ID}&atype=A&acid=4146

生成范围:10to1(这样的好处最新新闻在前面,不然刚好跟采集页面相反,最后一页为最新新闻)

链接开始代码:<td><ahref="

链接结束代码:target="_blank"

标题开始标记:<strongclass="p24">

标题结束标记:<tdalign="center">(这里要把前面的空格一起复制了,不然会出现错误)

正文开始标记:<tablewidth="100%"border="0"cellspacing="0"cellpadding="2"align="center">

正文结束标记:<pid="adv_under_cont"></p>

下页开始标记:<ahref="./(找到下一页,把<ahref="./的空格也复制了)

下页结束标记:">下一页</a>

请注意下页开始与结束:找到分页代码,找到下一页的代码:定义好下一页开始与结束就OK。这里多试几次,因为这里代码可选择范围小。

推荐文章
猜你喜欢
附近的人在看
推荐阅读
拓展阅读
相关阅读
网友关注
最新应用技巧学习
热门应用技巧学习
网页设计子分类