首页前端开发HTMLHtmlParser 一个不错的网站爬虫工具分享

HtmlParser 一个不错的网站爬虫工具分享

时间2024-05-17 00:24:03发布访客分类HTML浏览26
导读: 有时候我们需要在网上获取自己需要的内容时,而且需求量达到一定程度时,就要通过代码来实现重复的操作。 当用Java来帮我们解决这个问题时,我们又如何通过Java来过滤掉多余的内容,剩余自己想要的信息呢,这时HtmlParser会是一...
  有时候我们需要在网上获取自己需要的内容时,而且需求量达到一定程度时,就要通过代码来实现重复的操作。   当用Java来帮我们解决这个问题时,我们又如何通过Java来过滤掉多余的内容,剩余自己想要的信息呢,这时HtmlParser会是一个不错的选择。   HtmlParser是一个用java语言写的,用来解析html文件(网页)的应用库,主要的作用就是做网页的信息提取。   HtmlParser提供了许多的过滤器给我们选择,而且使用它只需要下载一个jar包,然后向项目导入jar包就可以引用了。   在这里,笔者使用几个比较常用的过滤器来做网页提取。   首先,我们需要下载HtmlParser的jar包,下载地址:点击打开链接   我们选择最新的1.6的版本,下载完后,解压压缩包,到htmlparser1_6\lib目录下,复制htmlParser.jar文件然后粘贴到你的项目里面,跟着下面步骤操作。   然后,我们就要用htmlparser来为我们提取我们需要的信息   第一种过滤器:LinkStringFilter   (LinkStringFilter(String 属性值)过滤器是根据href连接属性中是否含属性值字段来筛选)   场景:   估计大家都不会讨厌看电影的,那么就先来获取电影的下载链接   (有些人也许会感觉纳闷,直接点击链接不就可以了吗,但当你要获取1000个电影的连接时,你就不会这么觉得了)   抓取代码并不是这么容易的,要在网页的源代码找到我们需要的信息(也就是下载地址),然后找到这个信息特别的地方,然后利用合适的过滤器去抓取。   下面用代码来获取电影的下载地址(部分代码会有提示):   代码本身是不多的,只是注释有点多。然后我们来拷贝这个网页的ip地址,运行一下这个方法。   第二种过滤器:HasAttributeFilter   (HasAttributeFilter(String 属性名,String 属性值)根据对应的属性名是否存在这样的属性值查找元素)   这个过滤器的功能强大一些,但是有一些地方需要注意,不是包含属性值,只能找到完全相等的属性值的元素   场景:   有些网页有许多部电影,如果你想把这些电影的下载地址全部获取,怎么办?   点击这些链接,只是进去电影的介绍界面,里面才有我们要的下载地址,也就是一个电影至少要点击两次才能下载电影,重复的事情让代码帮我们去完成吧。   分析:首先我们要进入每个电影的介绍界面才能获取电影的下载地址,那么我们就要把它们的介绍地址全部拿过来,然后再循环进入到这些介绍界面获取我们最爱的下载地址。查看网页的源代码寻找一些这些链接的规律。   下面来获取电影的介绍地址(部分代码有提示):   接着我们来获取这些电影介绍地址里面的下载地址:   第三种过滤器:TagNameFilter   (TagNameFilter(String 标签名),根据标签名来查找对应的元素)   这个过滤器一般结合其他过滤器来使用,单独使用的查找效果很低,这里就不作范例了。

声明:本文内容由网友自发贡献,本站不承担相应法律责任。对本内容有异议或投诉,请联系2913721942#qq.com核实处理,我们将尽快回复您,谢谢合作!


若转载请注明出处: HtmlParser 一个不错的网站爬虫工具分享
本文地址: https://pptw.com/jishu/661625.html
HtmlParser进行解析原理整理 HTML入门详细总结分享

游客 回复需填写必要信息