JAVA网络爬虫之Jsoup解析

最近有个项目任务是爬取汽车之家上面各论坛的回复。但是大家都清楚汽车之家的反爬虫措施做得相当好。也是为了保护个人权益的原因或者是保护用户的信息吧。所以为了完成任务就必须要反反爬虫。这是一个很让人头痛的问题。

所以这里我准备使用jsoup来爬取， jsoup是一款Java 的HTML解析器，可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API，可通过DOM，CSS以及类似于jQuery的操作方法来取出和操作数据。

jsoup的主要功能如下：

1. 从一个URL，文件或字符串中解析HTML；

2. 使用DOM或CSS选择器来查找、取出数据；

3. 可操作HTML元素、属性、文本；

虽然使用Jsoup可以替代HttpClient直接发起请求解析数据，但是往往不会这样用，因为实际的开发过程中，需要使用到多线程，连接池，代理等等方式，而jsoup对这些的支持并不是很好，所以我们一般把jsoup仅仅作为Html解析工具使用。前面介绍了汽车直接的反爬措施做的相当严，这里我们只是简单的分享学习不做大规模数据爬取，所其他的反爬策略做的不是很足，只是他在访问过程中添加了爬虫代理以防万一。关于代理的选择之前分享了从不同方面比较的数据和推荐这里就不在一一介绍。

代理在Jsoup真中共的使用过程如下所示，在使用过程中要注意JSoup默认会关闭连接 访问HTTP网站请通过设置相同Proxy-Tunnel来保持相同的外网IP. 访问HTTPS网站请使用其他库,保持相同的外网IP.

import java.io.IOException;
    
import java.net.Authenticator;
    
import java.net.InetSocketAddress;
    
import java.net.PasswordAuthentication;
    
import java.net.Proxy;
    

import org.jsoup.Jsoup;
    
import org.jsoup.nodes.Document;



public class Demo
{
    
    // 代理验证信息
    final static String ProxyUser = "username";
    
    final static String ProxyPass = "password";
    

    // 代理服务器(产品官网 www.16yun.cn)
    final static String ProxyHost = "t.16yun.cn";
    
    final static Integer ProxyPort = 31111;
    

    // 设置IP切换头
    final static String ProxyHeadKey = "Proxy-Tunnel";



    public static String getUrlProxyContent(String url)
    {

        Authenticator.setDefault(new Authenticator() {

            public PasswordAuthentication getPasswordAuthentication()
            {
    
                return new PasswordAuthentication(ProxyUser, ProxyPass.toCharArray());

            }

        }
    );
    
        // 设置Proxy-Tunnel
        Random random = new Random();
    
        int tunnel = random.nextInt(10000);
    
        String ProxyHeadVal = String.valueOf(tunnel);
    

        Proxy proxy = new Proxy(Proxy.Type.HTTP, new InetSocketAddress(ProxyHost, ProxyPort));


        try
        {
    
            // 处理异常、其他参数
            Document doc = Jsoup.connect(url).timeout(3000).header(ProxyHeadKey, ProxyHeadVal).proxy(proxy).get();


            if(doc != null) {
    
                System.out.println(doc.body().html());

            }

        }

        catch (IOException e)
        {
    
            e.printStackTrace();

        }
    

        return null;

    }


    public static void main(String[] args) throws Exception
    {
    
        // 要访问的目标页面
        String targetUrl = "http://httpbin.org/ip";
    


        getUrlProxyContent(targetUrl);

    }

}
    

声明：本文内容由网友自发贡献，本站不承担相应法律责任。对本内容有异议或投诉，请联系2913721942#qq.com核实处理，我们将尽快回复您，谢谢合作！