Python3网络爬虫知识——爬虫基本原理
导读： 目录 1、网络爬虫概述 2、爬虫基本流程 3、爬虫基础知识 爬虫就是请求网站并提取数据的自动化程序 网络爬虫（Web Spider），又被称为网页蜘蛛，是一种按照一定的规则，自动地抓取网站信息的程序或者脚本...
目录
1、网络爬虫概述
2、爬虫基本流程
3、爬虫基础知识
爬虫就是请求网站并提取数据的自动化程序
网络爬虫（Web Spider），又被称为网页蜘蛛，是一种按照一定的规则，自动地抓取网站信息的程序或者脚本。
网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。
例：
①先由urllib的request打开Url得到网页html文档②浏览器打开网页源代码分析元素节点③通过Beautiful Soup或则正则表达式提取想要的数据④存储数据到本地磁盘或数据库（抓取，分析，存储）
基础库
scrapy
requests
beautifulsoup
网页分类
静态网页
动态网页
webservice(restapi)
爬虫作用
搜索引擎（百度、Google、垂直领域搜索引擎）
推荐引擎（今日头条）
机器学习的数据样本
数据分析（如金融领域数据分析）、舆情分析
正则表达式
Mysql和Navicat的安装和使用
网站的树结构及其深度优先遍历和广度优先遍历
爬虫去重策略
声明：本文内容由网友自发贡献，本站不承担相应法律责任。对本内容有异议或投诉，请联系2913721942#qq.com核实处理，我们将尽快回复您，谢谢合作！
若转载请注明出处： Python3网络爬虫知识——爬虫基本原理
本文地址： https://pptw.com/jishu/661629.html