Python爬虫教程：爬虫基础

人生苦短&＃xff0c;我用 Python

爬虫的核心

什么是爬虫&＃xff0c;讲点通俗易懂的&＃xff0c;爬虫就是爬取网页&＃xff0c;从中按照一定规则提取信息&＃xff0c;重复以上过程自动化重复完成的程序。

一只爬虫&＃xff0c;第一件事情就是要爬取网页&＃xff0c;这里主要是指获取网页的源代码。在网页的源代码里&＃xff0c;会含有我们所需要的信息&＃xff0c;而我们要做的事情就是从源代码中将这些信息提取出来。

我们请求网页的时候&＃xff0c; Python 为我们提供了很多库来做这件事情&＃xff0c;比如官方提供的 urllib &＃xff0c;以及第三方提供的 requests 、 Aiohttp 等。

我们可以使用这些库来发送 HTTP 请求&＃xff0c;获取响应的数据&＃xff0c;得到响应之后&＃xff0c;我们只需要解析其中 body 部分的数据&＃xff0c;就可以获得网页的源代码。

获取到源代码以后&＃xff0c;我们接下来的工作就是解析源代码&＃xff0c;从中提取出我们需要的数据。

提取数据最基础也是最常用的是使用正则表达式的方式的&＃xff0c;但是这种方式比较复杂&＃xff0c;也比较容易出错&＃xff0c;不过不得不说&＃xff0c;一个正则表达式写的非常厉害的人&＃xff0c;完全用不着下面的这些解析类库&＃xff0c;这是一个万能的方法。

悄悄的说一句&＃xff0c;小编的正则表达式写的也不好&＃xff0c;才会使用到这些由第三方提供的类库。

用于提取数据的类库有 Beautiful Soup 、 pyquery 、 lxml 等等。使用这些库&＃xff0c;我们可以高效快速地从 HTML 中提取网页信息&＃xff0c;如节点的属性、文本值等。

从源代码中提取到数据以后&＃xff0c;我们会对数据进行保存&＃xff0c;这里的保存形式多种多样&＃xff0c;可以直接保存成 txt 、 json 、 Excel 文件等等&＃xff0c;也可以保存至数据库&＃xff0c;如 Mysql 、 Oracle 、 SQLServer 、 MongoDB 等等。

抓取的数据格式

一般而言&＃xff0c;我们抓取到的都是 HTML 的网页源代码&＃xff0c;这个是我们看得到的、常规的、直观的网页信息。

但是有些信息&＃xff0c;并不是直接和 HTML 一起返回至网页的&＃xff0c;会存在各种各样的 API 接口&＃xff0c;这种接口返回的数据现在大多数是 JSON 的格式&＃xff0c;也有一些会返回 XML 的数据格式&＃xff0c;还会有一些个别的奇葩的接口直接返回程序猿自定义的字符串。这种 API 数据接口就需要具体问题具体分析了。

还有一些信息&＃xff0c;比如各大图片站、视频站&＃xff08;如抖音、 B站&＃xff09;&＃xff0c;我们想要爬取的信息是图片或者视频&＃xff0c;这些信息是已二进制的形式存在的&＃xff0c;我们需要将这些二进制的数据爬取下来再进行转储。

此外&＃xff0c;我们还能抓取到一些资源文件&＃xff0c;如 CSS 、 Javascript 等脚本资源&＃xff0c;有的还会有一些 woff 等字体信息。这些信息是一个网页组成不可或缺的元素&＃xff0c;只要浏览器能访问到的&＃xff0c;我们都可以将其爬取下来。

现代前端页面爬取

今天核心内容来了&＃xff01;&＃xff01;&＃xff01;

很多时候&＃xff0c;我们使用 HTTP 请求库爬取网页源代码时&＃xff0c;爬取到的信息和我们在网页上看到的信息完全不一样&＃xff0c;只有短短的几行。

这是因为最近这几年&＃xff0c;前端技术突飞猛进&＃xff0c;大量的采用前端模块化工具来构建前端页面&＃xff0c;比较常用的框架有 Vue 、 React 等等。

导致我们获取到的网页只有一个空壳子&＃xff0c;例如这种&＃xff1a;


favicon.ico">

代码来源是博主平时做的一些小东西&＃xff0c;其中博主已经省略大量引入的 Javascript。

body 节点里面只有一个 id 为 app 的节点&＃xff0c;但是需要注意在 body 节点的最后引入了 Javascript 文件&＃xff0c;它们负责整个网页的渲染。

在浏览器打开这个页面后&＃xff0c;首先会加载这个 HTML 的内容&＃xff0c;接着会发现有 Javascript 的脚本文件加载&＃xff0c;获取到这些脚本文件后&＃xff0c;开始执行其中的代码&＃xff0c;而 Javascript 脚本文件则会修改整个页面的 HTML 代码&＃xff0c;向其中添加节点&＃xff0c;从而完成整个页面的渲染。

但是当我们使用请求库去请求这个页面的时候&＃xff0c;只能获得当前的 HTML 的内容&＃xff0c;它并不会去帮我们获取这个 Javascript 脚本文件并且帮我们执行这个脚本文件渲染整个 HTML DOM 节点&＃xff0c;我们当然也就看不到浏览器当中看到的内容。

这也解释了为什么有时我们得到的源代码和浏览器中看到的不一样。

当然&＃xff0c;遇到这种情况也不要慌&＃xff0c;我们还可以使用Selenium、Splash这样的库来实现模拟浏览器中的 Javascript 渲染。

后面&＃xff0c;我们会慢慢聊这些内容&＃xff0c;本文主要先帮各位同学对爬虫有一个基础的了解&＃xff0c;方便后续的学习。

对Python感兴趣或者是正在学习的小伙伴&＃xff0c;可以加入我们的Python学习扣qun&＃xff1a;855408893 &＃xff0c;从0基础的python脚本到web开发、爬虫、django、数据挖掘数据分析等&＃xff0c;0基础到项目实战的资料都有整理。送给每一位python的小伙伴&＃xff01;每晚分享一些学习的方法和需要注意的小细节&＃xff0c;学习路线规划&＃xff0c;利用编程赚外快。点击加入我们的 python学习圈