Scrapy轻松定制网络爬虫(转)

网络爬虫&＃xff08;Web Crawler, Spider&＃xff09;就是一个在网络上乱爬的机器人。当然它通常并不是一个实体的机器人&＃xff0c;因为网络本身也是虚拟的东西&＃xff0c;所以这个“机器人”其实也就是一段程序&＃xff0c;并且它也不是乱爬&＃xff0c;而是有一定目的的&＃xff0c;并且在爬行的时候会搜集一些信息。例如 Google 就有一大堆爬虫会在 Internet 上搜集网页内容以及它们之间的链接等信息&＃xff1b;又比如一些别有用心的爬虫会在 Internet 上搜集诸如 foo&＃64;bar.com 或者 foo [at] bar [dot] com 之类的东西。除此之外&＃xff0c;还有一些定制的爬虫&＃xff0c;专门针对某一个网站&＃xff0c;例如前一阵子 JavaEye 的 Robbin 就写了几篇专门对付恶意爬虫的 blog &＃xff08;原文链接似乎已经失效了&＃xff0c;就不给了&＃xff09;&＃xff0c;还有诸如小众软件或者 LinuxToy 这样的网站也经常被整个站点 crawl 下来&＃xff0c;换个名字挂出来。其实爬虫从基本原理上来讲很简单&＃xff0c;只要能访问网络和分析 Web 页面即可&＃xff0c;现在大部分语言都有方便的 Http 客户端库可以抓取 Web 页面&＃xff0c;而 HTML 的分析最简单的可以直接用正则表达式来做&＃xff0c;因此要做一个最简陋的网络爬虫实际上是一件很简单的事情。不过要实现一个高质量的 spider 却是非常难的。

爬虫的两部分&＃xff0c;一是下载 Web 页面&＃xff0c;有许多问题需要考虑&＃xff0c;如何最大程度地利用本地带宽&＃xff0c;如何调度针对不同站点的 Web 请求以减轻对方服务器的负担等。一个高性能的 Web Crawler 系统里&＃xff0c;DNS 查询也会成为急需优化的瓶颈&＃xff0c;另外&＃xff0c;还有一些“行规”需要遵循&＃xff08;例如 robots.txt&＃xff09;。而获取了网页之后的分析过程也是非常复杂的&＃xff0c;Internet 上的东西千奇百怪&＃xff0c;各种错误百出的 HTML 页面都有&＃xff0c;要想全部分析清楚几乎是不可能的事&＃xff1b;另外&＃xff0c;随着 AJAX 的流行&＃xff0c;如何获取由 Javascript 动态生成的内容成了一大难题&＃xff1b;除此之外&＃xff0c;Internet 上还有有各种有意或无意出现的Spider Trap &＃xff0c;如果盲目的跟踪超链接的话&＃xff0c;就会陷入 Trap 中万劫不复了&＃xff0c;例如这个网站&＃xff0c;据说是之前 Google 宣称 Internet 上的 Unique URL 数目已经达到了 1 trillion 个&＃xff0c;因此这个人 is proud to announce the second trillion 。 

不过&＃xff0c;其实并没有多少人需要做像 Google 那样通用的 Crawler &＃xff0c;通常我们做一个 Crawler 就是为了去爬特定的某个或者某一类网站&＃xff0c;所谓知己知彼&＃xff0c;百战不殆&＃xff0c;我们可以事先对需要爬的网站结构做一些分析&＃xff0c;事情就变得容易多了。通过分析&＃xff0c;选出有价值的链接进行跟踪&＃xff0c;就可以避免很多不必要的链接或者 Spider Trap &＃xff0c;如果网站的结构允许选择一个合适的路径的话&＃xff0c;我们可以按照一定顺序把感兴趣的东西爬一遍&＃xff0c;这样以来&＃xff0c;连 URL 重复的判断也可以省去。

举个例子&＃xff0c;假如我们想把 pongba 的 blog mindhacks.cn 里面的 blog 文字爬下来&＃xff0c;通过观察&＃xff0c;很容易发现我们对其中的两种页面感兴趣&＃xff1a;

1. 文章列表页面&＃xff0c;例如首页&＃xff0c;或者 URL 是 /page/\d&＃43;/ 这样的页面&＃xff0c;通过 Firebug 可以看到到每篇文章的链接都是在一个 h1 下的 a 标签里的&＃xff08;需要注意的是&＃xff0c;在 Firebug 的 HTML 面板里看到的 HTML 代码和 View Source 所看到的也许会有些出入&＃xff0c;如果网页中有 Javascript 动态修改 DOM 树的话&＃xff0c;前者是被修改过的版本&＃xff0c;并且经过 Firebug 规则化的&＃xff0c;例如 attribute 都有引号扩起来等&＃xff0c;而后者通常才是你的 spider 爬到的原始内容。如果是使用正则表达式对页面进行分析或者所用的 HTML Parser 和 Firefox 的有些出入的话&＃xff0c;需要特别注意&＃xff09;&＃xff0c;另外&＃xff0c;在一个 class 为 wp-pagenavi 的 div 里有到不同列表页面的链接。
2. 文章内容页面&＃xff0c;每篇 blog 有这样一个页面&＃xff0c;例如 /2008/09/11/machine-learning-and-ai-resources/ &＃xff0c;包含了完整的文章内容&＃xff0c;这是我们感兴趣的内容。

因此&＃xff0c;我们从首页开始&＃xff0c;通过 wp-pagenavi 里的链接来得到其他的文章列表页面&＃xff0c;特别地&＃xff0c;我们定义一个路径&＃xff1a;只 follow Next Page 的链接&＃xff0c;这样就可以从头到尾按顺序走一遍&＃xff0c;免去了需要判断重复抓取的烦恼。另外&＃xff0c;文章列表页面的那些到具体文章的链接所对应的页面就是我们真正要保存的数据页面了。

这样以来&＃xff0c;其实用脚本语言写一个 ad hoc 的 Crawler 来完成这个任务也并不难&＃xff0c;不过今天的主角是 Scrapy &＃xff0c;这是一个用 Python 写的 Crawler Framework &＃xff0c;简单轻巧&＃xff0c;并且非常方便&＃xff0c;并且官网上说已经在实际生产中在使用了&＃xff0c;因此并不是一个玩具级别的东西。不过现在还没有 Release 版本&＃xff0c;可以直接使用他们的 Mercurial 仓库里抓取源码进行安装。不过&＃xff0c;这个东西也可以不安装直接使用&＃xff0c;这样还方便随时更新&＃xff0c;文档里说得很详细&＃xff0c;我就不重复了。

Scrapy 使用 Twisted 这个异步网络库来处理网络通讯&＃xff0c;架构清晰&＃xff0c;并且包含了各种中间件接口&＃xff0c;可以灵活的完成各种需求。整体架构如下图所示&＃xff1a;

绿线是数据流向&＃xff0c;首先从初始 URL 开始&＃xff0c;Scheduler 会将其交给 Downloader 进行下载&＃xff0c;下载之后会交给 Spider 进行分析&＃xff0c;Spider 分析出来的结果有两种&＃xff1a;一种是需要进一步抓取的链接&＃xff0c;例如之前分析的“下一页”的链接&＃xff0c;这些东西会被传回 Scheduler &＃xff1b;另一种是需要保存的数据&＃xff0c;它们则被送到 Item Pipeline 那里&＃xff0c;那是对数据进行后期处理&＃xff08;详细分析、过滤、存储等&＃xff09;的地方。另外&＃xff0c;在数据流动的通道里还可以安装各种中间件&＃xff0c;进行必要的处理。

看起来好像很复杂&＃xff0c;其实用起来很简单&＃xff0c;就如同 Rails 一样&＃xff0c;首先新建一个工程&＃xff1a;

会创建一个 blog_crawl 目录&＃xff0c;里面有个 scrapy-ctl.py 是整个项目的控制脚本&＃xff0c;而代码全都放在子目录 blog_crawl 里面。为了能抓取 mindhacks.cn &＃xff0c;我们在 spiders 目录里新建一个mindhacks_spider.py &＃xff0c;定义我们的 Spider 如下&＃xff1a;

我们的 MindhacksSpider 继承自 BaseSpider &＃xff08;通常直接继承自功能更丰富的scrapy.contrib.spiders.CrawlSpider 要方便一些&＃xff0c;不过为了展示数据是如何 parse 的&＃xff0c;这里还是使用 BaseSpider 了&＃xff09;&＃xff0c;变量 domain_name 和 start_urls 都很容易明白是什么意思&＃xff0c;而 parse 方法是我们需要定义的回调函数&＃xff0c;默认的 request 得到 response 之后会调用这个回调函数&＃xff0c;我们需要在这里对页面进行解析&＃xff0c;返回两种结果&＃xff08;需要进一步 crawl 的链接和需要保存的数据&＃xff09;&＃xff0c;让我感觉有些奇怪的是&＃xff0c;它的接口定义里这两种结果竟然是混杂在一个 list 里返回的&＃xff0c;不太清楚这里为何这样设计&＃xff0c;难道最后不还是要费力把它们分开&＃xff1f;总之这里我们先写一个空函数&＃xff0c;只返回一个空列表。另外&＃xff0c;定义一个“全局”变量 SPIDER &＃xff0c;它会在 Scrapy 导入这个 module 的时候实例化&＃xff0c;并自动被 Scrapy 的引擎找到。这样就可以先运行一下 crawler 试试了&＃xff1a;

会有一堆输出&＃xff0c;可以看到抓取了 http://mindhacks.cn &＃xff0c;因为这是初始 URL &＃xff0c;但是由于我们在 parse 函数里没有返回需要进一步抓取的 URL &＃xff0c;因此整个 crawl 过程只抓取了主页便结束了。接下来便是要对页面进行分析&＃xff0c;Scrapy 提供了一个很方便的 Shell &＃xff08;需要 IPython &＃xff09;可以让我们做实验&＃xff0c;用如下命令启动 Shell &＃xff1a;

它会启动 crawler &＃xff0c;把命令行指定的这个页面抓取下来&＃xff0c;然后进入 shell &＃xff0c;根据提示&＃xff0c;我们有许多现成的变量可以用&＃xff0c;其中一个就是 hxs &＃xff0c;它是一个 HtmlXPathSelector &＃xff0c;mindhacks 的 HTML 页面比较规范&＃xff0c;可以很方便的直接用 XPath 进行分析。通过 Firebug 可以看到&＃xff0c;到每篇 blog 文章的链接都是在 h1 下的&＃xff0c;因此在 Shell 中使用这样的 XPath 表达式测试&＃xff1a;

这正是我们需要的 URL &＃xff0c;另外&＃xff0c;还可以找到“下一页”的链接所在&＃xff0c;连同其他几个页面的链接一同在一个 div 里&＃xff0c;不过“下一页”的链接没有 title 属性&＃xff0c;因此 XPath 写作

不过如果向后翻一页的话&＃xff0c;会发现其实“上一页”也是这样的&＃xff0c;因此还需要判断该链接上的文字是那个下一页的箭头 u&＃39;\xbb&＃39; &＃xff0c;本来也可以写到 XPath 里面去&＃xff0c;但是好像这个本身是 unicode escape 字符&＃xff0c;由于编码原因理不清楚&＃xff0c;直接放到外面判断了&＃xff0c;最终 parse 函数如下&＃xff1a;

前半部分是解析需要抓取的 blog 正文的链接&＃xff0c;后半部分则是给出“下一页”的链接。需要注意的是&＃xff0c;这里返回的列表里并不是一个个的字符串格式的 URL 就完了&＃xff0c;Scrapy 希望得到的是Request 对象&＃xff0c;这比一个字符串格式的 URL 能携带更多的东西&＃xff0c;诸如 COOKIE 或者回调函数之类的。可以看到我们在创建 blog 正文的 Request 的时候替换掉了回调函数&＃xff0c;因为默认的这个回调函数 parse 是专门用来解析文章列表这样的页面的&＃xff0c;而 parse_post 定义如下&＃xff1a;

很简单&＃xff0c;返回一个 BlogCrawlItem &＃xff0c;把抓到的数据放在里面&＃xff0c;本来可以在这里做一点解析&＃xff0c;例如&＃xff0c;通过 XPath 把正文和标题等解析出来&＃xff0c;但是我倾向于后面再来做这些事情&＃xff0c;例如 Item Pipeline 或者更后面的 Offline 阶段。BlogCrawlItem 是 Scrapy 自动帮我们定义好的一个继承自ScrapedItem 的空类&＃xff0c;在 items.py 中&＃xff0c;这里我加了一点东西&＃xff1a;

定义了 __str__ 函数&＃xff0c;只给出 URL &＃xff0c;因为默认的 __str__ 函数会把所有的数据都显示出来&＃xff0c;因此会看到 crawl 的时候控制台 log 狂输出东西&＃xff0c;那是把抓取到的网页内容输出出来了。-.-bb

这样一来&＃xff0c;数据就取到了&＃xff0c;最后只剩下存储数据的功能&＃xff0c;我们通过添加一个 Pipeline 来实现&＃xff0c;由于 Python 在标准库里自带了 Sqlite3 的支持&＃xff0c;所以我使用 Sqlite 数据库来存储数据。用如下代码替换 pipelines.py 的内容&＃xff1a;

在 __init__ 函数中&＃xff0c;使用 dispatcher 将两个信号连接到指定的函数上&＃xff0c;分别用于初始化和关闭数据库连接&＃xff08;在 close 之前记得 commit &＃xff0c;似乎是不会自动 commit 的&＃xff0c;直接 close 的话好像所有的数据都丢失了 dd-.-&＃xff09;。当有数据经过 pipeline 的时候&＃xff0c;process_item 函数会被调用&＃xff0c;在这里我们直接讲原始数据存储到数据库中&＃xff0c;不作任何处理。如果需要的话&＃xff0c;可以添加额外的 pipeline &＃xff0c;对数据进行提取、过滤等&＃xff0c;这里就不细说了。

最后&＃xff0c;在 settings.py 里列出我们的 pipeline &＃xff1a;

再跑一下 crawler &＃xff0c;就 OK 啦&＃xff01;  最后&＃xff0c;总结一下&＃xff1a;一个高质量的 crawler 是极其复杂的工程&＃xff0c;但是如果有好的工具的话&＃xff0c;做一个专用的 crawler 还是比较容易的。Scrapy 是一个很轻便的爬虫框架&＃xff0c;极大地简化了 crawler 开发的过程。另外&＃xff0c;Scrapy 的文档也是十分详细的&＃xff0c;如果觉得我的介绍省略了一些东西不太清楚的话&＃xff0c;推荐看他的 Tutorial 。

注&＃xff1a;本文开始的那幅图并不是一个 spider &＃xff08;当然啦&＃xff01;-,-bb&＃xff09;&＃xff0c;那是出自动画片《攻壳机动队》里的思考战车Tachikoma &＃xff08;很可爱的&＃xff01;&＃xff09;。