热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

利用FileCacheQueueScheduler后抓取结束进程却无法自动停止

使用wemgaic框架进行爬取页面数据时,利用FileCacheQueueScheduler进行的增量爬取,但是在爬取结束后(需要爬取的数据,都已经记录在urls.txt和cursor.txt两

使用wemgaic框架进行爬取页面数据时,利用FileCacheQueueScheduler进行的增量爬取,但是在爬取结束后(需要爬取的数据,都已经记录在urls.txt和cursor.txt两个文件下了),进程无法自动停止,而且还会漏掉一些数据,爬取不到,是因为爬取的数据不完全才导致进程没有停止的吗?还是别的什么原因
因为刚学爬虫,对这些很多都不懂,
希望各位大佬指点,谢谢


推荐阅读
author-avatar
喝咖啡的小南瓜_488
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有