作者:美好时光33_862 | 来源:互联网 | 2023-06-08 13:32
目前有一只爬虫,爬取的文章数量不是很大,但是以后会慢慢累加上去.不过现在要做的一个是,在爬取的时候,需要先判断这个url有没有存在数据库,如果存在就不插入了.我目前想到的思路是,每次采集的时候,都做一
目前有一只爬虫,爬取的文章数量不是很大,但是以后会慢慢累加上去.
不过现在要做的一个是,在爬取的时候,需要先判断这个url有没有存在数据库,如果存在就不插入了.
我目前想到的思路是,每次采集的时候,都做一下判断: ( 查询一下就数据库 )
但是这样感觉很低效.而且如果数据库里面有上百万的数据,每次都做一次判断那岂不是很慢!!?
有高效的方式吗?