热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

爬虫:在网易财经抓取表格数据案例

(1)数据网址获取网易财经和新浪财经等网站的数据可以免费获取,我们可以使用爬虫方法(通过rvest包)抓取相应网站的表格数据,我们首先以在网易财经中抓取600550在2019年第3

1)数据网址获取

网易财经和新浪财经等网站的数据可以免费获取,我们可以使用爬虫方法(通过rvest包)抓取相应网站的表格数据,我们首先以在网易财经中抓取600550在2019年第3季度的数据为例,其网址为:

http://quotes.money.163.com/trade/lsjysj_600550.html?year=2019&season=3,

可以看到不同时间段的网址是有规律的,只需要更改其中的股票代码和year、season就可以进行多个股票的循环网页抓取。

2)网络表格数据节点获取

我们需要解析网页表格数据的节点,除了系统性地掌握网页设计原理和基本结构,还可以通过FireFox(Firebug插件)、Chrome浏览器来对网页结构进行解析得到相应的分支结构点,这里我们使用Firefox浏览器,具体操作为在找到我们需要的表格位置后(关于如何找到表格位置请自行探索),右键点击复制XPath路径。

表格部分的XPath为/html/body/div[2]/div[4]/table[1]。

技术分享图片

 

 

3)抓取单个股票的单个页面数据 

 


library(rvest)
symbol
=600550
year
=2019
season
=3
url
=paste0("http://quotes.money.163.com/trade/lsjysj_",symbol,".html?year=",year,"&season=",season)
web
=read_html(url)
xpath
="/html/body/div[2]/div[4]/table[1]"
web.table
=web%>%html_nodes(xpath=xpath)%>%html_table()

 

此时的web.table就是爬取到的数据

4)抓取单个股票的多个页面数据并合并


library(lubridate)
symbol
=600550
from="2001-05-28"
from=as.Date(from)
to
=Sys.Date()
time.index
=seq(from=from,to=to,by="quarter")#生成以季度为开始的时间序列
year.id=year(time.index)#获取年份
quarter.id=quarter(time.index)#获取季度

price
=list()
for(t in 1:length(time.index)){
year
=year.id[t]
season
=quarter.id[t]
url
=paste0("http://quotes.money.163.com/trade/lsjysj_",symbol,".html?year=",year,"&season=",season)
web
=read_html(url)
xpath
="/html/body/div[2]/div[4]/table[1]"
web.table
=web%>%html_nodes(xpath=xpath)%>%html_table()
web.table
=web.table[[1]][-1,]
price[[t]]
=web.table
}

5)抓取多个股票的多个页面数据并合并


get.wangyi.stock=function(symbol,from,to){
from=as.Date(from)
to
=as.Date(to)
if(mday(from==1)){
from=from-1
}
time.index
=seq(from=from,to=to,by="quarter")
year.id
=year(time.index)
quarter.id
=quarter(time.index)
prices
=list()
for(t in 1:length(time.index)){
year
=year.id[t]
season
=quarter.id[t] url=paste0("http://quotes.money.163.com/trade/lsjysj_",symbol,".html?year=",year,"&season=",season)
web
=read_html(url)
xpath
="/html/body/div[2]/div[4]/table[1]"
web.table
=web%>%html_nodes(xpath=xpath)%>%html_table()
web.table
=web.table[[1]][-1,]
prices[[t]]
=web.table
}
}
to
=Sys.Date()
stock.index
=matrix(nrow=6,ncol=2)
stock.index[,
1]=c("600550.ss","600192.ss","600152.ss","600644.ss","600885.ss","600151.ss")
stock.index[,
2]=c("2017-05-28","2017-05-28","2017-05-28","2017-05-28","2017-05-28","2017-05-28")
for(i in nrow(stock.index)){
symbol
=stock.index[i,1]
from=stock.index[i,2]
prices
=get.wangyi.stock(symbol,from,to)
filenames
=paste0("D://dataset//",symbol,".csv")
}

6)读取所有A股数据

我们还可以将所有的A股代码整理为一个文件,读取后即可以实现对所有A股股票数据进行实时更新,可以通过这种方法来建立自己的数据库进行实时分析。同时通过网络爬虫,我们还可以爬取很多有意义的数据,并进行实时更新。

 


推荐阅读
  • Postman工具使用教程
    Postman的基础功能1.GET请求GET请求:点击Params,输入参数及value,可输入多个,即时显示在URL链接上,所以,GET请求的请求头与请求参数如在接口文档中无特别 ... [详细]
  • 1011-MarriageCeremoniesPDF(English)StatisticsForumTimeLimit:2second(s)MemoryLimit:32MBYouw ... [详细]
  • -(void)drawRect:(CGRect)rect{获得当前上下文CGContextRefctxUIGraphicsGetCurrentContext();把当前上下文状态保 ... [详细]
  • socket8 [命名管道]
    ::命名管道不但能实现同一台机器上两个进程通信,还能在网络中不同机器上的两个进程之间的通信机制。与邮槽不同,命名管道是采用基于连接并且可靠的传输方式,所以命名管道传输数据只能一对一 ... [详细]
  • Git是一个开源的分布式版本控制系统,用以有效、高速的处理从很小到非常大的项目版本管理,现在在企业中的使用率也是很广的。git是一个分布式的版本控制系统,不像以前的svn,svn是 ... [详细]
  • CentOS 7.6网卡绑定mode1
    CentOS7.6网卡绑定mode1[root@server~]#systemctlstopNetworkManager[root@server~]#systemctldisabl ... [详细]
  • PythonDay3
    #Author:ZhaoBin#实现对Haproxy配置文件的增删改查deffetch(backend):result[]withopen('ha.conf',&# ... [详细]
  • 模仿邮件登录系统
    模仿邮件登录系统码云代码库:https:gitee.compinaomansgiteemail_login.git实验结果图:验证用户名、密码不能为空,并提示用户名或密码错误提示用 ... [详细]
  • Givens1,s2,s3,findwhethers3isformedbytheinterleavingofs1ands2.Forexample,Given:s1aabcc ... [详细]
  • 1.EF跟LINQ不是一码事儿。2.LINQtoEF是LINQ的一个provider,LINQtoSQL也是LINQ的一个provider。LINQtoEF是LINQtoSQL的替 ... [详细]
  • Matplotlib笔记:设置画布属性并保存图片(figsize,dpi,savefig)
    设置画布属性并保存图片importmatplotlib.pyplotaspltplt.figure(figsize(10,4),dpi80)#图片长宽和清晰度plt.p ... [详细]
  • 726:ROADS726:ROADS总时间限制:1000ms内存限制:65536kB描述Ncitiesnamedwithnumbers1Nareconnectedwithon ... [详细]
  • ProblemDescription:Readtheprogrambelowcarefullythenanswerthequestion.#pragmacomment(linker ... [详细]
  • AtCoder Beginner Contest 176   EBomber   (思维)
    题意:有一张$H$x$W$的图,给你$M$个目标的位置,你可以在图中放置一枚炸弹,炸弹可以摧毁所在的那一行和一列,问最多可以摧毁多少目标.题解:首先我们记录某一行和某一列目标最多的 ... [详细]
  • MainActivity如下:packagecc.testview1;importandroid.os.Bundle;importandroid.app.Activity ... [详细]
author-avatar
淘气小顽童刘
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有