Java大文件HTTP断点续传到服务器该怎么做？

最近由于笔者所在的研发集团产品需要&＃xff0c;需要支持高性能的大文件http上传&＃xff0c;并且要求支持http断点续传。这里在简要归纳一下&＃xff0c;方便记忆&＃xff1a;

1. 服务器端由C语言实现&＃xff0c;而不是用java、PHP这种解释型语言来实现&＃xff1b;

2. 服务器端即时写入硬盘&＃xff0c;因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时&＃xff1b;

3. 支持HTML5与IFRAME&＃xff08;针对老浏览器&＃xff09;&＃xff0c;并且支持获取文件上传进度。

为了更好的适应当前的移动互联网&＃xff0c;要求对上传服务支持断点续传&＃xff0c;断线重连。因为移动互联网并不非常稳定&＃xff1b;再者&＃xff0c;上传一个大文件发生异常掉线的可能性非常大&＃xff0c;为了避免重新上传&＃xff0c;支持断点续传就变得非常必要了。

支持断点续传的思路是&＃xff1a;

客户端&＃xff08;通常是浏览器&＃xff09;向服务器端上传某个文件&＃xff0c;并不断记录上传的进度&＃xff0c;如果一旦掉线或发生其它异常&＃xff0c;客户端可以向服务器查询某个文件已经上传的状态&＃xff0c;从上次上传的文件位置接着上传。

网上也有大师采用分片文件上传方式来实现大文件上传&＃xff0c;方法是将文件切成小片&＃xff0c;例如4MB一个片段&＃xff0c;服务器端每次接收一小片文件保存成一个临时文件&＃xff0c;等待所有片段传输完毕后&＃xff0c;再执行合并。笔者认为&＃xff0c;如果原始文件足够小&＃xff0c;这种方式是可以的&＃xff0c;但一旦文件有几百兆或者几个GB或者几十个GB&＃xff0c;则合并文件的时间会非常长&＃xff0c;常常导致浏览器响应超时或服务器阻塞。

如果自己实现独立客户端&＃xff08;或浏览器的ActiveX插件&＃xff09;来上传文件&＃xff0c;则支持断点续传将是一件非常简单的事情&＃xff0c;只需在客户端记录文件上传状态。而支持浏览器断点续传&＃xff08;无需安装第三方插件&＃xff09;一般来说是要比自己做独立客户端上传难度大一些&＃xff0c;但也不难。我的实现思路如下&＃xff1a;

一、浏览器在上传某个文件时候&＃xff0c;先给这个文件生成一个HASH值&＃xff0c;必须在浏览器端生成这个HASH值。

不能单循地依据文件名来查询文件上传记录&＃xff0c;文件名的重复性很大&＃xff0c;文件名 &＃43; 文件尺寸组成的值重复性缩小&＃xff0c;如果再加上文件修改时间&＃xff0c;则重复性进一步缩小&＃xff0c;如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算&＃xff0c;但计算量极大&＃xff08;其实也没有必要这么做&＃xff09;&＃xff0c;过多的耗时会影响上传的体验。

基于上述理由&＃xff0c;我的HASH值计算思路如下&＃xff1a;

1. 首先给浏览器赋予一个ID&＃xff0c;这个ID保存在COOKIE里&＃xff1b;

2. 浏览器的 ID&＃43; 文件的修改时间 &＃43; 文件名 &＃43; 文件尺寸 的结果进行MD5来计算一个文件的HASH值&＃xff1b;

3. 浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。

//简单的COOKIE帮助函数  
function setCOOKIE(cname,cvalue,exdays)  
{  var d &＃61; new Date();  d.setTime(d.getTime()&＃43;(exdays*24*60*60*1000));  var expires &＃61; "expires&＃61;"&＃43;d.toGMTString();  document.COOKIE &＃61; cname &＃43; "&＃61;" &＃43; cvalue &＃43; "; " &＃43; expires;  
}  function getCOOKIE(cname)  
{  var name &＃61; cname &＃43; "&＃61;";  var ca &＃61; document.COOKIE.split(&＃39;;&＃39;);  for(var i&＃61;0; i}  
//  
//简单的文件HASH值计算&＃xff0c;如果您不是十分考究&＃xff0c;应该可以用于产品。  
//由于计算文件HASH值用到了多种数据&＃xff0c;因此在HYFileUploader系统范围内发生HASH冲突的可能性应该非常小&＃xff0c;应该可以放心使用。  
//获取文件的ID可以用任何算法来实现&＃xff0c;只要保证做到同一文件的ID是相同的即可&＃xff0c;获取的ID长度不要超过32字节  
//  
function getFileId (file)   
{  //给浏览器授予一个唯一的ID用于区分不同的浏览器实例&＃xff08;不同机器或者相同机器不同厂家的浏览器&＃xff09;  var clientid &＃61; getCOOKIE("HUAYIUPLOAD");  if (clientid &＃61;&＃61; "") {  //用一个随机值来做浏览器的ID&＃xff0c;将作为文件HASH值的一部分  var rand &＃61; parseInt(Math.random() * 1000);  var t &＃61; (new Date()).getTime();  clientid &＃61;rand&＃43;&＃39;T&＃39;&＃43;t;  setCOOKIE("HUAYIUPLOAD",clientid,365);  }  var info &＃61; clientid;  if (file.lastModified)  info &＃43;&＃61; file.lastModified;  if (file.name)  info &＃43;&＃61; file.name;  if (file.size)  info &＃43;&＃61; file.size;  //https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js  var fileid &＃61; md5(info);  return fileid;  
}  


笔者认为&＃xff1a;不必通过读取文件的内容来计算HASH值&＃xff0c;这样会非常慢的。如果确实需要实现HTTP秒传&＃xff0c;可能得这么做&＃xff0c;这样如果不同的人上传的文件内容一致&＃xff0c;就可避免重复上传&＃xff0c;直接返回结果即可。

之所以给浏览器赋予一个ID&＃xff0c;这样可以进一步避免别的计算机的同名同尺寸文件的HASH值冲突。

二、查询文件的HASH值

在文件上传支持&＃xff0c;先通过文件的HASH值从上传服务器查询文件的上传进度信息&＃xff0c;然后从上传进度位置开始上传&＃xff0c;代码如下&＃xff1a;

var fileObj &＃61; currentfile;  
var fileid &＃61; getFileId(fileObj);  
var t &＃61; (new Date()).getTime();  
//通过以下URL获取文件的断点续传信息&＃xff0c;必须的参数为fileid&＃xff0c;后面追加t参数是避免浏览器缓存  
var url &＃61; resume_info_url &＃43; &＃39;?fileid&＃61;&＃39;&＃43;fileid &＃43; &＃39;&t&＃61;&＃39;&＃43;t;  var ajax &＃61; new XMLHttpRequest();  ajax.onreadystatechange &＃61; function () {   if(this.readyState &＃61;&＃61; 4){  if (this.status &＃61;&＃61; 200){  var response &＃61; this.responseText;  var result &＃61; JSON.parse(response);  if (!result) {  alert(&＃39;服务器返回的数据不正确&＃xff0c;可能是不兼容的服务器&＃39;);  return;  }  //断点续传信息返回的文件对象包含已经上传的尺寸  var uploadedBytes &＃61; result.file && result.file.size;  if (!result.file.finished && uploadedBytes < fileObj.size) {  upload_file(fileObj,uploadedBytes,fileid);  }  else {  //文件已经上传完成了&＃xff0c;就不要再上传了&＃xff0c;直接返回结果就可以了  showUploadedFile(result.file);  //模拟进度完成  //var progressBar &＃61; document.getElementById(&＃39;progressbar&＃39;);  //progressBar.value &＃61; 100;  }  }else {  alert(&＃39;获取文件断点续传信息失败&＃39;);  }    }   
}  ajax.open(&＃39;get&＃39;,url,true);  
ajax.send(null);  


以上是通过 jQuery-file-upload组件的实现&＃xff0c;通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。

三、执行上传

在查询完文件的断点续传信息后&＃xff0c;如果文件确实以前已经上传&＃xff0c;服务器将返回已经上传过的文件尺寸&＃xff0c;我们接着从已经上传的文件尺寸位置开始上传数据即可。

html5的File对象的 slice 可以用于从文件切取片段来上传。

定义和用法

slice() 方法可提取字文件的某个部分&＃xff0c;并以新的字符串返回被提取的部分。

语法

File.slice(start,end)


参数 描述

start 要抽取的片断的起始下标。如果是负数&＃xff0c;则该参数规定的是从字符串的尾部开始算起的位置。也就是说&＃xff0c;-1 指字符串的最后一个字符&＃xff0c;-2 指倒数第二个字符&＃xff0c;以此类推。

end 紧接着要抽取的片段的结尾的下标。若未指定此参数&＃xff0c;则要提取的子串包括 start 到原字符串结尾的字符串。另外&＃xff0c;关注Java知音公众号&＃xff0c;回复“后端面试”&＃xff0c;送你一份面试题宝典&＃xff01;

如果该参数是负数&＃xff0c;那么它规定的是从字符串的尾部开始算起的位置。

实现分片文件上传的代码如下&＃xff1a;

/*  
文件上传处理代码  
fileObj : html5 File 对象  
start_offset: 上传的数据相对于文件头的起始位置  
fileid: 文件的ID&＃xff0c;这个是上面的getFileId 函数获取的&＃xff0c;  
*/  
function upload_file(fileObj,start_offset,fileid)  
{  var xhr &＃61; new XMLHttpRequest();  var formData &＃61; new FormData();  var blobfile;  if(start_offset >&＃61; fileObj.size){  return false;  }  var bitrateDiv &＃61; document.getElementById("bitrate");  var finishDiv &＃61; document.getElementById("finish");  var progressBar &＃61; document.getElementById(&＃39;progressbar&＃39;);  var progressDiv &＃61; document.getElementById(&＃39;percent-label&＃39;);  var oldTimestamp &＃61; 0;  var oldLoadsize &＃61; 0;  var totalFilesize &＃61; fileObj.size;  if (totalFilesize &＃61;&＃61; 0) return;  var uploadProgress &＃61; function (evt) {  if (evt.lengthComputable) {  var uploadedSize &＃61; evt.loaded &＃43; start_offset;   var percentComplete &＃61; Math.round(uploadedSize * 100 / totalFilesize);  var timestamp &＃61; (new Date()).valueOf();  var isFinish &＃61; evt.loaded &＃61;&＃61; evt.total;  if (timestamp > oldTimestamp || isFinish) {  var duration &＃61; timestamp - oldTimestamp;  if (duration > 500 || isFinish) {  var size &＃61; evt.loaded - oldLoadsize;  var bitrate &＃61; (size * 8 / duration /1024) * 1000; //kbps  if (bitrate > 1000)  bitrate &＃61; Math.round(bitrate / 1000) &＃43; &＃39;Mbps&＃39;;  else  bitrate &＃61; Math.round(bitrate) &＃43; &＃39;Kbps&＃39;;  var finish &＃61; evt.loaded &＃43; start_offset;  if (finish > 1048576)  finish &＃61; (Math.round(finish / (1048576/100)) / 100).toString() &＃43; &＃39;MB&＃39;;  else  finish &＃61; (Math.round(finish / (1024/100) ) / 100).toString() &＃43; &＃39;KB&＃39;;  progressBar.value &＃61; percentComplete;  progressDiv.innerHTML &＃61; percentComplete.toString() &＃43; &＃39;%&＃39;;  bitrateDiv.innerHTML &＃61; bitrate;  finishDiv.innerHTML &＃61; finish;  oldTimestamp &＃61; timestamp;  oldLoadsize &＃61; evt.loaded;  }  }  }  else {  progressDiv.innerHTML &＃61; &＃39;N/A&＃39;;  }  }  xhr.onreadystatechange &＃61; function(){  if ( xhr.readyState &＃61;&＃61; 4 && xhr.status &＃61;&＃61; 200 ) {  console.log( xhr.responseText );  }  else if (xhr.status &＃61;&＃61; 400) {  }  };  var uploadComplete &＃61; function (evt) {  progressDiv.innerHTML &＃61; &＃39;100%&＃39;;  var result &＃61; JSON.parse(evt.target.responseText);  if (result.result &＃61;&＃61; &＃39;success&＃39;) {  showUploadedFile(result.files[0]);  }  else {  alert(result.msg);  }  }  var uploadFailed &＃61; function (evt) {  alert("上传文件失败&＃xff01;");  }  var uploadCanceled &＃61; function (evt) {  alert("上传被取消或者浏览器断开了连接&＃xff01;");  }  //设置超时时间,由于是上传大文件&＃xff0c;因此千万不要设置超时  //xhr.timeout &＃61; 20000;  //xhr.ontimeout &＃61; function(event){  //  alert(&＃39;文件上传时间太长&＃xff0c;服务器在规定的时间内没有响应&＃xff01;&＃39;);  //}           xhr.overrideMimeType("application/octet-stream");   var filesize &＃61; fileObj.size;  var blob &＃61; fileObj.slice(start_offset,filesize);  var fileOfBlob &＃61; new File([blob], fileObj.name);  //附加的文件数据应该放在请求的前面  formData.append(&＃39;filename&＃39;, fileObj.name);  //必须将fileid信息传送给服务器&＃xff0c;服务器只有在获得了fileid信息后才对文件做断点续传处理  formData.append(&＃39;fileid&＃39;, fileid);  //请将文件数据放在最后的域  //formData.append("file",blob, fileObj.name);  formData.append(&＃39;file&＃39;, fileOfBlob);  xhr.upload.addEventListener("progress", uploadProgress, false);  xhr.addEventListener("load", uploadComplete, false);  xhr.addEventListener("error", uploadFailed, false);  xhr.addEventListener("abort", uploadCanceled, false);  xhr.open(&＃39;POST&＃39;, upload_file_url);  //  xhr.send(formData);  
}  


为了验证文件断点续传&＃xff0c;笔者做了一个简单的界面&＃xff0c;用于显示文件上传的过程中的状态信息&＃xff0c;界面如下&＃xff1a;

通过HTML可以计算文件上传的进度&＃xff0c;文件已经上传的尺寸&＃xff0c;文件上传的位率等信息&＃xff0c;如果在上传过程中出现任何异常&＃xff0c;则重新上传即可&＃xff0c;已经上传的部分将不需要重新上传。

为了验证HTML5断点续传&＃xff0c;可以通过 github来下载 这个文件上传服务器来进行测试。

往期推荐

MySQL亿级数据分页的奇妙经历

面试官&＃xff1a;来说说https和http区别&＃xff1f;

聊聊前后端分离接口规范

Spring Boot 中关于 %2e 的 坑&＃xff0c;希望你不要遇到

MySQL  Binlog 日志处理工具都有那些&＃xff1f;

面试官&＃xff1a;作为架构师&＃xff0c;请你谈谈Saas 应用如何搭建&＃xff1f;

SpringBoot中微服务技术中进程间通信原理

Spring Boot 接入支付宝支付案例教程&＃xff01;

https://github.com/wenshui2008/UploadServer