热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

golang解析磁力链为torrent相关的信息

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。之前python跑的太慢了。这个go并发不知道写的有没有问题?!packag

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。

之前 python 跑的太慢了。这个 go 并发不知道写的有没有问题?!大笑

package main

import (
"bufio"
"bytes"
"crypto/sha1"
"database/sql"
"fmt"
_ "github.com/go-sql-driver/mysql"
"io"
"log"
"net"
"net/http"
"os"
"strconv"
"strings"
"time"
)

import bencode "code.google.com/p/bencode-go"

type FileDict struct {
Length int64 "length"
Path []string "path"
Md5sum string "md5sum"
}

type InfoDict struct {
FileDuration []int64 "file-duration"
FileMedia []int64 "file-media"

// Single file
Name string "name"
Length int64 "length"
Md5sum string "md5sum"

// Multiple files
Files []FileDict "files"
PieceLength int64 "piece length"
Pieces string "pieces"
Private int64 "private"
}

type MetaInfo struct {
Info InfoDict "info"
InfoHash string "info hash"
Announce string "announce"
AnnounceList [][]string "announce-list"
CreationDate int64 "creation date"
Comment string "comment"
CreatedBy string "created by"
Encoding string "encoding"
}

func (metaInfo *MetaInfo) ReadTorrentMetaInfoFile(r io.Reader) bool {

fileMetaData, er := bencode.Decode(r)
if er != nil {
return false
}

metaInfoMap, ok := fileMetaData.(map[string]interface{})
if !ok {
return false
}

var bytesBuf bytes.Buffer
for mapKey, mapVal := range metaInfoMap {
switch mapKey {
case "info":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}

infoHash := sha1.New()
infoHash.Write(bytesBuf.Bytes())
metaInfo.InfoHash = string(infoHash.Sum(nil))

if er = bencode.Unmarshal(&bytesBuf, &metaInfo.Info); er != nil {
return false
}

case "announce-list":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}
if er = bencode.Unmarshal(&bytesBuf, &metaInfo.AnnounceList); er != nil {
return false
}

case "announce":
if aa, ok := mapVal.(string); ok {
metaInfo.Announce = aa
}

case "creation date":

if tt, ok := mapVal.(int64); ok {
metaInfo.CreatiOnDate= tt
}

case "comment":
if cc, ok := mapVal.(string); ok {
metaInfo.Comment = cc
}

case "created by":
if cb, ok := mapVal.(string); ok {
metaInfo.CreatedBy = cb
}

case "encoding":
if ed, ok := mapVal.(string); ok {
metaInfo.Encoding = ed
}
}
}

return true
}

func makeUrl(hashinfo string) string {
url := "http://bt.box.n0808.com/%s/%s/%s.torrent"
str := strings.ToUpper(hashinfo)
return fmt.Sprintf(url, str[0:2], str[len(str)-2:], str)
}

func logFile(msg string) {
f, err := os.OpenFile("logfile_torrent.txt", os.O_RDWR|os.O_CREATE|os.O_APPEND, 0666)
if err != nil {
return
}
defer f.Close()

log.SetOutput(f)
log.Println(msg)
}

var timeout = time.Duration(2 * time.Second)

func dialTimeout(network, addr string) (net.Conn, error) {
return net.DialTimeout(network, addr, timeout)
}

func pullTorrent(url string) (int, error) {

req, err := http.NewRequest("GET", url, nil)
if err != nil {
return 1, err
}

req.Header.Add("User-Agent", "Mozilla/5.0")
req.Header.Add("Host", "bt.box.n0808.com")
req.Header.Add("Accept", "*/*")
req.Header.Add("Connection", "Keep-Alive")

transport := http.Transport{
Dial: dialTimeout,
}

client := &http.Client{
Transport: &transport,
}

resp, err := client.Do(req)

if err != nil {
return 2, err
}
defer resp.Body.Close()

var metaTorrent MetaInfo
ok := metaTorrent.ReadTorrentMetaInfoFile(resp.Body)
if !ok {
return 3, nil
}

name := metaTorrent.Info.Name
hashInfo := fmt.Sprintf("%X", metaTorrent.InfoHash)
created := metaTorrent.CreationDate

var fileLength int64
var fileDownLoadList bytes.Buffer
var fileList string

for _, fileDict := range metaTorrent.Info.Files {
fileLength += fileDict.Length
for _, path := range fileDict.Path {
fileDownLoadList.WriteString(path)
fileDownLoadList.WriteString("\r\n")
}
}
fileList = fileDownLoadList.String()

var fileLengthTotal int64
if fileLength > 0 {
fileLengthTotal = fileLength / (1024 * 1024)
}

if fileLengthTotal > 0 {
db, err := sql.Open("mysql", "root:admin@tcp(127.0.0.1:3306)/678BT?charset=utf8&timeout=3s")
if err != nil {
return 4, err
}
defer db.Close()

stmtIns, err := db.Prepare("INSERT INTO magnet (hashinfo,name,files,length,created,indexd) VALUES(?,?,?,?,?,?)")
if err != nil {
return 5, err
}
defer stmtIns.Close()

timestamp := time.Now().Unix()
_, error := stmtIns.Exec(hashInfo, name, fileList, fileLengthTotal, created, timestamp)
if error != nil {
return 6, error
}
}

return 0, nil
}

func popChan(chs []chan int) {
for _, vv := range chs {
tmp := <-vv
fmt.Println(tmp)
}
}

func main() {
f, err := os.Open("torrent.txt")
if err != nil {
log.Fatal(err)
}
defer f.Close()

bf := bufio.NewReader(f)

no := 0
ch := make([]chan int, 128)
op := 0

for {

if no >= 128 {
popChan(ch)
no = 0
}

ch[no] = make(chan int)

line, isPrefix, err := bf.ReadLine()
if err == io.EOF {
break
}

if err != nil {
logFile(err.Error())
}

if isPrefix {
logFile("LINE TOO LONG")
}

torrent := strings.Trim(string(line), "\r\n")
torrent1 := strings.Trim(torrent, "\r")
torrent2 := strings.Trim(torrent1, "\n")

if len(torrent2) > 10 {

go func(chx chan int, nox int) {

ret, err := pullTorrent(makeUrl(torrent2))
if ret != 0 {
logFile(strconv.Itoa(ret))
if err != nil {
logFile(err.Error())
}
}

chx <- nox

}(ch[no], no)

no++
}

op++

if op%1000 == 0 {
fmt.Println(no)
}
}
}



推荐阅读
  • 本文探讨了如何使用Scrapy框架构建高效的数据采集系统,以及如何通过异步处理技术提升数据存储的效率。同时,文章还介绍了针对不同网站采用的不同采集策略。 ... [详细]
  • Hadoop MapReduce 实战案例:手机流量使用统计分析
    本文通过一个具体的Hadoop MapReduce案例,详细介绍了如何利用MapReduce框架来统计和分析手机用户的流量使用情况,包括上行和下行流量的计算以及总流量的汇总。 ... [详细]
  • Zabbix自定义监控与邮件告警配置实践
    本文详细介绍了如何在Zabbix中添加自定义监控项目,配置邮件告警功能,并解决测试告警时遇到的邮件不发送问题。 ... [详细]
  • JUnit下的测试和suite
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 本文探讨了Android系统中联系人数据库的设计,特别是AbstractContactsProvider类的作用与实现。文章提供了对源代码的详细分析,并解释了该类如何支持跨数据库操作及事务处理。源代码可从官方Android网站下载。 ... [详细]
  • 本文探讨了在Python中多线程与多进程的性能差异,特别是在处理CPU密集型任务和I/O密集型任务时的表现。由于全局解释器锁(GIL)的存在,多线程在利用多核CPU方面表现不佳,而多进程则能有效利用多核资源。 ... [详细]
  • 使用Java计算两个日期之间的月份数
    本文详细介绍了利用Java编程语言计算两个指定日期之间月份数的方法。文章通过实例代码讲解了如何使用Joda-Time库来简化日期处理过程,旨在为开发者提供一个高效且易于理解的解决方案。 ... [详细]
  • Java连接MySQL数据库的方法及测试示例
    本文详细介绍了如何安装MySQL数据库,并通过Java编程语言实现与MySQL数据库的连接,包括环境搭建、数据库创建以及简单的查询操作。 ... [详细]
  • 本文探讨了如何利用 Android 的 Movie 类来展示 GIF 动画,并详细介绍了调整 GIF 尺寸以适应不同布局的方法。同时,提供了相关的代码示例和注意事项。 ... [详细]
  • Python网络编程:深入探讨TCP粘包问题及解决方案
    本文详细探讨了TCP协议下的粘包现象及其产生的原因,并提供了通过自定义报头解决粘包问题的具体实现方案。同时,对比了TCP与UDP协议在数据传输上的不同特性。 ... [详细]
  • 本文基于Java官方文档进行了适当修改,旨在介绍如何实现一个能够同时处理多个客户端请求的服务端程序。在前文中,我们探讨了单客户端访问的服务端实现,而本篇将深入讲解多客户端环境下的服务端设计与实现。 ... [详细]
  • Maven + Spring + MyBatis + MySQL 环境搭建与实例解析
    本文详细介绍如何使用MySQL数据库进行环境搭建,包括创建数据库表并插入示例数据。随后,逐步指导如何配置Maven项目,整合Spring框架与MyBatis,实现高效的数据访问。 ... [详细]
  • 二维码的实现与应用
    本文介绍了二维码的基本概念、分类及其优缺点,并详细描述了如何使用Java编程语言结合第三方库(如ZXing和qrcode.jar)来实现二维码的生成与解析。 ... [详细]
  • 本文深入探讨了Go语言中的接口型函数,通过实例分析其灵活性和强大功能,帮助开发者更好地理解和运用这一特性。 ... [详细]
  • 本文将详细介绍如何使用Java编程语言生成指定数量的不重复随机数,包括具体的实现方法和代码示例。适合初学者和有一定基础的开发者参考。 ... [详细]
author-avatar
凰千寻_847
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有