热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

golang解析磁力链为torrent相关的信息

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。之前python跑的太慢了。这个go并发不知道写的有没有问题?!packag

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。

之前 python 跑的太慢了。这个 go 并发不知道写的有没有问题?!大笑

package main

import (
"bufio"
"bytes"
"crypto/sha1"
"database/sql"
"fmt"
_ "github.com/go-sql-driver/mysql"
"io"
"log"
"net"
"net/http"
"os"
"strconv"
"strings"
"time"
)

import bencode "code.google.com/p/bencode-go"

type FileDict struct {
Length int64 "length"
Path []string "path"
Md5sum string "md5sum"
}

type InfoDict struct {
FileDuration []int64 "file-duration"
FileMedia []int64 "file-media"

// Single file
Name string "name"
Length int64 "length"
Md5sum string "md5sum"

// Multiple files
Files []FileDict "files"
PieceLength int64 "piece length"
Pieces string "pieces"
Private int64 "private"
}

type MetaInfo struct {
Info InfoDict "info"
InfoHash string "info hash"
Announce string "announce"
AnnounceList [][]string "announce-list"
CreationDate int64 "creation date"
Comment string "comment"
CreatedBy string "created by"
Encoding string "encoding"
}

func (metaInfo *MetaInfo) ReadTorrentMetaInfoFile(r io.Reader) bool {

fileMetaData, er := bencode.Decode(r)
if er != nil {
return false
}

metaInfoMap, ok := fileMetaData.(map[string]interface{})
if !ok {
return false
}

var bytesBuf bytes.Buffer
for mapKey, mapVal := range metaInfoMap {
switch mapKey {
case "info":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}

infoHash := sha1.New()
infoHash.Write(bytesBuf.Bytes())
metaInfo.InfoHash = string(infoHash.Sum(nil))

if er = bencode.Unmarshal(&bytesBuf, &metaInfo.Info); er != nil {
return false
}

case "announce-list":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}
if er = bencode.Unmarshal(&bytesBuf, &metaInfo.AnnounceList); er != nil {
return false
}

case "announce":
if aa, ok := mapVal.(string); ok {
metaInfo.Announce = aa
}

case "creation date":

if tt, ok := mapVal.(int64); ok {
metaInfo.CreatiOnDate= tt
}

case "comment":
if cc, ok := mapVal.(string); ok {
metaInfo.Comment = cc
}

case "created by":
if cb, ok := mapVal.(string); ok {
metaInfo.CreatedBy = cb
}

case "encoding":
if ed, ok := mapVal.(string); ok {
metaInfo.Encoding = ed
}
}
}

return true
}

func makeUrl(hashinfo string) string {
url := "http://bt.box.n0808.com/%s/%s/%s.torrent"
str := strings.ToUpper(hashinfo)
return fmt.Sprintf(url, str[0:2], str[len(str)-2:], str)
}

func logFile(msg string) {
f, err := os.OpenFile("logfile_torrent.txt", os.O_RDWR|os.O_CREATE|os.O_APPEND, 0666)
if err != nil {
return
}
defer f.Close()

log.SetOutput(f)
log.Println(msg)
}

var timeout = time.Duration(2 * time.Second)

func dialTimeout(network, addr string) (net.Conn, error) {
return net.DialTimeout(network, addr, timeout)
}

func pullTorrent(url string) (int, error) {

req, err := http.NewRequest("GET", url, nil)
if err != nil {
return 1, err
}

req.Header.Add("User-Agent", "Mozilla/5.0")
req.Header.Add("Host", "bt.box.n0808.com")
req.Header.Add("Accept", "*/*")
req.Header.Add("Connection", "Keep-Alive")

transport := http.Transport{
Dial: dialTimeout,
}

client := &http.Client{
Transport: &transport,
}

resp, err := client.Do(req)

if err != nil {
return 2, err
}
defer resp.Body.Close()

var metaTorrent MetaInfo
ok := metaTorrent.ReadTorrentMetaInfoFile(resp.Body)
if !ok {
return 3, nil
}

name := metaTorrent.Info.Name
hashInfo := fmt.Sprintf("%X", metaTorrent.InfoHash)
created := metaTorrent.CreationDate

var fileLength int64
var fileDownLoadList bytes.Buffer
var fileList string

for _, fileDict := range metaTorrent.Info.Files {
fileLength += fileDict.Length
for _, path := range fileDict.Path {
fileDownLoadList.WriteString(path)
fileDownLoadList.WriteString("\r\n")
}
}
fileList = fileDownLoadList.String()

var fileLengthTotal int64
if fileLength > 0 {
fileLengthTotal = fileLength / (1024 * 1024)
}

if fileLengthTotal > 0 {
db, err := sql.Open("mysql", "root:admin@tcp(127.0.0.1:3306)/678BT?charset=utf8&timeout=3s")
if err != nil {
return 4, err
}
defer db.Close()

stmtIns, err := db.Prepare("INSERT INTO magnet (hashinfo,name,files,length,created,indexd) VALUES(?,?,?,?,?,?)")
if err != nil {
return 5, err
}
defer stmtIns.Close()

timestamp := time.Now().Unix()
_, error := stmtIns.Exec(hashInfo, name, fileList, fileLengthTotal, created, timestamp)
if error != nil {
return 6, error
}
}

return 0, nil
}

func popChan(chs []chan int) {
for _, vv := range chs {
tmp := <-vv
fmt.Println(tmp)
}
}

func main() {
f, err := os.Open("torrent.txt")
if err != nil {
log.Fatal(err)
}
defer f.Close()

bf := bufio.NewReader(f)

no := 0
ch := make([]chan int, 128)
op := 0

for {

if no >= 128 {
popChan(ch)
no = 0
}

ch[no] = make(chan int)

line, isPrefix, err := bf.ReadLine()
if err == io.EOF {
break
}

if err != nil {
logFile(err.Error())
}

if isPrefix {
logFile("LINE TOO LONG")
}

torrent := strings.Trim(string(line), "\r\n")
torrent1 := strings.Trim(torrent, "\r")
torrent2 := strings.Trim(torrent1, "\n")

if len(torrent2) > 10 {

go func(chx chan int, nox int) {

ret, err := pullTorrent(makeUrl(torrent2))
if ret != 0 {
logFile(strconv.Itoa(ret))
if err != nil {
logFile(err.Error())
}
}

chx <- nox

}(ch[no], no)

no++
}

op++

if op%1000 == 0 {
fmt.Println(no)
}
}
}



推荐阅读
  • 千万不要错过的后端[纯干货]面试知识点整理 I I
    千万不要错过的后端【纯干货】面试知识点整理IIc++内存管理上次分享整理的面试知识点I,今天我们来继续分享面试知识点整理IIlinuxkernel内核空间、内存管理、进程管理设备、 ... [详细]
  • 认真一点学 Go:18. 并发
    收录于《Go基础系列》,作者:潇洒哥老苗。>>原文链接学到什么并发与并行的区别?什么是Goroutine?什么是通道?Goroutine如何通信?相关函数的使用?sel ... [详细]
  • 按照之前我对map的理解,map中的数据应该是有序二叉树的存储顺序,正常的遍历也应该是有序的遍历和输出,但实际试了一下,却发现并非如此,网上查了下,发现从Go1开始,遍历的起始节点就是随机了,当然随机 ... [详细]
  • 本文详细探讨了JDBC(Java数据库连接)的内部机制,重点分析其作为服务提供者接口(SPI)框架的应用。通过类图和代码示例,展示了JDBC如何注册驱动程序、建立数据库连接以及执行SQL查询的过程。 ... [详细]
  • MySQL索引详解与优化
    本文深入探讨了MySQL中的索引机制,包括索引的基本概念、优势与劣势、分类及其实现原理,并详细介绍了索引的使用场景和优化技巧。通过具体示例,帮助读者更好地理解和应用索引以提升数据库性能。 ... [详细]
  • 本题探讨如何通过最大流算法解决农场排水系统的设计问题。题目要求计算从水源点到汇合点的最大水流速率,使用经典的EK(Edmonds-Karp)和Dinic算法进行求解。 ... [详细]
  • 毕业设计:基于机器学习与深度学习的垃圾邮件(短信)分类算法实现
    本文详细介绍了如何使用机器学习和深度学习技术对垃圾邮件和短信进行分类。内容涵盖从数据集介绍、预处理、特征提取到模型训练与评估的完整流程,并提供了具体的代码示例和实验结果。 ... [详细]
  • dotnet 通过 Elmish.WPF 使用 F# 编写 WPF 应用
    本文来安利大家一个有趣而且强大的库,通过F#和C#混合编程编写WPF应用,可以在WPF中使用到F#强大的数据处理能力在GitHub上完全开源Elmis ... [详细]
  • 本文探讨了在Java多线程环境下,如何确保具有相同key值的线程能够互斥执行并按顺序输出结果。通过优化代码结构和使用线程安全的数据结构,我们解决了线程同步问题,并实现了预期的并发行为。 ... [详细]
  • 本文深入探讨了SQL数据库中常见的面试问题,包括如何获取自增字段的当前值、防止SQL注入的方法、游标的作用与使用、索引的形式及其优缺点,以及事务和存储过程的概念。通过详细的解答和示例,帮助读者更好地理解和应对这些技术问题。 ... [详细]
  • 深入解析Java多线程与并发库的应用:空中网实习生面试题详解
    本文详细探讨了Java多线程与并发库的高级应用,结合空中网在挑选实习生时的面试题目,深入分析了相关技术要点和实现细节。文章通过具体的代码示例展示了如何使用Semaphore和SynchronousQueue来管理线程同步和任务调度。 ... [详细]
  • 优化Flask应用的并发处理:解决Mysql连接过多问题
    本文探讨了在Flask应用中通过优化后端架构来应对高并发请求,特别是针对Mysql 'too many connections' 错误的解决方案。我们将介绍如何利用Redis缓存、Gunicorn多进程和Celery异步任务队列来提升系统的性能和稳定性。 ... [详细]
  • 深入理解Java多线程并发处理:基础与实践
    本文探讨了Java中的多线程并发处理机制,从基本概念到实际应用,帮助读者全面理解并掌握多线程编程技巧。通过实例解析和理论阐述,确保初学者也能轻松入门。 ... [详细]
  • 本文探讨了如何通过一系列技术手段提升Spring Boot项目的并发处理能力,解决生产环境中因慢请求导致的系统性能下降问题。 ... [详细]
  • Go语言以其简洁的语法和强大的并发处理能力而闻名,特别是在云计算和分布式计算领域有着广泛的应用。本文将深入探讨Go语言中的Channel机制,包括其不同类型及其在实际编程中的应用。 ... [详细]
author-avatar
凰千寻_847
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有