热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

网站流量数据采集环境部署及实现

一、原理分析与设计实现友情链接:https:www.cnblogs.comlikemebeep7967534.html二、系统环境部署!!

一、原理分析与设计实现

  

    友情链接:https://www.cnblogs.com/likemebee/p/7967534.html

 

 

 


二、系统环境部署

 

    !!!执行复制下列命令是注意查看是否为英文类型的 “-” ,当命令错误时首先排查该处

 

-------------------------------服务器  A  中部署开始-----------------------------------

  需要的安装包


uaJIT-2.0.4.tar.gz

set-misc-nginx-module-0.29.tar.gz
lua-nginx-module-0.10.0.tar.gz
ngx_devel_kit-0.2.19.tar.gz
echo-nginx-module-0.58.tar.gz

openresty-1.9.7.3.tar.gz

nginx-1.8.1.tar.gz

 


  • 服务器中安装依赖

yum -y install gcc perl pcre-devel openssl openssl-devel

 


  • 上传 LuaJIT-2.0.4.tar.gz 并安装 LuaJIT

tar -zxvf LuaJIT-2.0.4.tar.gz -C /usr/local/src/


cd /usr/local/src/LuaJIT-2.0.4/


make && make install PREFIX=/usr/local/luajit

 


  • 设置 LuaJIT 环境变量

vi /etc/profile


export LUAJIT_LIB=/usr/local/luajit/lib
export LUAJIT_INC
=/usr/local/luajit/include/luajit-2.0


source /etc/profile

 


  • 创建 modules 文件夹,保存 nginx 依赖的模块

mkdir -p /usr/local/nginx/modules

 


  • 上传 nginx 依赖的模块

set-misc-nginx-module-0.29.tar.gz
lua
-nginx-module-0.10.0.tar.gz
ngx_devel_kit
-0.2.19.tar.gz
echo
-nginx-module-0.58.tar.gz

 


  • 将依赖的模块直接解压到 modules 目录

tar -zxvf lua-nginx-module-0.10.0.tar.gz -C /usr/local/nginx/modules/
tar
-zxvf set-misc-nginx-module-0.29.tar.gz -C /usr/local/nginx/modules/
tar
-zxvf ngx_devel_kit-0.2.19.tar.gz -C /usr/local/nginx/modules/
tar
-zxvf echo-nginx-module-0.58.tar.gz -C /usr/local/nginx/modules/

 


  • 安装 openresty

tar -zxvf openresty-1.9.7.3.tar.gz -C /usr/local/src/


cd /usr/local/src/openresty-1.9.7.3/


./configure --prefix=/usr/local/openresty --with-luajit && make && make install

 


  • 安装 nginx

tar -zxvf nginx-1.8.1.tar.gz -C /usr/local/src/

 


  • 编译 nginx 并支持其他模块

1
cd /usr/local/src/nginx-1.8.1/


./configure --prefix=/usr/local/nginx \
--with-ld-opt="-Wl,-rpath,/usr/local/luajit/lib" \
--add-module=/usr/local/nginx/modules/ngx_devel_kit-0.2.19 \
--add-module=/usr/local/nginx/modules/lua-nginx-module-0.10.0 \
--add-module=/usr/local/nginx/modules/set-misc-nginx-module-0.29 \
--add-module=/usr/local/nginx/modules/echo-nginx-module-0.58


make -j2


make install

 

备注:如果对 linux 相关操作不熟,请严格按照上述步骤搭建环境,切记心细,心细,再心细。

 

-------------------------------服务器  A  中部署结束-----------------------------------

 


三、自定义采集数据实现

 

-------------------------------服务器  B  中执行开始-----------------------------------


  • 安装httpd

yum install httpd


  • 启动httpd

service httpd start


  • 进入/var/www/html/内上传 index.html页面文件

cd /var/www/html/

 


  • 创建页面 index.html

  页面 index.html代码如下:


DOCTYPE html>
<html><head><meta charset="UTF-8"><title>welcometitle> <script type="text/Javascript">var _maq = _maq || [];_maq.push([&#39;_setAccount&#39;, &#39;jiFeng&#39;]);(function() {var ma = document.createElement(&#39;script&#39;); ma.type = &#39;text/Javascript&#39;;ma.async = true;ma.src = &#39;http://192.168.175.153/ma.js&#39;;var s = document.getElementsByTagName(&#39;script&#39;)[0]; s.parentNode.insertBefore(ma, s);})();script>head><body><h1 align="center">云计算大数据h1> body>
html>


-------------------------------服务器  B  中执行结束-----------------------------------

-------------------------------服务器   A  中执行开始-----------------------------------


  •  在安装目录 nginx/html 下添加一个数据采集脚本 ma.js。

cd /usr/local/nginx/html/

 

      脚本 ma.js代码如下:


(function () {var params = {};//Document对象数据if(document) {params.domain = document.domain || &#39;&#39;; params.url = document.URL || &#39;&#39;; params.title = document.title || &#39;&#39;; params.referrer = document.referrer || &#39;&#39;; } //Window对象数据if(window && window.screen) {params.sh = window.screen.height || 0;params.sw = window.screen.width || 0;params.cd = window.screen.colorDepth || 0;} //navigator对象数据if(navigator) {params.lang = navigator.language || &#39;&#39;; } //解析_maq配置if(_maq) {for(var i in _maq) {switch(_maq[i][0]) {case &#39;_setAccount&#39;:params.account = _maq[i][1];break;default:break;} } } //拼接参数串var args = &#39;&#39;; for(var i in params) {if(args != &#39;&#39;) {args += &#39;&&#39;;} args += i + &#39;=&#39; + encodeURIComponent(params[i]);} //通过Image对象请求后端脚本var img = new Image(1, 1); img.src = &#39;http://192.168.175.153/log.gif?&#39; + args;
})();


 


  •  修改 nginx 的配置文件,添加自定义相关业务逻辑。

cd /usr/local/nginx/conf


vi nginx.conf


worker_processes 2;events {worker_connections 1024;
}http {include mime.types;default_type application/octet-stream;log_format main &#39;$remote_addr - $remote_user [$time_local] "$request" &#39;&#39;$status $body_bytes_sent "$http_referer" &#39;&#39;"$http_user_agent" "$http_x_forwarded_for"&#39;;log_format user_log_format "$msec||$remote_addr||$status||$body_bytes_sent||$u_domain||$u_url||$u_title||$u_referrer||$u_sh||$u_sw||$u_cd||$u_lang||$http_user_agent||$u_account";sendfile on; #允许sendfile方式传输文件,默认为offkeepalive_timeout 65; #连接超时时间,默认为75sserver {listen 80;server_name localhost;location /log.gif {#伪装成gif文件default_type image/gif; #nginx本身记录的access_log,日志格式为mainaccess_log logs/access.log main;access_by_lua "-- 用户跟踪COOKIE名为__utracelocal uid = ngx.var.COOKIE___utrace if not uid then-- 如果没有则生成一个跟踪COOKIE,算法为md5(时间戳+IP+客户端信息)uid = ngx.md5(ngx.now() .. ngx.var.remote_addr .. ngx.var.http_user_agent)end ngx.header[&#39;Set-COOKIE&#39;] = {&#39;__utrace=&#39; .. uid .. &#39;; path=/&#39;}if ngx.var.arg_domain then-- 通过subrequest到/i-log记录日志,将参数和用户跟踪COOKIE带过去ngx.location.capture(&#39;/i-log?&#39; .. ngx.var.args .. &#39;
&utrace=&#39; .. uid)end "; #此请求资源本地不缓存add_header Expires "Fri, 01 Jan 1980 00:00:00 GMT";add_header Pragma "no-cache";add_header Cache-Control "no-cache, max-age=0, must-revalidate";#返回一个1×1的空gif图片empty_gif;} location /i-log {#内部location,不允许外部直接访问internal;#设置变量,注意需要unescapeset_unescape_uri $u_domain $arg_domain;set_unescape_uri $u_url $arg_url;set_unescape_uri $u_title $arg_title;set_unescape_uri $u_referrer $arg_referrer;set_unescape_uri $u_sh $arg_sh;set_unescape_uri $u_sw $arg_sw;set_unescape_uri $u_cd $arg_cd;set_unescape_uri $u_lang $arg_lang;set_unescape_uri $u_account $arg_account;#打开subrequest(子请求)日志log_subrequest on;#自定义采集的日志,记录数据到user_defined.logaccess_log logs/user_defined.log user_log_format;#输出空字符串echo &#39;&#39;;} }
}


 


  •  启动 nginx

cd /usr/local/nginx


sbin/nginx -c conf/nginx.conf


  •  查看是否启动

ps -ef | grep nginx

 

  

-------------------------------服务器   A  中执行结束-----------------------------------


  •  通过游览器访问 nginx

访问:192.168.175.151/index.html

 -------------------------------服务器   A  中执行开始-----------------------------------


  • 观察自定义日志采集文件是否有对应的内容输出:

cd /usr/local/nginx/logs


tail -f user_defined.log

 

 

此时还可以观察 nginx 默认的输出日志文件:


tail -f access.log

 

停止 nginx: 


cd /usr/local/nginx


sbin/nginx –s stop

-------------------------------服务器   A  中执行结束-----------------------------------


推荐阅读
  • Nginx使用AWStats日志分析的步骤及注意事项
    本文介绍了在Centos7操作系统上使用Nginx和AWStats进行日志分析的步骤和注意事项。通过AWStats可以统计网站的访问量、IP地址、操作系统、浏览器等信息,并提供精确到每月、每日、每小时的数据。在部署AWStats之前需要确认服务器上已经安装了Perl环境,并进行DNS解析。 ... [详细]
  • 本文介绍了在Linux下安装Perl的步骤,并提供了一个简单的Perl程序示例。同时,还展示了运行该程序的结果。 ... [详细]
  • 本文介绍了在CentOS上安装Python2.7.2的详细步骤,包括下载、解压、编译和安装等操作。同时提供了一些注意事项,以及测试安装是否成功的方法。 ... [详细]
  • centos6.8 下nginx1.10 安装 ... [详细]
  • linux下编译安装lnmp
    2019独角兽企业重金招聘Python工程师标准#######################安装依赖#####################安装必要的包:y ... [详细]
  • linux下连接mysql参数怎么设置的简单介绍
    本文目录一览:1、Linux下mysql允许远程连接怎么设置 ... [详细]
  • 安装mysqlclient失败解决办法
    本文介绍了在MAC系统中,使用django使用mysql数据库报错的解决办法。通过源码安装mysqlclient或将mysql_config添加到系统环境变量中,可以解决安装mysqlclient失败的问题。同时,还介绍了查看mysql安装路径和使配置文件生效的方法。 ... [详细]
  • Linux服务器密码过期策略、登录次数限制、私钥登录等配置方法
    本文介绍了在Linux服务器上进行密码过期策略、登录次数限制、私钥登录等配置的方法。通过修改配置文件中的参数,可以设置密码的有效期、最小间隔时间、最小长度,并在密码过期前进行提示。同时还介绍了如何进行公钥登录和修改默认账户用户名的操作。详细步骤和注意事项可参考本文内容。 ... [详细]
  • 本文介绍了如何使用C#制作Java+Mysql+Tomcat环境安装程序,实现一键式安装。通过将JDK、Mysql、Tomcat三者制作成一个安装包,解决了客户在安装软件时的复杂配置和繁琐问题,便于管理软件版本和系统集成。具体步骤包括配置JDK环境变量和安装Mysql服务,其中使用了MySQL Server 5.5社区版和my.ini文件。安装方法为通过命令行将目录转到mysql的bin目录下,执行mysqld --install MySQL5命令。 ... [详细]
  • 本文介绍了将mysql从5.6.15升级到5.7.15的详细步骤,包括关闭访问、备份旧库、备份权限、配置文件备份、关闭旧数据库、安装二进制、替换配置文件以及启动新数据库等操作。 ... [详细]
  • 现在比较流行使用静态网站生成器来搭建网站,博客产品着陆页微信转发页面等。但每次都需要对服务器进行配置,也是一个重复但繁琐的工作。使用DockerWeb,只需5分钟就能搭建一个基于D ... [详细]
  • 本文主要介绍关于linux文件描述符设置,centos7设置文件句柄数,centos7查看进程数的知识点,对【Linux之进程数和句柄数】和【linux句柄数含义】有兴趣的朋友可以看下由【东城绝神】投 ... [详细]
  • 环境配置tips
    一、MySQL在Linux下数据库名、表名、列名、别名大小写规则是这样的:  1、数据库名与表名是严格区分大小写的;  2、表的别名是严格区分大小写的& ... [详细]
  • mysql5.6 多实例 主从安装_MySQL5.6一主多从的半同步复制实例
    半同步简介:在默认情况下,MySQL的复制是异步的,这意味着主服务器及其从服务器是独立的。异步复制可以提供最佳的性能,因为主服务器在将更新 ... [详细]
  • 操作系统RetHat9.0,存储设备华为3comEX1000在linux上建立能够识别盘阵的方法有三种1、HBA卡;2、TOE卡;3、is ... [详细]
author-avatar
游走的小张
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有