热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

mysql插入二千万的测试数据进行测试,int和datetime比较

时间存储用int和datetime哪个字段更合适,建立下面的两个表测试环境是内存2个G,一核的虚拟机CREATETABLE`test_inttime`(`id`int(11)NOT

时间存储用int和datetime哪个字段更合适,建立下面的两个表

测试环境是内存2个G,一核的虚拟机

CREATE TABLE `test_inttime` (
  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
  `int_time` int(11) NOT NULL DEFAULT '0' COMMENT '插入时间',
  PRIMARY KEY (`id`),
  KEY `int_time` (`int_time`) USING BTREE COMMENT 'int索引'
) ENGINE=InnoDB DEFAULT CHARSET=utf8;


CREATE TABLE `test_datetime` (
  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
  `date_time` datetime DEFAULT NULL COMMENT '插入时间',
  PRIMARY KEY (`id`),
  KEY `date_time` (`date_time`) USING BTREE COMMENT 'date_time'
) ENGINE=InnoDB AUTO_INCREMENT=21 DEFAULT CHARSET=utf8;

 

分别对两个表进行两千万数据进行测试,这里小弟采用swoole多进程进行处理

这是插入test_inttime

php
require 'pdo.php';

echo 'begin ' . date('Y-m-d H:i:s', time());
/**
 * 开启10个进程
 * 每个进程插入数据库的表二百万条数据
 */
for ($i = 0; $i <10; $i++) {
    $process = new swoole_process('insertData', true);
    $start = $process->start();
    $process->write($i);
    $workers[$start] = $process;
}

//防止产生僵尸进程.
while (true) {
    $res = swoole_process::wait();

    if ($res) {
        $pid = $res['pid'];
        write_logs('exit ' . $pid);
    } else {
        break;
    }
}

/**
 * 插入数据的主函数
 * @param swoole_process $worker 每个进程
 * 每个进程分二十次塞入数据库,
 * 对插入的数值进行拼接成大的字符串,进行插库操作,
 * 需要对数据库的进行配置文件的修改 max_allowed_packet
 */
function insertData(swoole_process $worker)
{
  $num = $worker->read();
    $pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8');

    for ($j = 0; $j <20; $j++) {

        $sql = "insert into test_inttime(int_time) VALUES ";

        for ($i = 0; $i <100000; $i++) {
       $testTime = (time() - rand(1, 100));
            $sql .= "($testTime),";
        }

        $sql = substr($sql, 0, strlen($sql) - 1);
        $pdo->query($sql);
    }

}

/**
 * 日志错误记录
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word)
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());
    $filename = './' . $date . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

echo PHP_EOL;
echo 'end  ' . date('Y-m-d H:i:s', time());

这是插入test_datetime表

php
require 'pdo.php';

echo 'begin ' . date('Y-m-d H:i:s', time());
/**
 * 开启10个进程
 * 每个进程插入数据库的表二百万条数据
 */
for ($i = 0; $i <10; $i++) {
    $process = new swoole_process('insertData', true);
    $start = $process->start();
    $process->write($i);
    $workers[$start] = $process;
}

//防止产生僵尸进程.
while (true) {
    $res = swoole_process::wait();

    if ($res) {
        $pid = $res['pid'];
        write_logs('exit ' . $pid);
    } else {
        break;
    }
}

echo PHP_EOL;
echo 'end  ' . date('Y-m-d H:i:s', time());

/**
 * 插入数据的主函数
 * @param swoole_process $worker 每个进程
 * 每个进程分二十次塞入数据库,
 * 对插入的数值进行拼接成大的字符串,进行插库操作,
 * 需要对数据库的进行配置文件的修改 max_allowed_packet
 */
function insertData(swoole_process $worker)
{$num = $worker->read();
    $pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8');

    for ($j = 0; $j <20; $j++) {

        $sql = "insert into test_datetime(date_time) VALUES ";

        for ($i = 0; $i <100000; $i++) {
       $testTime = time() - rand(1, 100);
       $testTime = date('Y-m-d H:i:s', $testTime);
$sql .= "('" . $testTime . "'),"; } $sql = substr($sql, 0, strlen($sql) - 1); $pdo->query($sql); } } /** * 日志错误记录 * @param $word string 传入错误信息拼接的字符串 */ function write_logs($word) { $time = date('Y-m-d H:i:s', time()); $date = date('Y-m-d', time()); $filename = './' . $date . '.log'; $fh = fopen($filename, "a+"); fwrite($fh, $time . " " . $word . "\r\n"); fclose($fh); }

分别运行上面两个方法

第一个test_inttime执行完用时如下,用时141s

mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

 成功插入两千万条数据

mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

第二个test_datetime用时如下,用时176s

mysql插入二千万的测试数据进行测试,int和datetime比较

 成功插入两千万条数据

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

进行存储空间的测试

第一个test_inttime

mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,  
    ->  concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB  
    ->  from tables where  
    ->  table_schema='test'  
    -> and table_name = 'test_inttime';  
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 624.00MB       | 264.89MB        |
+----------------+-----------------+

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

第二个test_datetime

mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,  
    ->  concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB  
    ->  from tables where  
    ->  table_schema='test'  
    -> and table_name = 'test_datetime';  
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 744.00MB       | 410.00MB        |
+----------------+-----------------+

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

进行查询测试

每隔20000进行1000次查询,取平均值和最大值和最小值

int_time

php
require 'pdo.php';

$pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8');

for ($i = 0; $i <1000; $i++) {
    $offset = $i * (20000);
    $start_time = time();
    $res = $pdo->query("SELECT *  from test_inttime ORDER BY int_time desc limit " . $offset . " ,10 ");

    if (!$res) {
        write_logs('int_time ' . $i . ' fail ', 'error_int_time');
        continue;
    }

    $end_time = time();

    $offset_time = $end_time - $start_time;
    write_logs($offset_time, 'int_time');

}

/**
 * 日志记录
 * @param $log_name string 传入的log名称,默认为date日期
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word, $log_name = '')
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());

    if (!$log_name) {
        $log_name = $date;
    }

    $filename = './' . $log_name . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

mysql插入二千万的测试数据进行测试,int和datetime比较

 

date_time

php
require 'pdo.php';

$pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8');

for ($i = 0; $i <1000; $i++) {
    $offset = $i * (20000);
    $start_time = time();
    $res = $pdo->query("SELECT *  from test_datetime ORDER BY date_time desc limit " . $offset . " ,10 ");

    if (!$res) {
        write_logs('date_time ' . $i . ' fail ', 'error_date_time');
        continue;
    }

    $end_time = time();
    $offset_time = $end_time - $start_time;
    write_logs($offset_time, 'date_time');

}

/**
 * 日志记录
 * @param $log_name string 传入的log名称,默认为date日期
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word, $log_name = '')
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());

    if (!$log_name) {
        $log_name = $date;
    }

    $filename = './' . $log_name . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

mysql插入二千万的测试数据进行测试,int和datetime比较

用时datetime大于inttime

 

经过比较,得到以下结果

  int_time date_time
插入时间 141s 176s
存储空间
 624.00MB(数据)  +264.89MB(索引)
744.00MB(数据)+410.00MB(索引)
查询时间(1000次)(单位:最小值/最大值/平均值) 0s /16s / 6.2315s  0s /17s/ 6.5251s

 

int_time 好于  date_time

 


推荐阅读
  • Java序列化对象传给PHP的方法及原理解析
    本文介绍了Java序列化对象传给PHP的方法及原理,包括Java对象传递的方式、序列化的方式、PHP中的序列化用法介绍、Java是否能反序列化PHP的数据、Java序列化的原理以及解决Java序列化中的问题。同时还解释了序列化的概念和作用,以及代码执行序列化所需要的权限。最后指出,序列化会将对象实例的所有字段都进行序列化,使得数据能够被表示为实例的序列化数据,但只有能够解释该格式的代码才能够确定数据的内容。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 本文介绍了使用PHP实现断点续传乱序合并文件的方法和源码。由于网络原因,文件需要分割成多个部分发送,因此无法按顺序接收。文章中提供了merge2.php的源码,通过使用shuffle函数打乱文件读取顺序,实现了乱序合并文件的功能。同时,还介绍了filesize、glob、unlink、fopen等相关函数的使用。阅读本文可以了解如何使用PHP实现断点续传乱序合并文件的具体步骤。 ... [详细]
  • 本文详细介绍了SQL日志收缩的方法,包括截断日志和删除不需要的旧日志记录。通过备份日志和使用DBCC SHRINKFILE命令可以实现日志的收缩。同时,还介绍了截断日志的原理和注意事项,包括不能截断事务日志的活动部分和MinLSN的确定方法。通过本文的方法,可以有效减小逻辑日志的大小,提高数据库的性能。 ... [详细]
  • 本文介绍了lua语言中闭包的特性及其在模式匹配、日期处理、编译和模块化等方面的应用。lua中的闭包是严格遵循词法定界的第一类值,函数可以作为变量自由传递,也可以作为参数传递给其他函数。这些特性使得lua语言具有极大的灵活性,为程序开发带来了便利。 ... [详细]
  • 本文介绍了在Python3中如何使用选择文件对话框的格式打开和保存图片的方法。通过使用tkinter库中的filedialog模块的asksaveasfilename和askopenfilename函数,可以方便地选择要打开或保存的图片文件,并进行相关操作。具体的代码示例和操作步骤也被提供。 ... [详细]
  • 本文介绍了在开发Android新闻App时,搭建本地服务器的步骤。通过使用XAMPP软件,可以一键式搭建起开发环境,包括Apache、MySQL、PHP、PERL。在本地服务器上新建数据库和表,并设置相应的属性。最后,给出了创建new表的SQL语句。这个教程适合初学者参考。 ... [详细]
  • 本文介绍了使用Java实现大数乘法的分治算法,包括输入数据的处理、普通大数乘法的结果和Karatsuba大数乘法的结果。通过改变long类型可以适应不同范围的大数乘法计算。 ... [详细]
  • PHP设置MySQL字符集的方法及使用mysqli_set_charset函数
    本文介绍了PHP设置MySQL字符集的方法,详细介绍了使用mysqli_set_charset函数来规定与数据库服务器进行数据传送时要使用的字符集。通过示例代码演示了如何设置默认客户端字符集。 ... [详细]
  • 本文讨论了在Windows 8上安装gvim中插件时出现的错误加载问题。作者将EasyMotion插件放在了正确的位置,但加载时却出现了错误。作者提供了下载链接和之前放置插件的位置,并列出了出现的错误信息。 ... [详细]
  • Metasploit攻击渗透实践
    本文介绍了Metasploit攻击渗透实践的内容和要求,包括主动攻击、针对浏览器和客户端的攻击,以及成功应用辅助模块的实践过程。其中涉及使用Hydra在不知道密码的情况下攻击metsploit2靶机获取密码,以及攻击浏览器中的tomcat服务的具体步骤。同时还讲解了爆破密码的方法和设置攻击目标主机的相关参数。 ... [详细]
  • 本文详细介绍了Linux中进程控制块PCBtask_struct结构体的结构和作用,包括进程状态、进程号、待处理信号、进程地址空间、调度标志、锁深度、基本时间片、调度策略以及内存管理信息等方面的内容。阅读本文可以更加深入地了解Linux进程管理的原理和机制。 ... [详细]
  • GetWindowLong函数
    今天在看一个代码里头写了GetWindowLong(hwnd,0),我当时就有点费解,靠,上网搜索函数原型说明,死活找不到第 ... [详细]
  • 基于layUI的图片上传前预览功能的2种实现方式
    本文介绍了基于layUI的图片上传前预览功能的两种实现方式:一种是使用blob+FileReader,另一种是使用layUI自带的参数。通过选择文件后点击文件名,在页面中间弹窗内预览图片。其中,layUI自带的参数实现了图片预览功能。该功能依赖于layUI的上传模块,并使用了blob和FileReader来读取本地文件并获取图像的base64编码。点击文件名时会执行See()函数。摘要长度为169字。 ... [详细]
  • 本文介绍了数据库的存储结构及其重要性,强调了关系数据库范例中将逻辑存储与物理存储分开的必要性。通过逻辑结构和物理结构的分离,可以实现对物理存储的重新组织和数据库的迁移,而应用程序不会察觉到任何更改。文章还展示了Oracle数据库的逻辑结构和物理结构,并介绍了表空间的概念和作用。 ... [详细]
author-avatar
大鱼
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有