热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

mysql插入二千万的测试数据进行测试,int和datetime比较

时间存储用int和datetime哪个字段更合适,建立下面的两个表测试环境是内存2个G,一核的虚拟机CREATETABLE`test_inttime`(`id`int(11)NOT

时间存储用int和datetime哪个字段更合适,建立下面的两个表

测试环境是内存2个G,一核的虚拟机

CREATE TABLE `test_inttime` (
  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
  `int_time` int(11) NOT NULL DEFAULT '0' COMMENT '插入时间',
  PRIMARY KEY (`id`),
  KEY `int_time` (`int_time`) USING BTREE COMMENT 'int索引'
) ENGINE=InnoDB DEFAULT CHARSET=utf8;


CREATE TABLE `test_datetime` (
  `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',
  `date_time` datetime DEFAULT NULL COMMENT '插入时间',
  PRIMARY KEY (`id`),
  KEY `date_time` (`date_time`) USING BTREE COMMENT 'date_time'
) ENGINE=InnoDB AUTO_INCREMENT=21 DEFAULT CHARSET=utf8;

 

分别对两个表进行两千万数据进行测试,这里小弟采用swoole多进程进行处理

这是插入test_inttime

php
require 'pdo.php';

echo 'begin ' . date('Y-m-d H:i:s', time());
/**
 * 开启10个进程
 * 每个进程插入数据库的表二百万条数据
 */
for ($i = 0; $i <10; $i++) {
    $process = new swoole_process('insertData', true);
    $start = $process->start();
    $process->write($i);
    $workers[$start] = $process;
}

//防止产生僵尸进程.
while (true) {
    $res = swoole_process::wait();

    if ($res) {
        $pid = $res['pid'];
        write_logs('exit ' . $pid);
    } else {
        break;
    }
}

/**
 * 插入数据的主函数
 * @param swoole_process $worker 每个进程
 * 每个进程分二十次塞入数据库,
 * 对插入的数值进行拼接成大的字符串,进行插库操作,
 * 需要对数据库的进行配置文件的修改 max_allowed_packet
 */
function insertData(swoole_process $worker)
{
  $num = $worker->read();
    $pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8');

    for ($j = 0; $j <20; $j++) {

        $sql = "insert into test_inttime(int_time) VALUES ";

        for ($i = 0; $i <100000; $i++) {
       $testTime = (time() - rand(1, 100));
            $sql .= "($testTime),";
        }

        $sql = substr($sql, 0, strlen($sql) - 1);
        $pdo->query($sql);
    }

}

/**
 * 日志错误记录
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word)
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());
    $filename = './' . $date . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

echo PHP_EOL;
echo 'end  ' . date('Y-m-d H:i:s', time());

这是插入test_datetime表

php
require 'pdo.php';

echo 'begin ' . date('Y-m-d H:i:s', time());
/**
 * 开启10个进程
 * 每个进程插入数据库的表二百万条数据
 */
for ($i = 0; $i <10; $i++) {
    $process = new swoole_process('insertData', true);
    $start = $process->start();
    $process->write($i);
    $workers[$start] = $process;
}

//防止产生僵尸进程.
while (true) {
    $res = swoole_process::wait();

    if ($res) {
        $pid = $res['pid'];
        write_logs('exit ' . $pid);
    } else {
        break;
    }
}

echo PHP_EOL;
echo 'end  ' . date('Y-m-d H:i:s', time());

/**
 * 插入数据的主函数
 * @param swoole_process $worker 每个进程
 * 每个进程分二十次塞入数据库,
 * 对插入的数值进行拼接成大的字符串,进行插库操作,
 * 需要对数据库的进行配置文件的修改 max_allowed_packet
 */
function insertData(swoole_process $worker)
{$num = $worker->read();
    $pdo = MyPDO::getInstance('127.0.0.1', 'root', 'root', 'test', 'utf-8');

    for ($j = 0; $j <20; $j++) {

        $sql = "insert into test_datetime(date_time) VALUES ";

        for ($i = 0; $i <100000; $i++) {
       $testTime = time() - rand(1, 100);
       $testTime = date('Y-m-d H:i:s', $testTime);
$sql .= "('" . $testTime . "'),"; } $sql = substr($sql, 0, strlen($sql) - 1); $pdo->query($sql); } } /** * 日志错误记录 * @param $word string 传入错误信息拼接的字符串 */ function write_logs($word) { $time = date('Y-m-d H:i:s', time()); $date = date('Y-m-d', time()); $filename = './' . $date . '.log'; $fh = fopen($filename, "a+"); fwrite($fh, $time . " " . $word . "\r\n"); fclose($fh); }

分别运行上面两个方法

第一个test_inttime执行完用时如下,用时141s

mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

 成功插入两千万条数据

mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

第二个test_datetime用时如下,用时176s

mysql插入二千万的测试数据进行测试,int和datetime比较

 成功插入两千万条数据

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

进行存储空间的测试

第一个test_inttime

mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,  
    ->  concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB  
    ->  from tables where  
    ->  table_schema='test'  
    -> and table_name = 'test_inttime';  
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 624.00MB       | 264.89MB        |
+----------------+-----------------+

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

 

第二个test_datetime

mysql> select concat(round(sum(data_length/1024/1024),2),'MB') as data_length_MB,  
    ->  concat(round(sum(index_length/1024/1024),2),'MB') as index_length_MB  
    ->  from tables where  
    ->  table_schema='test'  
    -> and table_name = 'test_datetime';  
+----------------+-----------------+
| data_length_MB | index_length_MB |
+----------------+-----------------+
| 744.00MB       | 410.00MB        |
+----------------+-----------------+

 mysql插入二千万的测试数据进行测试,int和datetime比较

 

进行查询测试

每隔20000进行1000次查询,取平均值和最大值和最小值

int_time

php
require 'pdo.php';

$pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8');

for ($i = 0; $i <1000; $i++) {
    $offset = $i * (20000);
    $start_time = time();
    $res = $pdo->query("SELECT *  from test_inttime ORDER BY int_time desc limit " . $offset . " ,10 ");

    if (!$res) {
        write_logs('int_time ' . $i . ' fail ', 'error_int_time');
        continue;
    }

    $end_time = time();

    $offset_time = $end_time - $start_time;
    write_logs($offset_time, 'int_time');

}

/**
 * 日志记录
 * @param $log_name string 传入的log名称,默认为date日期
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word, $log_name = '')
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());

    if (!$log_name) {
        $log_name = $date;
    }

    $filename = './' . $log_name . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

mysql插入二千万的测试数据进行测试,int和datetime比较

 

date_time

php
require 'pdo.php';

$pdo = MyPDO::getInstance('127.0.0.1', 'root', '', 'test', 'utf-8');

for ($i = 0; $i <1000; $i++) {
    $offset = $i * (20000);
    $start_time = time();
    $res = $pdo->query("SELECT *  from test_datetime ORDER BY date_time desc limit " . $offset . " ,10 ");

    if (!$res) {
        write_logs('date_time ' . $i . ' fail ', 'error_date_time');
        continue;
    }

    $end_time = time();
    $offset_time = $end_time - $start_time;
    write_logs($offset_time, 'date_time');

}

/**
 * 日志记录
 * @param $log_name string 传入的log名称,默认为date日期
 * @param $word string 传入错误信息拼接的字符串
 */
function write_logs($word, $log_name = '')
{
    $time = date('Y-m-d H:i:s', time());
    $date = date('Y-m-d', time());

    if (!$log_name) {
        $log_name = $date;
    }

    $filename = './' . $log_name . '.log';
    $fh = fopen($filename, "a+");
    fwrite($fh, $time . "  " . $word . "\r\n");
    fclose($fh);
}

mysql插入二千万的测试数据进行测试,int和datetime比较

用时datetime大于inttime

 

经过比较,得到以下结果

  int_time date_time
插入时间 141s 176s
存储空间
 624.00MB(数据)  +264.89MB(索引)
744.00MB(数据)+410.00MB(索引)
查询时间(1000次)(单位:最小值/最大值/平均值) 0s /16s / 6.2315s  0s /17s/ 6.5251s

 

int_time 好于  date_time

 


推荐阅读
  • 数据类型和操作数据表2.1MySQL类型之整型2.2MySQL数据类型之浮点型2.3日期时间型DATE1支持时间:1000年1月1日~9999年12月31日DATETIME ... [详细]
  • php更新数据库字段的函数是,php更新数据库字段的函数是 ... [详细]
  • MySQL Decimal 类型的最大值解析及其在数据处理中的应用艺术
    在关系型数据库中,表的设计与SQL语句的编写对性能的影响至关重要,甚至可占到90%以上。本文将重点探讨MySQL中Decimal类型的最大值及其在数据处理中的应用技巧,通过实例分析和优化建议,帮助读者深入理解并掌握这一重要知识点。 ... [详细]
  • 本文详细介绍了在 Oracle 数据库中使用 MyBatis 实现增删改查操作的方法。针对查询操作,文章解释了如何通过创建字段映射来处理数据库字段风格与 Java 对象之间的差异,确保查询结果能够正确映射到持久层对象。此外,还探讨了插入、更新和删除操作的具体实现及其最佳实践,帮助开发者高效地管理和操作 Oracle 数据库中的数据。 ... [详细]
  • 本文介绍了如何在 Spring Boot 项目中使用 spring-boot-starter-quartz 组件实现定时任务,并将 cron 表达式存储在数据库中,以便动态调整任务执行频率。 ... [详细]
  • 包含phppdoerrorcode的词条 ... [详细]
  • 一个建表一个执行crud操作建表代码importandroid.content.Context;importandroid.database.sqlite.SQLiteDat ... [详细]
  • importpymysql#一、直接连接mysql数据库'''coonpymysql.connect(host'192.168.*.*',u ... [详细]
  • 本文介绍如何使用 Python 的 DOM 和 SAX 方法解析 XML 文件,并通过示例展示了如何动态创建数据库表和处理大量数据的实时插入。 ... [详细]
  • 如何在Java中使用DButils类
    这期内容当中小编将会给大家带来有关如何在Java中使用DButils类,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。D ... [详细]
  • 本文详细介绍了MySQL数据库的基础语法与核心操作,涵盖从基础概念到具体应用的多个方面。首先,文章从基础知识入手,逐步深入到创建和修改数据表的操作。接着,详细讲解了如何进行数据的插入、更新与删除。在查询部分,不仅介绍了DISTINCT和LIMIT的使用方法,还探讨了排序、过滤和通配符的应用。此外,文章还涵盖了计算字段以及多种函数的使用,包括文本处理、日期和时间处理及数值处理等。通过这些内容,读者可以全面掌握MySQL数据库的核心操作技巧。 ... [详细]
  • 在什么情况下MySQL的可重复读隔离级别会导致幻读现象? ... [详细]
  • PTArchiver工作原理详解与应用分析
    PTArchiver工作原理及其应用分析本文详细解析了PTArchiver的工作机制,探讨了其在数据归档和管理中的应用。PTArchiver通过高效的压缩算法和灵活的存储策略,实现了对大规模数据的高效管理和长期保存。文章还介绍了其在企业级数据备份、历史数据迁移等场景中的实际应用案例,为用户提供了实用的操作建议和技术支持。 ... [详细]
  • 在使用 Cacti 进行监控时,发现已运行的转码机未产生流量,导致 Cacti 监控界面显示该转码机处于宕机状态。进一步检查 Cacti 日志,发现数据库中存在 SQL 查询失败的问题,错误代码为 145。此问题可能是由于数据库表损坏或索引失效所致,建议对相关表进行修复操作以恢复监控功能。 ... [详细]
  • 小程序的授权和登陆
    小程序的授权和登陆 ... [详细]
author-avatar
大鱼
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有