PHP快速导出百万级数据到CSV或者EXCEL文件
16lz
2022-04-05
这篇文章主要介绍了PHP快速导出百万级数据到CSV或者EXCEL文件,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。
一、导出思路
需要考虑服务器内存
需要考虑程序运行的最大时间
缺少BOM头导致乱码的处理
如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出
二、导出源码
下面源码将数据库信息修改成自己的即可使用
亲测导出一百万条数据,3个字段,不过20秒
如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低
<?php
//让程序一直运行
set_time_limit(0);
//设置程序运行内存
ini_set('memory_limit', '128M');
$fileName = '测试导出数据';
header('Content-Encoding: UTF-8');
header("Content-type:application/vnd.ms-excel;charset=UTF-8");
header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
//打开php标准输出流
$fp = fopen('php://output', 'a');
//添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
//添加导出标题
fputcsv($fp, ['姓名', '年龄', '地区']);
//链接数据库
$dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
$pdo = new PDO($dsn, 'root', '');
$step = 100; //循环次数
$nums = 10000; //每次导出数量
for($i = 0; $i < $step; $i++) {
$start = $i * 10000;
$sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
$pdostatement = $pdo->query($sql);
$result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
foreach ($result as $item) {
fputcsv($fp, $item);
}
//每1万条数据就刷新缓冲区
ob_flush();
flush();
}
三、快速生成百万条测试数据
这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长
INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;
到此这篇关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章就介绍到这了。
更多相关文章
- android SQLiteDatabase之一
- android 如何从sqlite读取数据到spinner下拉中显示
- Android中利用Intent传递数据到另一个页面
- [置顶] android调用系统相机拍照并保存在本地
- Android(安卓)数据库SQLite的操作总结
- android 滑动加载数据
- JSP程序使用JDBC连接MySQL的教程
- 常用函数类型和数据类型
- 用PDO连接mysql,用预处理语句实现用户登录时防sql注入小结