javaWeb项目 Excel导入速度优化

白色玫瑰 程序猿

时间: 2023-05-22 阅读: 1 字数:2670

{}
经过测试,当前excel导入功能,20000 条数据平均导入用时在 0.5h 左右。现要求将 50000+ 的数据量导入时间控制在 10m 之内。 使用 10000条数据进行测试,结果如下: Excel文件读取用时 数据检查用时 ...

经过测试,当前excel导入功能,20000 条数据平均导入用时在 0.5h 左右。现要求将 50000+ 的数据量导入时间控制在 10m 之内。 使用 10000条数据进行测试,结果如下:

<table> <thead> <tr> <th>Excel文件读取用时</th> <th>数据检查用时</th> <th>数据库写入用时</th> </tr> </thead> <tbody> <tr> <td>3.2m</td> <td>1.3m</td> <td>1.2m</td> </tr> </tbody> </table>nn 打开Excel导入代码,我们可以看到是调用了jxl,并使用了三层for循环 在这里插入图片描述 我们了解到jxl在大数据量上的读取速度表现远不如poi,具体差异如下(数据来源于网络):

<table> <thead> <tr> <th>文件大小</th> <th>POI加载耗时</th> <th>POI总耗时</th> <th>JXL加载耗时</th> <th>JXL总耗时</th> </tr> </thead> <tbody> <tr> <td>57KB</td> <td>1172ms</td> <td>1172ms</td> <td>1265ms</td> <td>2250ms</td> </tr> <tr> <td>652KB</td> <td>2297ms</td> <td>2313ms</td> <td>4406ms</td> <td>9705ms</td> </tr> <tr> <td>2.24M</td> <td>3109ms</td> <td>3140ms</td> <td>16313ms</td> <td>37453ms</td> </tr> </tbody> </table>nn 所以我们着手于将原JXL的读取方式改为POI的读取方式 在这里插入图片描述 修改之后测试发现,10000条数据导入速度降至30秒左右,50000条在1分20秒左右,效果明显。 之后又通过将原来数据检查和数据插入方法中的 update 与 insert 语句替换为 marge into ,(这个我会另开一篇讲),最终10000条数据导入的总用时在40秒左右,50000条数据导入的总用时在2分钟左右。

原文地址:https://blog.csdn.net/qq_32692315/article/details/87873672?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522168475006116800192211331%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=168475006116800192211331&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~first_rank_ecpm_v1~rank_v31_ecpm-16-87873672-null-null.142^v87^control_2,239^v2^insert_chatgpt&utm_term=java%E4%BC%98%E5%8C%96

本文章网址:https://www.sjxi.cn/detil/74eba9c6f58b4467aa61ef1c5230e4e9

最新评论

当前未登陆哦
登陆后才可评论哦

湘ICP备2021009447号

×

(穷逼博主)在线接单

QQ: 1164453243

邮箱: abcdsjx@126.com

前端项目代做
前后端分离
Python 爬虫脚本
Java 后台开发
各种脚本编写
服务器搭建
个人博客搭建
Web 应用开发
Chrome 插件编写
Bug 修复