MyBatis 批量插入使用 foreach 循环插入的优化，使用分片多线程
liebian365 2024-11-16 23:13 27 浏览 0 评论
在使用MyBatis进行批量插入数据时，我们常用的方法是在使用insert语句进行批量插入，这种方式在数据量比较少的时候，插入较快，但是当数据量较大的时候，不仅耗时，而且占用的CPU资源比较高。今天我们来对比说明一下，并在最后给出优化的方案。
先设计一张MySQL数据库，用来存储批量插入的数据，以插入用户信息为例，本次表在设计时多设计一些字段，在插入时的差异凸显的更加明显。
接下来我以插入50000条数据为例，由浅入深，分别从循环单条插入、批量插入等进行对比分析。
1、循环单条插入
模拟生成用户的姓名、手机号、身份证号码这些信息，避免因相同数据造成的缓存误差，然后逐条插入数据库中。
随机生成用户姓名：
随机生成11位手机号码：
随机生成身份证号码：
逐条插入用户数据的实现方法（使用JUnit进行单元测试），需要了解JUnit进行单元测试，可以访问上一篇文章SpringBoot框架集成JUnit单元测试：
插入完毕，查看控制台总耗时，以及数据库的数据入库情况：
执行总共耗时1634240ms，也就是27分钟左右。
2、使用foreach批量插入
在同等条件下进行测试验证，还是自动生成用户信息，封装成list，然后一次性插入。
这种方式相对于第一种方式，进行了提升，原理就是将
转换为
此时我们去执行程序发现，程序报错
如果我们将批量插入的50000条数据改成10000条，发现1秒左右就执行结束了。
从上面可以看出，使用foreach进行批量插入，原理上就是让多条insert into插入语句变成一条插入语句，可以带来性能上的提升，但同时也带来了两个问题：
（1）当插入的数据较多时，相当于拼接的sql语句会特别的长，甚至超过sql语句的长度，一旦超出，就会抛出异常导致无法插入。
（2）当插入的数据较多时，也比较耗时，针对这点官方也做了说明，这里我们就不做详细的拓展，我们继续讨论怎么解决这个问题。这里贴一张官方的说明截图。
这句话要表达的意思就是，当插入数量很多时，不能一次性全放在一条语句里。
3、使用foreach配合分片批量插入
既然不能封装成一条SQL，那我们考虑有没有其他的方式，当然有，可以采用分片的方式。
主要原理就是将list集合按"指定长度"进行切分，返回新的List<List<类型>>集合。
可以看出，50000条数据，不到2秒钟就插入完成，大大提高了效率。
这里分片的目的有两个：
1、批量插入，拼接的SQL语句过长，sql语句会有限制；
2、分片后采用stream多线程并行插入可以提高效率；
此外，不管是mysql还是oracle数据库，都可以使用分片进行插入。
相关推荐
- 深度解密epoll 如何工作的?（epoll基本处理流程）
-
epoll...
- 大乐透第19082期:头奖开出7注1000万分落六地 奖池41亿元
-
2019年7月17日晚开奖的体彩超级大乐透第19082期开奖号码为：前区06、18、20、21、31，后区03、04。本期大乐透前区号码五区比为1:0:3:0:1，二区和四区号码没有给出。当期前区和值...
- 【开奖】4月27日周六:福彩、体彩（2021年4月27日体彩开奖结果）
-
4月27日开奖福彩3D第2019110期：61222选5第2019110期：0812202122排列3第19110期：303排列5第19110期：30305大乐透第19047期：0304...
- “红狒狒”落户哈尔滨铁路局（哈尔滨铁路红肠）
-
这几天，“红人”“红狒狒”在牡丹江机务段可引起了不小的轰动，众粉丝争相与其拍照留念，在该段人气爆棚！“红狒狒”到底何许人也？“红狒狒”，中文名：和谐3D型电力机车；绰号：红狒狒、番茄；制造商：大连机...
- 2D、3D、2.5D，做游戏还是搞噱头?玩家都晕了
-
前言游戏类型就像某种潮流，一种流行罢，另一种接棒成为主流。前两年的新作大多以“开放世界”为标签，在追求纯沙盒的过程中打造出一些细致的分类，比如说“类GTA沙盒”。诚然，纯碎的沙盒游戏并不多见，业内只有...
- 《战神4》PC版宣传片发布 GTX 1070即可60帧畅玩
-
在今年10月的时候索尼PlayStation官方正式宣布圣莫尼卡2018年的《战神4》将于2022年1月14日推出PC版本，官方在今天公布了一段PC版宣传片，并且公开了游戏的配置需求。下面让我们一起来...
- 男星深情好丈夫形象崩塌，半夜搂美女坐大腿，举止亲密
-
近日，于晓光被拍到深夜在酒吧玩，结束后与一名女子一起上车离开。上车后，女子直接坐在了他腿上，他也顺势搂着美女，美女满脸笑容地坐在他腿上玩手机离开。可能有人会好奇，于晓光是谁呢？于晓光是韩国艺人秋瓷炫的...
- d3d12dll丢失怎么修复?d3d12dll加载失败怎么解决?
-
d3d12.dll丢失怎么修复？d3d12.dll加载失败怎么解决？很多朋友想要运行游戏的时候都会遇到这个问题，这种情况该怎么办呢？今天系统之家小编给朋友们讲讲具体的解决方法，操作其实还蛮简单的。...
- 许多玩家反馈《生化4RE》PC一直崩溃 无法进入游戏
-
今日（3月24日），卡普空《生化危机4：重制版》正式发售，然而有部分PC玩家遇到了游戏崩溃等问题。很多玩家在贴吧发帖称游戏遇到了严重的崩溃问题，且经常反复，报错代码普遍为FatalD3Derror...
- 微软正式推出适用于WSL Linux的D3D12 GPU视频加速技术
-
今天，微软正式向WindowsSubsystemforLinux(WSL)用户发布了Direct3D12GPU视频加速支持。在微软通过WSL允许在Linux下使用Open...
- 《怪物猎人:崛起》曙光系统报错“Fatal d3d error”的解决办法
-
《怪物猎人：崛起》曙光系统报错“Fatald3derror”的解决办法不少小伙伴反应《怪物猎人：崛起》DLC曙光预载以后打不开游戏，出现了Fatald3derror类似的错误代码，这类问题的解...
- Mac+双屏，前端程序员的专业配置 - Loctek 乐歌 D3D 双屏电脑显示器支架
-
做FE也有一段日子了，电脑屏幕每天在设计稿、浏览器、IDE、即时通讯工具、Terminal、邮箱之间切换。虽然mac的工作区带来了很多灵活，但是依然略显不足。于是入手支架，把公司配的电脑和显示器发挥起...
- RPC 的原理和简单使用（rpc详解）
-
RPC的概念RPC，RemoteProcedureCall，翻译成中文就是远程过程调用，是一种进程间通信方式。它允许程序调用另一个地址空间（通常是共享网络的另一台机器上）的过程或函数。在调用的...
- 大厂开源的golang微服务rpc框架 — kitex
-
提前rpc估计所有的开发同学都知道，不知道的也无所谓，毕竟我也好几年没用了，今天带大家在复习一下。RPC(RemoteProcedureCall)：远程过程调用，...
- 干货!一文掌握Protobuf所有语言所有用法，快收藏
-
说实话，Protobuf这个库，让人相见时难别亦难，东风无力百花残，每次等到要用它的时候，总感觉还没有完全掌握它的用法，而实际上等去百度或者谷歌的时候，教程都是多么的凌乱不堪。学会它，最直接关系到的，...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- wireshark怎么抓包 (75)
- qt sleep (64)
- cs1.6指令代码大全 (55)
- factory-method (60)
- sqlite3_bind_blob (52)
- hibernate update (63)
- c++ base64 (70)
- nc 命令 (52)
- wm_close (51)
- epollin (51)
- sqlca.sqlcode (57)
- lua ipairs (60)
- tv_usec (64)
- 命令行进入文件夹 (53)
- postgresql array (57)
- statfs函数 (57)
- .project文件 (54)
- lua require (56)
- for_each (67)
- c#工厂模式 (57)
- wxsqlite3 (66)
- dmesg -c (58)
- fopen参数 (53)
- tar -zxvf -c (55)
- 速递查询 (52)