百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 优雅编程 > 正文

你知道插入大批量数据时有哪几种方案吗?

sinye56 2024-10-04 23:42 6 浏览 0 评论

前言

数据库大批量插入操作常见于导入上传等场景,如果不对其进行一定优化,会出现上传时间过长导致超时等问题,所以这次阿海基于Mybatis和大家分享一下插入数据时常见的几种方案。

方案1:循环逐条插入(不推荐)

初学者第一想到的就是写一个for循环,然后每次插入一条,但该方案会频繁使我们的Mybatis创建statment,接入db执行insert语句,效率较低(实际执行语句如图1),数据量大时也会对咱们db的性能造成一定影响,所以阿海老师是不建议童鞋们使用该种方案的。

方案2:使用foreach批量插入(数据量不大时可以使用)

既然一条一条插入效率较低,那可以采用批量插入的方式,该方案相对方案1主要有2点改动:

1.首先将我们要插入的数据封装为一个List集合,并对我们Dao层接口作一定改造,使其可以接收一个List集合;

2.其次我们对Mybatis mapper文件中的SQL进行改造,主要使用Mybatis的<foreach>标签将传入的List集合进行循环插入:

这种方案相对于第一种方案,插入性能有了大幅提升,原理就是Mybatis将insert语句

转换为

这样就让多条insert into插入语句变成了一条插入语句,可以带来性能上的提升,但也存在着两个问题:

(1)当插入的数据较多时,相当于拼接的sql语句会特别的长,甚至超过sql语句的长度,一旦超出,就会抛出异常导致无法插入;

(2)当插入的数据较多时,也比较耗时。

方案3.使用foreach配合分片批量插入(数据量较大时推荐使用)

既然不能封装成一条SQL,那我们考虑有没有其他的方式,当然有,可以采用分片的方式。

主要原理就是将list集合按"指定长度"进行切分,返回新的List<List<T>>集合。

这里分片的目的有两个:

1、批量插入,拼接的SQL语句过长,sql语句会有限制;

2、分片后采用stream多线程并行插入可以提高效率。

此外,不管是mysql还是oracle数据库,都可以使用分片进行插入。

总结

总的来说,当实际业务场景数据量不是很大时,大家使用方案2就可以了,但插入数据量较大时,阿海还是推荐大家使用方案3,可以大大提升插入效率。 在面试时,同学们可以着重讲讲方案3,相信面试官会对你刮目相看。

相关推荐

Linux中10大常用命令之sort使用案例

请关注本头条号,每天坚持更新原创干货技术文章。如需学习视频,请在微信搜索公众号“智传网优”直接开始自助视频学习1.前言Linux中的sort命令用于对文本文件的内容进行排序。本教程向您展示了sort...

java开发常用的Linux命令,高频的没你想象的多

Linux的命令非常多,多到有些使用的场景你工作两三年也没有遇到过,工作三四年才能遇到(Linux内核开发,Shell脚本开发,嵌入式开发、、、),但这个不是今天分享的重点,今天分享的重点是Java开...

linux常用命令(收藏版)

linux小白注意啦,给大家分享一点干货,请笑纳!1.关机命令shutdown-hnow关闭系统(1)init0关闭系统(2),0为系统的进程号telinit0关闭系统(3)shutdo...

延续Win10三年需付超3000元!微软彻底封堵:删除绕过Win11系统要求教程、将第三方工具标记为恶意软件

一切都是为了用户能够正规地升级到Windows11。整理|屠敏出品|CSDN(ID:CSDNnews)距离Windows10退役仅剩8个月,微软最近这段时间,终是忍不住接连出手了...

敲完就让你提桶跑路的Linux命令

不谨慎可能就会让你提桶的Linux命令!!!删除文件rm-rf该命令是删除文件或文件夹等最快的方式之一。删除后的内容很难恢复,如果删除系统文件可能会导致系统崩坏。˃rm-rf/#强制删除根...

超级蠕虫,累计感染40万台服务器,让Linux内核服务器感染两年

最近著名安全公司ESET发布安全报告,报告分析了其对一个超级蠕虫Ebury的15年追踪分析。在15年中该病毒持续感染了40万台服务器,曾经在2011年(2009年)攻克了Linux内核维护站点kern...

linux redhat破解密码

适用于RedhatCentosFedora1.开机选择第一个启动项,按e进入编辑模式2.在启动项编辑模式找到linux16开头的文件,按ctrl+e快速定位到该行的行末,输入空格rd.break...

慎用!Linux最危险的10个命令!

Linux是一个强大而灵活的操作系统,它提供了许多功能丰富的命令和工具,让用户可以方便地管理和控制系统。但是,有些命令如果不小心或不知情地使用,可能会造成严重的后果,甚至导致系统崩溃或数据丢失。因此,...

Linux文件和目录删除

今天只讲一个命令,这个命令已经让万千运维人既爱又恨。rm删除文件或者目录基本用法:-i显示删除提示信息-f强制删除文件-r进行目录的递归删除在公司里为了保证数据安全,一般会创建一个alias...

给你的Linux系统穿上“防弹衣”:安全加固全攻略

为什么Linux系统需要安全加固在当今数字化时代,Linux系统以其开源、稳定、高效等特性,在服务器领域占据着举足轻重的地位。无论是大型互联网公司的核心业务,还是中小企业的日常运营,都离不开L...

一天一个Linux命令:文件操作「删」rm

命令:rm-rf文件名(慎用,慎用,慎用)rm(选项)(参数)命令功能:rm-rf是一条UNIX系统下的文件删除命令,作用是无提示地强制递归删除一个目录中的一个或多个文件或目录,如果没有使用...

Linux下通过 rm -f 删除大量文件时报错:Argument list too long

问题现象云服务器ECSLinux下通过rm-f删除大量的小文件时出现类似如下错误信息:-bash:?/bin/rm:?Argument?list?too?long如下图所示:问题原因如?待删...

这10个Linux命令太危险,千万慎用!数据毁灭的瞬间只需一个回车

你好,这里是网络技术联盟站,我是瑞哥。Linux系统,以其开源自由的特性,吸引了无数开发者和科技爱好者。其强大的命令行工具赋予了用户前所未有的控制能力。然而,正如俗话所说,“能力越大,责任越大”。某些...

Linux的10大危险命令,用过的运维都很刑

rm-rf命令该命令可能导致不可恢复的系统崩坏。˃rm-rf/#强制删除根目录下所有东西。˃rm-rf*#强制删除当前目录的所有文件。˃rm-rf.#强制删除当前...

Linux环境变量设置与查看全攻略

Linux环境变量设置与查看全攻略在Linux系统中,环境变量是用于定义系统和用户级设置的一种方法,它可以影响程序的行为和系统的运行方式。了解如何设置和查看环境变量对于Linux用户来说是非常重要的技...

取消回复欢迎 发表评论: