MyBtais 批量插入慢排查及分析(后续)_mybaist插入几万条数据慢-程序员宅基地

技术标签: 实战问题解决  java  mybatis  Mybatis  开发语言  


前言

没有看过前文的朋友,可以先去看看上次在笔者笔记本上做的尝试:MyBatis痛点验证,使用 foreach 批量插入慢?
上次做的验证,因为无法复现生产场景,最终失败,这次我们来看后续进一步的验证与排查


一、同SQL以工程方式运行

我把上次在笔记本上的动态sql,移植到我们的工程代码里,放在一个普通查询接口里,进行usertest表的数据插入。而且一个方法内重复插好几次。

大家知道上次,我们的基准测试,一个对象的插入大约8ms
在这里插入图片描述

而同样插入一个对象,在工程里跑,大约需要 256ms !!

在这里插入图片描述

当我不知死活的尝试插入2000条数据时,耗时直接到达270s,整整四分半!!

在这里插入图片描述

二、使用Plugin排查耗时情况

1. 编写mybatis plugin

代码如下:

@Component
@Intercepts({
    
        @Signature(
                type = ParameterHandler.class,
                method = "setParameters",
                args = {
     PreparedStatement.class }) ,
        @Signature(
                type = StatementHandler.class,
                method = "prepare",
                args = {
     Connection.class ,Integer.class}),
        @Signature(
                type = StatementHandler.class,
                method = "update",
                args = {
     Statement.class}),
        @Signature(
                type = Executor.class,
                method = "update",
                args = {
     MappedStatement.class ,Object.class}) ,})
@Slf4j
public class ParameterPlugin implements Interceptor {
    
    @Override
    public Object intercept(Invocation invocation) throws Throwable {
    
        long start = System.currentTimeMillis();
        String parameterHandlerName = invocation.getTarget().getClass().getName();
        String statementName = invocation.getArgs()[0].getClass().getName();
        String methodName = invocation.getMethod().getName();
        Object returnVal = invocation.proceed();
        long end = System.currentTimeMillis();
        if ("prepare".equals(methodName)) {
    
            log.info("StatementHandler.prepare耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        if ("setParameters".equals(methodName)) {
    
            log.info("参数装填时间" + (end - start) + ", 参数处理器类型为: " + parameterHandlerName + " ,statement类型为" + statementName
                    + ", 其中start =" + start + ", end =" + end);
        }
        if ("update".equals(methodName)) {
    
            log.info("update耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        return returnVal;
    }
}

上述的plugin 可以同时截取到几大组件的核心方法耗时,然后运行程序,反复以100为长度,进行耗时占比分析

2. 反复测试,分析结果

在这里插入图片描述
在这里插入图片描述

我原先预期,可能是参数填充的问题,但通过结果看,100*26=2600 个字段的填充耗时在10ms上下,这肯定是没问题的。耗时的大头是两个update方法,因为Executor的update是包含StatementHandler的update的,所以我们找到了耗时的最终方法,即StatementHandler的update.

因为这是动态sql,所以最后是由 PreparedStatementHandler 来处理的,我们关注一下该方法

  @Override
  public int update(Statement statement) throws SQLException {
    
    PreparedStatement ps = (PreparedStatement) statement;
    ps.execute();
    int rows = ps.getUpdateCount();
    Object parameterObject = boundSql.getParameterObject();
    KeyGenerator keyGenerator = mappedStatement.getKeyGenerator();
    keyGenerator.processAfter(executor, mappedStatement, ps, parameterObject);
    return rows;
  }

3. 进一步测试

既然已经确定了是在PreparedStatementHandler.update()里导致耗时太高的,那我们就想办法把日志打进去

先把plugin稍作改造,自定义个update,内容照抄,然后加点日志。

@Intercepts({
    
        @Signature(
                type = ParameterHandler.class,
                method = "setParameters",
                args = {
     PreparedStatement.class }) ,
        @Signature(
                type = StatementHandler.class,
                method = "prepare",
                args = {
     Connection.class ,Integer.class}),
        @Signature(
                type = StatementHandler.class,
                method = "update",
                args = {
     Statement.class})})
@Slf4j
public class ParameterPlugin implements Interceptor {
    
    @Override
    public Object intercept(Invocation invocation) throws Throwable {
    
        String methodName = invocation.getMethod().getName();
        if ("update".equals(methodName)) {
    
            long time1 = System.currentTimeMillis();
            PreparedStatement ps = (PreparedStatement) invocation.getArgs()[0];
            long time2 = System.currentTimeMillis();
            if (ps instanceof Proxy) {
    
                InvocationHandler invocationHandler = Proxy.getInvocationHandler(ps);
                log.info("invocationHandler = " + invocationHandler.getClass().getName());
                if (invocationHandler instanceof PreparedStatementLogger) {
    
                    PreparedStatementLogger lo = (PreparedStatementLogger)invocationHandler;
                    PreparedStatement preparedStatement = lo.getPreparedStatement();
                    log.info("preparedStatement = " + preparedStatement.getClass().getName());
                    if (preparedStatement instanceof HikariProxyPreparedStatement) {
    
                        log.info("now in HikariProxyPreparedStatement");
                    }
                }
            }
            ps.execute();
            long time3 = System.currentTimeMillis();
            int rows = ps.getUpdateCount();
            long time4 = System.currentTimeMillis();
            log.info("自定义update开始: time2-time1=" + (time2-time1) + ", time3-time2=" + (time3-time2) + ", time4-time3="+ (time4-time3));
            return rows;
        }
        long start = System.currentTimeMillis();
        String parameterHandlerName = invocation.getTarget().getClass().getName();
        String statementName = invocation.getArgs()[0].getClass().getName();

        Object returnVal = invocation.proceed();
        long end = System.currentTimeMillis();
        if ("prepare".equals(methodName)) {
    
            log.info("StatementHandler.prepare耗时: " + (end - start) + ", 其中start =" + start + ", end =" + end);
        }
        if ("setParameters".equals(methodName)) {
    
            log.info("参数装填时间" + (end - start) + ", 参数处理器类型为: " + parameterHandlerName + " ,statement类型为" + statementName
                    + ", 其中start =" + start + ", end =" + end);
        }
        return returnVal;
    }
}

然后在笔记本和开发工程上都进行100条数据的插入

  • 笔记本DEMO上

在这里插入图片描述

  • 环境项目上

在这里插入图片描述
从而进一步缩小范围,demo中用到了Hikari作为线程池,但项目上用的却是 Druid ?这其实有点奇怪,因为项目和demo使用的都是 springboot 2.5.x,按理来说,默认使用的都是Hikari。因此接下来的任务就是指定配置,使得项目可以使用Hikari 而非 Druid 。


三、总结

现在终于告一段落了,至于Druid 为什么会这么慢,还是有隐藏的设置导致的,后面还会继续追查,更新在这里。但无论如何,至少也证明了罪责不在mybatis上,mybatis的运行还是十分快的,2000行*26字段的数据,参数填充仅需119ms,符合纯计算的速度

另外,在测试过程中,发现mybatis的日志输出影响也很可观,如果有必要,关闭日志输出也能有不小的效率提升

四、长期更新进度

PS: 再次追查该问题,使用Arthas ,目前定位jdbc驱动发送执行语句sendCommand耗时很长,单条插入语句达到300ms,然后单看发送本身没问题,反而是收到执行结果后,后面的checkErrorMessage耗时太长

com.mysql.cj.protocol.a.NativeProtocol.readMessage()

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/u011709538/article/details/131267488

智能推荐

leetcode 172. 阶乘后的零-程序员宅基地

文章浏览阅读63次。题目给定一个整数 n,返回 n! 结果尾数中零的数量。解题思路每个0都是由2 * 5得来的,相当于要求n!分解成质因子后2 * 5的数目,由于n中2的数目肯定是要大于5的数目,所以我们只需要求出n!中5的数目。C++代码class Solution {public: int trailingZeroes(int n) { ...

Day15-【Java SE进阶】IO流(一):File、IO流概述、File文件对象的创建、字节输入输出流FileInputStream FileoutputStream、释放资源。_outputstream释放-程序员宅基地

文章浏览阅读992次,点赞27次,收藏15次。UTF-8是Unicode字符集的一种编码方案,采取可变长编码方案,共分四个长度区:1个字节,2个字节,3个字节,4个字节。文件字节输入流:每次读取多个字节到字节数组中去,返回读取的字节数量,读取完毕会返回-1。注意1:字符编码时使用的字符集,和解码时使用的字符集必须一致,否则会出现乱码。定义一个与文件一样大的字节数组,一次性读取完文件的全部字节。UTF-8字符集:汉字占3个字节,英文、数字占1个字节。GBK字符集:汉字占2个字节,英文、数字占1个字节。GBK规定:汉字的第一个字节的第一位必须是1。_outputstream释放

jeecgboot重新登录_jeecg 登录自动退出-程序员宅基地

文章浏览阅读1.8k次,点赞3次,收藏3次。解决jeecgboot每次登录进去都会弹出请重新登录问题,在utils文件下找到request.js文件注释这段代码即可_jeecg 登录自动退出

数据中心供配电系统负荷计算实例分析-程序员宅基地

文章浏览阅读3.4k次。我国目前普遍采用需要系数法和二项式系数法确定用电设备的负荷,其中需要系数法是国际上普遍采用的确定计算负荷的方法,最为简便;而二项式系数法在确定设备台数较少且各台设备容量差..._数据中心用电负荷统计变压器

HTML5期末大作业:网页制作代码 网站设计——人电影网站(5页) HTML+CSS+JavaScript 学生DW网页设计作业成品 dreamweaver作业静态HTML网页设计模板_网页设计成品百度网盘-程序员宅基地

文章浏览阅读7k次,点赞4次,收藏46次。HTML5期末大作业:网页制作代码 网站设计——人电影网站(5页) HTML+CSS+JavaScript 学生DW网页设计作业成品 dreamweaver作业静态HTML网页设计模板常见网页设计作业题材有 个人、 美食、 公司、 学校、 旅游、 电商、 宠物、 电器、 茶叶、 家居、 酒店、 舞蹈、 动漫、 明星、 服装、 体育、 化妆品、 物流、 环保、 书籍、 婚纱、 军事、 游戏、 节日、 戒烟、 电影、 摄影、 文化、 家乡、 鲜花、 礼品、 汽车、 其他 等网页设计题目, A+水平作业_网页设计成品百度网盘

【Jailhouse 文章】Look Mum, no VM Exits_jailhouse sr-iov-程序员宅基地

文章浏览阅读392次。jailhouse 文章翻译,Look Mum, no VM Exits!_jailhouse sr-iov

随便推点

chatgpt赋能python:Python怎么删除文件中的某一行_python 删除文件特定几行-程序员宅基地

文章浏览阅读751次。本文由chatgpt生成,文章没有在chatgpt生成的基础上进行任何的修改。以上只是chatgpt能力的冰山一角。作为通用的Aigc大模型,只是展现它原本的实力。对于颠覆工作方式的ChatGPT,应该选择拥抱而不是抗拒,未来属于“会用”AI的人。AI职场汇报智能办公文案写作效率提升教程 专注于AI+职场+办公方向。下图是课程的整体大纲下图是AI职场汇报智能办公文案写作效率提升教程中用到的ai工具。_python 删除文件特定几行

Java过滤特殊字符的正则表达式_java正则表达式过滤特殊字符-程序员宅基地

文章浏览阅读2.1k次。【代码】Java过滤特殊字符的正则表达式。_java正则表达式过滤特殊字符

CSS中设置背景的7个属性及简写background注意点_background设置背景图片-程序员宅基地

文章浏览阅读5.7k次,点赞4次,收藏17次。css中背景的设置至关重要,也是一个难点,因为属性众多,对应的属性值也比较多,这里详细的列举了背景相关的7个属性及对应的属性值,并附上演示代码,后期要用的话,可以随时查看,那我们坐稳开车了······1: background-color 设置背景颜色2:background-image来设置背景图片- 语法:background-image:url(相对路径);-可以同时为一个元素指定背景颜色和背景图片,这样背景颜色将会作为背景图片的底色,一般情况下设置背景..._background设置背景图片

Win10 安装系统跳过创建用户,直接启用 Administrator_windows10msoobe进程-程序员宅基地

文章浏览阅读2.6k次,点赞2次,收藏8次。Win10 安装系统跳过创建用户,直接启用 Administrator_windows10msoobe进程

PyCharm2021安装教程-程序员宅基地

文章浏览阅读10w+次,点赞653次,收藏3k次。Windows安装pycharm教程新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入下载安装PyCharm1、进入官网PyCharm的下载地址:http://www.jetbrains.com/pycharm/downl_pycharm2021

《跨境电商——速卖通搜索排名规则解析与SEO技术》一一1.1 初识速卖通的搜索引擎...-程序员宅基地

文章浏览阅读835次。本节书摘来自异步社区出版社《跨境电商——速卖通搜索排名规则解析与SEO技术》一书中的第1章,第1.1节,作者: 冯晓宁,更多章节内容可以访问云栖社区“异步社区”公众号查看。1.1 初识速卖通的搜索引擎1.1.1 初识速卖通搜索作为速卖通卖家都应该知道,速卖通经常被视为“国际版的淘宝”。那么请想一下,普通消费者在淘宝网上购买商品的时候,他的行为应该..._跨境电商 速卖通搜索排名规则解析与seo技术 pdf

推荐文章

热门文章

相关标签