0
点赞
收藏
分享

微信扫一扫

记一次DM数据库超过最大参数个数(2048)问题排查

非衣所思 2022-03-11 阅读 93
数据库sql

文章目录

记一次DM数据库超过最大参数个数(2048)问题排查

需求:查询用户有权限的单位、部门下的用户,并且需要分页、筛选、排序。

缘由:因为关联表实在太多,关联表也会导致数据库非常慢,因此打算先查询出用户有权限的单位、部门下的用户,再分页筛选排序,使用了in语句。于是出现了超过最大参数个数(2048)错误。

分析:一开始以为是数据库不能一个in语句超过2048个参数,后来定位,发现在公司框架中的db包预编译sql时报错了

image-20220302094659406

数据库连接池使用的是HikariCP,既然是预编译没有通过,那就只能从其他方面解决了。网上大概提供了三种解决方案:

  1. 通过sql语句in (...) or in(...)

    image-20220302095550275

  2. 通过表关联查询,既然用户id太多,那通过表关联sql,传入单位、部门id查询

  3. 将数据分组,查询后手动分页排序

第一种方案分成多个in自语句依然会编译不通过。

第二种方案因为业务需求有点麻烦(包含单位、部门下级,同时还要考虑用户的数据权限),实现起来太过复杂,而且效率也不高,故放弃

第三种虽然需要手动分页查询,但是实现起来会比较方便,效率也还可以,用户条数1w3没走缓存不到1秒,走缓存速率更是提高10倍不止。

下面贴一下手动数据分组的代码

if (!ListUtil.isLstEmpty(userIds)) {
    List<SUser> sUsers = new ArrayList<>();
    List<List<String>> partition = Lists.partition(userIds, 1000);//分为1000每组,使用的Guava工具类
    for (List<String> userIdList : partition) {//分组查询
        QueryBean qb = new QueryBean("select a.* from SUser a " + getWhere(userIdList));
        setWhere(qb, userIdList);
        List<SUser> tempUserList = qb.queryBeanList(SUser.class);
        sUsers.addAll(tempUserList);
    } 
    sUsers.sort((o1, o2) -> page.getOrderFlag() == 1 ? getOrder(o1, o2,page.getOrderString()) : getOrder(o2, o1,page.getOrderString()));//排序,根据传递的page对象,判断是正序、倒序排序以及排序字段
    page.setTotalRows(sUsers.size());//设置总条数
    page.initPageInfo();//初始化分页信息,如当前第几页,总页数
    List<SUser> subUserList = sUsers.subList((page.getCurrentPage() - 1) * page.getPageSize(), Math.min(page.getCurrentPage() * page.getPageSize(), sUsers.size()));//去除分页的条数,需要判断是否到列表的末尾了
    prepareReturnData(result, subUserList);//准备返回结构
}
举报

相关推荐

0 条评论