网站首页 > 技术文章 正文
目录
- 一、数据库瓶颈解决方案
- 二、连接数调优
- 三、连接池参数优化(一)压测(二)参数调整
回到顶部
一、数据库瓶颈解决方案
在大流量时,数据库会成为系统瓶颈,其总体的解决方案如下:
1、项目架构使用缓存,90%请求拦截上游服务器 ———— 读操作
2、数据归档处理 (把一些用户不访问的数据直接归档处理,缓解数据库压力)--使用master ,slave架构
3、停机扩容
影响数据库性能因数:
1、服务器硬件
2、操作系统
3、存储引擎
4、数据库表结构(冗余设计)
5、SQL 语句
6、磁盘 IO
7、网卡流量
8、慢查询
总结来看:
1、低效 SQL 语句
2、并发 cpu 的问题(SQL 并不支持多核心 cpu 并发模式执行,一个 SQL 语句只能在一个 cpu 进行执行)
3、连接数: max-connections
4、大表(数据多,字段多)
5、大事务
6、超高 cpu 使用率
其中大表、大事务、低效SQL都是属于项目设计和开发时需要注意的,而连接数是需要进行提前设置好的。
回到顶部
二、连接数调优
首先从数据库连接池选型上,目前比较主流的有HikariCP 和阿里的Druid,HikariCP读性能很好,但是写性能一般,阿里的Druid就比较均衡,无论读写都很好,因此使用了阿里的Druid。
相关的配置项如下所示,都加了注释。
spring:
application:
name: sugo-seckill-web
datasource:
#url: jdbc:mysql://127.0.0.1:3306/shop?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=true
url: jdbc:mysql://172.20.10.14:3306/shop?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=true&connectionTimeout=3000&socketTimeout=1200
username: root
password: root
driver-class-name: com.mysql.jdbc.Driver
druid:
#初始化线程数
initial-size: 1
# 最小线程数
min-idle: 5
# 最大线程数
max-active: 10
# 获取连接最大等待时间
max-wait: 1200
# 销毁线程的间隔时间
time-between-eviction-runs-millis: 600000
# 配置一个连接在池中最大空闲时间,单位是毫秒
min-evictable-idle-time-millis: 300000
# 设置从连接池获取连接时是否检查连接有效性,true时,每次都检查;false时,不检查
test-on-borrow: true
#设置往连接池归还连接时是否检查连接有效性,true时,每次都检查;false时,不检查
test-on-return: true
# 设置从连接池获取连接时是否检查连接有效性,true时,如果连接空闲时间超过minEvictableIdleTimeMillis进行检查,否则不检查;false时,不检查
test-while-idle: true
# 检验连接是否有效的查询语句。如果数据库Driver支持ping()方法,则优先使用ping()方法进行检查,否则使用validationQuery查询进行检查。(Oracle jdbc Driver目前不支持ping方法)
validation-query: select 1 from dual
# 是否长链接
keep-alive: true
# 是否删除异常连接
remove-abandoned: true
# 异常连接的判断条件(80毫秒没有使用的连接,防止线程阻塞)
remove-abandoned-timeout: 80
log-abandoned: true
#打开PSCache,并且指定每个连接上PSCache的大小,Oracle等支持游标的数据库,打开此开关,会以数量级提升性能,具体查阅PSCache相关资料
pool-prepared-statements: true
max-pool-prepared-statement-per-connection-size: 20
# 配置间隔多久启动一次DestroyThread,对连接池内的连接才进行一次检测,单位是毫秒。
#检测时:
#1.如果连接空闲并且超过minIdle以外的连接,如果空闲时间超过minEvictableIdleTimeMillis设置的值则直接物理关闭。
#2.在minIdle以内的不处理。
回到顶部
三、连接池参数优化
其实数据库连接池优化主要就是优化最大连接数、获取连接等待时间、连接超时时间和会话超时时间四项,其他的就直接按照上述的参数配置即可,基本上不需要调整。
(一)压测
使用jmeter进行压测
1、创建一个线程组--数据库连接池测试
2、添加--配置原件--JDBC Connection Configuration
需要配置连接池名字、最大连接数、最大等待时间等,还需要配置验证sql、数据库信息
然后还需要添加一下驱动包,在测试计划中添加jar包即可。
3、添加--取样器--JDBC Request,需要添加连接池名字(mysql),sql语句,处理方式(这里选择预处理),sql的参数和参数类型
4、添加--监听器--结果树
5、添加--监听器--聚合报告
6、添加--监听器--TPS
7、添加--监听器--RT
(二)参数调整
1、max-active : 最大连接数
在数据库连接池优化时,最重要的就是最大连接数的优化,太小太大都会影响性能,那么如何设置最大连接数,就成为优化的关键。
试验: max-active = 10 , TPS 测试的结果如下所示:
试验: max-active = 20 ,TPS 测试结果: TPS = 18000 <= max-active=10
试验: max-active = 30 ,TPS 测试结果: TPS = 10000
结论: max-active 设置值范围: 【10 ~ 20】
2、Max-wait
含义: 表示从连接池获取连接的超时时间;单位是 ms ; 这个参数只管理获取连接的超时时间。
获取连接造成线程等待超时的原因:
(1)连接池未初始化(导致一开始获取不到连接,导致超时)
(2)连接长时间使用,已经被释放
(3)连接使用中,需要新建连接
(4)连接池中连接耗尽,需要等待用完后归还;
推荐设置:内网状态:max-wait=800 ms , 网络状态不是特别好,推荐设置大于等于 1200ms,因为 tcp 连接重试一般 1s;
例子:Max-wait = 0 – 无限等待,大量流量涌入后,导致线程池队列非常长,看起来 TPS 上升了,实际上处理吞吐能力下降的;
3、连接属性
(1)connectionTimeout : 配置建立 TCP 连接的超时时间,追加到连接后面即可;
(2)socketTimeout : 配置发送请求后,等待响应的超时时间,这里有个问题,如果建立了连接,但是在会话的时候,一直拿不到结果,那么该线程就一直阻塞,导致可用资源下降。
结论:Jdbc 请求连接后面:&connectionTimeout=3000&socketTimeout=1200
猜你喜欢
- 2024-11-10 测试用例:多线程图片ETL Oracle和S3
- 2024-11-10 连接池之HikariCP:HikariCP框架设计与功能使用分析(第一部分)
- 2024-11-10 深入Spring Boot (十六):从源码分析自动配置原理
- 2024-11-10 网关使用 Apache HttpClient 连接池出现异常
- 2024-11-10 Oracle TAC实战 oracle \t
- 2024-11-10 重学MySQL:事务与连接池,一文详解带你搞懂
- 2024-11-10 咋回事!现在新人连数据库连接池c3p0都没有听说过?
- 2024-11-10 Python学习之单例模式 单例模式的代码实现
- 2024-11-10 ADG (Active Data Guard) 数据容灾架构下,如何配置 Druid 连接池?
- 2024-11-10 在项目中使用c3p0作为数据库连接池,被技术总监怼了
你 发表评论:
欢迎- 最近发表
-
- 宇宙厂:深入聊聊 CJS 和 ESM 模块化三点核心差异?
- #前端高手进阶#一起薅羊毛~
- 前端基础进阶(十):深入详解函数的柯里化
- 2025 年 Object 和 Map 如何选择?
- 为何说 postMessage 才是真正的 setTimeout(0)?
- 为什么高手写 JS 总是又快又好?这10个技巧你要知道
- 2025 年 Deno 终于官宣 pnpm 和 Yarn 可使用 JSR?
- 宇宙厂:为什么前端要了解 Interaction to Next Paint (INP)
- Node.js 原生支持 TypeScript?开发者需要了解的一切
- 请务必用 postTask/isInputPending 释放JS主线程!
- 标签列表
-
- 前端设计模式 (75)
- 前端性能优化 (51)
- 前端模板 (66)
- 前端跨域 (52)
- 前端缓存 (63)
- 前端react (48)
- 前端md5加密 (49)
- 前端路由 (55)
- 前端数组 (65)
- 前端定时器 (47)
- 前端接口 (46)
- Oracle RAC (73)
- oracle恢复 (76)
- oracle 删除表 (48)
- oracle 用户名 (74)
- oracle 工具 (55)
- oracle 内存 (50)
- oracle 导出表 (57)
- oracle约束 (46)
- oracle 中文 (51)
- oracle链接 (47)
- oracle的函数 (57)
- mac oracle (47)
- 前端调试 (52)
- 前端登录页面 (48)
本文暂时没有评论,来添加一个吧(●'◡'●)