0.环境准备:

准备100w行数据包,留作压力测试。
db03 [(none)]>create database oldboy;
Query OK, 1 row affected (0.00 sec)

db03 [(none)]>use oldboy;
Database changed
db03 [oldboy]>create table t100w (
    -> id int,num int,
    -> k1 char(2),
    -> k2 char(4),
    -> dt timestamp) charset utf8mb4 collate utf8mb4_bin;
Query OK, 0 rows affected (0.01 sec)

db03 [oldboy]>delimiter //
db03 [oldboy]>create  procedure rand_data(in num int)
    -> begin
    -> declare str char(62) default 'abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789';
    -> declare str2 char(2);
    -> declare str4 char(4);
    -> declare i int default 0;
    -> while i<num do
    -> set str2=concat(substring(str,1+floor(rand()*61),1),substring(str,1+floor(rand()*61),1));
    -> set str4=concat(substring(str,1+floor(rand()*61),2),substring(str,1+floor(rand()*61),2));
    -> set i=i+1;
    -> insert into t100w values (i,floor(rand()*num),str2,str4,now());
    -> end while;
    -> end;
    -> //
Query OK, 0 rows affected (0.00 sec)

db03 [oldboy]>delimiter ;
db03 [oldboy]>call rand_data(1000000);
Query OK, 1 row affected (26.40 sec)

测试:
[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock \
> --concurrency=100 --iterations=1 --create-schema='oldboy' \
> --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb \
> --number-of-queries=2000 -verbose
Benchmark
        Running for engine rbose
        Average number of seconds to run all queries: 191.950 seconds
        Minimum number of seconds to run all queries: 191.950 seconds
        Maximum number of seconds to run all queries: 191.950 seconds
        Number of clients running queries: 100
        Average number of queries per client: 20
//191秒

[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock --concurrency=1000 --iterations=1 --create-schema='oldboy' --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb --number-of-queries=20000 -verbose
mysqlslap: Error when connecting to server: 2000 Unknown MySQL error


//并发连接数改为1000,报错
top:
Tasks: 117 total,   1 running, 116 sleeping,   0 stopped,   0 zombie
%Cpu0  : 99.7 us,  0.0 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.3 si,  0.0 st
%Cpu1  :100.0 us,  0.0 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu2  :100.0 us,  0.0 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu3  : 99.7 us,  0.3 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st

1.优化范围:

  • 存储、主机和操作系统:
    • 主机架构稳定性
    • I/O规划及配置
    • Swap
    • OS内核参数
    • 网络问题
  • 应用程序:(Index,lock,session)
    • 应用程序稳定性和性能
    • SQL语句性能
    • 串行访问资源
    • 性能欠佳会话管理
  • 数据库优化:(内存、数据库设计、参数)
    • 内存
    • 数据库结构(物理&逻辑)
    • 实例配置
    • 架构设计 :
      • 性能 : 读写分离,分布式
      • 安全 : 主备,多活
      • 安全&性能 : 分布式,NewSQL

优化

2.操作系统层面优化工具介绍

2.1top

CPU:
%Cpu(s):  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem :  3880016 total,  3699388 free,   102612 used,    78016 buff/cache
KiB Swap:  2097148 total,  2097148 free,        0 used.  3615864 avail Mem

按1键展开
%Cpu0  :  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu1  :  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu2  :  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu3  :  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 


%Cpu(s):  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
id 空闲的CPU时间片占比

wa CPU用来等待的时间片占比
    等待IO:全表扫描 
    等待大的处理事件
    锁

us 用户程序工作所占有的时间片占比

sy 内核工作花费的CPU时间片占比
    bug,中病毒 
    各种资源的调度和分配
    高并发连接
    锁

%CPU 如果出现%过高的情况,属于正常现象。多核利用率的总和

内存:
KiB Mem :  3880016 total,  3479320 free,   281328 used,   119368 buff/cache
KiB Swap:  2097148 total,  2097148 free,        0 used.  3416472 avail Mem 

3416472 avail Mem //操作系统层面可用容量

swap:
Linux 6操作系统,默认回收策略(buffer cache),不立即回收策略
内存使用达到100%-60%时候,40% 会使用swap

Linux 7操作系统
内存使用达到100%-30%(70%)时候,才会时候swap
cat /proc/sys/vm/swappiness 
30  
echo 0 >/proc/sys/vm/swappiness    的内容改成0(临时)
vim /etc/sysctl.conf
添加:
vm.swappiness=0 //此参数告诉系统,在内存不够用时。使用内存回收机制解决,而不是倾向于使用swap
sysctl -p

2.2iostat

yum install -y sysstat
[root@db03 ~]# df -Th
文件系统                类型      容量  已用  可用 已用% 挂载点
/dev/sdb1               xfs       5.0G  166M  4.9G    4% /data

[root@db03 ~]# iostat -dk 1 //每秒实时读写性能 kb为单位
Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sdb               0.00         0.00         0.00          0          0
sda               0.00         0.00         0.00          0          0
dm-0              0.00         0.00         0.00          0          0

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sdb               0.00         0.00         0.00          0          0
sda               0.00         0.00         0.00          0          0
dm-0              0.00         0.00         0.00          0          0

[root@db03 ~]# dd if=/dev/zero of=/data/bigfile bs=1M count=2048 //持续写入判断当前硬盘io吞吐量
记录了2048+0 的读入
记录了2048+0 的写出
2147483648字节(2.1 GB)已复制,4.08114 秒,526 MB/秒

2.3综合判断

一般情况下,CPU高,IO也应该高。
如果:CPU 高   ,IO 比较低
wait 高:  有可以能IO出问题了(Raid损坏,过度条带化)
SyS  高:  有可能是锁的问题,需要进一步去数据库中判断

2.4vmstat

[root@db03 ~]# vmstat 1 //综合探测,内存,swap,io,system,cpu实时指标
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 1  0      0 1302256   5208 2284188    0    0     5    88   16   29  0  0 100  0  0
 0  0      0 1302208   5208 2284188    0    0     0     4   56   67  0  0 100  0  0
 0  0      0 1302264   5208 2284188    0    0     0     0   31   56  0  0 100  0  0
 0  0      0 1302264   5208 2284188    0    0     0     0   32   66  0  0 100  0  0
 0  0      0 1302264   5208 2284188    0    0     0     0   25   53  0  0 100  0  0

3.数据库优化工具介绍

    show status  
    show variables 
    show index  
    show processlist 
    show slave status
    show engine innodb status 
    desc /explain 
    slowlog
扩展类深度优化:
    pt系列(pt-query-digest pt-osc pt-index 等)
    mysqlslap 
    sysbench 
    information_schema (I_S)
    performance_schema (P_S)
    sys

4.优化思路分解

4.1 硬件优化

4.1.1主机

  • 真实的硬件(PC Server)
    • DELL R系列
    • 华为
    • 浪潮
    • HP
    • 联想
  • 云产品
    • ECS
    • 数据库RDS
    • DRDS
    • polarDB

IBM 小型机 P6 570 595 P7 720 750 780 P8

  • CPU根据数据库类型
    • OLTP //在线事务处理
    • OLAP //查询类很多,仓库类

业务类型:
IO密集型:线上系统,OLTP主要是IO密集型的业务,高并发
CPU密集型:数据分析数据处理,OLAP,cpu密集型的,需要CPU高计算能力(i系列,IBM power系列)

根据业务选型:
CPU密集型: I 系列的,主频很高,核心少
IO密集型: E系列(至强),主频相对低,核心数量多

4.1.2内存

建议2-3倍cpu核心数量 (ECC版)

4.1.3磁盘选择

  • SATA-III<SAS<Fc(光纤盘)<SSD(sata)<pci-e ssd<Flash
  • 主机 RAID卡的BBU主机备用电池单元(Battery Backup Unit)关闭

4.1.4存储

根据存储数据种类的不同,选择不同的存储设备
配置合理的RAID级别(raid5、raid10、热备盘)

  • r0 :条带化 ,性能高
  • r1 :镜像,安全
  • r5 :校验+条带化,安全较高+性能较高(读),写性能较低 (适合于读多写少)
  • r10:安全+性能都很高,最少四块盘,浪费一半的空间(高IO要求)

4.1.5网络

  • 1、硬件买好的(单卡单口)
  • 2、网卡绑定(bonding),交换机堆叠

以上问题,提前规避掉。

5.操作系统优化

5.1Swap调整

echo 0 >/proc/sys/vm/swappiness的内容改成0(临时),
vim /etc/sysctl.conf
上添加vm.swappiness=0(永久)
sysctl -p
这个参数决定了Linux是倾向于使用swap,还是倾向于释放文件系统cache。在内存紧张的情况下,数值越低越倾向于释放文件系统cache。
当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。

修改MySQL的配置参数innodb_flush_method,开启O_DIRECT模式
这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多

IO调度策略
centos 7 默认是deadline
cat /sys/block/sda/queue/scheduler

#临时修改为deadline(centos6)

echo deadline >/sys/block/sda/queue/scheduler 
vi /boot/grub/grub.conf

更改到如下内容:
kernel /boot/vmlinuz-2.6.18-8.el5 ro root=LABEL=/ elevator=deadline rhgb quiet

IO :

  • raid
  • no lvm安全性
  • ext4或xfs并发高
  • ssd
  • IO调度策略
    提前规划好以上所有问题,减轻MySQL优化的难度。

6.应用端

  1. 开发过程规范,标准。做好审核。
  2. 减少烂SQL:不走索引,复杂逻辑,切割大事务.
  3. 避免业务逻辑错误,避免锁争用.
    这个阶段,需要我们DBA深入业务,或者要和开发人员\业务人员配合实现

7.参数优化

7.1:max_connections 最大连接数

(1)简介
Mysql的最大连接数,如果服务器的并发请求量比较大,可以调高这个值,当然这是要建立在机器能够支撑的情况下,因为如果连接数越来越多,mysql会为每个连接提供缓冲区,就会开销的越多的内存,所以需要适当的调整该值,不能随便去提高设值。
(2)判断依据

show variables like 'max_connections'; //最大连接数
    +-----------------+-------+
    | Variable_name   | Value |
    +-----------------+-------+
    | max_connections | 151   |
    +-----------------+-------+
show status like 'Max_used_connections'; //最大使用过的连接数
    +----------------------+-------+
    | Variable_name        | Value |
    +----------------------+-------+
    | Max_used_connections | 152   |
    +----------------------+-------+

(3)修改方式举例

vim /etc/my.cnf 
max_connections=1024

补充:

  • 1.开启数据库时,我们可以临时设置一个比较大的测试值
  • 2.观察show status like ‘Max_used_connections’;变化
  • 3.如果max_used_connections跟max_connections相同,
    那么就是max_connections设置过低或者超过服务器的负载上限了,CPU低于10%则设置过大.
再次运行压力测试:
[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock --concurrency=1000 --iterations=1 --create-schema='oldboy' --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb --number-of-queries=20000 -verbose
    
%Cpu0  : 99.3 us,  0.7 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu1  : 99.3 us,  0.7 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu2  : 99.3 us,  0.7 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
%Cpu3  : 99.7 us,  0.3 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem :  3880016 total,   510428 free,   743280 used,  2626308 buff/cache
KiB Swap:  2097148 total,  2097148 free,        0 used.  2881592 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND                                         
 6129 mysql     20   0 2898540 436412  11212 S 399.3 11.2   6:27.35 mysqld  
//CPU压力过高,说明最大连接数还是得调低。

db03 [(none)]>show variables like 'max_connections';
+-----------------+-------+
| Variable_name   | Value |
+-----------------+-------+
| max_connections | 1024  |
+-----------------+-------+
1 row in set (0.00 sec)

db03 [(none)]>show status like 'Max_used_connections';
+----------------------+-------+
| Variable_name        | Value |
+----------------------+-------+
| Max_used_connections | 1002  |
+----------------------+-------+
1 row in set (0.01 sec)

7.2:back_log 预备连接数

(1)简介
mysql能暂存的连接数量,当主要mysql线程在一个很短时间内得到非常多的连接请求时候它就会起作用,如果mysql的连接数据达到max_connections时候,新来的请求将会被存在堆栈中,等待某一连接释放资源,该推栈的数量及back_log,如果等待连接的数量超过back_log,将不被授予连接资源。
back_log值指出在mysql暂时停止回答新请求之前的短时间内有多少个请求可以被存在推栈中,只有如果期望在一个短时间内有很多连接的时候需要增加它
(2)判断依据
show full processlist
发现大量的待连接进程时,就需要加大back_log或者加大max_connections的值
(3)修改方式举例

vim /etc/my.cnf 
back_log=1024 //额外的1024个进程等待资源释放后立即工作。减少报错

7.3:wait_timeout和interactive_timeout 会话超时

(1)简介
wait_timeout:指的是mysql在关闭一个非交互的连接之前所要等待的秒数
interactive_timeout:指的是mysql在关闭一个交互的连接之前所需要等待的秒数,比如我们在终端上进行mysql管理,使用的即使交互的连接,这时候,如果没有操作的时间超过了interactive_time设置的时间就会自动的断开,默认的是28800,可调优为7200。
wait_timeout:如果设置太小,那么连接关闭的就很快,从而使一些持久的连接不起作用
(2)设置建议
如果设置太大,容易造成连接打开时间过长,在show processlist时候,能看到很多的连接 ,一般希望wait_timeout尽可能低
(3)修改方式举例
wait_timeout=60 //空闲60s自动断开√
interactive_timeout=1200 //1200s自动断开
长连接的应用,为了不去反复的回收和分配资源,降低额外的开销

注意:一般我们会将wait_timeout设定比较小,interactive_timeout要和应用开发人员沟通长链接的应用是否很多。如果他需要长链接,那么这个值可以不需要调整。
另外还可以使用类外的参数弥补。

db03 [(none)]>show variables like '%timeout%'
    -> ;
+-----------------------------+----------+
| Variable_name               | Value    |
+-----------------------------+----------+
| connect_timeout             | 10       |
| delayed_insert_timeout      | 300      |
| have_statement_timeout      | YES      |
| innodb_flush_log_at_timeout | 1        |
| innodb_lock_wait_timeout    | 50       |
| innodb_rollback_on_timeout  | OFF      |
| interactive_timeout         | 28800    | //会话超时每8小时
| lock_wait_timeout           | 31536000 |
| net_read_timeout            | 30       |
| net_write_timeout           | 60       |
| rpl_stop_slave_timeout      | 31536000 |
| slave_net_timeout           | 60       |
| wait_timeout                | 28800    | //默认8小时
+-----------------------------+----------+
13 rows in set (0.00 sec)

7.4:key_buffer_size 临时表相关

(1)简介
key_buffer_size指定索引缓冲区的大小,它决定索引处理的速度,尤其是索引读的速度
《1》此参数与myisam表的索引有关(几乎不用)
《2》临时表的创建有关(多表链接、子查询中、union)
在有以上查询语句出现的时候,需要创建临时表,用完之后会被丢弃
临时表有两种创建方式:

内存中------->key_buffer_size
磁盘上------->ibdata1(5.6)
              ibtmp1 (5.7)

(2)设置依据
通过key_read_requests和key_reads可以直到key_baffer_size设置是否合理。

mysql> show variables like "key_buffer_size%";
+-----------------+---------+
| Variable_name   | Value   |
+-----------------+---------+
| key_buffer_size | 8388608 |//默认为8M
+-----------------+---------+
1 row in set (0.00 sec)

mysql> show status like "key_read%";
+-------------------+-------+
| Variable_name     | Value |
+-------------------+-------+
| Key_read_requests | 10    |
| Key_reads         | 2     |
+-------------------+-------+
2 rows in set (0.00 sec)

一共有10个索引读取请求,有2个请求在内存中没有找到直接从硬盘中读取索引
控制在 5%以内 。
注:key_buffer_size只对myisam表起作用,即使不使用myisam表,但是内部的临时磁盘表是myisam表,也要使用该值。
可以使用检查状态值created_tmp_disk_tables得知:

mysql> show status like "created_tmp%";   //创建临时表的状态信息
+-------------------------+-------+
| Variable_name           | Value |
+-------------------------+-------+
| Created_tmp_disk_tables | 0     | //在磁盘上生成的文件个数
| Created_tmp_files       | 6     | //临时表的个数
| Created_tmp_tables      | 1     | //在内存中生成的个数
+-------------------------+-------+
3 rows in set (0.00 sec)
mysql>

通常地,我们习惯以
Created_tmp_tables/(Created_tmp_disk_tables + Created_tmp_tables) 越高越好
内存中生成的/(磁盘中生成+内存中生成的)
Created_tmp_disk_tables/(Created_tmp_disk_tables + Created_tmp_tables)

或者已各自的一个时段内的差额计算,来判断基于内存的临时表利用率。所以,我们会比较关注 Created_tmp_disk_tables 是否过多,从而认定当前服务器运行状况的优劣。
Created_tmp_disk_tables/(Created_tmp_disk_tables + Created_tmp_tables)
控制在5%-10%以内

看以下例子:
在调用mysqldump备份数据时,大概执行步骤如下:

180322 17:39:33       7 Connect     root@localhost on
7 Query       /*!40100 SET @@SQL_MODE='' */
7 Init DB     guo
7 Query       SHOW TABLES LIKE 'guo'
7 Query       LOCK TABLES `guo` READ /*!32311 LOCAL */
7 Query       SET OPTION SQL_QUOTE_SHOW_CREATE=1
7 Query       show create table `guo`
7 Query       show fields from `guo`
7 Query       show table status like 'guo'
7 Query       SELECT /*!40001 SQL_NO_CACHE */ * FROM `guo`
7 Query       UNLOCK TABLES
7 Quit

其中,有一步是:show fields from guo。从slow query记录的执行计划中,可以知道它也产生了 Tmp_table_on_disk。

所以说,以上公式并不能真正反映到mysql里临时表的利用率,有些情况下产生的 Tmp_table_on_disk 我们完全不用担心,因此没必要过分关注 Created_tmp_disk_tables,但如果它的值大的离谱的话,那就好好查一下,你的服务器到底都在执行什么查询了。 zabbix在监控时,应避开备份时段。否则在备份时临时表在硬盘中生成的比例会大大增加。
(3)配置方法
key_buffer_size=64M


7.5:query_cache_size 查询缓存

(1)简介:
查询缓存简称QC,使用查询缓冲,mysql将查询结果存放在缓冲区中,今后对于同样的select语句(区分大小写),将直接从缓冲区中读取结果。

SQL层:
select * from t1 where name=:NAME;
select * from t1 where name=:NAME;

1、查询完结果之后,会对SQL语句进行hash运算,得出hash值,我们把他称之为SQL_ID
2、会将存储引擎返回的结果+SQL_ID存储到缓存中。

存储方式:
例子:select * from t1 where id=10; 100次

1、将select * from t1 where id=10; 进行hash运算计算出一串hash值,我们把它称之为“SQL_ID”
2、将存储引擎返回上来的表的内容+SQLID存储到查询缓存中

使用方式:
1、一条SQL执行时,进行hash运算,得出SQLID,去找query cache
2、如果cache中有,则直接返回数据行,如果没有,就走原有的SQL执行流程

一个sql查询如果以select开头,那么mysql服务器将尝试对其使用查询缓存。
注:两个sql语句,只要想差哪怕是一个字符(列如大小写不一样;多一个空格等),那么这两个sql将使用不同的一个cache。

(2)判断依据

mysql> show status like "%Qcache%";
+-------------------------+---------+
| Variable_name           | Value   |
+-------------------------+---------+
| Qcache_free_blocks      | 1       |
| Qcache_free_memory      | 1031360 |
| Qcache_hits             | 0       |
| Qcache_inserts          | 0       |
| Qcache_lowmem_prunes    | 0       |
| Qcache_not_cached       | 2002    |
| Qcache_queries_in_cache | 0       |
| Qcache_total_blocks     | 1       |
+-------------------------+---------+
8 rows in set (0.00 sec)

———————状态说明——————–
Qcache_free_blocks:缓存中相邻内存块的个数。
如果该值显示较大,则说明Query Cache 中的内存碎片较多了,FLUSH QUERY CACHE会对缓存中的碎片进行整理,从而得到一个空闲块。
注:当一个表被更新之后,和它相关的cache
blocks将被free。但是这个block依然可能存在队列中,除非是在队列的尾部。可以用FLUSH QUERY CACHE语句来清空free blocks

Qcache_free_memory:Query Cache 中目前剩余的内存大小。通过这个参数我们可以较为准确的观察出当前系统中的Query Cache 内存大小是否足够,是需要增加还是过多了。

Qcache_hits:表示有多少次命中缓存。我们主要可以通过该值来验证我们的查询缓存的效果。数字越大,缓存效果越理想。

Qcache_inserts:表示多少次未命中然后插入,意思是新来的SQL请求在缓存中未找到,不得不执行查询处理,执行查询处理后把结果insert到查询缓存中。这样的情况的次数越多,表示查询缓存应用到的比较少,效果也就不理想。当然系统刚启动后,查询缓存是空的,这很正常。

Qcache_lowmem_prunes:
多少条Query因为内存不足而被清除出QueryCache。通过“Qcache_lowmem_prunes”和“Qcache_free_memory”相互结合,能够更清楚的了解到我们系统中Query Cache 的内存大小是否真的足够,是否非常频繁的出现因为内存不足而有Query 被换出。这个数字最好长时间来看;如果这个数字在不断增长,就表示可能碎片非常严重,或者内存很少。(上面的free_blocks和free_memory可以告诉您属于哪种情况)

Qcache_not_cached:不适合进行缓存的查询的数量,通常是由于这些查询不是 SELECT 语句或者用了now()之类的函数。

Qcache_queries_in_cache:当前Query CachecacheQuery数量;
Qcache_total_blocks:当前Query Cache 中的block 数量;

Qcache_hits / (Qcache_inserts+Qcache_not_cached+Qcache_hits) 
    90/         10000             0             90

如果出现hits比例过低,其实就可以关闭查询缓存了。使用redis专门缓存数据库

Qcache_free_blocks 来判断碎片
Qcache_free_memory + Qcache_lowmem_prunes 来判断内存够不够
Qcache_hits 多少次命中 Qcache_hits / (Qcache_inserts+Qcache_not_cached+Qcache_hits)

(3)配置示例

mysql> show variables like '%query_cache%' ;
+------------------------------+---------+
| Variable_name                | Value   |
+------------------------------+---------+
| have_query_cache             | YES     |
| query_cache_limit            | 1048576 |
| query_cache_min_res_unit     | 4096    |
| query_cache_size             | 1048576 |
| query_cache_type             | OFF     |
| query_cache_wlock_invalidate | OFF     |
+------------------------------+---------+
6 rows in set (0.00 sec)

mysql>

——————-配置说明——————————-
以上信息可以看出query_cache_type为off表示不缓存任何查询

各字段的解释:
query_cache_limit:超过此大小的查询将不缓存
query_cache_min_res_unit:缓存块的最小大小,query_cache_min_res_unit的配置是一柄”双刃剑”,默认是4KB,设置值大对大数据查询有好处,但如果你的查询都是小数据查询,就容易造成内存碎片和浪费。
query_cache_size:查询缓存大小 (注:QC存储的最小单位是1024byte,所以如果你设定了一个不是1024的倍数的值,这个值会被四舍五入到最接近当前值的等于1024的倍数的值。)

query_cache_type:缓存类型,决定缓存什么样的查询,注意这个值不能随便设置,必须设置为数字,可选项目以及说明如下:
如果设置为0,那么可以说,你的缓存根本就没有用,相当于禁用了。
如果设置为1,将会缓存所有的结果,除非你的select语句使用SQL_NO_CACHE禁用了查询缓存。
如果设置为2,则只缓存在select语句中通过SQL_CACHE指定需要缓存的查询。

修改/etc/my.cnf,配置完后的部分文件如下:

query_cache_size=128M
query_cache_type=1
max_connect_errors ***

max_connect_errors是一个mysql中与安全有关的计数器值,它负责阻止过多尝试失败的客户端以防止暴力破解密码等情况,当超过指定次数,mysql服务器将禁止host的连接请求,直到mysql服务器重启或通过flush hosts命令清空此host的相关信息 max_connect_errors的值与性能并无太大关系。
修改/etc/my.cnf文件,在[mysqld]下面添加如下内容
max_connect_errors=2000


7.6:sort_buffer_size 会话排序缓冲区

(1)简介:
每个需要进行排序的线程分配该大小的一个缓冲区。增加这值加速
ORDER BY
GROUP BY
distinct
union
(2)配置依据
Sort_Buffer_Size并不是越大越好,由于是connection级的参数,过大的设置+高并发可能会耗尽系统内存资源。
列如:500个连接将会消耗 500*sort_buffer_size(2M)=1G内

计算公式:16*1024/1024/8

(3)配置方法
修改/etc/my.cnf文件,在[mysqld]下面添加如下:
sort_buffer_size=1M


7.7:max_allowed_packet 接收最大数据包大小

(1)简介:
mysql根据配置文件会限制,server接受的数据包大小。
(2)配置依据:
有时候大的插入和更新会受max_allowed_packet参数限制,导致写入或者更新失败,更大值是1GB,必须设置1024的倍数。在mysqldump备份时会用到
(3)配置方法:
max_allowed_packet=256M


7.8:join_buffer_size 关联表缓存大小

select a.name,b.name from a join b on a.id=b.id where xxxx

  • 数据量级小的表放在左边,通过left join强制指定驱动表

作用:用于表间关联缓存的大小,和sort_buffer_size一样,该参数对应的分配内存也是每个连接独享,计算公式类似于7.6。
尽量在SQL与方面进行优化,效果较为明显。
优化的方法:在on条件列加索引,至少应当是有MUL索引


7.9:thread_cache_size 预分配保留线程

(1)简介
服务器线程缓存,这个值表示可以重新利用保存在缓存中线程的数量,当断开连接时,那么客户端的线程将被放到缓存中以响应下一个客户而不是销毁(前提是缓存数未达上限),如果线程重新被请求,那么请求将从缓存中读取,如果缓存中是空的或者是新的请求,那么这个线程将被重新创建,如果有很多新的线程,增加这个值可以改善系统性能.
(2)配置依据

  • 通过比较 Connections 和 Threads_created 状态的变量,可以看到这个变量的作用。
  • 设置规则如下:1GB 内存配置为8,2GB配置为16,3GB配置为32,4GB或更高内存,可配置更大。
  • 服务器处理此客户的线程将会缓存起来以响应下一个客户而不是销毁(前提是缓存数未达上限)

试图连接到MySQL(不管是否连接成功)的连接数

db03 [(none)]>show variables like "thread_cache_size";
+-------------------+-------+
| Variable_name     | Value |
+-------------------+-------+
| thread_cache_size | 18    | //可重用线程数量
+-------------------+-------+
1 row in set (0.01 sec)
db03 [(none)]>show status like 'threads_%';
+-------------------+-------+
| Variable_name     | Value |
+-------------------+-------+
| Threads_cached    | 17    | //空闲线程
| Threads_connected | 1     | //已建立连接的数量
| Threads_created   | 1002  | //新创建的线程,正常情况下不会持续上升
| Threads_running   | 1     |
+-------------------+-------+
4 rows in set (0.00 sec)

Threads_cached:代表当前此时此刻线程缓存中有多少空闲线程。
Threads_connected:代表当前已建立连接的数量,因为一个连接就需要一个线程,所以也可以看成当前被使用的线程数。
Threads_created:代表从最近一次服务启动,已创建线程的数量,如果发现Threads_created值过大的话,表明MySQL服务器一直在创建线程,这也是比较耗cpu SYS资源,可以适当增加配置文件中thread_cache_size值。
Threads_running :代表当前激活的(非睡眠状态)线程数。并不是代表正在使用的线程数,有时候连接已建立,但是连接处于sleep状态。
(3)配置方法:
thread_cache_size=32

整理:
Threads_created :

  • 一般在架构设计阶段,会设置一个测试值,做压力测试。
  • 结合zabbix监控,看一段时间内此状态的变化。
  • 如果在一段时间内,Threads_created趋于平稳,说明对应参数设定是OK。
  • 如果一直陡峭的增长,或者出现大量峰值,那么继续增加此值的大小,在系统资源够用的情况下(内存)

7.10:innodb_buffer_pool_size 数据页索引缓冲大小

(1)简介
对于InnoDB表来说,innodb_buffer_pool_size的作用就相当于key_buffer_size对于MyISAM表的作用一样。
(2)配置依据:
InnoDB使用该参数指定大小的内存来缓冲数据和索引。
对于单独的MySQL数据库服务器,最大可以把该值设置成物理内存的80%,一般我们建议不要超过物理内存的70%。
(3)配置方法
innodb_buffer_pool_size=2048M

db03 [(none)]>select @@innodb_buffer_pool_size;
+---------------------------+
| @@innodb_buffer_pool_size |
+---------------------------+
|                 134217728 |//默认大小/字节
+---------------------------+
db03 [(none)]>show engine innodb status\G
----------------------
BUFFER POOL AND MEMORY
----------------------
Total large memory allocated 137428992 # 分配给InnoDB缓存池的内存(字节)换算成MB 为128M
Dictionary memory allocated 120758 # 分配给InnoDB数据字典的内存(字节)
Buffer pool size   8191 //最多可缓存的数据页数量 8191x16kb=131056kb=127.984375兆字节(mb)
Free buffers       4891 // 缓存池空闲链表的页数目 <==观察剩余,剩余10%考虑增加buffer_pool大小
Database pages     3300 // 缓存池LRU链表的页数目
Old database pages 1238 // 修改过的页数目

7.11:innodb_flush_log_at_trx_commit 控制redo buffer 刷写策略

(1)简介
主要控制了innodb将log buffer中的数据写入日志文件并flush磁盘的时间点,取值分别为0、1、2三个。
0,表示当事务提交时,不做日志写入操作,而是每秒钟将log buffer中的数据写入日志文件并flush磁盘一次;
1,每次事务的提交都会引起redo日志文件写入、flush磁盘的操作,确保了事务的ACID;
2,每次事务提交引起写入日志文件的动作,但每秒钟完成一次flush磁盘操作。

(2)配置依据
实际测试发现,该值对插入数据的速度影响非常大,设置为2时插入10000条记录只需要2秒,设置为0时只需要1秒,而设置为1时则需要229秒。因此,MySQL手册也建议尽量将插入操作合并成一个事务,这样可以大幅提高速度。
根据MySQL官方文档,在允许丢失最近部分事务的危险的前提下,可以把该值设为0或2。

(3)配置方法
innodb_flush_log_at_trx_commit=1双1标准中的一个1
参见:https://pincheng.xyz/forward/3053135c.html#8-0-InnoDB%E6%A0%B8%E5%BF%83%E5%8F%82%E6%95%B0


7.12:innodb_thread_concurrency 多核并发处理控制

(1)简介
此参数用来设置innodb线程的并发数量,默认值为0表示不限制。

(2)配置依据
在官方doc上,对于innodb_thread_concurrency的使用,也给出了一些建议,如下:
如果一个工作负载中,并发用户线程的数量小于64,建议设置innodb_thread_concurrency=0
如果工作负载一直较为严重甚至偶尔达到顶峰,建议先设置innodb_thread_concurrency=128
并通过不断的降低这个参数,96, 80, 64等等,直到发现能够提供最佳性能的线程数,
例如,假设系统通常有40到50个用户,但定期的数量增加至60,70,甚至200。你会发现,
性能在80个并发用户设置时表现稳定,如果高于这个数,性能反而下降。在这种情况下,
建议设置innodb_thread_concurrency参数为80,以避免影响性能。
如果你不希望InnoDB使用的虚拟CPU数量比用户线程使用的虚拟CPU更多(比如20个虚拟CPU),
建议通过设置innodb_thread_concurrency 参数为这个值(也可能更低,这取决于性能体现),
如果你的目标是将MySQL与其他应用隔离,你可以l考虑绑定mysqld进程到专有的虚拟CPU。
但是需 要注意的是,这种绑定,在myslqd进程一直不是很忙的情况下,可能会导致非最优的硬件使用率。在这种情况下,
你可能会设置mysqld进程绑定的虚拟 CPU,允许其他应用程序使用虚拟CPU的一部分或全部。
在某些情况下,最佳的innodb_thread_concurrency参数设置可以比虚拟CPU的数量小。
定期检测和分析系统,负载量、用户数或者工作环境的改变可能都需要对innodb_thread_concurrency参数的设置进行调整。

128 —–> top cpu
设置标准:

  • 1、当前系统cpu使用情况,均不均匀
    top
  • 2、当前的连接数,有没有达到顶峰
    show statusg like 'threads_%';
    show processlist;
    (3)配置方法:
    innodb_thread_concurrency=8
    方法:
    1. 看top ,观察每个cpu的各自的负载情况
    2. 发现不平均,先设置参数为cpu个数,然后不断增加(一倍)这个数值
    3. 一直观察top状态,直到达到比较均匀时,说明已经到位了

7.13:innodb_log_buffer_size redo缓冲区大小控制

此参数确定些日志文件所用的内存大小,以M为单位。缓冲区更大能提高性能,对于较大的事务,可以增大缓存大小。
innodb_log_buffer_size=128M到256M之间
设定依据:
1、大事务: 存储过程调用 CALL
2、多事务


7.14:innodb_log_file_size = 100M redo日志个数控制

设置 ib_logfile0 ib_logfile1
此参数确定数据日志文件的大小,以M为单位,更大的设置可以提高性能.
innodb_log_file_size = 100M
innodb_log_files_in_group = 3到5组
为提高性能,MySQL可以以循环方式将日志文件写到多个文件。推荐设置为3


7.15:read_buffer_size = 1M 顺序查询缓冲区

MySql读入缓冲区大小(会话级别的参数)。对表进行顺序扫描(如走索引)的请求将分配一个读入缓冲区,MySql会为它分配一段内存缓冲区。如果对表的顺序扫描请求非常频繁,并且你认为频繁扫描进行得太慢,可以通过增加该变量值以及内存缓冲区大小提高其性能。和 sort_buffer_size一样,该参数对应的分配内存也是每个连接独享


7.16:read_rnd_buffer_size = 1M 随机查询缓冲区

MySql的随机读(查询操作)缓冲区大小。当按任意顺序读取行时(不走索引)(例如,按照排序顺序),将分配一个随机读缓存区。进行排序查询时,MySql会首先扫描一遍该缓冲,以避免磁盘搜索,提高查询速度,如果需要排序大量数据,可适当调高该值。但MySql会为每个客户连接发放该缓冲空间,所以应尽量适当设置该值,以避免内存开销过大。
注:顺序读是指根据索引的叶节点数据就能顺序地读取所需要的行数据。随机读是指一般需要根据辅助索引叶节点中的主键寻找实际行数据,而辅助索引和主键所在的数据段不同,因此访问方式是随机的。


7.17:bulk_insert_buffer_size = 8M 插入缓冲区大小

批量插入数据缓存大小,可以有效提高插入效率,默认为8M

  • tokuDB percona
  • myrocks
  • RocksDB
  • TiDB
  • MongoDB

7.18:binary log binlog相关参数

log-bin=/data/mysql-bin
binlog_cache_size = 2M //为每个session 分配的内存,在事务过程中用来存储二进制日志的缓存, 提高记录bin-log的效率。没有什么大事务,dml也不是很频繁的情况下可以设置小一点,如果事务大而且多,dml操作也频繁,则可以适当的调大一点。前者建议是–1M,后者建议是:即 2–4M
max_binlog_cache_size = 8M //表示的是binlog 能够使用的最大cache 内存大小
max_binlog_size= 512M
//指定binlog日志文件的大小,如果当前的日志大小达到max_binlog_size,还会自动创建新的二进制日志。你不能将该变量设置为大于1GB或小于4096字节。默认值是1GB。在导入大容量的sql文件时,建议关闭sql_log_bin,否则硬盘扛不住,而且建议定期做删除。

expire_logs_days = 7 //定义了mysql清除过期日志的时间。
二进制日志自动删除的天数。默认值为0,表示“没有自动删除”。

log-bin=/data/mysql-bin
binlog_format=row 
sync_binlog=1

双1标准(基于安全的控制):

sync_binlog=1   什么时候刷新binlog到磁盘,每次事务commit
innodb_flush_log_at_trx_commit=1
set sql_log_bin=0;
show status like 'com_%';

7.19:安全参数

Innodb_flush_method=(O_DIRECT, fsync)
1、fsync:
(1)在数据页需要持久化时,首先将数据写入OS buffer中,然后由os决定什么时候写入磁盘
(2)在redo buffuer需要持久化时,首先将数据写入OS buffer中,然后由os决定什么时候写入磁盘
但,如果innodb_flush_log_at_trx_commit=1的话,日志还是直接每次commit直接写入磁盘
2、 Innodb_flush_method=O_DIRECT
(1)在数据页需要持久化时,直接写入磁盘
(2)在redo buffuer需要持久化时,首先将数据写入OS buffer中,然后由os决定什么时候写入磁盘
但,如果innodb_flush_log_at_trx_commit=1的话,日志还是直接每次commit直接写入磁盘

最安全模式:

innodb_flush_log_at_trx_commit=1
innodb_flush_method=O_DIRECT

最高性能模式:

innodb_flush_log_at_trx_commit=0
innodb_flush_method=fsync

一般情况下,我们更偏向于安全。
“双一标准”

innodb_flush_log_at_trx_commit=1        ***************
sync_binlog=1                           ***************
innodb_flush_method=O_DIRECT

8. 参数优化结果

[mysqld]
basedir=/data/mysql
datadir=/data/mysql/data
socket=/tmp/mysql.sock
log-error=/var/log/mysql.log
log_bin=/data/binlog/mysql-bin
binlog_format=row
skip-name-resolve
server-id=52
gtid-mode=on
enforce-gtid-consistency=true
log-slave-updates=1
relay_log_purge=0

max_connections=1024
back_log=128
wait_timeout=60
interactive_timeout=7200
key_buffer_size=16M
query_cache_size=64M
query_cache_type=1
query_cache_limit=50M
max_connect_errors=20
sort_buffer_size=2M
max_allowed_packet=32M
join_buffer_size=2M
thread_cache_size=200
innodb_buffer_pool_size=1024M
innodb_flush_log_at_trx_commit=1
innodb_log_buffer_size=32M
innodb_log_file_size=128M
innodb_log_files_in_group=3
binlog_cache_size=2M
max_binlog_cache_size=8M
max_binlog_size=512M
expire_logs_days=7
read_buffer_size=2M
read_rnd_buffer_size=2M
bulk_insert_buffer_size=8M
[client]
socket=/tmp/mysql.sock

8.1测试:

优化前:
[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock --concurrency=100 --iterations=1 --create-schema='oldboy' --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb --number-of-queries=2000 -verbose
Benchmark
        Running for engine rbose
        Average number of seconds to run all queries: 184.616 seconds
        Minimum number of seconds to run all queries: 184.616 seconds
        Maximum number of seconds to run all queries: 184.616 seconds
        Number of clients running queries: 100
        Average number of queries per client: 20
//184秒

优化后:
[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock --concurrency=100 --iterations=1 --create-schema='oldboy' --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb --number-of-queries=2000 -verbose
Benchmark
        Running for engine rbose
        Average number of seconds to run all queries: 9.411 seconds
        Minimum number of seconds to run all queries: 9.411 seconds
        Maximum number of seconds to run all queries: 9.411 seconds
        Number of clients running queries: 100
        Average number of queries per client: 20
//9秒

建立索引后:
db03 [(none)]>alter table oldboy.t100w add index idx_k2(k2);
Query OK, 0 rows affected (1.66 sec)

再次测试:
[root@db03 ~]# mysqlslap --defaults-file=/etc/my.cnf --socket /tmp/mysql.sock --concurrency=100 --iterations=1 --create-schema='oldboy' --query="select * from oldboy.t100w where k2='GHvw'" engine=innodb --number-of-queries=2000 -verbose
Benchmark
        Running for engine rbose
        Average number of seconds to run all queries: 0.083 seconds
        Minimum number of seconds to run all queries: 0.083 seconds
        Maximum number of seconds to run all queries: 0.083 seconds
        Number of clients running queries: 100
        Average number of queries per client: 20
//0.083秒

9.锁的监控及处理

9.1 锁等待模拟

vim /etc/my.cnf
innodb_lock_wait_timeout=28800

tx1:
USE oldboy
UPDATE t_100w SET k1='av' WHERE id=10;
## tx2:
USE oldboy 
UPDATE  t_100w SET k1='az' WHERE id=10;

锁等待

1. 看有没有锁等待

SHOW  STATUS LIKE 'innodb_row_lock%';
+-------------------------------+-------+
| Variable_name                 | Value |
+-------------------------------+-------+
| Innodb_row_lock_current_waits | 1     | //当前多少个锁等待
| Innodb_row_lock_time          | 0     |
| Innodb_row_lock_time_avg      | 0     |
| Innodb_row_lock_time_max      | 0     |
| Innodb_row_lock_waits         | 1     | //历史
+-------------------------------+-------+
5 rows in set (0.00 sec)

2. 查看哪个事务在等待(被阻塞了)

USE information_schema
SELECT * FROM information_schema.INNODB_TRX WHERE trx_state='LOCK WAIT';
trx_query: update  t100w set k1='az' WHERE id=10: 被阻塞的语句是谁 
                          trx_mysql_thread_id: 5: 被阻塞的会话ID

3.查看锁源,谁锁的我!

SELECT * FROM sys.innodb_lock_waits;     ## ====>被锁的和锁定它的之间关系
##                 waiting_pid: 5 等待的会话线程号
##               waiting_query: update  t100w set k1='az' WHERE id=10 等待的语句 
##                blocking_pid: 4 锁源的线程号
##     sql_kill_blocking_query: KILL QUERY 4 处理建议
##sql_kill_blocking_connection: KILL 4处理建议

4. 找到锁源的thread_id

SELECT * FROM performance_schema.threads WHERE processlist_id=4\G;
## THREAD_ID: 29

5. 找到锁源的SQL语句

-- 当前在执行的语句
SELECT * FROM performance_schema.`events_statements_current` WHERE thread_id=29;
SQL_TEXT: UPDATE t100w SET k1='av' WHERE id=10
-- 执行语句的历史
SELECT * FROM performance_schema.`events_statements_history` WHERE thread_id=29;

10.主从优化:

10.1 5.7 从库多线程MTS

问题:主从延时
基本要求:

  • 5.7以上的版本(忘记小版本),必须开启GTID
  • binlog必须是row模式
    gtid_mode=ON
    enforce_gtid_consistency=ON
    log_slave_updates=ON
    slave-parallel-type=LOGICAL_CLOCK
    slave-parallel-workers=16 //并发sql线程数量
    master_info_repository=TABLE //master_info 已表的形式存放
    relay_log_info_repository=TABLE /relay_info 已表的形式存放
    relay_log_recovery=ON

    5.7:

    slave-parallel-type=LOGICAL_CLOCK
    slave-parallel-workers=8
    cpu核心数作为标准
    CHANGE MASTER TO
      MASTER_HOST='10.0.0.128',
      MASTER_USER='repl',
      MASTER_PASSWORD='123',
      MASTER_PORT=3307,
      MASTER_AUTO_POSITION=1;
    start slave;