1. 文章
  2. 文章详情

大并发量、大数据量业务sql优化

高并发High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求

高并发相关常用的一些指标有响应时间(Response Time),吞吐量(Throughput),每秒查询率QPSQuery Per Second),并发用户数等。

响应时间系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间。

吞吐量单位时间内处理的请求数量。

QPS每秒响应请求数。在互联网领域,这个指标和吞吐量区分的没有这么明显。

并发用户数同时承载正常使用系统功能的用户数量。例如一个即时通讯系统,同时在线量一定程度上代表了系统的并发用户数。


一、基础规范

1使用InnoDB存储引擎

 InnoDB支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高

2)使用UTF8字符集或者使用utf8mb4字符集

 万国码,无需转码,无乱码风险,utf8mb4utf8的超集,emoji表情以及部分不常见汉字在utf8下会表现为乱码

3)数据表、数据字段必须加入中文注释

4)尽量不使用存储过程、视图、触发器、Event

 高并发大数据的互联网业务,架构设计思路是“解放数据库CPU,将计算转移到服务层”,并发量大的情况下,这些功能很可能将数据库拖死,业务逻辑放到服务层具备更好的扩展性,能够轻易实现“增机器就加性能”。数据库擅长存储与索引

5)禁止存储大文件或者大照片

 大文件和照片存储在文件系统,数据库里存URI

 

二、命名规范

6)要使用内网域名,而不是ip连接数据库

7)线上环境、开发环境、测试环境数据库内网域名遵循命名规范

业务名称:xxx

线上环境:dj.xxx.db

开发环境:dj.xxx.rdb

测试环境:dj.xxx.tdb

从库在名称后加-s标识,备库在名称后加-ss标识

线上从库:dj.xxx-s.db

线上备库:dj.xxx-sss.db

8)库名、表名、字段名:小写,下划线风格,不超过32个字符,必须见名知意,禁止拼音英文混用

9)表名t_xxx,非唯一索引名idx_xxx,唯一索引名uniq_xxx

 

三、数据表设计规范

10)单实例表数目小于500

11)单表列数目小于30

12)表必须有主键,如自增主键

a)主键递增,数据行写入可以提高插入性能,可以避免page分裂,减少表碎片提升空间和内存的使用

b)主键要选择较短的数据类型, Innodb引擎普通索引都会保存主键的值,较短的数据类型可以有效的减少索引的磁盘空间,提高索引的缓存效率

c 无主键的表删除,在row模式的主从架构,会导致备库夯住

13)尽量不使用外键,如果有外键完整性约束,需要应用程序控制

 外键会导致表与表之间耦合,updatedelete操作都会涉及相关联的表,十分影响sql 的性能,甚至会造成死锁。高并发情况下容易造成数据库性能,大数据高并发业务场景数据库使用以性能优先

 

四、表字段设计规范

14)把字段定义为NOT NULL且提供默认值

anull的列使索引/索引统计/值比较都更加复杂,对MySQL来说更难优化

bnull 这种类型MySQL内部需要进行特殊处理,增加数据库处理记录的复杂性;同等条件下,表中有较多空字段的时候,数据库的处理性能会降低很多

cnull值需要更多的存储空,无论是表还是索引中每行中的null的列都需要额外的空间来标识

d)对null 的处理时候,只能采用is nullis not null,而不能采用=in<<>!=not in这些操作符号。如:where name!=’shenjian’,如果存在namenull值的记录,查询结果就不会包含namenull值的记录

15)不要使用TEXTBLOB类型

 会浪费更多的磁盘和内存空间,非必要的大量的大字段查询会淘汰掉热数据,导致内存命中率急剧降低,影响数据库性能

16)尽量不使用小数存储货币

 使用整数,小数容易导致钱对不上,如微信支付使用分为单位

17)使用varchar(20)存储手机号

a)涉及到区号或者国家代号,可能出现+-()

bvarchar可以支持模糊查询,例如:like“138%”

18使用TINYINT代替ENUM

a)增加新的ENUM值要做DDL操作

bENUM的内部实际存储就是整数,你以为自己定义的是字符串?


五、索引设计规范

19)单表索引建议控制在5个以内

20)单索引字段数不超过5

 字段超过5个时,实际已经起不到有效过滤数据的作用了

21)不要在更新十分频繁、区分度不高的属性上建立索引

a)更新会变更B+树,更新频繁的字段建立索引会大大降低数据库性能

b)如“性别”这种区分度不大的属性,建立索引是没有什么意义,不能有效过滤数据,性能与全表扫描类似

22)建立组合索引,须把区分度高的字段放在前面,能够更加有效的过滤数据

 

六、SQL语句使用规范

23)禁止使用SELECT *,只获取必要的字段,需要显示说明列属性

a)读取不需要的列会增加CPUIONET消耗

b)不能有效的利用覆盖索引

c)使用SELECT *容易在增加或者删除字段后出现程序BUG

24)禁止使用INSERT INTO t_xxx VALUES(xxx),须显示指定插入的列属性

 容易在增加或者删除字段后出现程序BUG

25)不要使用属性隐式转换

 SELECT uid FROM t_user WHERE phone=13812345678 会导致全表扫描,而不能命中phone索引,phone为varchar类型,而SQL语句传入的是整型,会强制类型转换,不会命中索引,加个引号就好了SELECT uid FROM t_user WHERE phone=’13812345678’

26)不要在WHERE条件的属性上使用函数或者表达式

 SELECT uid FROM t_user WHERE from_unixtime(day)>='2017-02-15' 会导致全表扫描

正确的写法是:SELECT uid FROM t_user WHERE day>= unix_timestamp('2017-02-15 00:00:00')

27)尽量减少负向查询,以及%开头的模糊查询

a)负向查询条件:NOT!=<>!<!>NOT INNOT LIKE等,会导致全表扫描

b%开头的模糊查询,会导致全表扫描

28)尽量不要大表使用JOIN查询,大表使用子查询

 会产生临时表,消耗较多内存与CPU,极大影响数据库性能

29)不要使用OR条件,尽量改为IN查询

 旧版本MysqlOR查询是不能命中索引的,即使能命中索引,为何要让数据库耗费更多的CPU帮助实施查询优化呢?

30)web应用程序须捕获SQL异常,并有相应处理


发表评论

登录后才能评论

评论列表(0条)