SQL自动审核-自助上线平台
综合文库 453 1
实名

通过了实名认证的内容创造者

发布于 2018-1-7 23:08:45

您需要 登录 才可以下载或查看,没有账号?注册

x
为了让DBA从日常繁琐的工作中解放出来,通过SQL自助平台,可以让开发自上线,开发提交SQL后就会自动返回优化建议,无需DBA的再次审核,从而提升上线效率,有利于建立数据库开发规范。

借鉴了去哪网Inception的思路并且把美团网SQLAdvisor(索引优化建议)集成在一起,并结合了之前写的《DBA的40条军规》纳入了审核规则里,用PHP实现。目前在我公司内部使用。

SQL自动审核主要完成两方面目的:
1、避免性能太差的SQL进入生产系统,导致整体性能降低。
2、检查开发设计的索引是否合理,是否需要添加索引。

思路其实很简单:
1、获取开发提交的SQL
2、对要执行的SQL做分析,触碰事先定义好的规则来判断这个SQL是否可以自动审核通过,未通过审核的需要人工处理。

下面是首页界面:
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg

使用说明:
1、针对select/insert/update/create/alter加了规则,delete需要审批。
2、语句之间要有空格,例where id = 100,没有空格会影响判断的准确性。
3、SQL语句后面要加分号; MySQL解析器规定分号才可以执行SQL。
4、反引号`可能会造成上线失败,需要用文本编辑器替换掉。
5、支持多条SQL解析,用######六个井号分割。

  • SELECT审核

1、开发人员可以直接将SQL语句提交到平台进行风险评估
2、平台对SQL语句进行分析,自动给出其不符合开发规范的改进意见
3、适用场景:应用开发阶段
检查项:
1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

[size=1em]1、[size=1em]select [size=1em]* 是否有必要查询所有的字段?
[size=1em]2、警告!没有where条件,注意where后面的字段要加上索引
[size=1em]3、没有limit会查询更多的数据
[size=1em]4、警告!子查询性能低下,请转为[size=1em]join[size=1em]表关联
[size=1em]5、提示:[size=1em]in[size=1em]里面的数值不要超过1000个
[size=1em]6、提示:采用[size=1em]join[size=1em]关联,注意关联字段要都加上索引,如on a.[size=1em]id[size=1em]=b.[size=1em]id
[size=1em]7、提示:MySQL对多表[size=1em]join[size=1em]关联性能低下,建议不要超过3个表以上的关联
[size=1em]8、警告!like [size=1em]'%%'[size=1em]双百分号无法用到索引,like [size=1em]'mysql%'[size=1em]这样是可以利用到索引的
[size=1em]9、提示:默认情况下,MySQL对所有GROUP BY col1,col2...的字段进行排序。如果查询包括GROUP BY,
[size=1em]想要避免排序结果的消耗,则可以指定ORDER BY NULL禁止排序。
[size=1em]10、警告!MySQL里用到order by rand()在数据量比较多的时候是很慢的,因为会导致MySQL全表扫描,故也不会用到索引
[size=1em]11、提示:是否要加一个having过滤下?
[size=1em]12、警告!禁止不必要的order by排序,因为前面已经count统计了
[size=1em]13、警告!MySQL里不支持函数索引,例DATE_FORMAT([size=1em]'create_time'[size=1em],[size=1em]'%Y-%m-%d'[size=1em])=[size=1em]'2016-01-01'[size=1em]是无法用到索引的,需要改写为
[size=1em]create_time>=[size=1em]'2016-01-01 00:00:00' [size=1em]and create_time<=[size=1em]'2016-01-01 23:59:59'



之后会调用美团网SQLAdvisor进行索引检查

使用概述:
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
1、选中你的数据库名字
2、在对话框中输入你要提交的SQL
3、点击提交审核按钮

提交以后,系统自动返回SQL优化改进意见。


  • insert审核

检查项:
1

[size=1em]1、警告: insert 表1 [size=1em]select [size=1em]表2,会造成锁表。



审核通过以后,会弹出用户名和密码,提示上线:
点击我要上线按钮,会调用MySQL客户端进行语法校验和表是否存在等校验。


  • update审核

检查项:
1

2

[size=1em]1、警告!没有where条件,update会全表更新,禁止执行!!!
[size=1em]2、更新的行数小于10000行,可以由开发自助执行。否则请联系DBA执行!!!




防止where 1=1 绕过审核规则
必须写真实的where条件才可以执行更新操作。

上线成功的SQL会记录到一张操作日志表里,并且会把binlog位置点记录下来,方便日后的回滚操作。


  • create审核

检查项:
1

2

3

4

5

6

7

8

9

10

[size=1em]1、警告!表没有主键
[size=1em]2、警告!表主键应该是自增的,缺少AUTO_INCREMENT
[size=1em]3、提示:[size=1em]id[size=1em]自增字段默认值为1,auto_increment=1
[size=1em]4、警告!表没有索引
[size=1em]5、警告!表中的索引数已经超过5个,索引是一把双刃剑,它可以提高查询效率但也会降低插入和更新的速度并占用磁盘空间
[size=1em]6、警告!表字段没有中文注释,COMMENT应该有默认值,如COMMENT [size=1em]'姓名'
[size=1em]7、警告!表没有中文注释
[size=1em]8、警告!表缺少utf8字符集,否则会出现乱码
[size=1em]9、警告!表存储引擎应设置为InnoDB
[size=1em]10、警告!表应该为timestamp类型加默认系统当前时间



审核通过后,就可以上线了
上线失败提示:


  • alter审核

检查项:
1

2

3

[size=1em]1、警告!不支持create index语法,请更改为alter table add index语法。
[size=1em]2、警告!更改表结构要减少与数据库的交互次数,应改为,例alter table t1 add index IX_uid(uid),add index IX_name(name)
[size=1em]3、表记录小于100万行,可以由开发自助执行。否则表太大请联系DBA执行!



——————————————————————————————————————
数据库上线工单查询(只记录成功执行的SQL)

还没有设置签名!您可以在此展示你的链接,或者个人主页!
使用道具 <
masters  发表于 2018-1-8 02:49:19  
2#
Well
回复 收起回复
使用道具
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表