db-form

【目标】

定义MySQL数据库命令规范、数据库基本设计规范、数据库字段设计规范、索引设计规范、常见索引列建议、如何选择索引列的顺序、以及数据库SQL开发规范等。

一、命名规范

  1. 库名、表名、字段名必须使用小写字母并采用下划线分割
  2. 库名、表名、字段名禁止超过30个字符，须见名知意，尽量不要用拼音
  3. 索引使用idx+ 字段名 来命名：create index idx_uid on t_user_basic(uid);尽量不超过30个字符；
  4. 库名、表名、字段名禁止使用保留关键字（如果表名中包含关键字查询时，需要将其用单引号括起来）；
  5. 临时库、临时表名必须以tmp_为前缀并以日期为后缀；
  6. 备份库、备份表名必须以bak为前缀并以日期为后缀；
  7. 所有存储相同数据的列名和列类型必须一致（一般作为关联列，如果查询时关联列类型不一致会自动进行数据类型隐式转换，会造成列上的索引失效，导致查询效率降低）。
  8. 视图名以v_开头,尽量不超过30个字符；

二、基本设计规范

  1. 所有表必须使用Innodb存储引擎
    没有特殊要求（即Innodb无法满足的功能如：列存储，存储空间数据等）的情况下，所有表必须使用Innodb存储引擎（MySQL5.5之前默认使用Myisam，5.6以后默认的为Innodb）Innodb 支持事务，支持行级锁，更好的恢复性，高并发下性能更好。
  2. 数据库和表的字符集统一使用utf8mb4( 5.5.3版本以上支持)
    兼容性更好，统一字符集可以避免由于字符集转换产生的乱码，不同的字符集进行比较前需要进行转换会造成索引失效；
    Oracle：可以使用ZHS16GBK 或AL32UTF8，根据行内要求调整。AL32UTF8支持的汉字集合更完整，但是会消耗更多的存储空间。
  3. 所有表和字段都需要添加注释
    使用comment从句添加表和列的备注 从一开始就进行数据字典的维护；
  4. 尽量控制单表数据量的大小，建议控制在1000万以内
    1000万并不是数据库的限制，过大会造成修改表结构，备份，恢复都会有很大的问题。
    可以用历史数据归档（应用于日志数据），分库分表（Oracle：分区表）（应用于业务数据）等手段来控制数据量大小。
  5. 谨慎使用MySQL分区表
    业务生命周期内，评估单表数据量是否在1000万以内，超出此范围需考虑分库分表可扩展性；分区表在物理上表现为多个文件，在逻辑上表现为一个表，谨慎选择分区键，跨分区查询效率可能更低，建议采用物理分表的方式管理大数据。
  6. 尽量做到冷热数据分离，减小表的宽度
    减少磁盘IO,保证热数据的内存缓存命中率（表越宽，把表装载进内存缓冲池时所占用的内存也就越大,也会消耗更多的IO） 更有效的利用缓存，避免读入无用的冷数据 经常一起使用的列放到一个表中（避免更多的关联操作）。
  7. 禁止在表中建立预留字段
    预留字段的命名很难做到见名识义 预留字段无法确认存储的数据类型，所以无法选择合适的类型 对预留字段类型的修改，会对表进行锁定。
  8. 禁止在数据库中存储图片，文件等大的二进制数据
    通常文件很大，会短时间内造成数据量快速增长，数据库进行数据库读取时，通常会进行大量的随机IO操作，文件很大时，IO操作很耗时 通常存储于文件服务器，数据库只存储文件地址信息。
  9. 禁止在线上做数据库压力测试
  10. 禁止从开发环境，测试环境直接连接生产环境数据库。

三、字段设计规范

  1. 优先选择符合存储需要的最小的数据类型
    列的字段越大，建立索引时所需要的空间也就越大，这样一页中所能存储的索引节点的数量也就越少，在遍历时所需要的IO次数也就越多， 索引的性能也就越差。
    建议：
    1）将字符串转换成数字类型存储，如：将IP地址转换成整型数据。
    2）对于非负型的数据（如自增ID、整型IP）来说，要优先使用无符号整型来存储。因为：无符号相对于有符号可以多出一倍的存储空间，VARCHAR(N)中的N代表的是字符数，而不是字节数使用UTF8存储255个汉字 Varchar(255)=765个字节（这里和Oracle是不一样的）。过大的长度会消耗更多的内存。

四、索引设计规范

建立索引的目的是：
希望通过索引进行数据查找，减少随机IO，增加查询性能 ，索引能过滤出越少的数据，则从磁盘中读入的数据也就越少。
索引是一把双刃剑，可提高查询效率，但也会降低插入和更新的速度并占用磁盘空间。

  1. 单张表中索引数量不超过5个
    限制每张表上的索引数量，建议单张表索引不超过5个索引；索引可以提高效率同样可以降低效率。索引可以增加查询效率，但同样也会降低插入和更新的效率，甚至有些情况下会降低查询效率。优化器在选择如何优化查询时，会根据统一信息，对每一个可以用到的索引来进行评估，以生成出一个最好的执行计划，如果同时有很多个索引都可以用于查询，会增加MySQL优化器生成执行计划时间，降低查询性能。
  2. 禁止给表中的每一列都建立单独的索引
  3. 单个索引中的字段数不超过5个
    对字符串使用前缀索引，前缀索引长度不超过10个字符；
    举例：如有一个CHAR(200)列，在前10个字符内，多数值是惟一的，就可不要对整个列进行索引。对前10个字符进行索引能够节省大量索引空间，也可能会使查询更快。
  4. 表主键建议：表必须有主键，不使用更新频繁的列作为主键
  5. 区分度最大的字段放在索引前面
    区分度小的字段没有必要建索引：如is_del字段这种，大部分都是0，建索引也不能减少数据的扫描。
  6. 避免冗余或重复索引
    合理创建联合索引（避免冗余），index(a,b,c)相当于index(a)、index(a,b)、index(a,b,c)
    1. 索引不是越多越好，按实际需要进行创建，每个额外的索引都要占用额外的磁盘空间，并降低写操作的性能
    2. 不在低基数列上建立索引，例如‘性别’
    3. 不在索引列进行数学运算和函数运算
  7. 尽量避免使用外键约束
    1. 不建议使用外键约束（foreign key），如果使用一定要在表与表之间的关联键上建立索引；
    2. 外键可用于保证数据的参照完整性，建议在业务端实现；
    3. 外键会影响父表和子表的写操作从而降低性能。
  8. 不使用%前导的查询，如like“%xxx”，无法使用索引
  9. 不使用反向查询，如not in / not like
    无法使用索引，导致全表扫描；
  10. 索引列建议
    1. 出现在SELECT、UPDATE、DELETE语句的WHERE子句中的列；
    2. 包含在ORDER BY、GROUP BY、DISTINCT中的字段；
    3. 多表join的关联列
      注意：并不要将符合1和2中的字段的列都建立一个索引，通常将1、2中的字段建立联合索引效果更好
  11. 如何选择索引列的顺序
    1. 区分度最高的放在联合索引的最左侧（区分度=列中不同值的数量/列的总行数）；
    2. 尽量把字段长度小的列放在联合索引的最左侧（因为字段长度越小，一页能存储的数据量越大，IO性能也就越好）；
    3. 使用最频繁的列放到联合索引的左侧（这样可较少的建立一些索引）。
  12. 避免建立冗余索引和重复索引
    冗余/重复索引会增加查询优化器生成执行计划的时间。
    1. 重复索引示例：primary key(id)、index(id)、unique index(id)
    2. 冗余索引示例：index(a,b,c)、index(a,b)、index(a)
  13. 优先考虑覆盖索引
    对于频繁的查询优先考虑使用覆盖索引。
    覆盖索引：即包含了所有查询字段(where,select,ordery by,group by包含的字段)的索引，覆盖索引的好处：
    1. 避免Innodb表进行索引的二次查询
      Innodb是以聚集索引的顺序来存储的，对于Innodb来说，二级索引在叶子节点中所保存的是行的主键信息，如果是用二级索引查询数据，在查找到相应的键值后，
      还需通过主键进行二次查询才能获取我们真实所需要的数据。而在覆盖索引中，二级索引的键值中可以获取所有的数据，避免了对主键的二次查询 ，减少了IO操作，提升了查询效率。
    2. 可以把随机IO变成顺序IO加快查询效率
      由于覆盖索引是按键值的顺序存储的，对于IO密集型的范围查找来说，对比随机从磁盘读取每一行的数据IO要少的多，因此利用覆盖索引在访问时也可以把磁盘的随机读取的IO转变成索引查找的顺序IO。

五、SQL开发规范

  1. 建议使用预编译语句进行数据库操作
    预编译语句可以重复使用这些计划，减少SQL编译所需要的时间，还可以解决动态SQL所带来的SQL注入的问题 只传参数，比传递SQL语句更高效 相同语句可以一次解析，多次使用，提高处理效率。
  2. 避免数据类型的隐式转换
    隐式转换会导致索引失效。隐式转换主要包括：类型的隐式转换和字符集的隐式转换，都可能引起索引失效。
  3. 充分利用表上已经存在的索引
    1. 避免使用双%号的查询条件。 如无前置%,只有后置%，是可以用到列上的索引的
  4. 数据库设计时，应该要对以后扩展进行考虑
  5. 程序连接不同的数据库使用不同的账号，禁止跨库查询
    1. 为数据库迁移和分库分表留出余地
    2. 降低业务耦合度
    3. 避免权限过大而产生的安全风险
    4. 业务系统禁止使用root账户连接数据库
  6. 强烈不建议使用SELECT * ；推荐使用SELECT <字段列表> 查询
    原因：
    1. 消耗更多的CPU和IO以网络带宽资源
    2. 无法使用覆盖索引
    3. 可减少表结构变更带来的影响
  7. 禁止使用不含字段列表的INSERT语句
    举例：insert into values (‘a’,’b’,’c’);
    应使用insert into t(c1,c2,c3) values (‘a’,’b’,’c’);
  8. 避免使用子查询，可把子查询优化为join操作
    通常子查询在in子句中，且子查询中为简单SQL(不包含union、group by、order by、limit从句)时，才可以把子查询转化为关联查询进行优化。
    子查询性能差的原因：
    1. 子查询的结果集无法使用索引，通常子查询的结果集会被存储到临时表中，不论是内存临时表还是磁盘临时表都不会存在索引，所以查询性能 会受到一定的影响；
    2. 特别是对于返回结果集比较大的子查询，其对查询性能的影响也就越大；
    3. 由于子查询会产生大量的临时表也没有索引，所以会消耗过多的CPU和IO资源，产生大量的慢查询。
  9. 避免使用JOIN关联太多表，建议不超过5个。注意要把小表作为驱动表，关联字段上建立索引。
  10. 减少同数据库的交互次数
    数据库更适合处理批量操作 合并多个相同的操作到一起，可以提高处理效率。
  11. 对应同一列进行or判断时，使用in代替or
    不要超过500个in操作可以更有效的利用索引，or大多数情况下很少能利用到索引。
  12. 禁止使用order by，rand() 进行随机排序
    随机排序会把表中所有符合条件的数据装载到内存中，然后在内存中对所有数据根据随机生成的值进行排序，并且可能会对每一行都生成一个随机值，如果满足条件的数据集非常大，就会消耗大量的CPU和IO及内存资源。
    简单来说：order by，rand()会将数据从磁盘中读取，进行排序，会消耗大量的IO和CPU。
    推荐在程序中获取一个随机值，然后从数据库中获取对应的数据。
  13. WHERE从句中禁止对列进行函数转换和计算
    对列进行函数转换或计算时会导致无法使用索引。
  14. 在明显不会有重复值时使用UNION ALL而不是UNION
    1. UNION会把两个结果集的所有数据放到临时表中后再进行去重操作；
    2. UNION ALL不会再对结果集进行去重操作。

六、操作行为规范

  1. 超100万行的批量写（UPDATE、DELETE、INSERT）操作，要分批多次进行操作

    1. 大批量操作可能会造成严重的主从延迟。
      主从环境中，大批量操作可能会造成严重的主从延迟，大批量的写操作一般都需要执行一定长的时间，只有当主库上执行完成后，才会在其他从库上执行，会造成主库与从库长时间的延迟情况。
    2. binlog日志为row格式时会产生大量的日志
      大批量写操作会产生大量日志，特别是对于row格式二进制数据而言，由于在row格式中会记录每一行数据的修改，一次修改的数据越多，产生的日志量也会越多，日志的传输和恢复所需要的时间也就越长，这也是造成主从延迟的一个原因。
    3. 避免产生大事务操作
      大批量修改数据，一定是在一个事务中进行的，这会造成表中大批量数据进行锁定，导致大量的阻塞，阻塞会对性能影响很大。尤其是长时间的阻塞会占满所有数据库的可用连接，会使生产环境中的其他应用无法连接到数据库，因此一定要注意大批量写操作要进行分批。

  2. 对于大表使用pt-online-schema-change（或gh-ost）（Oracle：在线重定义修改表结构）修改表结构
    MySQL：

    1. 可避免大表修改产生的主从延迟
    2. 可避免在对表字段进行修改时进行锁表
      生产环境中，对大表数据结构的修改一定要谨慎，会造成严重的锁表操作；
      pt-online-schema-change首先建立一个与原表结构相同的新表，并且在新表上进行表结构的修改，然后再把原表中的数据复制到新表中，并在原表中增加一些触发器。
      把原表中新增的数据也复制到新表中，再将所有数据复制完成之后，把新表命名成原表，并把原来的表删除掉。把原来一个DDL操作，分解成多个小批次作业进行。
      这也是对表进行碎片整理/重组的一个常用方式。
      Oracle：官方提供了DBMS_REDEFINITION包提供在线重定义功能，使用前确保有足够的表空间进行缓存表数据。

  3. 禁止为程序使用的账号赋予super（Oracle：dba）权限

  4. 对于程序连接数据库账号，遵循权限最小原则程序
    使用数据库账号只能在一个DB下使用，不准跨库 程序使用的账号原则上不准有drop权限。

  5. 任何数据库的线上操作，必须走工单

  6. 禁止在主库上执行统计类的功能查询；

  7. 有大规模市场推广、运营活动必须提前通知DBA进行流量评估；

  8. 对单表的多次alter操作必须合并为一次操作；

  9. 重大项目的数据库方案选型和设计必须提前通知DBA参与；

  10. 数据必须有备份机制和定期的恢复演练；

  11. 不在业务高峰期批量更新、查询数据库；