MySQL优化---DBA对MySQL优化的一些总结
http://blog.163.com/li_hx/blog/static/183991413201572522214601/
1. 要确保有足够的内存
数据库能够高效的运行,最关建的因素需要内存足更大了,能缓存住数据,更新也可以在内存先完成。但不同的业务对内存需要强度不一样,一推荐内存要占到数据的15-25%的比例,特别的热的数据,内存基本要达到数据库的80%大小。2. 需要更多更快的CPU
MySQL 5.6可以利用到64个核,而MySQL每个query只能运行在一个CPU上,所以要求更多的CPU,更快的CPU会更有利于并发。3. 要选择合适的操作系统
在官方建议估计最推荐的是Solaris, 从实际生产中看CentOS, REHL都是不错的选择,推荐使用CentOS, REHL 版本为6以后的,当然Oracle Linux也是一个不错的选择。虽然从MySQL 5.5后对Windows做了优化,但也不推荐在高并发环境中使用windows.4. 合理的优化系统的参数
更改文件句柄 ulimit –n 默认1024 太小进程数限制 ulimit –u 不同版本不一样禁掉NUMA numactl --interleave=all mysqld & 启动mysql时候关闭numa特性5. 选择合适的内存分配算法
默认的内存分配就是c的malloc 现在也出现许多优化的内存分配算法:jemalloc and tcmalloc从MySQL 5.5后支持声明内存分配方法。[mysqld_safe]malloc-lib = tcmalloc或是直接指到so文件[mysqld_safe]malloc-lib=/usr/local/lib/libtcmalloc_minimal.so6. 使用更快的存储设备ssd或是固态卡
存储介质十分影响MySQL的随机读取,写入更新速度。新一代存储设备固态ssd及固态卡的出现也让MySQL 大放异彩,也是淘宝在去IOE中干出了一个漂亮仗。7. 选择良好的文件系统
推荐XFS, Ext4,如果还在使用ext2,ext3的同学请尽快升级。 推荐XFS,这个也是今后一段时间Linux会支持一个文件系统。文件系统强烈推荐: XFS8. 优化挂载文件系统的参数
挂载XFS参数:(rw, noatime,nodiratime,nobarrier)挂载ext4参数:ext4 (rw,noatime,nodiratime,nobarrier,data=ordered)如果使用SSD或是固态盘需要考虑:? innodb_page_size = 4K? Innodb_flush_neighbors = 09. 选择适合的IO调度
正常请下请使用deadline 或者noopecho dealine >/sys/block/{DEV-NAME}/queue/scheduler10. 选择合适的Raid卡Cache策略
请使用带电的Raid,启用WriteBack, 对于加速redo log ,binary log, data file都有好处。11. 禁用Query Cache
QueryCache在Innodb中有点鸡肋,Innodb的数据本身可以在Innodb buffer pool中缓存,Query Cache属于结果集缓存,如果开启Query Cache更新写入都要去检查query cache反而增加了写入的开销。在MySQL5.6中Querycache是被禁掉了。12. 使用Thread Pool
现在一个数据对应5个以上App场景比较,但MySQL有个特性随着连接增多的情况下性能反而下降,所以对于连接超过200的以后场景请考虑使用thread pool. 这是一个伟大的发明。13. 合理调整内存
13.1 减少连接的内存分配连接可以用thread_cache_size缓存,观查属于比较属不如thread pool给力。数据库在连上分配的内存如下:max_used_connections * (read_buffer_size +read_rnd_buffer_size +join_buffer_size +sort_buffer_size +binlog_cache_size +thread_stack +2 * net_buffer_length …)13.2 使较大的buffer pool要把60-80%的内存分给innodb_buffer_pool_size. 这个不要超过数据大小了,另外也不要分配超过80%不然会利用到swap. 14. 合理选择LOG刷新机制Redo Logs:– innodb_flush_log_at_trx_commit = 1 // 最安全 最差性能 每次提交事务都fsync到磁盘– innodb_flush_log_at_trx_commit = 2 // 较好性能 每次提交事务都写入到文件系统缓存,但不fsync到磁盘– innodb_flush_log_at_trx_commit = 0 // 最好的性能 master 线程每隔1秒进行一次redo log的fsync动作binlog :binlog_sync = 1 需要group commit支持,如果没这个功能可以考虑binlog_sync=0来获得较佳性能。数据文件:innodb_flush_method = O_DIRECT (O_DIRECT 不经过/写入文件系统缓存,直接写入磁盘)15. 请使用Innodb表
可以利用更多资源,在线alter操作有所提高。 目前也支持非中文的full text, 同时支持Memcache API访问。目前也是MySQL最优秀的一个引擎。如果你还在MyISAM请考虑快速转换。16. 设置较大的Redo log
以前Percona 5.5和官方MySQL 5.5比拼性能时,胜出的一个Tips就是分配了超过4G的Redo log ,而官方MySQL5.5 redo log不能超过4G. 从 MySQL 5.6后可以超过4G了,通常建Redo log加起来要超过500M。 可以通过观查redo log产生量,分配Redo log大于一小时的量即可。17. 优化磁盘的IO
innodb_io_capactiy 在sas 15000转的下配置800就可以了,在ssd下面配置2000以上。在MySQL 5.6:innodb_lru_scan_depth = innodb_io_capacity / innodb_buffer_pool_instancesinnodb_io_capacity_max = min(2000, 2 * innodb_io_capacity)18. 使用独立表空间
目前来看新的特性都是独立表空间支持:truncate table 表空间回收表空间传输19. 配置合理的并发
innodb_thread_concurrency =并发这个参数在Innodb中变化也是最频繁的一个参数。不同的版本,有可能不同的小版本也有变动。一般推荐:在使用thread pool 的情况下:innodb_thread_concurrency = 0 就可以了。如果在没有thread pool的情况下:5.5 推荐:innodb_thread_concurrency =16 – 325.6 推荐innodb_thread_concurrency = 3620. 优化事务隔离级别
默认是 Repeatable read推荐使用Read committed binlog格式使用Row较低的隔离级别 = 较好的性能21. 注重监控
任环境离不开监控,如果少了监控,有可能就会陷入盲人摸象。 推荐zabbix+mpm构建监控。
内存分配器:glibc,tcmalloc,jemalloc
redis开发与运维 P203
内存分配器为了更好地管理和重复利用内存,分配内存策略一般采用固定范围的内存块进行分配,例如jemalloc在64位系统中
将内存空间划分为:小,大,巨大三个范围,每个范围内又划分为多个小的内存块单位,如下所示
小:8byte,16byte,32byte,48byte。。。128byte,192byte,256byte,512byte,768byte,1024byte,3840byte
大:4kb,8kb,12kb,4072kb
巨大:4mb,8mb,12mb
比如当保存5kb对象时jemalloc可能会采用8kb的块存储,而剩下的3kb空间变为内存碎片不能再分配给其他对象存储。
内存碎片问题虽然是所有内存服务的通病,但是jemalloc针对碎片问题专门做了优化,一般不会存在过度碎片的问题,正常的碎片率
在1.03左右mem_fragmentation_ratio,但是当存储的数据长短差异较大时,以下场景容易出现高内存碎片问题:
1、频繁做更新操作,例如频繁对已存在的键执行append,setrange等更新操作
2、大量过期键删除,键对象过期删除后,释放的空间无法得到充分利用,导致碎片率上升
碎片问题常见解决方法:
1、数据对齐:在条件允许情况下尽量做数据对齐,比如数据尽量用数字类型或固定长度字符串等
2、安全重启:重启redis可以做到内存碎片重新整理,可以利用高可用架构,sentinel或cluster,切换主从,安全重启