当前位置: 首页 > 网络学院 >

【博文推荐】运维角度浅谈MySQL数据库优化

新客网 XKER.COM 时间:2015-06-11 21:02:03来源:“企鹅”那点事儿 51CTO  评论:

本文出自51CTO博客博主“企鹅”那点事儿,如有任何问题请进入博主页面互动讨论。

博文地址:http://lizhenliang.blog.51cto.com/7876557/1657465

一个成熟的数据库架构并不是一开始设计就具备高可用、高伸缩等特性的,它是随着用户量的增加,基础架构才逐渐完善。数据库发展周期大致分为以下五个阶段:

1、数据库表设计

项目立项后,开发部根据产品部需求开发项目,开发工程师工作其中一部分就是对表结构设计。对于数据库来说,这点很重要,如果设计不当,会直接影响访问速度和用户体验。影响的因素很多,比如慢查询、低效的查询语句、没有适当建立索引、数据库堵塞(死锁)等。当然,有测试工程师的团队,会做压力测试,找bug。对于没有测试工程师的团队来说,大多数开发工程师初期不会太多考虑数据库设计是否合理,而是尽快完成功能实现和交付,等项目有一定访问量后,隐藏的问题就会暴露,这时再去修改就不是这么容易的事了。

2、数据库部署

该运维工程师出场了,项目初期访问量不会很大,所以单台部署足以应对在1500左右的QPS(每秒查询率)。考虑到高可用性,可采用MySQL主从复制+Keepalived做双击热备,常见集群软件有Keepalived、Heartbeat。

双机热备博文:http://lizhenliang.blog.51cto.com/7876557/1362313

3、数据库性能优化

如果将MySQL部署到普通的X86服务器上,在不经过任何优化情况下,MySQL理论值正常可以处理1500左右并发连接数(QPS),经过优化后,有可能会提升到2000左右QPS,否则,访问量当达到1000多并发连接时,数据库处理性能就会变慢,而且硬件资源还很富裕,这时就该考虑软件问题了。那么怎样让数据库最大化发挥性能呢?一方面可以单台运行多个MySQL实例让服务器性能发挥到最大化,另一方面是对数据库进行优化,往往操作系统和数据库默认配置都比较保守,会对数据库发挥有一定限制,可对这些配置进行适当的调整,尽可能的处理更多连接数。

具体优化有以下三个层面:

3.1 数据库配置优化

MySQL常用有两种存储引擎,一个是MyISAM,不支持事务处理,读性能处理快,表级别锁。另一个是InnoDB,支持事务处理(ACID),设计目标是为处理大容量数据发挥最大化性能,行级别锁。

表锁:开销小,锁定粒度大,发生死锁概率高,相对并发也低。

行锁:开销大,锁定粒度小,发生死锁概率低,相对并发也高。

为什么会出现表锁和行锁呢?主要是为了保证数据的完整性,举个例子,一个用户在操作一张表,其他用户也想操作这张表,那么就要等第一个用户操作完,其他用户才能操作,表锁和行锁就是这个作用。否则多个用户同时操作一张表,肯定会数据产生冲突或者异常。

根据以上看来,使用InnoDB存储引擎是最好的选择,也是MySQL5.5以后版本中默认存储引擎。每个存储引擎相关联参数比较多,以下列出主要影响数据库性能的参数。

公共参数默认值:

  1. max_connections = 151 
  2. #同时处理最大连接数,推荐设置最大连接数是上限连接数的80%左右    
  3. sort_buffer_size = 2M 
  4. #查询排序时缓冲区大小,只对order bygroup by起作用,可增大此值为16M 
  5. query_cache_limit = 1M   
  6. #查询缓存限制,只有1M以下查询结果才会被缓存,以免结果数据较大把缓存池覆盖 
  7. query_cache_size = 16M   
  8. #查看缓冲区大小,用于缓存SELECT查询结果,下一次有同样SELECT查询将直接从缓存池返回结果,可适当成倍增加此值 
  9. open_files_limit = 1024  
  10. #打开文件数限制,如果show global status like 'open_files'查看的值等于或者大于open_files_limit值时,程序会无法连接数据库或卡死 

MyISAM参数默认值:

  1. key_buffer_size = 16M#索引缓存区大小,一般设置物理内存的30-40% 
  2. read_buffer_size = 128K  #读操作缓冲区大小,推荐设置16M或32M 

InnoDB参数默认值:

  1. innodb_buffer_pool_size = 128M 
  2. #索引和数据缓冲区大小,一般设置物理内存的60%-70% 
  3. innodb_buffer_pool_instances = 1     
  4. #缓冲池实例个数,推荐设置4个或8个 
  5. innodb_flush_log_at_trx_commit = 1   
  6. #关键参数,0代表大约每秒写入到日志并同步到磁盘,数据库故障会丢失1秒左右事务数据。1为每执行一条SQL后写入到日志并同步到磁盘,I/O开销大,执行完SQL要等待日志读写,效率低。2代表只把日志写入到系统缓存区,再每秒同步到磁盘,效率很高,如果服务器故障,才会丢失事务数据。对数据安全性要求不是很高的推荐设置2,性能高,修改后效果明显。 
  7. innodb_file_per_table = OFF   
  8. #默认是共享表空间,共享表空间idbdata文件不断增大,影响一定的I/O性能。推荐开启独立表空间模式,每个表的索引和数据都存在自己独立的表空间中,可以实现单表在不同数据库中移动。 
  9. innodb_log_buffer_size = 8M   
  10. #日志缓冲区大小,由于日志最长每秒钟刷新一次,所以一般不用超过16M 

3.2 系统配置优化

大多数MySQL都部署在linux系统上,所以操作系统的一些参数也会影响到MySQL性能,以下对linux内核进行适当优化。

  1. net.ipv4.tcp_fin_timeout = 30 
  2. #TIME_WAIT超时时间,默认是60s 
  3. net.ipv4.tcp_tw_reuse = 1     
  4. #1表示开启复用,允许TIME_WAIT socket重新用于新的TCP连接,0表示关闭 
  5. net.ipv4.tcp_tw_recycle = 1   
  6. #1表示开启TIME_WAIT socket快速回收,0表示关闭 
  7. net.ipv4.tcp_max_tw_buckets = 4096    
  8. #系统保持TIME_WAIT socket最大数量,如果超出这个数,系统将随机清除一些TIME_WAIT并打印警告信息 
  9. net.ipv4.tcp_max_syn_backlog = 4096 
  10. #进入SYN队列最大长度,加大队列长度可容纳更多的等待连接 

在linux系统中,如果进程打开的文件句柄数量超过系统默认值1024,就会提示“too many files open”信息,所以要调整打开文件句柄限制。

  1. # vi /etc/security/limits.conf  #加入以下配置,*代表所有用户,也可以指定用户,重启系统生效 
  2. * soft nofile 65535 
  3. * hoft nofile 65535 
  4. # ulimit -SHn 65535   #立刻生效 

3.3 硬件配置

加大物理内存,为提高文件系统性能,linux内核会从内存中分配缓存区(系统缓存和文件缓存)来存放热数据,也就是说物理内存越大,分配缓存区越大,缓存数据越多。

SSD硬盘代替SAS硬盘,将RAID级别调整为RAID1+0,相对于RAID1和RAID5有更好的读写性能(IOPS),毕竟数据库的压力主要来自磁盘I/O方面。

如果您喜欢本文请分享给您的好友,谢谢!本文来源:“企鹅”那点事儿 51CTO

评论列表(网友评论仅供网友表达个人看法,并不表明本站同意其观点或证实其描述)