当前位置:首页 > 短网址资讯 > 正文内容

从代码层面优化系统性能的解决方案

www.ft12.com4年前 (2017-08-25)短网址资讯988

我们以前看到的很多架构变迁或者演进方面的文章大多都是针对架构方面的介绍,很少有针对代码级别的性能优化介绍。本文将针对一些代码细节方面的东西进行介绍,欢迎大家吐槽以及提建议。
写在前面

上一篇 我们主要介绍了所遇到问题的五点,那么今天接下来讨论剩下的问题,我们先再回顾一下之前讨论的问题:

  1. 单台 40TPS,加到 4 台服务器能到 60TPS,扩展性几乎没有。

  2. 在实际生产环境中,经常出现数据库死锁导致整个服务中断不可用。

  3. 数据库事务乱用,导致事务占用时间太长。

  4. 在实际生产环境中,服务器经常出现内存溢出和 CPU 时间被占满。

  5. 程序开发的过程中,考虑不全面,容错很差,经常因为一个小 bug 而导致服务不可用。

  6. 程序中没有打印关键日志,或者打印了日志,信息却是无用信息没有任何参考价值。

  7. 配置信息和变动不大的信息依然会从数据库中频繁读取,导致数据库 IO 很大。

  8. 项目拆分不彻底,一个 tomcat 中会布署多个项目 WAR 包。

  9. 因为基础平台的 bug,或者功能缺陷导致程序可用性降低。

  10. 程序接口中没有限流策略,导致很多 vip 商户直接拿我们的生产环境进行压测,直接影响真正的服务可用性。

  11. 没有故障降级策略,项目出了问题后解决的时间较长,或者直接粗暴的回滚项目,但是不一定能解决问题。

  12. 没有合适的监控系统,不能准实时或者提前发现项目瓶颈。

优化解决方案
缓存优化方案

针对配置信息和变动不大的信息可以放到缓存中,提高并发能力也能够降低 IO 缓存,具体缓存优化策略可以参考我之前写的:

http://www.jianshu.com/p/d96906140199

程序容错优化方案

在这一块我要先举一个程序的例子说明一下什么才是容错,先看程序:


注:

那么如果 service 层的方法调用 dao 层的方法,一旦数据插入失败,那么这种异常处理的方式是容错吗?

把异常给吃掉了,在 service 层调用的时候,虽然没有打印报错信息,但是这能是容错吗?

所谓容错是指在故障存在的情况下计算机系统不失效,仍然能够正常工作的特性

我们拿使用缓存来作为一个案例讲解,先看一个图:

这是一个最简单的图,应用服务定期从 redis 中获取配置信息,可能会有朋友认为这样已经很稳定了,但是如果 Redis 出现问题呢?可能会有朋友说,Redis 会是集群,分片或者主从,确保不会出现问题。其实我是这样的认为的,虽然应用服务程序尽量的保持轻量级是不错的,但是不能因此而把希望全部寄托在中间组件上面,换句话说,如果此时的 Redis 是单点,那么后果会是什么样的,那么随着大量的并发请求到来的时候,程序中会报大量的错误,同时正常的流程也不能进行下去了业务也可能由此而中断。

那么在此种场景下我的解决方案是,要把缓存的使用分级别,有的缓存同步要求时效性非常高,比如支付限额配置,在后台修改完成以后前台立刻就能够获得感知,并且能够成功切换,这种情况只能实时的从 Redis 中获取最新数据,但是每次获取完最新的数据后都可以同步更新本地缓存,当单点的 Redis 挂掉后,应用程序至少还能从本地读取信息而不至于服务瞬间挂掉。有的缓存对时效性要求不高,允许有一定延迟,那么在这种情况下我采用的方案是,利用本地缓存和远程缓存相结合的方式,如下图所示:

方案一:

这种方式通过应用服务器的 Ehcache 定时轮询 Redis 缓存服务器更同步更新本地缓存,缺点是因为每台服务器定时 Ehcache 的时间不一样,那么不同服务器刷新最新缓存的时间也不一样,会产生数据不一致问题,对一致性要求不高可以使用。

方案二:

通过引入了 MQ 队列,使每台应用服务器的 Ehcache 同步侦听 MQ 消息,这样在一定程度上可以达到 准同步 更新数据,通过 MQ 推送或者拉取的方式,但是因为不同服务器之间的网络速度的原因,所以也不能完全达到强一致性。基于此原理使用 Zookeeper 等分布式协调通知组件也是如此。

部分项目拆分不彻底

拆分前

注:

一个 Tomcat 中布署多个应用 war 包,彼此之间互相牵制在并发量非常大的情况下性能降低非常明显。

拆分后

注:

拆分前的这种情况其实还是挺普遍,之前我一直认为项目中不会存在这种情况但是事实上还是存在了。解决的方法很简单,每一个应用 war 只布在一个 tomcat 中,这样应用程序之间就不会存在资源和连接数的竞争情况,性能和并发能力提交较为明显。

因基础平台组件功能不完善导致性能下降

先看一段代码:


注:

首先我们先不说这段代码的格式如何如何,先看功能实现,使用 Future 来做超时控制,这是为何呢?原因其实是在我们调用的 Dubbo 接口上面,因为是 Dubbo 已经经过二次封装,结果把自带的 timeout 给淹沫了,程序员只能通过这种方式来控制超时,可以看到这种用法非常差劲,对程序性能造成一定的影响。

如何快速定位程序性能瓶颈

我相信在定位程序性能问题的时候,大家有很多种办法,比如用 jdk 自带的命令,如 Jcmd,Jstack,jmap,jhat,jstat,iostat,vmstat 等等命令,还可以用 VisualVM,MAT,JRockit 等可视化工具,我今天想说的是利用一个最简单的命令就能够定位到哪段程序可能存在性能问题,请看下面介绍:

一般我们会通过 top 命令查看各个进程的 cpu 和内存占用情况,获得到了我们的进程 id,然后我们将会通过 pstack 命令查看里边的各个线程 id 以及对应的线程现在正在做什么事情,分析多组数据就可以获得哪些线程里有慢操作影响了服务器的性能,从而得到解决方案。示例如下:


由此可以判断出来在 LWP 30222 这个线程产生了性能问题,执行时间长达 31.4 毫秒的时间,再观察无非就是下面的几个语句出现的问题,只需要简单排查就知道了问题瓶颈。

关于索引的优化

组合索引的原则是偏左原则,所以在使用的时候需要多加注意;

索引的数量不需要过多的添加,在添加的时候要考虑聚集索引和辅助索引,这二者的性能是有区别的;

索引不会包含有 NULL 值的列:只要列中包含有 NULL 值都将不会被包含在索引中,复合索引中只要有一列含有 NULL 值,那么这一列对于此复合索引就是无效的。所以我们在数据库设计时不要让字段的默认值为 NULL。

MySQL 索引排序:MySQL 查询只使用一个索引,因此如果 where 子句中已经使用了索引的话,那么 order by 中的列是不会使用索引的。因此数据库默认排序可以符合要求的情况下不要使用排序操作;尽量不要包含多个列的排序,如果需要最好给这些列创建复合索引。

使用索引的注意事项

以下操作符可以应用索引:

  • 大于等于

  • Between

  • IN

  • LIKE 不以 % 开头

以下操作符不能应用索引:

  • NOT IN

  • LIKE %_ 开头

索引技巧

  • 同样是 1234567890,数值类型存储远比字符串节约存储空间。

  • 节约存储就是节约 IO,减少 IO 就是提升性能

  • 通常对数字的索引和检索要比对字符串的索引和检索效率更高。

使用 Redis 需要注意的一些点
  • 在增加 key 的时候尽量设置过期时间,不然 Redis Server 的内存使用会达到系统物理内存的最大值,导致 Redis 使用 VM 降低系统性能

  • Redis Key 设计时应该尽可能短,Value 尽量不要使用复杂对象。

  • 将对象转换成 JSON 对象(利用现成的 JSON 库)后存入 Redis,

  • 将对象转换成 Google 开源二进制协议对象(Google Protobuf,和 JSON 数据格式类似,但是因为是二进制表现,所以性能效率以及空间占用都比 JSON 要小;缺点是 Protobuf 的学习曲线比 JSON 大得多)

  • Redis 使用完以后一定要释放连接,如下图示例:

不管是返回到连接池中还是直接释放掉,总之就是要将连接还回去。

关于长耗时方法的拆分

我们拆分长耗时方法的一般技巧是:

  • 寻找业务的冗余点,代码中有很多重复性的代码,可以适当简化。

  • 检查库表索引是否合理加入。

  • 利用单元测试或者压力测试长耗时的操作进行算法级别优化,比如从库中大批量读取数据,或者长时间循环操作,或者死循环操作等等。

  • 寻找业务的拆分点,根据业务需求拆分同步操作为异步,比如可以使用消息队列或者多线程异步化。

经过以上几个分析后如果方法执行时间仍然非常的长,这样可能就是业务方面的需求使然,如下图:

那么我们是否可以考虑将一个长耗时方法进行拆分,拆分为多个短耗时方法由发起端分别调用,这样在高并发的情况下不会造成某一个方法的长时间阻塞,在一定程度上能够提高并发能力,如下图:

扫描二维码推送至手机访问。

版权声明:本文由短链接发布,如需转载请注明出处。

本文链接:https://www.ft12.com/article_433.html

标签: 系统优化
分享给朋友:

相关文章

马云又有新动作!天猫小店来了,颠覆传统小卖部!

140平米,8年时光,两代超市,两代人。这家超市位于浙江大学玉泉校区北门的西溪路上,是黄安的父亲黄海东一手做起来的小店,但随着年纪的增长和周边连锁便利店竞争的加剧,他显得有点力不从心。一年前,他“连哄带骗”地让黄安从杭州行政服务中心离职,一...

公众号新商机:可插入文章链接 ,帮客户打广告

公众号新商机:可插入文章链接 ,帮客户打广告

【FT12短网址资讯】6月6日消息,FT12短网址工作人员获悉,微信团队宣告,今天起,微信大众渠道上线新功用,一切帐号都可在图文消息里刺进大众渠道内任意已群发的文章链接。现在,可经过以下两种方法添加文章:一、直接输入文章连接地址。复制想要刺...

18年前比尔·盖茨的15大预言 如今基本全都实现了

北京时间 5 日早间消息,据美国《商业内幕》(Business Insider)报道,早在 1999 年,微软(68.17, -0.76, -1.10%)创始人比尔-盖茨曾写下一本名为《未来时速-数字系统与商务新思维》(Business@...

百度:我们不造车,Apollo只是人工智能的搬运工

百度:我们不造车,Apollo只是人工智能的搬运工

[ FT12短网址 ] 百度在Apollo生态中承担的角色更像是供应商,但是与传统零部件供应商不同的是,百度将不主要依赖于车企采购产品或技术的方式盈利,百度的盈利模式还有进一步的想象空间,而且在百度内部也还没完全考虑成熟...

5年内90%的印度初创企业将面临倒闭 原因是缺乏创新

5年内90%的印度初创企业将面临倒闭 原因是缺乏创新

近年来,印度已经开始被看做“全球第三大的新兴企业生态系统”,但成功的创新却似乎很缺乏。尽管印度初创公司的市场估值在过去4年里实现了大幅攀升,但最近由IBM商业价值研究院(IBV)与牛津经济学研究所(Oxford Economics)联合发布...

这家公司干到7亿只用了13个人!一家公司招多少人才叫好?

2012年10月25日,Facebook以总值7.15亿美元收购Instagram。此时,后者的员工一共只有13人。现在的创业不比以前,创业都会争取拿一笔风险投资。当我问那些来找我谈融资的项目“拿钱后要做啥”,百分之百都会有一个理由:就是招...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。