当前位置:首页 > 短网址资讯 > 正文内容

从代码层面优化系统性能的解决方案

www.ft12.com5年前 (2017-08-25)短网址资讯1061

我们以前看到的很多架构变迁或者演进方面的文章大多都是针对架构方面的介绍,很少有针对代码级别的性能优化介绍。本文将针对一些代码细节方面的东西进行介绍,欢迎大家吐槽以及提建议。
写在前面

上一篇 我们主要介绍了所遇到问题的五点,那么今天接下来讨论剩下的问题,我们先再回顾一下之前讨论的问题:

  1. 单台 40TPS,加到 4 台服务器能到 60TPS,扩展性几乎没有。

  2. 在实际生产环境中,经常出现数据库死锁导致整个服务中断不可用。

  3. 数据库事务乱用,导致事务占用时间太长。

  4. 在实际生产环境中,服务器经常出现内存溢出和 CPU 时间被占满。

  5. 程序开发的过程中,考虑不全面,容错很差,经常因为一个小 bug 而导致服务不可用。

  6. 程序中没有打印关键日志,或者打印了日志,信息却是无用信息没有任何参考价值。

  7. 配置信息和变动不大的信息依然会从数据库中频繁读取,导致数据库 IO 很大。

  8. 项目拆分不彻底,一个 tomcat 中会布署多个项目 WAR 包。

  9. 因为基础平台的 bug,或者功能缺陷导致程序可用性降低。

  10. 程序接口中没有限流策略,导致很多 vip 商户直接拿我们的生产环境进行压测,直接影响真正的服务可用性。

  11. 没有故障降级策略,项目出了问题后解决的时间较长,或者直接粗暴的回滚项目,但是不一定能解决问题。

  12. 没有合适的监控系统,不能准实时或者提前发现项目瓶颈。

优化解决方案
缓存优化方案

针对配置信息和变动不大的信息可以放到缓存中,提高并发能力也能够降低 IO 缓存,具体缓存优化策略可以参考我之前写的:

http://www.jianshu.com/p/d96906140199

程序容错优化方案

在这一块我要先举一个程序的例子说明一下什么才是容错,先看程序:


注:

那么如果 service 层的方法调用 dao 层的方法,一旦数据插入失败,那么这种异常处理的方式是容错吗?

把异常给吃掉了,在 service 层调用的时候,虽然没有打印报错信息,但是这能是容错吗?

所谓容错是指在故障存在的情况下计算机系统不失效,仍然能够正常工作的特性

我们拿使用缓存来作为一个案例讲解,先看一个图:

这是一个最简单的图,应用服务定期从 redis 中获取配置信息,可能会有朋友认为这样已经很稳定了,但是如果 Redis 出现问题呢?可能会有朋友说,Redis 会是集群,分片或者主从,确保不会出现问题。其实我是这样的认为的,虽然应用服务程序尽量的保持轻量级是不错的,但是不能因此而把希望全部寄托在中间组件上面,换句话说,如果此时的 Redis 是单点,那么后果会是什么样的,那么随着大量的并发请求到来的时候,程序中会报大量的错误,同时正常的流程也不能进行下去了业务也可能由此而中断。

那么在此种场景下我的解决方案是,要把缓存的使用分级别,有的缓存同步要求时效性非常高,比如支付限额配置,在后台修改完成以后前台立刻就能够获得感知,并且能够成功切换,这种情况只能实时的从 Redis 中获取最新数据,但是每次获取完最新的数据后都可以同步更新本地缓存,当单点的 Redis 挂掉后,应用程序至少还能从本地读取信息而不至于服务瞬间挂掉。有的缓存对时效性要求不高,允许有一定延迟,那么在这种情况下我采用的方案是,利用本地缓存和远程缓存相结合的方式,如下图所示:

方案一:

这种方式通过应用服务器的 Ehcache 定时轮询 Redis 缓存服务器更同步更新本地缓存,缺点是因为每台服务器定时 Ehcache 的时间不一样,那么不同服务器刷新最新缓存的时间也不一样,会产生数据不一致问题,对一致性要求不高可以使用。

方案二:

通过引入了 MQ 队列,使每台应用服务器的 Ehcache 同步侦听 MQ 消息,这样在一定程度上可以达到 准同步 更新数据,通过 MQ 推送或者拉取的方式,但是因为不同服务器之间的网络速度的原因,所以也不能完全达到强一致性。基于此原理使用 Zookeeper 等分布式协调通知组件也是如此。

部分项目拆分不彻底

拆分前

注:

一个 Tomcat 中布署多个应用 war 包,彼此之间互相牵制在并发量非常大的情况下性能降低非常明显。

拆分后

注:

拆分前的这种情况其实还是挺普遍,之前我一直认为项目中不会存在这种情况但是事实上还是存在了。解决的方法很简单,每一个应用 war 只布在一个 tomcat 中,这样应用程序之间就不会存在资源和连接数的竞争情况,性能和并发能力提交较为明显。

因基础平台组件功能不完善导致性能下降

先看一段代码:


注:

首先我们先不说这段代码的格式如何如何,先看功能实现,使用 Future 来做超时控制,这是为何呢?原因其实是在我们调用的 Dubbo 接口上面,因为是 Dubbo 已经经过二次封装,结果把自带的 timeout 给淹沫了,程序员只能通过这种方式来控制超时,可以看到这种用法非常差劲,对程序性能造成一定的影响。

如何快速定位程序性能瓶颈

我相信在定位程序性能问题的时候,大家有很多种办法,比如用 jdk 自带的命令,如 Jcmd,Jstack,jmap,jhat,jstat,iostat,vmstat 等等命令,还可以用 VisualVM,MAT,JRockit 等可视化工具,我今天想说的是利用一个最简单的命令就能够定位到哪段程序可能存在性能问题,请看下面介绍:

一般我们会通过 top 命令查看各个进程的 cpu 和内存占用情况,获得到了我们的进程 id,然后我们将会通过 pstack 命令查看里边的各个线程 id 以及对应的线程现在正在做什么事情,分析多组数据就可以获得哪些线程里有慢操作影响了服务器的性能,从而得到解决方案。示例如下:


由此可以判断出来在 LWP 30222 这个线程产生了性能问题,执行时间长达 31.4 毫秒的时间,再观察无非就是下面的几个语句出现的问题,只需要简单排查就知道了问题瓶颈。

关于索引的优化

组合索引的原则是偏左原则,所以在使用的时候需要多加注意;

索引的数量不需要过多的添加,在添加的时候要考虑聚集索引和辅助索引,这二者的性能是有区别的;

索引不会包含有 NULL 值的列:只要列中包含有 NULL 值都将不会被包含在索引中,复合索引中只要有一列含有 NULL 值,那么这一列对于此复合索引就是无效的。所以我们在数据库设计时不要让字段的默认值为 NULL。

MySQL 索引排序:MySQL 查询只使用一个索引,因此如果 where 子句中已经使用了索引的话,那么 order by 中的列是不会使用索引的。因此数据库默认排序可以符合要求的情况下不要使用排序操作;尽量不要包含多个列的排序,如果需要最好给这些列创建复合索引。

使用索引的注意事项

以下操作符可以应用索引:

  • 大于等于

  • Between

  • IN

  • LIKE 不以 % 开头

以下操作符不能应用索引:

  • NOT IN

  • LIKE %_ 开头

索引技巧

  • 同样是 1234567890,数值类型存储远比字符串节约存储空间。

  • 节约存储就是节约 IO,减少 IO 就是提升性能

  • 通常对数字的索引和检索要比对字符串的索引和检索效率更高。

使用 Redis 需要注意的一些点
  • 在增加 key 的时候尽量设置过期时间,不然 Redis Server 的内存使用会达到系统物理内存的最大值,导致 Redis 使用 VM 降低系统性能

  • Redis Key 设计时应该尽可能短,Value 尽量不要使用复杂对象。

  • 将对象转换成 JSON 对象(利用现成的 JSON 库)后存入 Redis,

  • 将对象转换成 Google 开源二进制协议对象(Google Protobuf,和 JSON 数据格式类似,但是因为是二进制表现,所以性能效率以及空间占用都比 JSON 要小;缺点是 Protobuf 的学习曲线比 JSON 大得多)

  • Redis 使用完以后一定要释放连接,如下图示例:

不管是返回到连接池中还是直接释放掉,总之就是要将连接还回去。

关于长耗时方法的拆分

我们拆分长耗时方法的一般技巧是:

  • 寻找业务的冗余点,代码中有很多重复性的代码,可以适当简化。

  • 检查库表索引是否合理加入。

  • 利用单元测试或者压力测试长耗时的操作进行算法级别优化,比如从库中大批量读取数据,或者长时间循环操作,或者死循环操作等等。

  • 寻找业务的拆分点,根据业务需求拆分同步操作为异步,比如可以使用消息队列或者多线程异步化。

经过以上几个分析后如果方法执行时间仍然非常的长,这样可能就是业务方面的需求使然,如下图:

那么我们是否可以考虑将一个长耗时方法进行拆分,拆分为多个短耗时方法由发起端分别调用,这样在高并发的情况下不会造成某一个方法的长时间阻塞,在一定程度上能够提高并发能力,如下图:

扫描二维码推送至手机访问。

版权声明:本文由短链接发布,如需转载请注明出处。

本文链接:https://www.ft12.com/article_433.html

标签: 系统优化
分享给朋友:

相关文章

软银40亿美元参股英伟达,孙正义布局科技界英美两大芯片公司

软银40亿美元参股英伟达,孙正义布局科技界英美两大芯片公司

[ 短网址资讯 ] 继上一年收买英国芯片设计公司ARM,孙正义昨天又成为了NVIDIA的大股东,软银的每一步行为都是孙正义心里疯狂的呐喊。“2018年将是AI的奇点,30年内机器人会比人类还多,智商会是人类的1000倍,...

HTTP的长链接和短链接

HTTP的长链接和短链接

本文总结&分享网络编程中触及的长链接、短链接概念。    关键字:Keep-Alive,并发链接数约束,TCP,HTTP一、什么是长链接     HTTP1.1规定了默许坚...

短网址自定义功能的测试

测验首要分为两大部分, 功能性测验和非功能性测验。前次已经做了功能性测验的解说,(没阅读的请阅读《简单高效的短网址生成服务C#实现》)下面解说自界说短网址测验和非功能性测验,全面的测验过程,以确保ft12短网址的各项功能契合用户的需求。  ...

余额宝为何把钱“拒之门外” ?

最近一段时刻,我国的金融商场可谓是风云突变,8月11日晚间,阿里巴巴旗下闻名的榜首基金企业天弘基金宣告,将个人买卖账户持有限额的上限由25万元调整为10万元,此音讯一出金融商场一片哗然。要知道早在3个月前,余额宝的限额仍是100万的高位,而...

道德沦丧!中国电商平台被爆集体造假,造假者月入10万…

道德沦丧!中国电商平台被爆集体造假,造假者月入10万…

 近几年网购发展迅速,人们可以足不出户,就可以享受到其他国家优质的产品。然而,那些某些电商网站上大量所谓的“境外购”、“海外购”,真的是从国外买到的产品吗?近日,《新京报》曝光了一桩惊天海淘平台造假大案,国内所有大型海淘平台,几乎...

十多天百家号运营的经理,让我发现了百家号的一些秘密

十多天百家号运营的经理,让我发现了百家号的一些秘密

2017年6月27日清晨1点开始,baidu官方封禁了一大批百家号,是百家号有史以来最大规划的封号。许多个人自媒体和工作室的号都被封禁,尽管如此,在封禁往后仍是会有许多人继续涌入做百家号。要素?就如今的自媒体来说,百家号的收益是最高的,不断...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。