当前位置:首页 > 短网址资讯 > 正文内容

深入剖析nginx时间缓存

www.ft12.com8年前 (2017-08-08)短网址资讯2013

本文适合对nginx实现原理比较感兴趣的同学阅读,需要具备一定的服务端编程知识。

一、背景

在服务器开发领域,时间的准确度关系到系统能否正常运行,尤其是当系统中存在超时事件需要处理时。但是系统时间的获取需要一次昂贵的系统调用,作为一款成熟的服务器软件,Nginx是如何优化这部分的性能开销?

二、时间缓存

接触过系统设计的同学都知道,对于频繁的数据获取,在数据未变化的情形下,可以通过增加缓存来优化性能,因为缓存的访问速度远高于源数据的访问速度。这样的例子有很多,比如CPU设计有二级缓存,在传统的database基础上有了我们今天的redis、memcache等nosql。对于系统时间也一样,既然获取系统时间开销较大,可以尝试着将获取到的时间缓存起来,需要时直接从缓存中取就可以了。但与此同时,也引入了缓存时间与实际时间不一致的可能,下面看看Nginx是如何解决这一问题。

三、设计与实现

Nginx时间缓存设计

如上图所示,Nginx时间缓存包括时间读取和时间写入者,当需要更新时间时,nginx调用gettimeofday系统调用获取时间,然后更新缓存。需要获取时间的代码直接从time cache中取出即可。

这里又产生了新的问题,具体包括:

  • 读写并发,即读和写同时操作时间缓存会造成获取的时间混乱。

  • 多写并发,多个执行体同时更新时间缓存,同样造成时间混乱。

而常见的解决互斥的方案包括:

  • 加锁保证数据串行化

  • 无锁化设计

像Nginx这样对于性能有着极致追求的server来说,自然不会使用系统自带的锁机制。其实现的ngx_lock和ngx_unlock的背后都是无锁化的原子操作。

  1. 对于多写并发,nginx在ngx_time_update函数中通过全局的ngx_time_lock进行互斥,确保同一时刻只会存在一个执行体更新时间缓存。

  2. 对于读写并发,nginx设计了NGX_TIME_SLOTS个slot,用于隔离读写操作的时间缓存。同时引入时间缓存指针,原子地更新当前缓存的指向位置。

Nginx时间缓存实现

下面看具体实现代码(以nginx-1.13.1为例src/core/ngx_times.c):

void ngx_time_update(void)
{
...
//ngx_time_lock用于互斥,避免同时更新时间
    if (!ngx_trylock(&ngx_time_lock)) {
        return;
    }
//获取当前时间
    ngx_gettimeofday(&tv);
    sec = tv.tv_sec;
    msec = tv.tv_usec / 1000;
    ngx_current_msec = (ngx_msec_t) sec * 1000 + msec;
    tp = &cached_time[slot];

//秒值一致则只需要更新当前slot的msec
    if (tp->sec == sec) {
        tp->msec = msec;
        ngx_unlock(&ngx_time_lock);
        return;
    }
//获取下一slot
    if (slot == NGX_TIME_SLOTS - 1) {
        slot = 0;
    } else {
        slot++;
    }
    tp = &cached_time[slot];
    tp->sec = sec;
    tp->msec = msec;
    ngx_gmtime(sec, &gmt);
    p0 = &cached_http_time[slot][0];
    (void) ngx_sprintf(p0, "%s, %02d %s %4d %02d:%02d:%02d GMT",
                       week[gmt.ngx_tm_wday], gmt.ngx_tm_mday,
                       months[gmt.ngx_tm_mon - 1], gmt.ngx_tm_year,
                       gmt.ngx_tm_hour, gmt.ngx_tm_min, gmt.ngx_tm_sec);
    ...//类似更新ngx_cached_err_log_time.data等
    ngx_memory_barrier();

    ngx_cached_time = tp;
    ngx_cached_http_time.data = p0;
    ngx_cached_err_log_time.data = p1;
    ngx_cached_http_log_time.data = p2;
    ngx_cached_http_log_iso8601.data = p3;
    ngx_cached_syslog_time.data = p4;

    ngx_unlock(&ngx_time_lock);
}

ngx_time_update的流程图为: 

值得一提的是,这里采用了ngx_memory_barrier来避免指令重排,这样可以尽可能地保证ngx_cached_time、ngx_cached_http_time.data、ngx_cached_err_log_time.data、ngx_cached_http_log_time.data、ngx_cached_http_log_iso8601.data、ngx_cached_syslog_time.data中存储的时间数据一致。

slot设计

上面谈到了nginx采用slot来从空间上避免读写执行体同时操作时间缓存,slot的设计规则为: 

  • 获取时间的执行体采用ngx_timeofday获取了当前ngx_cached_time的快照,随后读取对应的slot中数据,包括sec和msec。

  • 更新时间的执行体通过ngx_time_update原子更新ngx_cached_time指向,这样更新之后的时间读取就是新的slot中的时间数据。

这里,nginx利用了修改指针的原子性,确保读写不会造成时间数据混乱。而时间数据本身包括sec和msec,无法完成修改的原子性,这种将非原子性修改操作转换为原子性修改操作的手法,值得借鉴。

想要获取最新技术文章?欢迎订阅微信公众号----软件编程之路

扫描二维码推送至手机访问。

版权声明:本文由短链接发布,如需转载请注明出处。

本文链接:https://www.ft12.com/article_389.html

分享给朋友:

相关文章

世界正在惩罚过度友善的人

世界正在惩罚过度友善的人

01过度友善的人,害怕拒绝,温暖了别人,却累死了自己《欢乐颂》里的关雎尔,心地善良,温顺听话,成了很多男人眼中“适合结婚的对象”,但她的过度友善也常常为人诟病:因为心地太好,不懂得拒绝别人,工作中招来不少麻烦。印象中有个片段是,同事让她帮忙...

短网址和二维码在2017年上海车展上的应用

 今天去参观了2017年的上海车展,展会上各家汽车厂商都展出了自己最新的技术和车型,而且现场有非常非常多的营销和推广活动。但是,总结发现:大部分的推广活动都离不开微信、二维码、短网址等等。短网址和二维码在移动营销中的应用已经非常的...

我作为程序员辣么穷的黑历史

我在十三、四岁的时候第一次真正进入编程这个领域。从十一岁开始我就一直对计算机非常感兴趣,但在十三岁之前并没有太多地涉足编程。那大约是五年前。我记得在中学玩过一个游戏:Runescape。很多时候游戏都会崩溃,并且会看到一个奇怪的包含外国文字...

智能聊天机器人如何改变客户服务游戏规则?

智能聊天机器人如何改变客户服务游戏规则?

[ FT12短网址 ] 随着当今手机用户的心态、行为和期望变得越来越数字化,客户参与的状态正处于一个转折点,而服务商也逐渐转向智能聊天机器人。但就目前而言,机器人的水平并不能满足客户多样化的需求,那么机器人未来该如何发展呢?图片来...

论蓝鲸游戏,一个比勒索病毒更可怕的互联网邪教产物

论蓝鲸游戏,一个比勒索病毒更可怕的互联网邪教产物

情不知所起,一往而深,是最美的爱情。恨不知所起,深入骨髓,是最冷的人道。原罪被扩大,总有一角照出自个。——东野圭吾《歹意》日高邦彦对野野口修的恩德反而招致了仇恨,即便堵上所剩无几的时刻,也要诽谤友人的人格,也许就如书名一般,只剩下最纯粹的歹...

用短网址进行推广是隐藏链接吗?是否会传递权重?

用短网址进行推广是隐藏链接吗?是否会传递权重?

是否会传递权重?首先你得清楚短网址的跳转是什么跳转,比如百度短网址,比如微博生成的短网址,都是302跳转,无法传递权重.PS:302是临时性的跳转,不但不会传递权重,过多的302还可能会被搜索引擎误杀,因为以前很多黑帽SEO利用302跳转作...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。