源站压力大网站跑不动？没关系，二级缓存功能来了！

“不断提升产品能力，让用户有更好的产品体验”一直是知道创宇研发产品的原则之一。近期，我们对缓存功能进行了升级，上线二级缓存功能。

CDN，即Content Delivery Network，内容分发网络，所谓CDN缓存就是通过在网络边缘部署边缘服务器，依靠CDN中心平台的负载均衡、内容分发及调度等功能，使用户能就近获取所需的内容，降低网络拥堵，提高访问响应速度和命中率。

传统的CDN缓存机制，或者说目前主要采用的CDN缓存机制通常是单机缓存。随着互联网的快速发展，互联网用户的猛速增加，这种缓存机制很难再有效负载：

1）缓存容量有限，缓存率低。一旦有大缓存网站接入，缓存容量可能远远不足。而单机缓存的机制使得缓存的内容不能共用，又有大量存储空间被浪费，大概就是传说中的“涝的涝死旱的旱死”吧；

2) 源站压力大，访问速度受限，源站成本增加。每天机器miss后都要回源，同一个资源全网上百个节点大量回源。一边是日益增加的用户流量，一边是不断增加的回源次数，这么大的访问流量，哪个服务器顶得住？

打个比方，好比商品买卖。

为了方便各地的消费者买汽水，生产商在各地设置小卖部，一个小卖部卖一种汽水。可乐卖得快，各地的小卖部每天都得去厂家进货，但因为放不下且不能放到隔壁卖雪碧的店里，只能少量并多次进货。最后的结果是消费者可能无法及时喝到可乐，而厂商也面临着巨大的生产压力。

对于这种情况，我们的做法是，在生产商和小卖部中间设置储货仓，小卖部缺货时先从仓库拿货，仓库不够再找厂商。同时扩大部分地方的仓库，本地仓库缺货，也可以就近仓库配货：

1）针对静态资源，在原有节点缓存的基础上增加二级缓存。节点本地缓存未命中则从二级缓存读取缓存，二级缓存未命中再回源，进一步提高缓存率；

2）在部分机房部署数个缓存集群，每个集群能支持大量的缓存。边缘节点则根据联通情况选择合适的二级缓存集群，二级集群之间互为备份，防止单点故障；

3）二级缓存采用可以水平扩展的集群部署，将存储引擎连接成一个集群，可以方便得增加减少存储引擎调容量，替换损坏的磁盘和主机。

这样设置以后，可乐果然卖的更好了...缓存率大幅提升：

1）网站支持资源预热，使得用户首次访问即可直接命中缓存，访问速度大大提高，源站压力大大降低；

2）部分用户回源流量大幅度减少，源站压力得到减缓。比如下图某网站，红色线代表总流量，黄色线为缓存流量开启二级缓存后，缓存效果大幅提升，两条线几近趋同，源站带宽从2.5Gbps 降到了1.5Gbps；

（开启前）

（开启后，缓存率大大提高）

（开启后，源站带宽大幅减少）

3）部分网站缓存率大幅提高，由原来的85%显著提高至95%；

总的来说，二级缓存功能对于网站，能极大地减轻源站压力，降低源站运营成本，提高网站运营效率，而对于用户，那就是飞速的上网体验了！

▼

点击菜单栏“联系我们”

开启二级缓存，让你的网站飞起来！