酷应用

黄励博：又拍云存储分层架构实践

百家作者：又拍云 2021-06-17 20:23:05

亚太内容分发大会暨CDN峰会一直致力于推动CDN产业深度融合发展和市场普及，现已成为亚太地区影响力最大的内容分发网络盛会。十年来，在以阿里云、网宿科技、腾讯云、又拍云等亚太CDN产业联盟成员孜孜不辍的努力下，CDN产业已经成为基础性设施网络，以坚定的基石之姿，支撑起中国成为世界最大的互联网市场。

随着全球数字化、“一带一路”战略的推进，亚太内容分大会暨CDN峰会的影响力正在逐渐向全球延伸，同时也将中国智造CDN及产业链推广向全球每一个角落。

6 月 9 日-10 日，2021 亚太内容分发大会暨 CDN 峰会在北京顺利举办。【对象存储论坛】于 10 日下午开幕，在论坛上又拍云存储技术负责人黄励博带来了题为《又拍云存储分层架构实践》的精彩演讲。

黄励博首先介绍了又拍云打造的以场景化服务为核心的跨云计算平台业务，通过深度聚焦客户的核心体验，又拍云以场景化服务为核心，构建了包括计算、存储、网络、安全在内的跨云计算平台。作为国内知名的企业级云服务商，又拍云已为包括星巴克、快手、美团点评、华数传媒等知名企业在内的超 50 万企业级客户提供云服务，覆盖音视频、直播、电商、游戏、金融、广电、在线教育、小程序等诸多行业，帮助企业用户和开发者轻松实现稳定、可靠、安全的云服务。

黄励博表示，又拍云作为国内最早提供云存储服务的厂商，行业经验颇多，其提供的海量、安全、高可靠的面向非结构化数据的云存储服务，能够满足大数据、人工智能、物联网背景下的数据传输、处理、存储、分发与容灾需求，具有如下优点：

稳定可靠：数据多备份，跨数据中心存储，热门数据多个数据中心绶存，确保业务稳定、持久可信；
简单易用：设计简单，保留 Linux、Windows 的使用习惯，Bucket 不限存储容量，可自动弹性扩展；
数据安全：提供账号级、Bucket 级、Object 级 ACL，数据中心具备 DDoS、CC 防护等能力，确保数据访问安全；
灵活上传：体现在上传加速、下载加速、多种上传方式，基于分布式加速网络，上传速度快，支持大流量并发上传；

接入方便。支持数据迁移、在线压缩解压缩和 FTP，让云存储接入和使用更简单。

如此优异的性能表现，得益于又拍云存储服务采用的分布式架构，使其不仅应用场景广泛，还降低了运营成本并合理利用了容量。黄励博解释道，该存储架构随着静态文件的不断增加，为了降低 Web 服务器负载，可将静态文件全部放在云存储，从此无需考虑存储容量及架构升级。此外，还可以负载海量文件存储，适用于图片、音视频、应用安装包等，配合 CDN 加速服务为互联网应用提供最佳体验。在数据归档与备份功能方面，可以提供更具成本效益的集中备份方案。

一切的服务和升级都是为了满足用户的需求。又拍云的用户类型主要分为存储用户、S3兼容用户、CDN用户。其中，广大普通存储用户直接通过云存储 AP SDK 等工具使用存储服务，S3兼容客户一般是海外客户，CDN 用户会把存储源作为源站，作为文件缓存等。

在统一接入层，主要提供了分区，分片，路由等功能。分区主要是根据副本，性能，带宽延迟等需求和文件搜索文件查找的一些特殊要求决定。分片主要是针对大文件，有提高并发数，减少延迟的作用。

路由当然是根据以上这些需求，动态的选择一个存储集群来存储和访问。在存储层通过 Unified Storage Api 来访问，根据存储数据的类型不同，分为 Metadata Storage，Block Storage，Event Storage，Metadata Storage 主要存储对象存储系统的元数据，类似 inode 信息，另外可以存储少量 data，优化減少首包延迟。元数据存储层又细分为 Mysql、Hbase 和 TiKV，可参考下图了解：

元数据存储系统采用以上的开源服务，又拍云在此之上开发了一系列的代理服务。比如解决了 Hbase Rest Server 的对外访问的安全性问题，同时可以统计相关请求，及时发现超时空洞等情况，及时触发合并压缩操作。

作为又拍云存储服务的重要部分，又拍云数据片存储系统根据 Amazon Dynamo 论文实现，采用了 Quorum- Based 复制机制，实现写 N 读 1，可以保证各个副本的一致性，节点间 Handoff 机制和副本间 Repair 机制保证了副本的数量和副本间的一致性，节点信息通过 Gossip 传播。

涉及到存储层 Event 采集系统的部分，黄励博介绍道，Event Storage 分为 Kafka、NSQ 和 Redis 三个板块。其中关于基于 Kafka 的存储异步任务又细分为多个部分，例如迁移、优化、垃圾回收、修复、过期、索引以及统计等。

又拍云 Event 存储基于内容优化，支持內容寻址冷热迁移，副本迁移等存储业务上保证消息只处理一次，极大提高了处理速率。而基于 NSQ 的存储处理服务中，图片处理、文档处理和音视频处理是云拍云存储服务的重要内容，这方面又拍云的优势在于实现支持优先级队列的 NSQ，方便定制功能，事件处理完成即可，不用保存到磁盘。