云存储技术解析对象存储服务器分布式存储架构.docx

云存放技术解析: 对象存放服务器,分布式存放架构

当下, AI正与云计算进行深度融合, 未来会变得愈加智能, 但在智能化背后是对海量数据存放刚性需求。据不完全统计, 单是一辆无人驾驶汽车每秒产生数据容量就在1G左右, 相当于每秒发送20万封纯文本电子邮件或上传100张高清数码照片。所以, 没有大容量和超稳定存放系统, 这一切都将无从谈起。无存放, 不智能。为了愈加清楚了解云存放技术实现过程, UCloud存放研发部将对云存放——对象存放（UFile）技术进行深度解析。
▌对象存放UFile概念
对象存放（UFile）是为互联网应用提供非结构化文件存放服务; 相对于传统硬盘存放, UFile含有存放无上限、 支持高并发访问、 成本更低等优势; 处理业务架构文件存放问题, 有效降低海量文件存放成本, 支持热点数据高并发访问, 提升终端用户访问体验。
▌单地域UFile存放架构六大集群

· ULB(UCloud Load Balancer) 实现外网对接及接入层负载均衡与容灾处理, 该模块经过定时向接入层模块端口发送心跳以检测接入层模块可用性, 发觉异常模块立刻进行剔除;
· 接入层提供文件访问服务, 该模块为无状态设计, 所以能够平行扩容及缩容;
· 索引层保留文件对象元数据信息, 包含对象名称、 对象大小、 创建时间、 存放位置等;
· 存放层是实际存放文件数据模块集群, 关键实现文件数据多份分布及高可靠存放;
· 数据处理层关键实现UFile图片及数据处理, 包含图片实时裁剪、 缩放、 旋转、 水印、 格式转换、 信息获取等操作, 用户还能够使用自己通用计算镜像对数据进行处理;
· 名字服务关键实现索引层及数据处理层模块容灾剔除, 以上3个集群模块会定时在名字服务注册本身服务, 当其中有部分模块因机器异常或者网络中止造成无法提供服务时, 名字服务会将该机器从名字中剔除, 而且通知接入层, 从而实现后台模块容灾剔除。
▌关键设计解析

UFile索引层设计
UFile索引层为一套分布式KV存放系统, 其关键目标是确保UFile对象元数据高性能、 高可靠、 高可用及可扩展存放, 其关键分成两层架构:
· 索引接入集群处理索引存放集群管理及元数据分布, 这一层模块为无状态设计, 经过名字服务实现异常状态容灾剔除;
· 索引存放集群实现对象元数据分布式存放, 每个对象元数据将存放3份, 确保数据可靠性及高可用性, 同时对象存放采取SSD（固态硬盘）作为存放介质, 也确保了元数据存放高并发低延时访问特征。另外, 该模块采取固定集群规模方法进行管理, 每个集群支撑存放量、 访问量固定, 存放可实现以集群为单位水平扩容, 保障业务不停增加情况下高性能稳定访问支持。

UFile存放层设计
存放层包含三种类型模块集群:
· 存放节点, 该模块根据固定大小集群（称为“Set”）进行组织和管理, 每个集群支撑存放量及访问量规格固定, 同时该模块可依据存放量需求横向进行无限扩展, 从而满足用户无存放量上限数据存放需求。每个对象数据在存放层存放三份数据, 经过对异常情况立刻处理和坏盘立刻修复, 确保数据极高可靠性;
· SetMaster, 该模块进行Set状态管理, 接入集群经过SetMaster决定上传对象数据存放集群, 并实施数据存放操作;
· OsdMaster, 该模块每个Set有一套, 实现Set内部存放路由管理, 并对各块磁盘状态进行监控, 立刻剔除异常磁盘。

UFile存放路由算法设计
UFile存放集群采取去中心化设计, 数据存放采取固定路由算法进行存放, 因为存放集群规模为固定, 所以路由表也为固定, 这就确保了存放系统简单性及稳定性。下面具体介绍UFile数据存放层路由算法设计。
一步, 在存放集群上线时, 每个集群OsdMaster将磁盘信息进行组织, 生成一个存放路由表, 该路由表每个项目对应3块分布在不一样机架及存放机器上磁盘, 对象数据将根据路由表指定位置进行存放。
第二步, 每个存放在UFile上对象数据将被切分成若干个4MB数据块, 称为分片。UFile为每个对象分配一个单集群内部对象ID, 对象ID与分片编号拼接取得分片ID, 经过字符串哈希算法取得哈希值, 并在路由表中找到该分片存放3块磁盘位置, 由UFile接入模块将该分片数据提交到3块磁盘上。
第三步, 当单块磁盘出现异常时, OsdMaster会发觉这一情况, 并将该磁盘标识为异常状态, 当接入层写入此数据时, 会只写入两份数据, 待磁盘修复后, 再从这两份数据中拷贝一份数据到已修复磁盘, 恢复数据多份高可靠存放。在出现一个哈希表项中有2块磁盘不可使用情况时, 为确保数据安全性, 该存放集群将不许可写入操作, 写入操作会被切换到其她集群提供服务, 从而确保UFile读写高可用性。
▌UFile功效优势
海量存放
存放空间无上限, 无需考虑存放空间扩容问题, 单文件最大支持5TB, 适适用于音视频、 图片分享等UGC类应用海量文件存放。
高并发
支持高并发访问, 突破传统磁盘I/O限制, 满足高访问量及高下载量业务需求, 适适用于高下载量、 高访问量应用文件存放。
访问加速
存放文件结合CDN分发加速, 中国外500+加速节点, 有效降低访问延迟, 提升下载速度, 提升全网终端用户访问体验。
安全可用
所存文件保留三份副本, 分布存放于不一样存放集群, 即使单份数据损坏也不影响存放文件可用性, 同时确保文件安全。
内容保护
可经过身份验证机制及防盗链设置控制终端用户访问权限, 避免因内容被盗用产生版权损失和恶意访问流量消耗。
图片处理
提供图片处理服务, 支持图片缩放、 剪裁、 添加水印等功效, 并提供多个尺寸设置, 满足移动端、 PC端等多终端访问需求。
更低成本
存放单价仅为云硬盘1/2, 下载由CDN分发, 降低存放及网络成本, 按实际使用量计费, 无存放及带宽资源闲置浪费。
开发支持
完备API接口及SDK开发包支持, 适合多个语言, 与原有业务无缝结合, 能够极大缩短开发周期, 帮助业务快速上线。
▌总结
在大量企业对数据存放需求强劲背景下, UCloud对象存放系统应运而生。本文经过介绍UFile产品、 底层文件存放系统实现细节、 功效优势, 分析了UFile怎样实现高可靠及高可用特征。从云存放技术出发, UCloud助力各领域企业更高效、 更智能地探索数据价值。