存储类型有块存储、对象存储和文件存储,Ceph因支持多种存储并利用节点计算能力优势显著,网站建设到本地
#网络推广 发布时间: 2025-04-02
<p style='margin-bottom:15px;color:#555555;font-size:15px;line-height:200%;text-indent:2em;'> <pre class="" ng-bind-html="message.MMActualContent" style="max-width: 100%;letter-spacing: 0.544px;background-color: rgb(255, 255, 255);box-sizing: border-box !important;overflow-wrap: break-word !important;"><section class="" data-tools="135编辑器" data-id="41056" data-color="#757576" style="max-width: 100%;box-sizing: border-box;letter-spacing: 0.544px;white-space: normal;font-family: 微软雅黑;font-size: 16px;border-width: 0px;border-style: none;border-color: initial;overflow-wrap: break-word !important;"><blockquote style="margin-top: 2px;margin-bottom: 2px;padding: 2px;border-width: 1px;border-style: dotted;border-color: rgb(117, 117, 118);color: rgba(0, 0, 0, 0.5);font-size: 14px;max-width: 100%;line-height: 25px;box-sizing: border-box !important;overflow-wrap: break-word !important;"><section class="" style="padding: 10px;max-width: 100%;box-sizing: border-box;overflow-wrap: break-word !important;"><span style="max-width: 100%;letter-spacing: normal;box-sizing: border-box !important;overflow-wrap: break-word !important;"><span style="max-width: 100%;color: rgb(136, 136, 136);box-sizing: border-box !important;overflow-wrap: break-word !important;">【摘要】</span></span><span style="max-width: 100%;box-sizing: border-box !important;overflow-wrap: break-word !important;"><span style="max-width: 100%;letter-spacing: normal;color: rgb(136, 136, 136);box-sizing: border-box !important;overflow-wrap: break-word !important;">本文打算阐述 Ceph、HDFS、Swift、GFS、Luster 等几种主流分布式存储技术的实现原理,并且总结它们各自的特点以及合适的使用场景,目的是帮助架构师在规划存储架构时能够选择合适的存储技术。</span><span style="max-width: 100%;letter-spacing: normal;color: rgb(136, 136, 136);box-sizing: border-box !important;overflow-wrap: break-word !important;"></span></span><br style="max-width: 100%;box-sizing: border-box !important;overflow-wrap: break-word !important;" /><span style="max-width: 100%;letter-spacing: normal;box-sizing: border-box !important;overflow-wrap: break-word !important;"><span style="max-width: 100%;color: rgb(136, 136, 136);box-sizing: border-box !important;overflow-wrap: break-word !important;">【作者】范永清,</span><span style="max-width: 100%;color: rgb(136, 136, 136);box-sizing: border-box !important;overflow-wrap: break-word !important;">高级工程师在厦门银行信息技术部工作。目前,他主要承担着厦门银行技术架构设计的任务。</span></span>
</section></blockquote></section> <br />
</pre></p>
存储依据其类型划分,有块存储、对象存储和文件存储。在主流的分布式存储技术里,HDFS、GPFS、GFS属于文件存储这一类型,Swift属于对象存储,而 Ceph 能够支持块存储、对象存储以及文件存储,所以它被称作统一存储。
一、 Ceph
Ceph最早是在 Sage 读博士期间开展工作并取得成果,该成果于 2004 年发表,之后被贡献给开源社区。经过多年的发展历程,它已经获得了众多云计算和存储厂商的支持,如今已成为应用最为广泛的开源分布式存储平台。
Ceph按场景划分可分为对象存储、块设备存储和文件存储。Ceph与其他分布式存储技术相比,具有以下优势:它不仅是存储,还能充分利用存储节点上的计算能力。在存储每一个数据时,会通过计算来确定该数据的存储位置,并且会尽量使数据分布均衡。它采用了 CRUSH、HASH 等算法,所以不存在传统的单点故障。并且,随着规模的扩大,其性能也不会受到影响。
1.Ceph的主要架构
Ceph 的最底层是 RADOS,它属于分布式对象存储系统。RADOS 具备可靠、智能以及分布式等特性,能够实现高可靠、高可拓展、高性能以及高自动化等功能,并且最终用于存储用户数据。RADOS 系统主要由两部分构成,其中一部分是 OSD,另一部分是……
RADOS 的上面有一个库,这个库能让应用程序通过访问它来与 RADOS 系统进行交互,并且它支持多种编程语言,例如 C、C++等。
基于层开发的有三种接口,分别是、和MDS。
这是一套网关,它基于当前流行的协议。这套网关支持对象存储,并且兼容 S3 和 Swift。
提供分布式的块存储设备接口,支持块存储。
MDS提供兼容POSIX的文件系统,支持文件存储。
2.Ceph的功能模块
各组件的功能分别如下:
客户端:负责存储协议的接入,节点负载均衡
MON 监控服务的职责包括:监控整个集群;维护集群的健康状态;维护并展示集群状态的各种图表,像 OSD Map、Map、PG Map 和 CRUSH Map 。
MDS 元数据服务的职责是保存文件系统的元数据,并且对目录结构进行管理。
OSD 存储服务的主要功能包括存储数据、复制数据、平衡数据、恢复数据,并且会与其他 OSD 进行心跳检查等。通常情况下,一块硬盘会对应一个 OSD。
3.Ceph的资源划分
Ceph 运用 crush 算法,在大规模集群的情形下,能够实现数据快速且准确地存放。并且,在硬件出现故障或者需要扩展硬件设备的时候,能够做到数据迁移的量尽可能小。其原理具体如下:
用户将数据存储到 Ceph 集群时,数据会先被分割成多个部分,每个部分都有一个 id,其大小可以设置,默认是 4MB,这些部分是 Ceph 存储的最小存储单元。
因为数量众多,为能有效减少到 OSD 的索引表且降低元数据的复杂度,让写入和读取更灵活,所以引入了 pg(Group)。PG 用于管理,每个都通过 Hash 方式,被映射到某个 pg 中,且一个 pg 可以包含多个。
Pg 经过 CRUSH 计算后,会被映射到 osd 中。如果是三副本的情况,那么每个 pg 都会映射到三个 osd ,这样就保证了数据的冗余。
4.Ceph的数据写入
Ceph数据的写入流程
1) 数据通过负载均衡获得节点动态IP地址;
2) 通过块、文件、对象协议将文件传输到节点上;
3) 数据被分割成4M对象并取得对象ID;
4) 对象ID通过HASH算法被分配到不同的PG;
5) 不同的PG通过CRUSH算法被分配到不同的OSD
5.Ceph的特点
Ceph 能够提供对象存储服务、块存储服务以及文件存储服务。因此,它被称作统一存储。
采用 CRUSH 算法,能使数据分布保持均衡,并且并行度较高,同时也不需要去维护那种固定的元数据结构。
数据具有很强的一致性,只有当所有副本的写入都完成了,才会返回确认。这种特性适合读多写少的场景。
去中心化,MDS之间地位相同,无固定的中心节点
Ceph存在一些缺点:
去中心化的分布式解决方案需要提前进行规划设计,并且对技术团队的要求能力较高。
Ceph 在扩容时,因为它具有数据分布均衡的这种特性,所以会使得整个存储系统的性能出现下降的情况。
二、 GFS
GFS 是一种分布式文件存储系统,它是专门为存储海量搜索数据而设计的。它于 2003 年被提出,是闭源的分布式文件系统。它适用于大量的顺序读取和顺序追加操作,比如大文件的读写。它注重大文件的持续稳定带宽,而不是单次读写的延迟。
1.GFS的主要架构
# 存储类型有块存储、对象存储和文件存储
# 江苏网站推广报价表
# 上海优化网站关键词
# 推广思路网站有哪些好处
# 慈溪营销型网站建设报价
# DL营销推广码
# 丰南网站优化
# 南昌县综合网站建设资费
# 平度互联网网站优化案例
# 青岛中能集团网站建设
# 郑州营销seo
# 地瓜营销推广方案怎么写
# Ceph因支持多种存储并利用节点计算能力优势显著
# 溧阳租房网站建设工作
# 仙桃seo优化技巧
# 岳阳宣传推广招聘网站
# 全网seo优化推广
# 青海省seo厂家
# 海口新网站建设贵不贵
# 杨浦营销推广难度如何
# 刷推广网站点击
# 音乐视频热门关键词排名
上一篇 : 汽车变电脑,存储成刚需,谁是汽车存储幕后英雄?,日立网站建设公司排名
下一篇 : 电脑声音图标不见怎么办?实用解决方法在此,营销推广情话文案怎么写
-
SEO外包最佳选择国内专业的白帽SEO机构,熟知搜索算法,各行业企业站优化策略!
SEO公司
-
可定制SEO优化套餐基于整站优化与品牌搜索展现,定制个性化营销推广方案!
SEO套餐
-
SEO入门教程多年积累SEO实战案例,从新手到专家,从入门到精通,海量的SEO学习资料!
SEO教程
-
SEO项目资源高质量SEO项目资源,稀缺性外链,优质文案代写,老域名提权,云主机相关配置折扣!
SEO资源
-
SEO快速建站快速搭建符合搜索引擎友好的企业网站,协助备案,域名选择,服务器配置等相关服务!
SEO建站
-
快速搜索引擎优化建议没有任何SEO机构,可以承诺搜索引擎排名的具体位置,如果有,那么请您多注意!专业的SEO机构,一般情况下只能确保目标关键词进入到首页或者前几页,如果您有相关问题,欢迎咨询!