1、 技术方案提议书 目 录 第1章 需求分析 3 第2章 总体技术处理方案 5 2.1 方案拓扑示意图及简明说明 5 2.2 方案优势简明说明 6 2.3 VSP G1000高性能、高可靠性、高扩展能力 7 2.3.1 综合说明 7 2.3.2 高可靠性 9 2.3.3 高性能 11 2.3.4 高扩展性 12 2.4 双活存放集群技术优势 13 2.4.1 VSP G1000GAD双活存放集群 13 2.4.2 GAD双活存放集群基础-VSM 14 2.4.3 GAD和其它厂商双活集群技术对比 15 2.5 现相关
2、键SAN存放和新购存放无缝集成 17 2.6 关键线路连接示意图 17 2.7 存放虚拟化整合计划 18 2.8 远程容灾计划 19 2.8.1 选择HUR异步复制技术 19 2.8.2 HUR异步复制软件工作原理 20 2.8.3 HUR异步复制软件和友商技术对比说明 22 第3章 数据迁移处理方案 23 3.1 数据迁移概述 23 3.1.1 迁移目标 23 3.1.2 数据迁移相关原因 23 3.2 数据迁移方法论 24 3.2.1 迁移评定设计阶段 24 3.2.2 迁移实施阶段 26 3.3 数据迁移技术选择 27 3.3.1 可选数据迁移技术 27
3、3.3.2 推荐数据迁移方案 29 第1章 需求分析 依据现实状况分析,此次项目标关键建设关键点有以下4点: 1) 高性能,高扩展性,且可确保数据和应用安全存放设备 鉴于XXXX存放使用情况和未来业务发展,需要高性能,高扩展性(如存放产品容量和端口等),高可靠性企业级高端存放设备作为南方中心整体存放方案支撑。 2) 需要单一存放设备故障不影响业务生产,即双活存放集群技术 XXXX对存放要求不仅仅是能确保单套存放设备可靠性,而且要确保在极端情况下,单一存放设备故障时,不会影响关键业务生产,另外,即使在单套存放设备故障时,另一节点双活存放性能也需能够高效支撑业务,所以
4、双活存放需采取相同配置,以确保在单套存放出现灾难时,另一套存放能够以一样性能支撑南方中心业务。 双活存放集群在写数据时是需要两套存放均确定写入成功才会实施下一写操作,所以必需考虑双活存放集群技术对业务性能影响。伴随两套存放之间距离增大,数据写入延时越长,所以,提议双活存放集群应在同一个数据中心中以确保业务性能。 3) 必需满足长久计划,以实现双活基础上远程容灾保护 即使已经实现了双活存放集群,但因为两个存放在一个机房楼里,仍然无法避免整个数据中心灾难所带来影响。所以,还必需在双活基础上实现远程数据容灾保护功效,以确保在灾难发生时仍有可用数据快速恢复业务生产。 4) 数据迁移
5、因为南方中心关键业务系统是从北京中心拆分出来,需要将北京中心部分现有数据迁移到南方中心。所以,本项目必需提供一套可行、完善、风险系数最低数据迁移方案,为南方中心业务系统布署和上线运行打好基础。 依据分析,本项目需要实施数据迁移IT环境中含有以下特点: l 操作系统多样性:整体环境中主机包含AIX、Windows、Linux、ESX等多种操作系统,服务器包含多个品牌; l 数据格式多样性:数据存放关键以Oracle数据库为主,有RAC和主备等多个形式集群,另外还有主机文件系统,NAS文件系统等; l 数据量大:数十TB规模数据需要迁移到南方中心新购存放; l 环境限制:距离远、网络
6、带宽有限; 这些特点全部表明了数据迁移复杂性,也对数据迁移方法提出了挑战。所以数据迁移方案选择和设计关键考虑以下关键点: l 迁移方案应关键考虑数据初始化,即怎样成功、快速将数据从北京中心迁移到南方中心; l 迁移方案关键考虑和应用、操作系统、数据库无关性,尽可能经过更底层技术,如备份恢复、数据库复制、存放复制等,这么可有效降低数据迁移复杂性; 总而言之,数据迁移应考虑采取一个有效方法来面向不一样数据库、操作系统、服务器多种应用迁移,且迁移过程尽可能缩短数据初始化时间,完成南方中心快速布署和上线运行。 第2章 总体技术处理方案 2.1 方案拓扑示意图及简明说明 在明确项目
7、建设目标,经过调研和分析,提议方案设计以下图所表示: 上图中紫色字体部分是此次项目投标提供SAN网络及存放设备。 方案说明: l SAN网络层 在SAN网络层面,方案采取两套Brocade 6520交换机作为SAN交换网络,形成双冗余连接,避免因单台交换机故障造成存放业务中止。 因为南方中心和北京中心之间远程连接为IP网络,所以提议用户考虑增加FC/IP路由设备,用以实现南方中心和北京中心之间远程FC SAN路由连接,为基于存放远程容灾复制提供链路支持。(注:该设备未包含在本方案存放设备供货清单中) l 存放层 方案采取两套HDS最高端存放设备VSP G1000为
8、南方中心业务系统提供高性能、高可靠支撑服务,且采取安全等级最高“双活存放集群”来实现两套VSP G1000设备级冗余故障切换,单套VSP G1000停机不会影响业务运行,无须任何人为干预,业务系统能够连续不停机对外服务。 另外,方案中还采取一套HDS中端存放设备HUS130,既能够为网管、监控等业务系统提供支撑服务,也可看成VSP G1000双活存放集群仲裁节点使用。 l 主机层 考虑到系统可靠性,服务器应安装两块独立HBA卡,分别连接到两台Brocade 6520交换机,形成冗余链路。HDS VSP G1000自带HDLM动态多路径管理软件,能够安装在服务器操作系统中,用于管理路径
9、负载均衡和故障路径自动切换。 2.2 方案优势简明说明 1) 高可靠性、高性能、高扩展性: l VSP G1000高端企业级存放,采取多控制器架构冗余设计,含有极高可靠性。 l 和此同时,VSP G1000性能也很出色,其上一代产品VSP公开公布SPC-1测试结果为60万IOPS,而VSP G1000预估IOPS能够达成200万以上。 l 扩展性方面:VSP G1000最大支持2304块磁盘,192个前端口,2TB缓存,能够充足满足未来业务发展需求。 2) 双活存放集群方案 l 由两套VSP G1000存放共同提供业务支撑服务,在任意一套存放出现严重故障(如断电等)无法
10、工作时,业务系统能够继续运行,无须任何人工干预操作。在一套存放出现严重灾难时,单套存放仍可确保业务高效运行,实现RTO=0,RPO≈0高可靠业务连续性方案和数据安全方案。 l 两套存放配置完全相同,在一套存放故障时,剩下单套存放仍能够提供相同业务处理速度,不会降低服务水平。 3) 可实现双活基础上远程容灾保护 l VSP G1000能够和北京中心实现远程容灾复制,从而实现北京中心和南方中心之间数据互备容灾。即使本项目选择是利用数据库复制软件实现两中心间容灾,但依据以往项目经验,我们仍然提议使用存放级容灾复制功效,对Oracle数据库Archive Log再做一份副本数据,作为数据库复
11、制软件补充手段和备用手段,为两中心间容灾方案提供更全方面技术支撑。 4) 可行、完善数据迁移方案 数据迁移是一个极其复杂系统问题。怎样选择一个可行、完善数据迁移方案,应关键从以下多个方面考虑: l 容灾复制技术优先 ü 本项目标建设目标就是为了实现南方中心和北京中心之间远程容灾,所以提议首选容灾复制技术进行数据迁移。只有这么,数据迁移到南方中心并开启业务生产以后,才能够继续保持和北京中心之间数据容灾复制关系。 ü 其它数据(文件系统、NAS)等,能够考虑采取NFS、FTP等方法迁移到南方中心。在含有条件情况下(可实现两中心间FC/IP路由通讯),也能够考虑使用存放系统复制功效完成
12、两中心间数据迁移。 l 电子传输比介质传送更可靠 ü 不管哪种复制技术,全部含有很完善数据传输机制和校验机制,而且迁移到南方中心数据能够和北京中心直接建立容灾复制关系。假如带宽条件有限,预估传输时间较长,提议考虑临时增容带宽,以提升初始化复制处理速度。 ü 介质传输,不管是传送磁盘、磁带、甚至存放设备,全部存在极高数据损坏风险,而且时效性很差,需要再次经过数据复制进行数据更新,过程很复杂。 2.3 VSP G1000高性能、高可靠性、高扩展能力 2.3.1 综合说明 权威机构Gartner于11月对业界主流高端存放进行了全方位综合评测,评测项目众多,评分标准细致且科学。最终
13、排名结果显示:VSP G1000排名第一(并列第一HP XP7是VSP G1000OEM型号)。 Gartner官方网站链接以下:http://.com/technology/reprints.do?id=1-1RO1Z8Z&ct=140310&st=sb 以下图片均为Gartner官方网站截图: 上图是3月综合排名情况(VSP为VSP G1000上一代产品),VSP(P9000为VSPOEM产品)综合排名第一。评测内容包含:管理性、可靠性、性能、快照复制、扩展性、环境保护特征、多租户和安全、存放效率。 上图是11月综合排名情况,VSP G1000(XP7为VSP G10
14、00OEM产品)再次综合排名第一。 11月OLTP经典数据库应用评测,VSP G1000排名第一。 11月OLAP经典数据库应用评测,VSP G1000排名第一。 2.3.2 高可靠性 整体存放系统平台分为三个层次,主机层、网络层和存放层。 主机层: 在数据中心生产区和交换区业务系统中,主机关键进行信息处理和数据库运行,在主机端安装HBA卡用于建立数据访问通道。因为主业务系统是经典OLTP应用,所以应用对数据访问性能要求很高,为了满足这一要求,主机端需要多块HBA卡,提供多条数据通道,经过安装HDLM数据通道管理软件,能够提供多通道之间流量负载均衡,确保高性能数据
15、访问。其次,对于生产系统这么关键系统,链路安全性需要得到确保,HDLM一样能够提供数据通道之间失败切换功效。 网络层: SAN网络中网络层是很关键一个部分,它负责将主机和存放系统连接在一起,而且提供一个高灵活性、高扩展性环境,以适应业务系统不停发展带来主机和存放系统扩展。 在SAN网络设计中,我们采取冗余网络设计,根据本项目标要求,我们全新配置2台Brocade6520交换机组成冗余FABRIC,为主机和存放系统提供冗余、可连续发展连接路径。 存放层: 存放层或说整个SAN网络存放系统关键设备是磁盘阵列,在数据中心存放系统中,我们提议配置两台高端存放设备做同时实现“0”数据丢失保护;
16、提议采取高性能、高可扩展性、功效强大磁盘阵列系统――VSP G1000通用存放平台。VSP G1000存放平台出现,完全改变了存放业界工业标准,致使各个竞争友商产品又一次处于落后状态。 VSP G1000磁盘存放系统是业界唯一能够确保100%数据可用性系统,整个系统采取全冗余交换式结构设计,没有任何单点故障,双独立供电接口和内部N+1电源模块,冗余散热风扇,RAID技术保护方法,全局动态热备份盘包,多独立Cache板设计,支持镜像写缓存技术,全部缓存全部是NVS保护,确保系统高可靠性和实现7×24×365天不停机运行要求。 VSP G1000存放系统也是最易维修系统。系统全部部件均支持热插
17、拔和不停机进行更换、扩容和不停机地微码升级。当微码出现问题时能够自动不停机地返回旧版本并可不停机地加入微码Patch。这种维护特征是经过广大用户证实有效技术,也是用户选择VSP G1000原因之一。 2.3.3 高性能 VSP G1000虚拟存放系统是业界性能更高多控制器企业级存放系统。其内部结构采取高性能、无瓶颈全交换结构,如上图。前端控制器(CHA)、后端控制器(DKA)、数据缓存cache控制器多部分组成经过系统内部交换系统(关键为HDS专利技术交换芯片)连接组成无阻塞高速数据交换网络,提供I/O数据交换多路由和高速数据交换;前端(CHA)、后端(DKA)、控制缓存组成了点到点
18、网络结构,用于传输I/O和cache控制信息,上述结构是现在业界最优异存放结构设计;同时VSP G1000虚拟存放系统采取全局数据检索技术和处理机制,确保了数据CACHE中数据高速检索和CACHE命中效率,取得全世界各权威咨询和评定机构高度评价,并被公认为是现在业界最高性能和最好扩展性存放系统。 下图为权威评测机构SPC(Storage Performance Council)官方网站截图,分别显示了VSP G1000上一代产品VSP,和Huawei企业18800SPC-1测试结果。即使VSP最高60万IOPS,略低于Huawei 18800最高100万IOPS。但在平均响应时间方面,V
19、SP(0.25-0.7毫秒)却较Huawei 18800(1.5-5毫秒)表现要出色5倍以上。换言之,在相同I/O压力情况下,Huawei 18800读写处理时长会是VSP5倍,也就意味着业务操作等候时间是VSP5倍。 VSP:60万IOPS,平均响应时间0.25-0.7毫秒。 SPC官方网站链接 Huawei 18800:100万IOPS,平均响应时间1.5-5毫秒。 SPC官方网站链接:数据起源: 2.3.4 高扩展性 VSP G1000磁盘存放系统采取了全光纤交换体系结构设计,确保了系统极大扩充能力,系统内部最大能够扩充到2304块磁盘,内部最大扩充裸容
20、量能够达成8PB,经过虚拟化云扩展能够达成256PB。系统数据CACHE最大能够扩充到GB。VSP G1000系统前端通道最大为192个8Gb光纤通道接口。 和此同时,VSP G1000在设备扩展灵活性方面作出了巨大努力,许可扩展机柜和控制机柜分开摆放,以处理机房空间担心问题,其它最大连接距离可达100米。 另外,VSP G1000还能够经过内置存放虚拟化功效,将其它符合FC SAN标准磁盘阵列虚拟化整合进来,形成一个统一存放资源池,其最大规模能够扩展到256PB。 2.4 双活存放集群技术优势 2.4.1 VSP G1000GAD双活存放集群 VSP G1000含有GAD双
21、活存放集群功效,存放真正成为了一个虚拟设备,不再依靠于具体物理设备,类似于服务器虚拟化一样,成为了一个存放资源池;在存放物理设备更新换代过程中,虚拟存放设备永远在线,业务永远在线,不会因为一台设备故障造成业务中止。 GAD双活存放集群功效,能够未来自两台VSP G1000磁盘逻辑卷整合为一个虚拟卷交给服务器,服务器写操作会被自动镜像写入到两台VSP G1000中,形成数据镜像保护,同时服务器读操作会被自动分发到两台VSP G1000中一台实施,从而提升数据读取速度。经过这种“双写双读”数据处理方法,VSP G1000能够轻松依靠内置功效实现 “双活存放集群”,以下图所表示:
22、 两台VSP G1000上逻辑卷能够被整合成为统一虚拟卷标示符,从主机看来如同来自不一样路径同一个逻辑卷,底层数据双写和双读操作则由GAD软件控制完成。这种技术使得主机存放资源能够在两节点VSPG1000上同时运行,在单台VSP G1000出现故障时,主机逻辑卷不需要人工干预进行切换,另外一台VSP G1000上逻辑卷能够连续提供服务,极大降低了业务运行风险,避免了出现故障时需要大量时间人工恢复业务风险。 本方案中推荐两套VSP G1000采取完全相同配置,目标是在一套存放出现灾难时,另一套存放能够以一样性能高效支撑整个业务中心运行,使得整体存放性能一直保持在一个相同水平。 2.4.2
23、 GAD双活存放集群基础-VSM VSP G1000GAD双活存放集群功效,其基础功效是VSP G1000创新存放虚拟机Virtual Storage Machine(VSM)。 VSP G1000发明性地将虚机概念引入存放,在一台物理存放内许可用户根据业务和应用要求定义多个Virtual Storage Machine(VSM), VSM和一台存放类似,含有自己存放ID,设备序列号和端口WWN,经过VSM定义,能够有效提升存放资源利用率,并实现最大架构、业务灵活性。 VSP G1000经过VSM实现了GAD功效,GAD(Global-Active Device )是利用VS
24、P虚拟控制器功效来实现VSP G1000水平扩展和设备双活(业务全部在线)。VSP G1000未来能够实现8台VSP G1000横向扩展能力。 如上图所表示,主机识别LUN是经过控制器ID来识别,VDKC是VSP G1000上虚拟出来一个虚拟控制器,它能够将多台存放底层物理控制器虚拟成同一个控制器,这么主机经过虚拟控制器访问后端磁盘资源时一直和一个控制器ID交互,不管后台存放怎样改变,主机全部不会有感知,从而实现了业务永远在线,双活等特征。 如上图所表示,GAD能实现双活数据中心,应用数据在两端同时写入2台存放,另外还需要一个quorum设备做仲裁判定,仲裁盘能够是VSP
25、G1000内部磁盘,也能够是经过VSP G1000虚拟化外部磁盘。布署后应用层面由Cluster进行高可靠连续性保护,数据层面有GAD进行高可靠连续性保护。 双活数据中心在数据读取时能够分开读取,即当地主机读取当地存放数据,降低延时,提升应用响应速度。 2.4.3 GAD和其它厂商双活集群技术对比 GAD是现在业界唯一,经过存放内置功效实现双活存放集群处理方案。其它厂商则经过增加虚拟化及双活网关方法实现类似功效。这两种技术方案关键区分以下(以VSP G1000+GAD 对比 EMC VPLEX+VMAX为例): 指标和特征 VSP G1000+GAD EMC VPLE
26、X + VMAX Huawei VIS6000+18000 IBM SVC+DS8800 前端端口 最大192个FC接口,冗余设备不影响存放 最大32个FC接口,任何一个端口坏掉全部会引发VPLEX控制器重启 最大双活卷 64000个 16000个 体系架构 分布式交换架构高端存放,GAD为内置软件,双活方案不增加任何软硬件层 VMAX 40K是8个中端存放堆叠, VPLEX是多增加一层PC架构虚拟化层 I/O写操作步骤 和存放同时复制技术步骤相同 增加VPLEX缓存写入步骤,I/O处理速度大幅下降 I/O读操作步骤 和存放同时复制技术步骤相同 增加VPLEX
27、缓存读取步骤,I/O处理速度大幅下降 管理控制器 存放内部集成 单独增加一对PC管理服务器及交换机组成管理网络 双存放间网络连接 SAN网络互通即可 SAN互通以外,额外多出一对管理IP网络,网络管理复杂 统一管理 存放软件实现 VPLEX, VMAX分开管理,VMAX设置改变需要VPLEX重启 三中心容灾 不需引入其它产品或架构 需要加入Recover point,改变现有架构 下图为EMC VPLEX布署架构示意图: 每个 VPLEX 群集全部有一对专用当地 IP 子网,它们将控制器连接到管理服务器。其中一个子网上链路丢失将造成一些组员不能和此子网上其它组员
28、通信。以下面图: 即使有网络冗余配置,但从上图能够看出VPLEX集群引入了一对PC服务器。集群间网络连接复杂,可能引发整个系统故障。 包含两个或更多引擎VPLEX群集还需要多搭配一对光纤通道交换机,提供光纤通道连接来支持群集内控制器间通信。由此能够看出VPLEX集群连接很复杂,而且低级故障点很多。 而利用VSP G1000优异GAD技术,在实现双活存放同时,能够最大化简化系统架构,系统没有因为要实现双活存放增加任何额外层和故障点。 2.5 现相关键SAN存放和新购存放无缝集成 VSP G1000和XXXX现有USP-V、VSP技术完全兼容,能够实现VSP G1000和U
29、SP-V、VSP之间远程容灾复制,从而实现南方中心和北京中心之间数据容灾保护。 即使本项目选定了数据库复制软件进行远程容灾,但我们仍然为南方中心VSP G1000配置了少许容灾复制软件许可,经过VSP G1000和USP-V、VSP之间容灾复制技术,对数据库Archive Log进行异地容灾复制,作为数据库复制软件后备手段,提供更全方面容灾保护。 除了数据库以外,南方中心还会有部分其它数据需要复制,如文件系统等,这些数据无法经过数据库复制软件传输,所以也能够利用存放之间复制功效进行远程容灾保护。 在未来下一步计划中,我们提议将南方中心VSP G1000和北京中心USP-V、VSP之间
30、复制功效全部打开,经过底层存放对两中心全部数据进行容灾复制保护,以确保数据库和文件系统一致性,深入提升容灾数据可用性。 2.6 关键线路连接示意图 下图为GAD双活存放集群关键线路连接示意图。其中,两台VSP G1000之间GAD Pair采取光纤直连,两台VSP G1000到HUS130仲裁存放之间也一样采取光纤直连。为了确保系统冗余度,各直连线路均为2条以上。 假如光纤交换机端口充足,也能够考虑使用交换机来连接GAD Pair和仲裁存放。为了确保系统冗余度,全部链路均应为2条以上,并分别经过不一样交换机连接。 另外,VSP G1000、HUS130、HNAS4060各自对
31、主机提供服务FC接口和10Gb IP接口,均需根据传统模式连接到FC交换机及10Gb以太网交换机。一样,为了确保系统冗余度,全部链路均应为2路以上,并经过不一样交换机连接。 连接架构以下图所表示: 2.7 存放虚拟化整合计划 VSP G1000存放特有存放虚拟化功效能够将基于FCIBM、EMC、HDS、HP等主流存放企业光纤存放整合为一个整体,为数据中心向“云”转化提供统一、可灵活调配存放资源池。 VSP G1000磁盘存放系统经过存放虚拟化技术,能够实现将不一样厂商存放系统集合到同一个存放池中。VSP G1000存放平台内部资源为内部存放资源,和之相连其它存放设备上资
32、源是外部资源。经过该功效,能够使用统一管理平台实现对内部和外部存放资源统一管理,统一分配,能够根据应用系统性能要求分配对应存放资源。从主机角度看,内部存放资源和外部存放资源功效完全相同,而内部和外部存放资源之间数据交换能够经过存放系统本身数据复制和数据迁移软件来完成。VSP G1000 外部连接存放系统进行虚拟化独特功效,可为异构存放创建单一异构存放池。这能够简化存放管理、提升利用率和效率,改善服务水平、简化数据迁移,并可帮助企业满足监管达标要求。 异构存放虚拟化架构示意图 VSP G1000经过异构存放虚拟化技术,能够使用统一管理平台实现对VSP G1000内部和外部存放资源统一
33、管理,统一分配,能够根据应用系统性能要求分配对应存放资源。从主机角度看,VSP G1000内部存放资源和外部存放资源功效完全相同,而内部和外部存放资源之间数据交换能够经过存放系统VSP G1000本身数据复制和数据迁移软件来完成。 一样,这些被虚拟化整合进来外部存放均能够使用VSP G1000独有功效,比如快照、克隆、GAD双活存放集群,3DC闭环容灾复制等等。也就是说,未来假如用户其它项目采购了其它品牌存放设备,一样能够利用VSP G1000优异技术,实现更高等级数据保护和更高效数据管理功效。 经过VSP G1000存放分区技术能够对VSP G1000进行逻辑划分,能够多个逻辑虚
34、拟存放系统(VSM)。每个虚拟存放系统全部拥有独立主机通道端口、CACHE、磁盘等资源。在VSP G1000和和之相连外部存放设备中,经过逻辑分区功效能够使得应用系统需求和分配给该应用资源得到合理调度和匹配,从而确保应用服务质量。 2.8 远程容灾计划 2.8.1 选择HUR异步复制技术 远程容灾技术中关键有两种选择。 ü 同时数据复制技术 数据实时同时没有数据丢失,不过应用系统能容忍同时距离有限制(容灾存放越远性能越差),不能抵御区域性灾难,如大面积自然灾难,区域性停电等,和此次项目中容灾计划不符,所以不采取。 ü 异步数据复制技术 数据实时异步复制,异步复制距离
35、没有限制,能抵御区域性灾难,对生产存放性能影响小,但也正是因为采取异步数据复制,灾备中心数据有数据丢失(链路足够宽时,RPO可无限靠近于0,但不能绝对等于零)。 因为条件有限,本项目标远程容灾必需采取异步数据复制技术。VSP G1000异步数据复制功效采取是业界最优异,基于日志卷远程容灾复制技术(HUR)。 2.8.2 HUR异步复制软件工作原理 HUR复制软件采取基于磁盘日志文件技术,能够确保远程数据一致性和完整性,同时,极大降低了存放系统CACHE和通信链路带宽需求。 HUR原理以下图所表示: 图:HUR远程数据复制软件 l 磁盘日志卷 HUR远程数据复制软
36、件利用“磁盘日志卷”进行待传数据实时转发,节省生产系统存放Cache资源 当服务器端发出一个写操作时,写I/O根据写发生次序保留在主存放系统日志卷(JNL)中,远端存放系统经过发出读日志命令从主存放系统日志卷(JNL)中读取统计并将其写到当地日志卷(JNL)中,然后将该统计更新到当地数据卷中。 上述过程是实时进行,相比起其它厂家以30秒钟为周期异步复制技术,含有更理想“RPO”指标。同时,不管线路带宽怎样改变,HUR远程数据复制软件能够自动调整传输策略,充足使用线路带宽资源。 HUR远程数据复制软件也节省了通信链路带宽需求,在传统数据远程复制环境下,通信链路带宽需求不够,则数据会累积在存
37、放系统CACHE中,当CACHE资源不够时,远程数据复制过程中止。采取基于磁盘日志方法 HUR远程数据复制软件,能够利用磁盘日志文件缓冲对带宽瞬时高需求,从而能够避免因为瞬间高带宽需求造成远程数据复制挂起。 图:HUR对Cache和带宽要求降低 l 吸收式复制技术 HUR远程数据复制软件利用“吸收式复制技术”进行数据复制,提升生产系统存放工作性能。 HUR引入了pull(拉)机制实现数据复制,使用这种技术,主存放系统不需要特定资源将数据推(Push)到远程存放系统中,而是远程存放系统到当地存放系统来读日志卷。这么就解除了主存放系统用于数据远程复制资源消耗,使得主存放系统资源10
38、0%服务于生产系统,从而提升了存放系统性能。 l 数据一致性确保 经过 “次序号”、“一致性组”技术,HUR远程数据复制软件确保异步模式数据一致性。 HUR远程数据复制软件也有效处理了在数据复制过程中重新同时过程中数据不一致性问题。在传统数据复制方法下,当数据链路原因造成数据不能够复制,数据远程复制自动挂起,同时对生产端存放系统数据更新保留在存放系统Bitmap表中,当链路恢复后,存放系统依据Bitmap表中统计信息将更新过磁道复制到备份端存放系统,而在这个过程中备份端存放系统数据一致性是不能确保,这就是数据复制重新同时问题。因为HUR远程数据复制软件采取基于磁盘日志工作方法,当数据
39、链路断开后,对数据更新仍然按次序保留在磁盘日志中,这么,当链路恢复后,HUR远程数据复制软件仍然到生产端存放系统日志文件中读取数据更新统计,这么就处理了数据重新同时问题。 l 处理通信线路故障修复后数据“再同时”问题 HUR远程数据复制软件也有效处理了在数据复制过程中重新同时过程中数据不一致性问题。在传统数据复制方法下,当数据链路原因造成数据不能够复制,数据远程复制自动挂起,同时对生产端存放系统数据更新保留在存放系统Bitmap表中,当链路恢复后,存放系统依据Bitmap表中统计信息将更新过磁道复制到备份端存放系统,而在这个过程中备份端存放系统数据一致性是不能确保,这就是数据复制重新同
40、时问题。通常异步复制处理方案,为了处理“再同时”过程中数据不一致,会要求在灾备系统留出额外一份“Golden Copy”(完整数据快照)空间,在“再同时”之前首优异行一个快照,以确保数据一致性。这种方法,即浪费存放资源,又增加了额外系统管理难度。 因为HUR软件采取基于磁盘日志工作方法,当数据链路断开后,对数据更新仍然按次序保留在磁盘日志中,这么,当链路恢复后,HUR远程数据复制软件仍然到生产端存放系统日志文件中读取数据更新统计,这么就处理了数据重新同时问题,无需额外“Golden Copy”。 2.8.3 HUR异步复制软件和友商技术对比说明 l 基于存放系统实现数据远程复制技术
41、比较 功效/产品 其它友商异步复制技术 HUR远程数据复制软件 生产系统CACHE占用率 高 低 链路故障管理 破坏式bitmap,重新同时 按次序写入,日志文件 RPO控制 30秒同时一次 实时同时 对主存放系统性能影响 高(由生产系统实施复制逻辑) 低(由灾备系统实施复制逻辑) 所支持平台 本厂商存放 HDS和其它厂商异构存放 第3章 数据迁移处理方案 3.1 数据迁移概述 3.1.1 迁移目标 数据迁移是企业IT建设常常面正确工作。在开发环境向运行环境转换、低版本数据库向高版本数据库转换、两个不一样数据库之间进行转换以至系统
42、硬件升级时,数据均可能需要被转移并使之迁移后正常运行。 就本项目而言,数据迁移工作关键是指将北京中心现相关键业务系统部分数据一次性搬迁到南方中心,以后北京中心和南方中心作为应用双活中心同时工作,各自负责一部分业务交易处理。在此基础上,还需要实现两个中心之间数据交叉复制,实现数据远程容灾保护。 3.1.2 数据迁移相关原因 在进行数据迁移项目计划时,部分原因是必需考虑。 l 数据保护 数据保护是最关键,在数据迁移中数据安全必需得到完全保护。任何一个更换过个人计算机中硬盘人,全部对因为在更换过程中对一些细节忽略造成数据丢失有预期和经验。当在企业级数据迁移中,数据备份、实施步骤回退计划是
43、确保数据在迁移后可用性必需准备。 l 在线或离线迁移 假如应用能够暂停,则迁移过程能够愈加快捷;不过当今大多数系统有着严格可用性要求。当数据迁移在生产环境中进行时,不仅要亲密监控数据迁移过程,而且要将迁移对生产系统影响降到最低。 l 维护时间窗口 通常迁移工作只能在预先确定维护时间窗口中进行。通常时间窗口是在夜间或周末生产活动最少时候。这些严格时间窗口存在使得迁移项目可能表现出不规则间断情况:担心迁移在时间窗口中进行,然后在时间窗口关闭时停止,业务继续运行;迁移工作只有在时间窗口再次打开后才能够继续进行。从而使得迁移工作分散成数个不连续多个阶段性工作。 l 迁移技术 在开放系统环境
44、中,没有一个完美数据迁移技术。每个迁移技术全部有优势和劣势。针对每个特定业务环境,应该依据不一样技术特点进行仔细甄别选择。 直接费用(人力、硬件和软件等)原因应该和间接原因(应用停止和生产系统性能影响等)结合起来作为选择迁移技术判据。有些需要更大维护时间窗口,而有些对生产系统性能会有较大影响。这些全部会成为选择对应存放技术考虑原因。 l 计划和应用停顿容忍程度 数据迁移会对生产系统有着或多或少影响,当分析完应用可用性要求,完成维护时间窗口选择后,可供选择技术就相对比较固定。 l 测试需求 依据应用情况,特定时间迁移前测试和迁移后测试是必需。因为没有一个普遍适用测试计划,所以针对每个特定
45、环境全部需要做出具体有针对性测试计划。测试时间跨度也和应用情况相关,时间长短也是依据应用需求决定。 l 数据迁移时间跨度 总来说,决定数据迁移时间跨度最关键原因是用户对迁移对原应用影响容忍程度。而时间跨度和应用可用性之间亲密相关。通常,在费用和能够接收应用可用性之间有着一定关系。越高要求应用可用性意味着越多费用,从而也就制约了时间跨度。经验表明,在没有具体根本评定环境和项目目标情况下,进行迁移时间估计是很困难。通常来说,需要经过评定,分析,计划和实施等多个步骤。 l 整个环境复杂性 在数据迁移过程中包含到多种应用和数据之间关系,越复杂应用环境,则对应计划和实施就越复杂。 3.2 数
46、据迁移方法论 HDS所提供数据迁移服务是一个为用户正确完整地将物理上存在多或单点数据转移集中至单一数据中心或单一存放系统处理方案。本方案涵盖了主机及存放设备重新配置,并对用户系统资源进行合理计划,以确保在迁移集中完成后,新系统环境能够达成设计要求,从而避免因为迁移集中造成用户业务中止,及系统性能下降,同时确保数据迁移集中后系统安全性及可管理性。该方案将数据迁移集中过程中对用户业务影响减至最小,并承诺在HDS和用户双方同意时间范围及要求费用内完成对数据迁移。 HDS将一个数据迁移项目分为两个阶段:迁移评定设计阶段和迁移实施阶段。 3.2.1 迁移评定设计阶段 在这个阶段,经过分析工具,
47、问卷调查和现场访问等手段,HDS技术顾问搜集掌握用户主机、应用、存放环境信息。在了解用户未来商业和技术目标对存放要求,和了解用户目前存放架构基础上,设计未来满足要求存放架构和数据迁移计划。 这个阶段由以下子阶段组成: l 项目初始化阶段 l 现场技术访问阶段 l 搜集数据阶段 l 分析数据阶段 l 制订数据迁移计划阶段 l 总结回顾阶段 1. 项目初始化阶段 这一阶段对于数据迁移项目成功是否很关键。在最初项目会议中确定项目目标和预期。在这一阶段中,项目基于用户要求开始并定义。关键用户人员被确定并联络,项目范围和定义经过用户及HDS项目人员评论和确定。初步信息搜集后,建立文
48、档资料。基于已经定义项目范围,项目人员确定并排出对应时间表。 2. 现场技术访问阶段 在这一阶段中,项目组组员深入了解和明确用户对数据迁移商业和技术要求。同时对已经有主机、应用、存放环境做更多了解和熟悉。 3. 搜集数据阶段 这一阶段目标是快速搜集用户应用系统相关计算环境信息和应用架构。这些信息是对项目初始化阶段得到信息补充和验证。将搜集到信息整理归档以备分析阶段使用。在这个阶段,项目中包含每个系统全部要进行数据搜集。 这个阶段是以后各个阶段基础。 § 从关键技术人员(比如:数据库管理员和系统管理员)那里搜集信息。 § 制作系统环境搜集表格,搜集整理主机、系统和存放等具体信
49、息。 § 搜集整理相关数据库和应用信息,包含数据类型、数据可用性和数据库性能等方面。 § 搜集整理相关IT人员职责和联络信息 § 明确数据迁移时间限制、维护时间窗口和停机许可等。 4. 分析数据阶段 全部搜集信息必需经过分析和研究,然后形成数据迁移初步技术方案。 § 回顾和分析全部搜集信息。 § 和技术人员求证实施计划可行性。 5. 制订数据迁移计划阶段 完整详尽计划是实施数据迁移成功关键。 § 生成应用、主机和数据库等迁移优先级序列。 § 生成初步数据迁移计划用于分析讨论。 § 生成备用回退计划。 § 集中分析最小化业务中止时间方法。 § 讨论决定数据迁移
50、阶段检验点。 § 完成完整数据迁移方案。 数据迁移针正确计算环境能够分为同构环境和异构环境。在进行数据迁移方案设计中,HDS在普遍适用数据迁移技术基础上,针对异构和同构环境,进行多个技术结合。现将使用技术情况简列以下: I.针对同构环境: § 基于磁盘阵列远程数据复制技术数据迁移。 § 基于主机操作系统逻辑卷镜像技术数据迁移。 § 基于数据库复制、备份和恢复技术数据迁移。 § 基于三方工具数据迁移。 II.针对异构环境: § 基于虚拟化技术为基础数据迁移。 § 基于主机操作系统逻辑卷镜像技术数据迁移。 § 基于数据库复制、备份和恢复技术数据迁移。 § 基于三方工






