系统升级及集群扩展实施专项方案.doc

SAP系统升级及集群
实行方案

长沙友旭信息科技有限公司
二00八年十一月

目 录

一、 前言 2
二、 有关配备信息 3
1、 主机信息 3
2、 主机卷信息 3
3、 存储信息 3
4、 系统及软件规划 4
5、 IP规划 4
三、 AIX系统安装调试 5
1、 安装系统 5
2、 系统安装设立 5
3、 扩展软件包安装 7
四、 EtherChannel（以太通道）配备及规划 11
1、 配备前要考虑事项： 11
2、 配备EtherChannel 12
3、 配备备份网卡 12
五、 HACMP安装配备 13
1、 HACMP及补丁安装 13
2、 HACMP配备 14
3、 HACMP启动 18
4、 HACMP关闭 19
5、 配备HAMCP后EMC存储性能调节 20
六、 主机软硬件详细信息 21
1、 sapprd00主机详细信息 21
2、 sapprd01主机详细信息 21

一、 前言
三一重工之前SAP系统平台在IBM P561小型机上运营，考虑到既有硬件环境已经不能满足业务需要，决定进行设备更新换代新购买两台IBM P570小型机加EMC存储系统，将SAP系统移到P570上，并且建立高可用HA集群环境。此方案详细记录了系统升级后拓扑图和硬件设备配备；实行过程中AIX 系统安装配备、enthchnnal配备及规划、HACMP安装配备；用于提供P series系统硬件平台重要信息备份，为日后维护硬件平台提供重要数据记录，从而进一步提高此硬件平台高可用性，高可靠性以及高可维护性。

系统构造图

二、 有关配备信息
1、 主机信息
机型
系统版本
数据库版本
HACMP版本
9117-MMA
AIX5300-06
Oracle9.2.0.6
HACMP5.3
2、 主机卷信息
主机
卷组
PP(M)
逻辑卷
文献系统

大小
功 能
sapprd00
rootvg
256
系统卷
/
512M

/usr
8G

/var
512M

/tmp
2G

/home
4G

/opt
512M

/media
4G

sapprd01
rootvg
256
系统卷
/
512M

/usr
8G

/var
512M

/tmp
2G

/home
4G

/opt
512M

3、 存储信息
机型
RAID规划
LUN规划
控制器
EMC

4、 系统及软件规划
分类
项目
描述
备注
主机
节点名
sapprd00/ sapprd01

AIX版本
5300-06

HA版本
HACMP 5.3

共享卷组
datavg

网卡
en0：1.1.1.1/24
2.2.2.1/24
en2：1.1.1.2/24
2.2.2.2/24

数据库
Oracle版本
9.2.0.6

归档模式
归档

实例名
ORCL

数据库名
ORCL

存储方式
裸设备

磁盘阵列
管理IP

数据库
顾客名/密码
oracle/

sys/
超级顾客
5、 IP规划
主机名
IP地址
别名
阐明
sapprd00
1.1.1.1
sapprd00_boot1
sapprd00节点boot1IP
2.2.2.1
sapprd00_boot2
sapprd00节点boot2IP

sapprd00_per
sapprd00节点管理IP

sapprd_svc
服务IP
sapprd01
1.1.1.2
sapprd01_boot1
sapprd01节点boot1IP
2.2.2.2
sapprd01_boot2
sapprd01节点boot2IP

sapprd01_per
sapprd01节点管理IP

三、 AIX系统安装调试
1、 安装系统
将设备上电，插入操作系统光盘开始进行操作系统安装。
2、 系统安装设立
在开始正式操作系统之前，咱们需要对操作系统安装控制台、安装方式、安装时语言环境等参数进行设立，其详细环节如下：
1、在小机加电后按‘F5’键，设立光驱引导，浮现下面安装界面中一方面按‘F1’键，然后按回车键设立系统控制台

******* Please define the System Console. *******

Type a F1 and press Enter to use this terminal as the system console.
Typ een F1 en druk op Enter om deze terminal als de systeemconsole to gebruiken.
Pour definir ce terminal comme console systeme，appuyez sur F1 puis sur Entree.
Taste F1 und anschliessend die Eingabetaste druecken，um diese Datenstation als systemkonsole zu verwenden.
Premere il tasto 1 ed Invio per usare questo terminal come console.
Escriba F1 y pulse Intro para utilizar esta terminal como consola del sistema.
Escriviu F1 1 i premeu Intro per utilitzar aquest terminal com a consola del sistema.
Digite um F1 e pressione Enter para utilizar este terminal como console do sistema.

2、按“1”键，设立安装操作系统时语言环境为英语

1 Type 1 and press Enter to have English during install.
2 Entreu 2 i premeu Intro per veure la instalaci* en catal*.
3 Entrez 3 pour effectuer l'installation en franis.
4 Installation in deutscher Sprache 4 eingeben und die Eingabetaste drken.
5 Immettere 5 e premere Invio per l'installazione in Italiano.
6 Digite 6 e pressione Enter para usar Portugu na instala.
7 Escriba 7 y pulse Intro para usar el idioma espal durante la instalaci.
8 Skriv 8 och tryck ned Enter = Svenska vid installationen.

88 Help ?

3、在如下BOS系统安装界面选取“2”，即选取“Change/Show Installation Settings and Install”安装方式。
Welcome to Base Operating System
Installation and Maintenance

Type the number of your choice and press Enter. Choice is indicated by >>>.

> 1 Start Install Now with Default Settings
2 Change/Show Installation Settings and Install
3 Start Maintenance Mode for System Recovery
88 Help ?
99 Previous Menu

>>> Choice [1]： ‘2’

阐明：
选项1：按照缺省方式安装操作系统。
选项2：如果要变化安装方式和系统设立。
选项3：进入系统维护模式。
4、在如下安装界面中选取“1”，重新设立系统安装方式
Installation and Settings

Either type 0 and press Enter to install with current settings，or type the
number of the setting you want to change and press Enter.

1 System Settings:
Method of Installation.... ...New and Complete Overwrite
Disk Where You Want to Install .hdisk0

2 Primary Language Environment Settings (AFTER Install):
Cultural ConventionEnglish (United States)
Language .......................English (United States)
Keyboard .......................English (United States)
Keyboard Type...................Default

3 Install Trusted Computing Base... No

>>> 0 Install AIX with the current settings listed above.
+---------------------------------------
88 Help ? | WARNING：Base Operating System Installation will
99 Previous Menu|destroy or impair recovery of ALL data on the
|destination disk hdisk0.
>>> Choice [0]:
阐明：在如上安装界面中选取“1”，重新设立系统安装方式后有两个功能选项可以供安装者对系统安装方式进行重新设立。
A、“Method of Installation”（安装方式），其中有三种安装方式可供选取：
- New and Complete Overwrite Installation.(完全覆盖)
- Migration Installation.（升级安装）
- Preservation Installation.（保护安装）
为了保证安装一种干净操作系统，这里咱们选取第一种安装办法以全新、完全覆盖方式来安装操作系统，即选取 “1”。
B、“Disk Where You Want To Install”菜单项，选取hdisk0作为安装目的盘。
5、在完毕系统安装方式后将正式开始从光盘安装操作系统
Installing Base Operating System

If you used the system key to select SERVICE mode,
turn the system key to the NORMAL position any time before the
installation ends.

Please wait...

Approximate Elapsed time
% tasks complete (in minutes)

0 0

Approximate Elapsed time
% tasks complete (in minutes)

95 12 Installing additional software.

操作系统安装过程中会提示进行相应光盘更换，完毕之后系统将自动重新启动，待系统重启后咱们将进行操作系统扩展包安装。
3、 扩展软件包安装
1、以root登录
2、安装AIX5.3 Fileset
#smitty installp
选取 INPUT device / directory for software 为[/dev/cd0](按F4选取)
进入 SOFTWARE to install选取所需安装软件
开头有"@"符即已安装过
开头有"+"符即未安装过
如下必要装:
ü 安装以bos、rsct、X11打头所有文献集
F7 确认/选取 / 为搜索 倒数2项选取 YES
3、升级系统
#smitty update_all

在“INPUT device / directory for software”处输入TL包所在位置

在“software to update”处选取要安装包
在 “commit software updates?”处可选取NO
在“ACCEPT new license agreements?”处选取YES
l 异步I/O设立
# smitty chgaio
MINIMUM number of servers [1]
MAXIMUM number of servers [10]
STATE to be configured at system restart available
l 系统时区设立
东八区,北京时间(不用“夏令时”)，时间和日期为当前时间和日期
修改成当前日期和时间
# smitty
system environments　――》Change / Show Date and Time　――》Change / Show Date & Time修改成东八区,北京时间(不用“夏令时”)
# smitty
system environments　――》Change / Show Date and Time ――》Change Time Zone using system defined values
浮现如下提示
Use DAYLIGHT SAVINGS TIME？选取No，浮现提示菜单选取(BEIST-8) Peoples Rep. China (CUT +8)
l 顾客最大进程数、water mark设立
# smitty chgsys
Maximum number of PROCESSES allowed per user [4096]
HIGH water mark for pending write I/Os per file [33]
LOW water mark for pending write I/Os per file [24]
l 换页空间设立
Page Space默认hd6大小为512M，对于数据库服务器，可扩大到8G或与内存大小同样
依照业务运营状况可配备1个Page Space01，并且Page Space01位于本地磁盘hdisk2，再删除hd6
新增Page Space01
#smitty mkps ------新增Page Space01
Paging space name page00
Volume group name [rootvg]
Physical volume name [hdisk2]
NUMBER of additional logical partitions [32]
#smitty swapon ------激活新增Page Space01

删除hd6互换空间
运营命令使hd6互换空间处在非活动状态
#smitty swapoff
删除ps互换空间，采用命令删除hd6互换空间
#smitty rmps

l 配备文献属性修改
将/etc/security/limits文献中nofiles配备项改为8192，fsize配备项改为 -1
l rootvg镜像
（1）#extendvg rootvg hdisk1
（2）镜像rootvg #mirrorvg rootvg（时间比较长）
（3）#bosboot -ad /dev/hdisk0
#bosboot -ad /dev/hdisk1
(4) #bootlist -m normal hdisk0 hdisk1

四、 EtherChannel（以太通道）配备及规划
AIX集成了EtherChannel功能，可以实现2块网卡以上负载均衡和冗余， EtherChannel技术最重要好处是她可以累加所有成员网卡带宽。如果一种成员网卡失效，EtherChannel会自动调节流量分派方略，从而只使用剩余网卡进行工作。失效网卡修复后，EtherChannel会重新启用她。
1、 配备前要考虑事项：
a) 对于每个EtherChannel您可以配备多达8个主以太网适配器，每个EtherChannel仅具备一种备份以太网适配器。同一种EtherChannel所有成员网卡都需要连接在同一种互换机上。如果这个互换机浮现故障，整个EtherChannel就都会失效。为理解决这个问题，可以配备备份网卡。顾客能为整个EtherChannel指定一块备份网卡，这块网卡连接在不同互换机上。当整个EtherChannel失效时，这块网卡会自动顶替EtherChannel功能。
b) 您可以在一种系统上配备各种EtherChannel，但是每个EtherChannel会组建一种附加以太网接口。
c) 在EtherChannel中可以使用任何受支持以太网适配器。然而，以太网适配器必要连接到一种支持EtherChannel互换机。请参阅随互换机一起提供文档以拟定它与否支持EtherChannel（互换机文档也许也将该能力称作“链路汇集”或“中继”）。
d) 在EtherChannel中所有适配器都应当配备为相似速度（例如，100 Mbps），并且应当是全双工。
e) 配备完EtherChannel后，系统不能访问EtherChannel中使用适配器。要修改它们任何属性，如介质速度，传送或接受排队大小等等，则在将它们包括在“EtherChannel”之前必要进行这些操作。
f) 筹划用于EtherChannel适配器不应当给它们配备 IP 地址。当使用拥有 IP地址适配器配备以太通道时，请保证它们接口处在拆离（detach）状态。要添加到EtherChannel适配器不能具备up状态接口（如果它们 IP地址是使用 SMIT 配备就会发生这种状况）。这会导致机器在重新引导时提示EtherChannel产生问题，由于在 DOM中底层接口在EtherChannel启用之前就使用了。因而，配备EtherChannel时，它会发现它其中一种适配器已经在使用。要变化这种状况，请在创立EtherChannel之前，输入 smit chinet，选取EtherChannel中所要涉及适配器每一种接口，将它state值更改为 detach。这样就会保证机器重新引导时可以对的地配备EtherChannel。 （请注意，不要用ifconfig命令去做，这样将不会修改ODM）
g) 如果筹划使用超常帧（Jumbo Frames），则在创立EtherChannel之前您也许需要启用每个适配器以及EtherChannel自身这一功能。在命令行中输入 smitty chgenet。将 Enable Jumbo Frames值更改为 yes 然后按下 Enter 键。请为您要启用“超长帧”每一种适配器执行这一操作。稍后，您还要启用EtherChannel自身超长帧。
注:在 AIX 5.2 及后续版本中，一旦超常帧在EtherChannel自身中启用，则不必启用每个底层适配器中超常帧。如果将启用超常帧属性设立为yes，则该功能将自动启用。
2、 配备EtherChannel
1) 用root登录，在命令行运营smitty etherchannel。
2) 选取 Add an etherchannel。
3) 选取etherchannel成员网卡。
4) 按照如下阐明输入下列信息：

　　Mode中选取Round Robin模式：
　　在这种模式下各个成员网卡被轮流使用，每轮每个网卡发送一种数据包。
5) 在更改了但愿更改字段后按 Enter 键来创立EtherChannel。
6) 使用smit chinet为EtherChannel设备（entx）设立IP地址
7) 从列表中选取新“etherchannel”接口。
8) 填充所有需要字段并按 Enter 键。
3、 配备备份网卡
1) 用 root 权限，在命令行上输入 smit etherchannel。
2) 从列表中选取Change/Show Characteristics of an EtherChannel/Link Aggregation并按下 Enter 键。
3) 选取Add Backup Adapter并按 Enter 键。
4) 增长备份网卡到EtherChannel设备（entx）中。

五、 HACMP安装配备
1、 HACMP及补丁安装
将安装文献和patch通过ftp工具上传到主机，所在目录如下：
安装文献所在目录：/media/hacmp/hacmp53
patch所在目录：/media/hacmp/patch

#smitty installp
Install Software
Type or select values in entry fields.
Press Enter AFTER making all desired changes.
[Entry Fields]
*INPUT device / directory for software /media/hacmp/hacmp53
* SOFTWARE to install [_all_latest] +
PREVIEW only?(install operation will NOT occur) no +
COMMIT software updates? yes +
SAVE replaced files? no +
AUTOMATICALLY install requisite software? yes +
EXTEND file systems if space needed? yes +
OVERWRITE same or newer versions? no +
VERIFY install and check file sizes? no +
Include corresponding LANGUAGE filesets? yes +
DETAILED output? no +
Process multiple volumes? yes +
ACCEPT new license agreements? yes +
Preview new LICENSE agreements? no +
阐明：按F4进入软件产品选取，除cluster.hativoli、cluster.haview和rsct.exp文献集外都安装
#smitty update_all
Update Installed Software to Latest Level (Update All)
Type or select values in entry fields.
Press Enter AFTER making all desired changes. [Entry Fields]
* INPUT device / directory for software /media/hacmp/patch
* SOFTWARE to update _update_all
PREVIEW only?(update operation will NOT occur) no +
COMMIT software updates? yes +
SAVE replaced files? no +
AUTOMATICALLY install requisite software? yes +
EXTEND file systems if space needed? yes +
VERIFY install and check file sizes? no +
DETAILED output? no +
Process multiple volumes? yes +
ACCEPT new license agreements? yes
Preview new LICENSE agreements? no +
2、 HACMP配备
编辑/etc/hosts文献，内容如下：
1.1.1.1 sapprd00_boot1
1.1.1.2 sapprd00_boot2
0.0.0.0 sapprd00_per
2.2.2.1 sapprd01_boot1
2.2.2.2 sapprd01_boot2
0.0.0.0 sapprd01_per
0.0.0.0 sapprd_svc
阐明：hosts文献在所有节点上必要保持一致。

编辑/usr/es/sbin/cluster/etc/rhosts文献，内容如下：
sapprd00_boot1
sapprd00_boot2
sapprd00_per
sapprd01_boot1
sapprd01_boot2
sapprd01_per
sapprd_svc
阐明：rhosts文献在所有节点上必要保持一致。

#smitty hacmp
　 Extended Configuration
àExtended Topology Configuration
àConfigure an HACMP ClusteràAdd/Change/Show an HACMP Cluster
* Cluster Name [cl_sapprd]

Extended Configuration
àExtended Topology Configuration
à Configure HACMP Nodesà Add a Node to the HACMP Cluster
* Node Name [sapprd00]
Communication Path to Node [sapprd00]

Extended Configuration
àExtended Topology Configuration
à Configure HACMP Nodesà Add a Node to the HACMP Cluster
* Node Name [sapprd01]
Communication Path to Node [sapprd01]

Extended Configuration

àDiscover HACMP-related Information from Configured Nodes

Extended Configuration
àExtended Topology Configurationà Configure HACMP Networksà Add a Network to the HACMP Cluster
# Discovered IP-based Network Types
ether

Add an IP-Based Network to the HACMP Cluster
* Network Name [net_ether_01]
* Network Type ether
* Netmask [255.255.255.0]
* Enable IP Address Takeover via IP Aliases [Yes]
IP Address Offset for Heartbeating over IP Aliases

Extended Configuration
àExtended Topology Configurationà Configure HACMP Networksà Add a Network to the HACMP Cluster

# Discovered Serial Device Types ?
rs232

* Network Name [net_rs232_02]
* Network Type rs232
Extended Configuration
àExtended Topology Configurationà Configure HACMP Communication Interfaces/Deviceà Add Communication Interfaces/DevicesàAdd Discovered Communication Interface and Devicesà Communication Interfacesà net_ether_01

# Node / Network
# Interface IP Label IP Address
# net_ether_01 / sapprd00