资源描述
RHEL系统带有iSCSI initiator软件,下面描述如何配置iSCSI Initiator实现对ISCSI卷的访问
1. Linux iscsi 介绍(这一条介绍了linux iscsi的基本原理和相关命令,具体配置时可略过)
在Linux内核中提供了iscsi驱动,iSCSI 驱动(driver)使主机拥有了通过IP网络访问存储 的能力,驱动在主机(Initiator)和服务端(Target)间使用iSCSI协议在TCP/IP网上传输SCSI请求和响应,在构建上,iSCSI驱动与TCP/IP栈、网络驱动和网络接口卡(NIC)结合,其等同于SCSI或光纤通道卡适配器驱动对主机总线卡(HBA)的作用。驱动采用采用模块的方式,具体模块包括iscsi_tcp, libiscsi, libiscsi_tcp。
Initiator守护进程介绍:
/etc/iscsi/iscsid.conf --initiator配置文件
/sbin/iscsiadm --initiator管理工具
open-iscsi包括两个守护进程iscsid和iscsi,其中iscsid是主进程,iscsi进程则主要负责根据配置,在系统启动时进行发起端(Initiator)到服务端(target)的登录,建立发起端与服务端的会话,使主机在启动后即可使用通过iSCSI提供服务的存储设备。iscsid进程实现iSCSI协议的控制路径以及相关管理功能。例如守护进程(指iscsid)可配置为在系统启动时基于持久化的iSCSI数据库内容,自动重新开始发现(discovery)目标设备。
Initiator配置介绍(前提是已经安装iSCSI initiator)
1> iSCSI initiator 名称设置
initiator名称用来唯一标识一个iSCSI Initiator端。保存此名称的配置文件为 /etc/iscsi/initiatorname.iscsi,命名规则可采用iqn-type格式,利用 iscsi-iname命令可产出一个名称,将此名称输入到initiatorname.iscsi配置文件即可。
2> iSCSI Initiator配置iSCSI Initiator的配置文件为/etc/iscsi/iscsid.conf,在iSCSI initiator的scsid进程启动和执行iscsiadm命令时,将读取这个配置文件的内容,获取与SCSI目标进行交互的相关信息,主要的配置内容包括:
CHAP Settings 组
本组下的各个设置项主要用来指定Initiator与target验证方式及相关信息
设置节点会话的验证模式
node.session.auth.authmethod = CHAP
CHAR(Challenge Handshake Authentication Protocol ),默认为不验证(none)
设置会话target验证initiator的CHAR用户名及对应的密码
node.session.auth.username = scott
node.session.auth.password = tiger
设置会话initiator验证target的用户名及其对应的密码
#node.session.auth.username_in = username_in
#node.session.auth.password_in = password_in
设置initiator发现target的验证模式,默认为不验证(none)
discovery.sendtargets.auth.authmethod = CHAP
设置发现会话(discovery session)target验证initiator的CHAR用户名及对应的密码
discovery.sendtargets.auth.username = scott
discovery.sendtargets.auth.password = tiger
设置发现会话(discovery session)initiator验证target的CHAR用户名及对应的密码
#discovery.sendtargets.auth.username_in = username_in
#discovery.sendtargets.auth.password_in = password_in
通过上述配置项,可以看到iSCSI的主要验证方式是CHAR,并且验证是双方向的。
超时(Timeouts)设置组:
本组设置initiator与target端交互的时间限制。
重试(retry)设置组:
本组设置iscsid重试登录节点的次数。
会话和设备排队深度(session and device queue depth)设置组:
设置session排队命令的数量,设置设备队列深度
iSCSI设置(iSCSI settings)组:
启用或禁止R2T(Ready to Transmit)流控,启用后,initiator在发送任何数据前必须等待 一个R2T命令,默认为禁止(no)。
node.session.iscsi.InitialR2T = Yes|no
启用或禁止立即数据(immediate data ),禁止后,initiator不随着SCSI 命令PDU发送未请求的数据。默认为启用(Yes)
node.session.iscsi.ImmediateData = Yes|No
3)initiator相关命令介绍
open-iscsi initiator-utils提供的管理命令为iscsiadm,此命令包括discovery、node、session几种模式,分别处理不同的情况。在服务器能够使用Target提供的存储空间前,必须在服务器上通过Initiator软件执行以下步骤:发现目标设备-->登录目标设备-->与目标设备建立会话,下面分别说明通过各个命令进行说明。
(1)发现目标设备(Target),使用iscsiadm discovery模式,命令格式如下:
iscsiadm -m discovery [ -P printlevel ]
[ -t type -p ip:port [ -l ] ] |
[ [ -p ip:port ] [ -l | -D ] ]
命令示例:
iscsiadm -m discovery -t sendtargets -p 192.168.1.211:3260
返回信息:192.168.1.211:3260,1 iqn.2012-.nayun:test-01
192.168.1.211:3260,1 iqn.2012-.nayun:test-02
此命令查询目标门户(Portal)为192.168.1.211:3260上的目标,查找成功后,返回相应的target ID,同时在 /var/lib/iscsi/send_targets 和 /var/lib/iscsi/nodes目录下记录相应的门户和节点信息。/var/lib/iscsi目录下的内容采用dbm数据库方式存储,所有版本的linux以及大多的unix都随系统带有一个基本的,但是却很高效的数据存储程序集合,被成为dbm数据库。适合于相对比较静态的索引化数据。其实就是一个索引化的文件存储系统。这些信息称之为initiator discoverydb,可以通过iscsiadm相关操作进行管理。使用iscsiadm -m node命令,可以查看到发现的节点记录。备注:iSCSI node是一个在网络上可用的SCSI设备标识符,在open-iscsi中利用术语node表示目标(target)上的门户(portal)。一个target可以有多个portal,portal 由IP地址和端口构成。
(2)在完成目标发现后,即可以登录到相应的节点,使用目标设备提供的存储空间。
node相关命令如下:
iscsiadm -m node [ -P printlevel ] [ [ -T targetname -p ip:port ] [ -l | -u | -R | -s] ]
[ [ -o operation ] [ -n name ] [ -v value ] [ -p ip:port ] ]
命令示例:
iscsiadm -m node -T iqn.2012-.nayun:test-01 -l
执行成功,返回如下信息:
Logging in to [iface: default, target: iqn.2012-.nayun:test-01, portal: 192.168.1.211,3260]
Login to [iface: default, target: iqn.2012-.nayun:test-01, portal: 192.168.1.211,3260] successful.
执行失败,返回如下信息:
iscsiadm: Could not login to [iface: default, target: iqn.2012-.nayun:test-02, portal: 192.168.1.211,3260].
iscsiadm: initiator reported error (24 - iSCSI login failed due to authorization failure)
iscsiadm: Could not log into all portals
出现上述提示,需要检查target与initiator的验证配置是否对应。登录成功后。在/sys/devices/platform目录下将自动生成一个hostX目录,其中X是一个编号,每次有可能不同,在此目录下包含相关的session和connection信息。
在服务端(target)可以查看登录情况,使用如下命令:
tgt-admin --show
显示如下信息:
Target 1: iqn.2012-.nayun:test-01
System information:
Driver: iscsi
State: ready
I_T nexus information:
I_T nexus: 1
Initiator: iqn.2012-.nayun:initiator-212
Connection: 0
IP Address: 192.168.1.212
LUN information:
LUN: 0
Type: controller
SCSI ID: IET 00010000
SCSI SN: beaf10
Size: 0 MB, Block size: 1
Online: Yes
Removable media: No
Readonly: No
Backing store type: null
Backing store path: None
Backing store flags:
LUN: 1
Type: disk
SCSI ID: IET 00010001
SCSI SN: beaf11
Size: 537 MB, Block size: 512
Online: Yes
Removable media: No
Readonly: No
Backing store type: rdwr
Backing store path: /dev/sdb
Backing store flags:
Account information:
ACL information:
192.168.1.0/24
192.168.1.210
在I_T nexus information部分显示了连接信息。
(3)登录目标节点成功后,即建立了initiator与target之间的会话(session),同时target提供的存储设备
也挂载到主机中,在/dev目录下生成一个新的设备文件类似于sdb、sdc等。查看session命令格式如下:
iscsiadm -m session [ -P printlevel [ -r sessionid | sysfsdir [ -R ] [ -u | -s ] ]
命令示例:
iscsiadm -m session -P 3
返回如下信息:
iSCSI Transport Class version 2.0-871
version 2.0-872
Target: iqn.2012-.nayun:test-01
Current Portal: 192.168.1.211:3260,1
Persistent Portal: 192.168.1.211:3260,1
**********
Interface:
**********
Iface Name: default
Iface Transport: tcp
Iface Initiatorname: iqn.2012-.nayun:initiator-212
Iface IPaddress: 192.168.1.212
Iface HWaddress: <empty>
Iface Netdev: <empty>
SID: 10
iSCSI Connection State: LOGGED IN
iSCSI Session State: LOGGED_IN
Internal iscsid Session State: NO CHANGE
************************
Negotiated iSCSI params:
************************
HeaderDigest: None
DataDigest: None
MaxRecvDataSegmentLength: 262144
MaxXmitDataSegmentLength: 8192
FirstBurstLength: 65536
MaxBurstLength: 262144
ImmediateData: Yes
InitialR2T: Yes
MaxOutstandingR2T: 1
************************
Attached SCSI devices:
************************
Host Number: 11 State: running
scsi11 Channel 00 Id 0 Lun: 0
scsi11 Channel 00 Id 0 Lun: 1
Attached scsi disk sdc State: running
备注:ISCSI会话用来标识到某个具体SCSI I_T连接的所有TCP连接。同一个会话里可能有一个或多个连接。当initiator通过默认端口或指定端口与target建立连接时,登录过程就开始了,initiator和target互相认证并建立安全协议。在登录阶段,ISCS Iinitiator和target会协商建立多种连接属性。
(4)使用target提供的存储盘
登录到target后,即可使用fdisk等工具像使用本地磁盘一样对磁盘进行分区,并mount到相关目录下进行文件的存取。
(5)注销登录
使用一下命令注销登录:
iscsiadm -m node -T iqn.2012-.nayun:test-01 -p 192.168.1.211 -u
Logging out of session [sid: 1, target: iqn.2012-.nayun:test-01, portal: 192.168.1.211,3260]
Logout of [sid: 1, target: iqn.2012-.nayun:test-01, portal: 192.168.1.211,3260] successful.
(6)其他操作
删除一个目标(/var/lib/iscsi/nodes目录下)
iscsiadm -m node -o delete -name iqn.2012-.nayun:test-01
删除一个目标(/var/lib/iscsi/send_targets目录下)
iscsiadm --mode discovery -o delete -p 192.168.1.211:3260
查看某个sendtargets portal记录
iscsiadm -m discoverydb -p 192.168.1.211:3260 -t st -o show
# BEGIN RECORD 2.0-872
discovery.startup = manual
discovery.type = sendtargets
discovery.sendtargets.address = 192.168.1.211
discovery.sendtargets.port = 3260
discovery.sendtargets.auth.authmethod = CHAP
discovery.sendtargets.auth.username = scott
discovery.sendtargets.auth.password = ********
discovery.sendtargets.auth.username_in = <empty>
discovery.sendtargets.auth.password_in = <empty>
discovery.sendtargets.timeo.login_timeout = 15
discovery.sendtargets.use_discoveryd = No
discovery.sendtargets.discoveryd_poll_inval = 30
discovery.sendtargets.reopen_max = 5
discovery.sendtargets.timeo.auth_timeout = 45
discovery.sendtargets.timeo.active_timeout = 30
discovery.sendtargets.iscsi.MaxRecvDataSegmentLength = 32768
2. 通过命令检查系统是否安装了iSCSI initiator软件包,如果没有找到相关软件包,需要在系统光盘上找到相应的rpm包安装。
# rpm –qa|grep iscsi
如果没有安装,通过以下命令安装iSCSI initiator
# yum install iscsi-initiator-utils
3. 配置每次系统启动是自动开启iscsi服务
# chkconfig --list |grep iscsi
如果不是开机启动,即3和5是off,需要改成开机启动
# chkconfig iscsi --level 35 on
# chkconfig iscsid --level 35 on
4. 启动iSCSI服务,查看服务状态
# service iscsi start#
# service iscsi status
5. 修改配置文件
# vim /etc/iscsi/iscsid.conf
node.startup=auto
node.session.iscsi.InitialR2T=Yes
node.session.iscsi.ImmediateData=No
node.session.timeo.replacement_timeout=60
6. 此台RHEL主机的iscsi编号(iqn号)在/etc/iscsi/initiatorname.iscsi文件中,记录此iqn号在V3500/3700管理工具中建立主机时使用,注意图中红圈部分,也就是“InitiatorName=”后面部分是iqn号。这在存储阵列中添加主机时会用到。使用vim进行编辑,但要注意格式。
# vim /etc/iscsi/initiatorname.iscsi
7. 发现目标
# iscsiadm -m discovery -t sendtargets -p 192.168.3.101:3260
注:p后面是控制器的iscsi地址,默认端口是3260,如果没有更改默认端口,可以不用添加。如果有多个控制器都提供iscsi服务,可以继续发现其余控制器上的目标(最终通过多路径软件访问的都是一个目标)。
8. 登陆到刚刚发现的控制器
# iscsiadm -m node -T iqn.1986-.ibm:2145.v3700.node1 -p 192.168.3.101 –login
注:其中-T后面是控制器1的iqn号,-p后面是控制器1的iSCSI地址。
9. 登陆成功后检查是否成功
# iscsiadm -m session 查看session
# iscsiadm -m node 查看node数量
10. 重复第7和8的步骤将完成对控制器2的发现和登陆操作,完成后应该同时可以看到两个控制器的信息。上图是已经完成对控制器2的发现和登陆。
11. 重新扫描iSCSI设备。
# iscsiadm –m node –R
12. 设置开机自动加载分区
# iscsiadm -m node –T PORT-NAME –p PORT-IP --op update -n node.startup -v automatic
13. 通过fdisk -l命令查看硬盘可以发现V3500/3700上映射过来的卷,但是因为存在冗余的路径,所以每个卷看到了两个同样大小的存储空间,需要通过安装多路径软件来解决这个问题。
14. Linux系统下多路径软件是操作系统自带的DM Multipath(DMMP)工具。首先检查系统是否已安装了DMMP软件包。
# rpm -qa|grep device-mapper-multipath
如果没有从系统安装光盘上找到并且安装相应软件包。
# yum install device-mapper
# yum install device-mapper-multipath
15. 设置DMMP服务在每次系统启动时自动开启,并检查状态
# chkconfig --level 2345 multipathd on
# chkconfig --list |grep multipathd
16. DMMP需要建立一个配置文件/etc/multipath.conf,默认情况下是没有的,可以将模板配置文件复制到/etc目录下,模板配置文件/usr/share/doc/device-mapper-multipath-0.4.9/multipath.conf
# cp /usr/share/doc/device-mapper-multipath-0.4.9/multipath.conf /etc/multipath.conf
17. 启动multipathd服务
# service multipathd start
18. 检查DMMP模块是否正常加载
# lsmod |grep dm_multipath
19. 安装配置成功后,可以查看到DMMP管理了一个名称为mpathb的多路径设备,此设备包含有两个路径。
# multipath –ll
20. 使用fdisk查看硬盘会多出一个存储设备/dev/mapper/mpatha,在分区或其他针对硬盘的操作时请使用这个设备,不要使用/dev/sdb和/dev/sdc。
# fdisk –l
21. 进行分区并格式化
如果小于 2T 分区,可以使用 fdisk 进行分区,使用 MBR 分区表,如果大于 2T 分区,则不能使用 MBR 分区表,需要使用 GPT 分区表。使用 Parted 命令进行分区。格式化时硬盘分区太大,可以使用 -T largefile 参数
# mkfs.ext4 -T largefile /dev/mapper/mpatha
22. 挂载分区
# mount /dev/mapper/mpatha /data
23. 设置开机自动加载文件系统
在/etc/fstab中添加
/dev/mapper/mpatha /data ext4 _netdev 0 0
但是,Linux系统重启后,磁盘设备的名称可能会发生飘移,从而引起文件系统不能挂载上来或者不能正确挂载,使用UUID的方式进行挂载可以解决这个问题
命令tune2fs -l /dev/mapper/mpatha可以查到文件系统的UUID
在/etc/fstab中添加
UUID=b0583450-3010-4112-b355-15b0d8e6a880 /data ext4 _netdev 0 0
替换掉原来的那行。搞定,这样每次重启系统就可以看到自动挂载好的文件系统,使用跟本地磁盘一样。
24. 至此,该教程全部结束。
展开阅读全文