SAP系统升级及集群扩展实施方案v12

SAP系统升级及集群实施方案长沙友旭信息科技有限公司二00八年十一月目 录一、前言2二、相关配置信息31、主机信息32、主机卷信息33、存储信息34、系统及软件规划45、IP规划4三、AIX系统安装调试51、安装系统52、系统安装设置53、扩展软件包安装7四、EtherChannel（以太通道）的配置及规划111、配置前要考虑的事项：112、配置EtherChannel123、配置备份网卡12五、HACMP安装配置131、HACMP及补丁安装132、HACMP配置143、HACMP启动184、HACMP关闭195、配置HAMCP后EMC存储的性能调整20六、主机软硬件详细信息211、sapprd00主机详细信息212、sapprd01主机详细信息21一、 前言三一重工之前的SAP系统平台在IBM P561小型机上运行，考虑到现有的硬件环境已经不能满足业务的需要，决定进行设备更新换代新购买两台IBM P570小型机加EMC存储系统，将SAP系统移到P570上，并且建立高可用的HA集群环境。此方案详细记录了系统升级后的拓扑图和硬件设备配置；实施过程中的AIX 系统安装配置、enthchnnal的配置及规划、HACMP安装配置；用于提供P series系统硬件平台的重要信息备份，为日后维护硬件平台提供重要数据记录，从而进一步提高此硬件平台的高可用性，高可靠性以及高可维护性。系统结构图二、 相关配置信息1、 主机信息机型系统版本数据库版本HACMP版本9117-MMAAIX5300-06Oracle9.2.0.6HACMP5.32、 主机卷信息主机卷组PP(M)逻辑卷文件系统 大小功 能sapprd00rootvg256系统卷/512M/usr8G/var512M/tmp2G/home4G/opt512M/media4Gsapprd01rootvg256系统卷/512M/usr8G/var512M/tmp2G/home4G/opt512M3、 存储信息机型RAID规划LUN规划控制器EMC4、 系统及软件规划分类项目描述备注主机节点名sapprd00/ sapprd01AIX版本5300-06HA版本HACMP 5.3共享卷组datavg网卡en0：1.1.1.1/24 2.2.2.1/24en2：1.1.1.2/24 2.2.2.2/24数据库Oracle版本9.2.0.6归档模式归档实例名ORCL数据库名ORCL存储方式裸设备磁盘阵列管理IP数据库用户名/密码oracle/sys/超级用户5、 IP规划主机名IP地址别名说明sapprd001.1.1.1sapprd00_boot1sapprd00节点boot1IP2.2.2.1sapprd00_boot2sapprd00节点boot2IPsapprd00_persapprd00节点管理IP sapprd_svc服务IPsapprd011.1.1.2sapprd01_boot1sapprd01节点boot1IP2.2.2.2sapprd01_boot2sapprd01节点boot2IP sapprd01_persapprd01节点管理IP三、 AIX系统安装调试1、 安装系统将设备上电，插入操作系统光盘开始进行操作系统的安装。2、 系统安装设置在开始正式的操作系统之前，我们需要对操作系统的安装控制台、安装方式、安装时的语言环境等参数进行设置，其具体步骤如下：1、在小机加电后按F5键，设置光驱引导，出现下面的安装界面中首先按F1键，然后按回车键设置系统控制台* Please define the System Console. *Type a F1 and press Enter to use this terminal as the system console.Typ een F1 en druk op Enter om deze terminal als de systeemconsole to gebruiken.Pour definir ce terminal comme console systeme, appuyez sur F1 puis sur Entree.Taste F1 und anschliessend die Eingabetaste druecken, um diese Datenstation als systemkonsole zu verwenden.Premere il tasto 1 ed Invio per usare questo terminal come console.Escriba F1 y pulse Intro para utilizar esta terminal como consola del sistema.Escriviu F1 1 i premeu Intro per utilitzar aquest terminal com a consola del sistema.Digite um F1 e pressione Enter para utilizar este terminal como console do sistema.2、按“1”键，设置安装操作系统时的语言环境为英语 1 Type 1 and press Enter to have English during install.2 Entreu 2 i premeu Intro per veure la instalaci* en catal*.3 Entrez 3 pour effectuer linstallation en franis.4 Installation in deutscher Sprache 4 eingeben und die Eingabetaste drken.5 Immettere 5 e premere Invio per linstallazione in Italiano.6 Digite 6 e pressione Enter para usar Portugu na instala.7 Escriba 7 y pulse Intro para usar el idioma espal durante la instalaci.8 Skriv 8 och tryck ned Enter = Svenska vid installationen.88 Help ?3、在如下的BOS系统的安装界面选择“2”，即选择“Change/Show Installation Settings and Install”安装方式。Welcome to Base Operating SystemInstallation and MaintenanceType the number of your choice and press Enter. Choice is indicated by . 1 Start Install Now with Default Settings 2 Change/Show Installation Settings and Install 3 Start Maintenance Mode for System Recovery 88 Help ? 99 Previous Menu Choice 1: 2说明：选项1：按照缺省方式安装操作系统。选项2：如果要改变安装方式和系统设置。选项3：进入系统维护模式。4、在如下的安装界面中选择“1”，重新设置系统的安装方式Installation and SettingsEither type 0 and press Enter to install with current settings, or type the number of the setting you want to change and press Enter. 1 System Settings: Method of Installation. .New and Complete Overwrite Disk Where You Want to Install .hdisk0 2 Primary Language Environment Settings (AFTER Install): Cultural Convention.English (United States) Language .English (United States) Keyboard .English (United States) Keyboard Type.Default3 Install Trusted Computing Base. No 0 Install AIX with the current settings listed above. +- 88 Help ? | WARNING: Base Operating System Installation will 99 Previous Menu|destroy or impair recovery of ALL data on the |destination disk hdisk0. Choice 0:说明：在如上的安装界面中选择“1”，重新设置系统的安装方式后有两个功能选项可以供安装者对系统的安装方式进行重新设置。A、“Method of Installation”（安装方式），其中有三种安装方式可供选择：- New and Complete Overwrite Installation.(完全覆盖)- Migration Installation.（升级安装）- Preservation Installation.（保护安装）为了保证安装一个干净的操作系统，这里我们选择第一种安装方法以全新、完全覆盖的方式来安装操作系统，即选择 “1”。B、“Disk Where You Want To Install”菜单项，选择hdisk0作为安装的目标盘。5、在完成系统安装方式后将正式开始从光盘安装操作系统Installing Base Operating SystemIf you used the system key to select SERVICE mode,turn the system key to the NORMAL position any time before theinstallation ends. Please wait. Approximate Elapsed time % tasks complete (in minutes) 0 0 Approximate Elapsed time % tasks complete (in minutes) 95 12 Installing additional software.操作系统安装过程中会提示进行相应光盘的更换，完成之后系统将自动重新启动，待系统重启后我们将进行操作系统扩展包的安装。3、 扩展软件包安装1、以root登录 2、安装AIX5.3 Fileset#smitty installp 选择 INPUT device / directory for software 为/dev/cd0(按F4选择) 进入 SOFTWARE to install选择所需安装的软件开头有符即已安装过开头有+符即未安装过以下必须装:安装以bos、rsct、X11打头的所有文件集 F7 确认/选择 / 为搜索 倒数2项选择 YES3、升级系统#smitty update_all在“INPUT device / directory for software”处输入TL包所在位置在“software to update”处选择要安装的包在 “commit software updates?”处可选择NO在“ACCEPT new license agreements?”处选择YESl 异步I/O设置# smitty chgaio MINIMUM number of servers 1 MAXIMUM number of servers 10STATE to be configured at system restart availablel 系统时区设置东八区,北京时间(不用“夏令时”)，时间和日期为当前时间和日期修改成当前的日期和时间# smittysystem environmentsChange / Show Date and TimeChange / Show Date & Time修改成东八区,北京时间(不用“夏令时”) # smittysystem environmentsChange / Show Date and Time Change Time Zone using system defined values 出现如下的提示Use DAYLIGHT SAVINGS TIME？选择No，出现提示菜单选择(BEIST-8) Peoples Rep. China (CUT +8)l 用户最大进程数、water mark设置# smitty chgsysMaximum number of PROCESSES allowed per user 4096HIGH water mark for pending write I/Os per file 33 LOW water mark for pending write I/Os per file 24l 换页空间设置Page Space默认的hd6大小为512M，对于数据库服务器，可扩大到8G或与内存大小一样根据业务的运行状况可配置1个Page Space01，并且Page Space01位于本地磁盘hdisk2，再删除hd6新增Page Space01#smitty mkps -新增Page Space01Paging space name page00Volume group name rootvgPhysical volume name hdisk2NUMBER of additional logical partitions 32#smitty swapon -激活新增Page Space01删除hd6交换空间运行命令使hd6交换空间处于非活动状态#smitty swapoff删除ps交换空间，采用命令删除hd6交换空间#smitty rmpsl 配置文件属性修改将/etc/security/limits文件中nofiles配置项改为8192，fsize配置项改为 -1l rootvg镜像（1）#extendvg rootvg hdisk1（2）镜像rootvg #mirrorvg rootvg（时间比较长）（3）#bosboot -ad /dev/hdisk0#bosboot -ad /dev/hdisk1 (4) #bootlist -m normal hdisk0 hdisk1四、 EtherChannel（以太通道）的配置及规划AIX集成了EtherChannel功能，可以实现2块网卡以上的负载均衡和冗余， EtherChannel技术的最主要好处是他能够累加所有成员网卡的带宽。如果一个成员网卡失效，EtherChannel会自动调整流量分配策略，从而只使用剩余的网卡进行工作。失效的网卡修复后，EtherChannel会重新启用他。1、 配置前要考虑的事项：a) 对于每个EtherChannel您可以配置多达8个主以太网适配器，每个EtherChannel仅具有一个备份以太网适配器。同一个EtherChannel的所有成员网卡都需要连接在同一个交换机上。如果这个交换机出现故障，整个EtherChannel就都会失效。为了解决这个问题，可以配置备份网卡。用户能为整个EtherChannel指定一块备份网卡，这块网卡连接在不同的交换机上。当整个EtherChannel失效时，这块网卡会自动顶替EtherChannel的功能。b) 您可以在一个系统上配置多个EtherChannel，但是每个EtherChannel会组建一个附加的以太网接口。 c) 在EtherChannel中可以使用任何受支持的以太网适配器。然而，以太网适配器必须连接到一个支持EtherChannel的交换机。请参阅随交换机一起提供的文档以确定它是否支持EtherChannel（交换机文档可能也将该能力称作“链路聚集”或“中继”）。 d) 在EtherChannel中的所有适配器都应该配置为相同的速度（例如，100 Mbps），而且应该是全双工的。 e) 配置完EtherChannel后，系统不能访问EtherChannel中使用的适配器。要修改它们的任何属性，如介质速度，传送或接收排队大小等等，则在将它们包含在“EtherChannel”之前必须进行这些操作。 f) 计划用于EtherChannel的适配器不应该给它们配置 IP 地址。当使用拥有 IP地址的适配器配置以太通道时，请确保它们的接口处于拆离（detach）状态。要添加到EtherChannel的适配器不能具有up状态的接口（如果它们的 IP地址是使用 SMIT 配置的就会发生这种情况）。这会导致机器在重新引导时提示EtherChannel产生问题，因为在 DOM中底层接口在EtherChannel启用之前就使用了。因此，配置EtherChannel时，它会发现它的其中一个适配器已经在使用。要改变这种状况，请在创建EtherChannel之前，输入 smit chinet，选择EtherChannel中所要包括的适配器的每一个接口，将它的state值更改为 detach。这样就会确保机器重新引导时可以正确地配置EtherChannel。 （请注意，不要用ifconfig命令去做，这样将不会修改ODM）g) 如果计划使用超常帧（Jumbo Frames），则在创建EtherChannel之前您可能需要启用每个适配器以及EtherChannel本身的这一功能。在命令行中输入 smitty chgenet。将 Enable Jumbo Frames值更改为 yes 然后按下 Enter 键。请为您要启用“超长帧”的每一个适配器执行这一操作。稍后，您还要启用EtherChannel自身的超长帧。 注:在 AIX 5.2 及后续版本中，一旦超常帧在EtherChannel本身中启用，则不必启用每个底层适配器中的超常帧。如果将启用超常帧属性设置为yes，则该功能将自动启用。2、 配置EtherChannel1) 用root登录, 在命令行运行smitty etherchannel。 2) 选择 Add an etherchannel。 3) 选择etherchannel的成员网卡。4) 按照以下说明输入下列信息： Mode中选择Round Robin模式: 在这种模式下各个成员网卡被轮流使用，每轮每个网卡发送一个数据包。 5) 在更改了希望更改的字段后按 Enter 键来创建EtherChannel。 6) 使用smit chinet为EtherChannel设备（entx）设置IP地址 7) 从列表中选择新的“etherchannel”接口。 8) 填充所有需要的字段并按 Enter 键。3、 配置备份网卡1) 用 root 权限，在命令行上输入 smit etherchannel。 2) 从列表中选择Change/Show Characteristics of an EtherChannel/Link Aggregation并按下 Enter 键。 3) 选择Add Backup Adapter并按 Enter 键。 4) 增加备份网卡到EtherChannel设备（entx）中。五、 HACMP安装配置1、 HACMP及补丁安装将安装文件和patch通过ftp工具上传到主机，所在目录如下：安装文件所在目录：/media/hacmp/hacmp53patch所在目录：/media/hacmp/patch#smitty installp Install SoftwareType or select values in entry fields.Press Enter AFTER making all desired changes. Entry Fields*INPUT device / directory for software /media/hacmp/hacmp53* SOFTWARE to install _all_latest + PREVIEW only? (install operation will NOT occur) no + COMMIT software updates? yes + SAVE replaced files? no + AUTOMATICALLY install requisite software? yes + EXTEND file systems if space needed? yes + OVERWRITE same or newer versions? no + VERIFY install and check file sizes? no + Include corresponding LANGUAGE filesets? yes + DETAILED output? no + Process multiple volumes? yes + ACCEPT new license agreements? yes + Preview new LICENSE agreements? no +说明：按F4进入软件产品选择，除cluster.hativoli、cluster.haview和rsct.exp文件集外都安装#smitty update_all Update Installed Software to Latest Level (Update All)Type or select values in entry fields.Press Enter AFTER making all desired changes. Entry Fields* INPUT device / directory for software /media/hacmp/patch* SOFTWARE to update _update_all PREVIEW only? (update operation will NOT occur) no + COMMIT software updates? yes + SAVE replaced files? no + AUTOMATICALLY install requisite software? yes + EXTEND file systems if space needed? yes + VERIFY install and check file sizes? no + DETAILED output? no + Process multiple volumes? yes + ACCEPT new license agreements? yes Preview new LICENSE agreements? no +2、 HACMP配置编辑/etc/hosts文件，内容如下： 1.1.1.1sapprd00_boot1 1.1.1.2sapprd00_boot20.0.0.0 sapprd00_per2.2.2.1sapprd01_boot1 2.2.2.2sapprd01_boot20.0.0.0 sapprd01_per0.0.0.0 sapprd_svc说明：hosts文件在所有节点上必须保持一致。编辑/usr/es/sbin/cluster/etc/rhosts文件，内容如下： sapprd00_boot1sapprd00_boot2sapprd00_persapprd01_boot1sapprd01_boot2sapprd01_persapprd_svc说明：rhosts文件在所有节点上必须保持一致。#smitty hacmp Extended ConfigurationExtended Topology ConfigurationConfigure an HACMP ClusterAdd/Change/Show an HACMP Cluster* Cluster Name cl_sapprdExtended Configuration Extended Topology Configuration Configure HACMP Nodes Add a Node to the HACMP Cluster* Node Name sapprd00 Communication Path to Node sapprd00Extended Configuration Extended Topology Configuration Configure HACMP Nodes Add a Node to the HACMP Cluster* Node Name sapprd01 Communication Path to Node sapprd01Extended ConfigurationDiscover HACMP-related Information from Configured NodesExtended ConfigurationExtended Topology Configuration Configure HACMP Networks Add a Network to the HACMP Cluster# Discovered IP-based Network Types ether Add an IP-Based Network to the HACMP Cluster* Network Name net_ether_01 * Network Type ether* Netmask 255.255.255.0 * Enable IP Address Takeover via IP Aliases Yes IP Address Offset for Heartbeating over IP AliasesExtended ConfigurationExtended Topology Configuration Configure HACMP Networks Add a Network to the HACMP Cluster# Discovered Serial Device Types ? rs232* Network Name net_rs232_02* Network Type rs232Extended ConfigurationExtended Topology Configuration Configure HACMP Communication Interfaces/Device Add Communication Interfaces/DevicesAdd Discovered Communication Interface and Devices Communication Interfaces net_ether_01 # Node / Network # Interface IP Label IP Address # net_ether_01 / sapprd00 en0 sapprd00_boot1 1.1.1.1 en2 sapprd00_boot2 1.1.1.2 # net_ether_01 / sapprd01 en0 sapprd01_boot2 2.2.2.1 en2 sapprd01_boot1 2.2.2.2 Extended ConfigurationExtended Topology Configuration Configure HACMP Communication Interfaces/Device Add Communication Interfaces/DevicesAdd Discovered Communication Interface and Devices Communication Device net_ether_01Extended ConfigurationExtended Topology Configuration Configure HACMP Communication Interfaces/Device Add Discovered Communication Interface and Devices Communication Interfaces net_rs323_02* Device Name sapprd00_tty0_01* Network Type rs232* Network Name net_rs323_02* Device Path /dev/tty0* Node Name sapprd00 * Device Name sapprd01_tty0_01* Network Type rs232* Network Name net_rs323_02* Device Path /dev/tty0* Node Name sapprd01 Extended ConfigurationExtended Topology Configuration Configure HACMP Persistent Node IP Label/Addresses Add a Persistent Node IP Label/Address sapprd00&sapprd01* Node Name sapprd00* Network Name net_ether_01 +* Node IP Label/Address sapprd00_per +* Node Name sapprd01* Network Name net_ether_01 +* Node IP Label/Address sapprd01_per +Extended Configuration HACMP Extended Resources Configuration Configure HACMP ApplicationsConfigure HACMP Application ServerAdd an Application Server Entry Fields* Server Name app* Start Script /hascripts/dbstart.sh* Stop Script /hascripts/dbstop.sh Application Monitor Name(s) +Extended Configuration HACMP Extended Resources Configuration Configure HACMP Service IP Labels/AddressesAdd a Service IP Label/AddressConfigurable on Multiple Nodesnet_ether_01* IP Label/Address sapprd_svc +* Network Name net_ether_01 Alternate Hardware Address to accompany IP Label/A ddress Extended Configuration HACMP Extended Resource ConfigurationHACMP Extended Resource Group Configuration Add a Resource Group Entry Fields* Resource Group Name rg* Participating Nodes (Default Node Priority) sapprd00 sapprd01 Startup Policy Online On All Available Nodes Fallover Policy Bring Offline (On Error Node Only) Fallback Policy Never FallbackExtended Configuration HACMP Extended Resource ConfigurationHACMP Extended Resource Group ConfigurationChange/Show Resources and Attributes for a Resource Group rgResource Group Name rg Participating Nodes (Default Node Priority) sapprd00 sapprd01 Startup Policy Online On Home Node O Fallover Policy Fallover To Next Prio Fallback Policy Never Fallback Service IP Labels/Addresses sapprd_svc + Application Servers app + Volume Groups datavg + Use forced varyon of volume groups, if necessary false + Automatically Import Volume Groups false + Filesystems (empty is ALL for VGs specified) + Filesystems Consistency Check fsck + Filesystems Recovery Method sequential + Filesystems mounted before IP configured false + Filesystems/Directories to Export +Extended ConfigurationExtended Verificat