1.4.8 智能平台管理接口 (IPMI)

智能平台管理接口（IPMI），今天是包含在许多服务器的行业标准管理协议。 IPMI独立于操作系统系统，如果系统不通电也能工作。IPMI服务器包含一个基板管理控制器(BMC)，其用于与服务器通信（BMC）。

关于使用IPMI隔离节点

为了支持会员杀死升级为终止节点，您必须配置和使用一个外部机制能够重启问题节点, 或从Oracle集群或从运行的操作系统的配置和使用能够重新启动该节点。IPMI是这样的机制，从11.2开始支持。通常情况下，在安装的过程中配置IPMI。如果在安装过程中没有配置IPMI，则可以在CRS的安装完成后用CRSCTL配置。

1.4.9  调试CSS

有时有必要改变ocssd的默认日志级别。

在11.2的日志默认级别是2.要改变日志级别，root用户在一个节点上执行下面命令：

# crsctl set log css CSSD:N (where N is the logging level)

Logging level 2 = 默认的

Logging level 3 =详细信息，显示各个心跳信息包括misstime，有助于调试NHB的相关问题。

Logging level 4 = 超级详细

    大多数问题在级别2就能解决了，有一些需要级别3，很少需要级别4. 使用3或4级,跟踪信息可能只保持几个小时(甚至分钟),因为跟踪文件可以填满和信息可以被覆盖。请注意,日志级别高会造成性能影响ocssd由于数量的跟踪。如果你需要保持更长一段时间的数据,创建一个cron作业来备份和压缩CSS日志。

为了增强对cssdagent或cssdmonitor的跟踪，可以通过crsctl命令实现：

# crsctl set log res ora.cssd=2 -init

# crsctl set log res ora.cssdmonitor=2 -init

在Oracle11.2的集群，CSS输出堆栈的dump信息到cssdOUT.log中。有助于在发生重启之前刷新诊断数据到磁盘上。因此在11.2上我们不考虑有必要的diagwait（默认0）改变,除非支持或者开发有相关建议。

在非常罕见的情况下,只有在调试期间,可能也许必要禁用ocssd重新启动。这可以通过以下crsctl命令。禁用重启应该在支持或开发人员的指导下,可以在线做不会有堆栈重启。

# crsctl modify resource ora.cssd -attr "ENV_OPTS=DEV_ENV" -init

# crsctl modify resource ora.cssdmonitor -attr "ENV_OPTS=DEV_ENV" –init

在11.2.0.2启用更高的日志级别可能介绍各种模块。

用下面命令列出css守护进程的所有模块的名字：

CLSF and SKGFD – 关于仲裁盘的I/O

CSSD -  same old one

GIPCCM - gipc communication between applications and CSS

GIPCGM - communication between peers in the GM layer

GIPCNM - communication between nodes in the NM layer

GPNP - trace for gpnp calls within CSS

OLR - trace for olr calls within CSS

下面是如何对不同的模块设置不同的日志级别的例子：

# crsctl set log css GIPCCM=1,GIPCGM=2,GIPCNM=3

# crsctl get log css CSSD=4

检查当前的跟踪日志级别用下面的命令：

# crsctl get log ALL

# crsctl get log css GIPCCM

CSSDAGENT and CSSDMONITOR

CSSDAGENT and CSSDMONITOR几乎提供相同的功能。cssdagent启动，停止，检查ocssd守护进程状态。cssdmonitor监控cssdagent。没有ora.cssdagent资源，也不是ocssd守护进程的资源。

在11.2之前实现上面两个代理的功能是oprocd,olcsmon守护进程。cssdagent和cssdmonitor运行在实时优先级锁定内存,就像ocssd一样。

另外，cssdagent 和cssdmonitor提供下面的服务来确保数据完整性：

监控ocssd，如果ocssd失败，那么cssd* 重启节点

监控节点调度：如果节点夯住了/没有进程调度，重启节点。

更全面的决策是否需要重新启动,cssdagent和cssdmonitor通过NHB从ocssd接收状态信息,确保本地节点的状态被远程节点认为是准确的。此外,集成将利用时间其他节点感知当地节点为目的,如文件系统同步得到完整的诊断数据。

1.4.10 调试CSSDAGENT and CSSDMONITOR

为了启动ocssd代理调试，可以用crsctl set log res ora.cssd:3 –init命令。这个操作的日志记录在Grid_home/log//agent/ohasd/oracssdagent_root/oracssdagent_root.log和更多跟踪信息写在oracssdagent_root.log里。

2009-11-25 10:00:52.386: [ A**][2945420176] Agent received the message: RESOURCE_MODIFY_ATTR[ora.cssd 1 1] ID 4355:106099

2009-11-25 10:00:52.387: [    A**][2966399888] Executing command:

res_attr_modified for resource: ora.cssd 1 1

2009-11-25 10:00:52.387: [ USRTHRD][2966399888] clsncssd_upd_attr: setting trace to level 3

2009-11-25 10:00:52.388: [ CSSCLNT][2966399888]clssstrace: trace level set to 2 2009-11-25 10:00:52.388: [ A**][2966399888] Command: res_attr_modified for resource: ora.cssd 1 1 completed with status: SUCCESS

2009-11-25 10:00:52.388: [    A**][2945420176] Attribute: LOGGING_LEVEL for

resource ora.cssd modified to: 3

2009-11-25 10:00:52.388: [ A**][2945420176]  config version updated to : 7 for ora.cssd 1 1

2009-11-25 10:00:52.388: [ A**][2945420176] Agent sending last reply for: RESOURCE_MODIFY_ATTR[ora.cssd 1 1] ID 4355:106099

2009-11-25 10:00:52.484: [ CSSCLNT][3031063440]clssgsgrpstat: rc 0, gev 0, incarn

2, mc 2, mast 1, map 0x00000003, not posted

同样适用于cssdmonitor（ora.cssdmonitor）资源。

1.4.11 概念

heartbeats（心跳）

Disk HeartBeat (DHB) 磁盘心跳，定期的写在表决文件里，一秒钟一次

Network HeartBeat (NHB)网络心跳，每一秒钟发送一次到其他节点上

Local HeartBeat (LHB)本地心跳，每一秒钟一次发送到代理或监控

ocssd 线程

Sending Thread (ST) 同一时间发送网络心跳和本地心跳

Disk Ping thread 每一秒钟把磁盘心跳写到表决文件里

Cluster Listener (CLT) 接收其他节点发送过来的消息，主要是网络心跳

agent/monitor线程

HeartBeat thread (HBT)从ocssd接收本地心跳和检测连接失败

OMON thread (OMT) 监控连接失败

OPROCD thread (OPT) 监控agent/moniter调度进程

VMON thread (VMT)取代clssvmon可执行文件,注册在skgxn组供应商集群软件

Timeouts（超时）

Misscount (MC) 一个节点在被删除之前没有网络心跳的时间

Network Time Out (NTO) 一个节点在被删除之前没有网络心跳的最大保留时间

Disk Time Out (DTO) 大多数表决文件被认为是无法访问的最大时间

ReBoot Time (RBT) 允许重新启动的时间，默认是三秒钟。

Misscount, SIOT, RBT

Disk I/O Timeout amount of time for a voting file to be offline before it is unusable

SIOT – Short I/O Timeout, in effect during reconfig

LIOT – Long I/O Timeout, in effect otherwise

Long I/O Timeout – (LIOT)通过crsctl set css disktimeout配置超时时间，默认200秒。

Short I/O Timeout (SIOT) is (misscount – reboot time)

In effect when NHB’s missed for misscount/2

ocssd terminates if no DHB for SIOT

Allows RBT seconds after termination for reboot to complete