ITPub博客

首页 > 数据库 > Oracle > oracle一次集群故障案例

oracle一次集群故障案例

原创 Oracle 作者:wanglinghua0907 时间:2025-02-06 10:39:08 0 删除 编辑

一、故障描述

故障简述

客户RAC节点2集群无法启动。

操作系统

linux   6

数据库版本

11.2.0.4   RAC

 

二、处理过程

步骤

动作

【检查环境】

检查集群日志,确认异常节点2集群无法读取Voting File导致。

【OCR磁盘组修复】

通过NFS临时添加OCR磁盘。添加成功,Voting   File问题修复。

【RAC部分进程端口号冲突】

通过排查发现节点1、2的rac进程,发现节点1的gipc、mdns进程存在端口号占用问题,kill并恢复。

【网络异常修复】

节点2 CSSD无法启动,GIPCD网络通信异常,关闭防火墙。

【重启测试】

重启服务器操作系统,CSSD无法启动。关闭防火墙自启动,重启两个节点操作系统,集群正常启动。

【业务验证】

业务验证正常。

 

 

三、问题详细诊断过程

1. 尝试启动集群

 

 

2.dd+nfs 临时处理

    为了尽快恢复2 节点,打算先在1 节点dd 出2 块新vote 盘,然后通过nfs 的方式挂载两边,添加到ocr 磁盘组,让2 节点normal 的ocr 先起来,再来判断一下后续的问题。

 

3. 一节点实例宕了

 

 

4. 再次尝试启动二节点

4.1 osw 查看prvtnet,发现traceroute通讯正常。

4.2 osw 查看netstat,发现IpReasmFails无明显增加,说明并非mtu切片重组失败导致的网络问题。

 

 


5. 查看 98 报错

发现为端口占用报错

[root@hract21 Desktop]# cat  /usr/include/asm-generic/errno.h | grep 98
#define    EADDRINUSE    98    /* Address already in use */

 

6. 分析 gipc 报错

gipcEndpoint : localAddr 'mcast://224.0.0.251:42424/192.168.0.1    -->   42424 is the port

说明42424 端口被占用

 

 

7. 查看 42424 端口

netstat -taupen |grep ":42424"  发现被mdns 进程占用。导致gipc 起不来。

 

Tips (常规rac 进程的默认端口号):

 

8.kill 掉 mdns 进程

 

 

9. 重启二节点

 

10. 防火墙方向排查

 

 

*. 整体流程图

 


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69980685/viewspace-3071125/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
Oracle ACE、sql server、oceanbase数据库专家,拥有7年以上的大型数据库运维经验,主方向oracle,擅长故障排除、诊断,大体量(TB)迁移,异常故障修复等。拥有丰富主导大型项目经验。服务行业包括:运营商、银行、金融业、政府单位、医疗、制造业、高校等等。

注册时间:2020-07-31

  • 博文量
    116
  • 访问量
    88779