暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

【oushuDB】【hdfs】connot fetch block locations

原创 xiao_mini 2024-01-17
122

基本信息

系统 : CentOS Linux release 7.4.1708 (Core)
产品 : OushuDB
模块 : HDFS
子模块 : -

描述详述

connot fetch block locations: DETAIL: HdfsIoException: Unexpected: when unwrap the rpc remote exception "java.lang.ArrayIndexOutBoundException", java.lang.ArrayIndexOutOfBoundException in/hawq/depends/libhdfs3/src/server/NamenodeImpl.cpp: 77

原因

当hdfs datanode上出现currupt block上报给namenode时,                           
namenode内存中blockmap和corruptReplicas中有几率信息不同步,                     
这个客户端获取block信息时出现数组越界情况导致获取block location信息失败。           
datenode上currupt block后续会自动被清理,不会复现相同问题。
该问题的issue是https://issues.apache.org/jira/browse/HDFS-11445,该问题在高版本hadoop(2.8.2, 2.9.0)中被修复

解决方案

## 方案一 
等待即可;因为HDFS有自动修复机制;大约6小时

## 方案二
hdfs dfsadmin -triggerBlockReport datanode_host:ipc_port

## 方案三
升级HDFS
文章转载自xiao_mini,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

文章被以下合辑收录

评论