暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

Hadoop+Hbase集群数据迁移问题

我是攻城师 2016-03-23
588

数据迁移或备份是任何一个公司都有可能到遇到的一件事,有关hbase数据迁移,官网也给出了几种方案,这里比较推荐使用hadoop distcp这种方式迁移。比较适合大数据量或者跨版本集群之间的数据迁移服务。 

版本 
Hadoop2.7.1 
Hbase0.98.12 

今天在迁移同版本的hbase数据时,在使用Hadoop distcp时发现下图的一个问题: 





这个错误时,是由于源文件的大小与目标文件大小不一致造成的,出现这个问题的原因不明确,然后在网上google查找类似错误,发现没有一样的例子,有的都是 
关于crc文件校验和不匹配的问题,而上述错误,则是文件大小不一致,重试3次之后,都是类似错误,所以试着去hadoop的官网文档找答案,发现官网文档distcp里面 
有个update的参数,官网解释如下: 





什么意思呢? 

意思是如果再拷贝过程中,源文件和目标文件出现大小,块大小或者是校验和不一致的情况,会强制使用源文件替换目标文件,不到万不得己的 
时候不要使用,使用这个需要谨慎,因为它可能会改变目标路径。 

举个例子: 
假设现在有A集群数据要迁移到B集群数据,并且Hbase的结构目录保持一致: 

A集群数据迁移的目录如下: 

Java代码  

  1. /data/01/a  

  2. /data/01/b  

  3. /data/01/c  

  4. /data/01/d  

  5. /data/01/e  



理想情况下,B集群迁移过去的目录是跟A集群的目录一致: 

Java代码  

  1. /data/01/a  

  2. /data/01/b  

  3. /data/01/c  

  4. /data/01/d  

  5. /data/01/e  



但由于使用了-update之后,很有可能变成下面的目录结构: 

Java代码  

  1. /data/01  

  2. /data/a  

  3. /data/b  

  4. /data/c  

  5. /data/d  

  6. /data/e  



出现这种情况,在update的文档已经描述了,因为使用这个命令时,会强制保留源文件的任何信息包括路径, 
这样以来才能100%保证拷贝过来的数据是不能发生任何变化的,虽然目录错位了,但是数据正确,可以通过 
一个小窍门解决这个问题,在拷贝的时候,如果已经知道某个job会出现这种情况,就提前将其目录的路径填写 
完整,这样就不用再手动移动文件到正确的目录里面了。比如原来我的迁移命令是这样的: 

Java代码  

  1. hadoop distcp hdfs://10.0.0.100:8020/hbase/data/default/ETLDB    hdfs://10.0.0.101:8020/hbase/data/default  



可以正确迁移数据,但如果使用了update后,应该使用下面的路径,注意目标路径上加了表名,如果不存在,如果提前创建下 

Java代码  

  1. hadoop distcp -update  hdfs://10.0.0.100:8020/hbase/data/default/ETLDB    hdfs://10.0.0.101:8020/hbase/data/default/ETLDB  



试想一个,如果你的hbase表有10000多个region,那么则意味着,你需要处理这10000个错位的目录到正确的目录里面, 
虽然写个脚本也能自动化处理,但是这样的耗时也挺长,而且谁能保证,脚本不会出现问题,所以不推荐事后修补的方式。 

迁移完成之后,启动hbase集群服务,并执行如下的两个命令,恢复元数据,否则hbase集群不会识别新迁移过来的表: 

Java代码  

  1. ./hbase  hbck -fix   

  2. ./hbase  hbck -repairHoles   



总结: 
(1)出现问题,不用紧张,可以先google找类似异常,如果没有则需要多看官网的distcp文档参数的介绍,注意文档的版本和你的hadoop的版本需要一致,否则有些参数可能已经废弃,过时,或者不支持。 
(2)如果distcp一个很大的目录时,出现 xxx file not exist 的IO异常,可以试着减少拷贝的文件目录数量,如果还是不能通过,则需要回到1方式查找问题,大部分情况下,我们拷贝一个很少数量的目录时,是不容易出现问题的。 

参考文档: 
http://hadoop.apache.org/docs/r2.7.1/hadoop-distcp/DistCp.html 

文章转载自我是攻城师,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论