暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

Hadoop3.x修改默认配置

数据研发技术 2021-11-17
883

有时集群可能与现有端口冲突,或者出于安全考虑会要修改默认端口或存储。下面列出了整理的常用配置项。

欢迎关注公众号,回复hadoop,获取从零开始Hadoop系列完整文档阅读效果更佳。

一、修改默认端口

涉及组件配置项默认端口配置文件
zookeeper端口2181
zkui
9093/app/zkui/config.cfg
hadoopnamenode的web访问9870hdsf-site.xml / dfs.namenode.http-address.mycluster.nn1
hadoopnamenode的RPC地址8020hdsf-site.xml / dfs.namenode.rpc-address.mycluster.nn1
hadoop历史服务器10020mapred-site.xml / mapreduce.jobhistory.address
hadoop历史服务器web19888mapred-site.xml / mapreduce.jobhistory.webapp.address
yarnwebapp地址8088yarn-site.xml / yarn.resourcemanager.webapp.address  yarn.resourcemanager.webapp.address.rm1
yarn日志聚集服务19888yarn-site.xml / yarn.log.server.url
hivemetastore9083hive-site.xml / hive.metastore.port
hivehive.metastore.uris9083hive-site.xml / hive.metastore.uris
hivewebui10002hive-site.xml / hive.server2.webui.port
hivethrift10000hive-site.xml / hive.server2.thrift.port
hivethrift http10001hive-site.xml / hive.server2.thrift.http.port



同步修改hivectl.sh脚本中的端口
hiveRPC port for LLAP15004hive-site.xml / hive.llap.management.rpc.port
hiveYARN shuffle port for LLAP15551hive-site.xml / hive.llap.daemon.yarn.shuffle.port
hiveLLAP daemon web UI15002hive-site.xml / hive.llap.daemon.web.port
hiveLLAP daemon output service15003hive-site.xml / hive.llap.daemon.output.service.port
sparkspark webui8081spark-env.sh / SPARK_MASTER_WEBUI_PORT
sparkspark master port7077spark-env.sh / SPARK_MASTER_PORT
sparkspark master port7077spark-defaults.conf / spark.master
sparkspark.ui.port4040spark-defaults.conf / spark.ui.port
hbasehbase.master.port16000hbase-site.xml / hbase.master.port
hbasemaster webui16010hbase-site.xml / hbase.master.info.port
hbaseregionserver port16201hbase-site.xml / hbase.regionserver.port
hbaseregionserver web16301hbase-site.xml / hbase.regionserver.info.port
dolphinschedulerapiserver12345

二、修改默认存储

涉及组件配置文件新的配置
zookeeperzoo.cfg / dataDir/appdata1/zookeeper/zdata/data
zookeeperzoo.cfg / dataLogsDir/appdata1/zookeeper/zdata/logs
hadoopcore-site.xml / hadoop.tmp.dir/appdata1/hadoop/tmp
hadoophdfs-site.xml / dfs.journalnode.edits.dir/appdata1/hadoop/journalnode
hivehive-site.xml / hive.exec.local.scratchdir/appdata1/hive/tmp/hiveuser
hivehive-site.xml / hive.downloaded.resources.dir/appdata1/hive/tmp/${hive.session.id}_resources
hivehive-site.xml / hive.server2.logging.operation.log.location/appdata1/hive/tmp/operation_logs
hbasehbase-site.xml / hbase.tmp.dir/appdata1/hbase/tmp

注:

  1. 记得移动原目录/appdata下的文件到新目录

  2. 记得删除zk中/hbase目录(若HMaster启动失败)


欢迎关注公众号,回复hadoop,获取从零开始Hadoop系列完整文档

文章转载自数据研发技术,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论