暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

技术贴|FusionInsight HD简介与安装

腾科教育 2020-02-03
5721

PART  1 

FusionInsight HD 简介  底层Linux环境安装


FusionInsight是华为企业级大数据存储、查询、分析的统一平台,能够帮助企业快速构建海量数据信息处理系统,通过对海量信息数据实时与非实时的分析挖掘,发现全新价值点和企业商机。FusionInsight解决方案由4个子产品FusionInsight HDFusionInsight MPPDBFusionInsight MinerFusionInsight Farmer1个操作运维系统FusionInsight Manager构成。


FusionInsight HD企业级的大数据处理环境,是一个分布式数据处理系统,对外提供大容量的数据存储、分析查询和实时流式数据处理分析能力。

FusionInsight LibrA企业级的大规模并行处理关系型数据库。FusionInsight MPPDB采用MPP(Massive Parallel Processing)架构,支持行存储和列存储,提供PBPetabyte250次方字节)级别数据量的处理能力。

FusionInsight Miner企业级的数据分析平台,基于华为FusionInsight HD的分布式存储和并行计算技术,提供从海量数据中挖掘出价值信息的平台。

FusionInsight Farmer企业级的大数据应用容器,为企业业务提供统一开发、运行和管理的平台。

FusionInsight Manager企业级大数据的操作运维系统,提供高可靠、安全、容错、易用的集群管理能力,支持大规模集群的安装部署、监控、告警、用户管理、权限管理、审计、服务管理、健康检查、问题定位、升级和补丁等功能。

FusionInsight平台架构分层、解耦、开放。本文介绍如何在虚拟环境上(VMware vSphere、FusionCompute)安装FusionInsigh HD 和 FusionInsight Manager。


集群组网方案


基础环境

1、虚拟化平台(VMware、vSphereFusionComputeVMware

软件准备

1FusionInsight_Manager_V100R002C70SPC200_RHEL.tar.gz

2FusionInsight_HD_V100R002C70SPC200_RHEL.tar.gz

3FusionInsight_SetupTool_V100R002C70SPC200.tar.gz

4FusionInsight V100R002C70SPC200 配置规划工具》

5MobaXterm_Personal_12

6CentOS-6.5-x86_64---操作系统

 

所有资源存放链接:

建议 1)可咨询获取或者 2)直接将网盘发送出去

网盘https://pan.baidu.com/s/1KnNPFyBkoc8mLnfIEEr8ZQ提取码:pjgn

底层环境

1、操作系统---CentOS-6.5-x86_64


安装操作系统注意点:

1)虚拟机的配置需求(举例)

虚拟机名称

HCIP-TengkeEDU1


CPU

24

插槽数:6      内核数:4

内存

64G

如果使用FusionCompute 本身硬件内存不够,导致虚拟机不能开机,可以去增加交换空间


磁盘

8/4800GB

8个硬盘,每个硬盘600G,精简配置模式

网卡

Network Adapter 1

管理网段

192.168.1.41

192.168.1.1

Network Adapter 2

业务网段

192.168.222.41

192.168.222.1



虚拟机密码

用户名

密码

root

TengkeEDU@123!?

tengkeEDU

Huawei@123!?

 

root密码设置的一致,后续安装软件的时候需要

主机名

www1.tengkeEDU.com

 


2)安装Centos6.5 虚拟机的过程中注意点


(2.1)磁盘划分

安装规划

安装过程中划分磁盘的步骤

3)一台安装完之后,可以去克隆其他两台虚拟机HCIP-TengkeEDU2HCIP-TengkeEDU3


PART  2  

FusionInsight HD 简介  Linux底层环境配置调整


3、按照下述步骤修改完毕之后,重启HCIP-TengkeEDU1HCIP-TengkeEDU2HCIP-TengkeEDU3

3.1HCIP-TengkeEDU2/3开机之后,发现主机名不对,对HCIP-TengkeEDU2/3的主机名称进行调整

HCIP-TengkeEDU2

vim  /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=www2.tengkeEDU.com

HCIP-TengkeEDU3

vim  /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=www3.tengkeEDU.com

3.2HCIP-TengkeEDU2/3开机之后,发现网卡编号不是eth0eth1,为了方便,对HCIP-TengkeEDU2/3的网卡名称进行调整

HCIP-TengkeEDU2

vim  /etc/udev/rules.d/70-persistent-net.rules

# PCI device 0x1af4:0x1000 (virtio-pci)

#根据实际实际虚拟网卡的MAC地址,去修改网卡的名字,我这边规划 第二个网卡是管理网段

SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="28:6e:d4:89:be:01", ATTR{type}=="1", KERNEL=="eth*", NAME="eth1"

 

# PCI device 0x1af4:0x1000 (virtio-pci)

SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="28:6e:d4:8a:0b:9c", ATTR{type}=="1", KERNEL=="eth*", NAME="eth0"

HCIP-TengkeEDU3

vim  /etc/udev/rules.d/70-persistent-net.rules

#与上述修改一致

3.3)重启三台虚拟机


4、三台虚拟机做基础配置

4.1)为三台虚拟机配置IP地址


管理网段-eth0

业务网段-eth1

HCIP-TengkeEDU1

[root@www1 ~]#vim  /etc/sysconfig/network-scripts/ifcfg-eth0

DEVICE=eth0

TYPE=Ethernet

ONBOOT=yes

BOOTPROTO=none

IPADDR=192.168.1.41

PREFIX=24

GATEWAY=192.168.1.1

DNS1=192.168.1.1

NAME="System eth0"

[root@www1 ~]#vim  /etc/sysconfig/network-scripts/ifcfg-eth1

DEVICE=eth1

TYPE=Ethernet

ONBOOT=yes

BOOTPROTO=none

IPADDR=192.168.222.41

PREFIX=24

GATEWAY=192.168.222.1

NAME="System eth1"

 

HCIP-TengkeEDU2

IPADDR=192.168.1.42

IPADDR=192.168.222.43

HCIP-TengkeEDU3

IPADDR=192.168.1.43

IPADDR=192.168.222.43


三台设备IP地址配置完毕之后,重启网络服务

[root@www1 ~]#service   network  restart


4.2)为三台虚拟机配置互信,HCIP-TengkeEDU1/2/3三台设备重复性操作

HCIP-TengkeEDU1

HCIP-TengkeEDU2

HCIP-TengkeEDU3

配置SSH服务

[root@www1 ~]#ssh-keygen   -N   ""

[root@www1 ~]#ssh-copy-id   -i   ~/.ssh/id_rsa.pub root@192.168.1.41

[root@www1 ~]#ssh-copy-id   -i   ~/.ssh/id_rsa.pub root@192.168.1.42

[root@www1 ~]#ssh-copy-id   -i   ~/.ssh/id_rsa.pub root@192.168.1.43

4.3)为三台虚拟机配置主机名解析,HCIP-TengkeEDU1/2/3三台设备重复性操作

HCIP-TengkeEDU1

HCIP-TengkeEDU2

HCIP-TengkeEDU3

/etc/hosts

[root@www1 ~]# cat etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.222.41 www1

192.168.222.43 www3

192.168.222.42 www2

 

PART  3  

FusionInsight HD 软件安装基础准备 

 


软件安装流程

FusionInsight V100R002C70SPC200 配置规划工具》

1、使用MobaXterm_Personal_12软件 远程登录到 www1www2www3节点

2、通过MobaXterm_Personal_12,将下述三个软件包传输到www1   www2 节点 /opt 目录下

1FusionInsight_Manager_V100R002C70SPC200_RHEL.tar.gz

2FusionInsight_HD_V100R002C70SPC200_RHEL.tar.gz

3FusionInsight_SetupTool_V100R002C70SPC200.tar.gz


3解压FusionInsight_Manager_V100R002C70SPC200_RHEL.tar.gzFusionInsight_SetupTool_V100R002C70SPC200.tar.gz软件

HCIP-TengkeEDU1

HCIP-TengkeEDU2

tar    -zxvf    /opt/FusionInsight_Manager_V100R002C70SPC200_RHEL.tar.gz

tar    -zxvf    /opt/FusionInsight_SetupTool_V100R002C70SPC200.tar.gz

4、将FusionInsight_HD_V100R002C70SPC200_RHEL.tar.gz拷贝到安装路径下/opt/FusionInsight_Manager/software/packs/

HCIP-TengkeEDU1

HCIP-TengkeEDU2

cp     /opt/FusionInsight_HD_V100R002C70SPC200_RHEL.tar.gz      /opt/ FusionInsight_Manager/software/packs/

5、挂载镜像,在下述安装软件过程中,不能镜像不能中断挂载mount    /dev/sr0      /media/     -o    loop

 

6、编辑FusionInsight V100R002C70SPC200 配置规划工具》文件,根据实际流程,生成配置文件

注意:可参考  云盘连接资源模板,若参考模板文件,修改相关IP地址即可

文件编辑到  9步骤后,可以将文件传输到  www1www2www3 这三台虚拟机中

7、软件安装准备

1)下载云盘资源里面的NS.rar压缩包(提示不提前安装,在4) 步骤安装必须的软件的过程中,会出现异常

解压完毕后,传输到  www1www2www3 这三台虚拟机的/hw目录中

此处/hw目录关系不大,可自行设置

 

2)安装NS.rar 软件中的四个软件,按照步骤安装,因为包和包之间有依赖关系

HCIP-TengkeEDU1

HCIP-TengkeEDU2

HCIP-TengkeEDU3

rpm -Uvh nspr-4.19.0-1.el6.x86_64.rpm

rpm -Uvh nss-util-3.36.0-1.el6.x86_64.rpm

rpm -Uvh nss-softokn-freebl-3.14.3-23.3.el6_8.x86_64.rpm

rpm -Uvh nss-softokn-3.14.3-23.3.el6_8.x86_64.rpm

 

3)三台设备搭建yum

1

[root@www1 hw]# cat etc/yum.repos.d/tengkeEDU.repo

[TK-EDU]

name=TK-EDU-YUM

baseurl=file:///media

gpgcheck=0

 

4)安装必须的软件供23个软件

 


PART  4 

 FusionInsight HD 软件安装

8、软件安装

1)在www1上,配置并检查节点的操作系统。preinstall成功后,会自动执行precheck

[root@www1 hw]# cd opt/FusionInsight_SetupTool

[root@www1 FusionInsight_SetupTool]# ./setuptool.sh preinstall

Please enter cluster SSH password for root:  <输入操作系统的密码      root123>

**FusionInsight PreInstall is starting...

**********************************

*****FusionInsight Preinstall*****

**********************************

***** Time:507s

***** Running:3

***** Success:0

***** Failure:0

***** Total:3

***** Schedule:47%


#############检查完成后,查看opt/FusionInsight_SetupTool/precheck/log/precheck_failed.log文件,

针对里面的“ERROR”级别必须在安装前解决,“WARNING”级别请根据实际情况审视。


2)在www1上进行安装

[root@www1 ~]# cd opt/FusionInsight_SetupTool

[root@www1 FusionInsight_SetupTool]#./setuptool.sh precheck/ -p precheck/checkNodes.Config -i install_oms/192.168.1.41.ini

Prompt : Please input nodes password : <输入操作系统的密码      root123>


3)在www2上进行安装

[root@www2 ~]# cd /opt/FusionInsight_SetupTool

[root@www2 FusionInsight_SetupTool]#./setuptool.sh precheck/ -p precheck/checkNodes.Config -i install_oms/192.168.1.42.ini

Prompt : Please input nodes password : <输入操作系统的密码      root123> ==========Welcome==========

STEP 1 Checking the parameters.

The ws_float_ip(192.168.1.42) already exists on the network.

Is it used on the active OMS HA? (y/n):y

The om_float_ip(192.168.1.42) already exists on the network.

Is it used on the active OMS HA? (y/n):y

=== STEP 2 Preparing for installation components.  [done]

=== STEP 3 Installing the manager. [done]

=== STEP 4 Installing the packs. [done]

=== STEP 5 Starting the OMS.  [done]

=== STEP 6 Waiting for ntp to startup. [done]

==========Install Successfully==========

Please visithttp://192.168.10.46:8080/web/ to continue cluster installation.

Installation is successful.

9、初始化 FusionInsight  Manager 系统

使用IE 9浏览器登录FusionInsight Manager系统:

地址格式为:http://OMWebService 浮动 IP 地址 :8080/web

例如:http://192.168.10.46:8080/web/ 

1)首次登录系统,输入默认的用户名:admin,默认密码:Admin@123

2)首次需要修改密码,修改为TengkeEDU@123

3使用新密码登录FusionInsightManager系统,用户名admin,密码TengkeEDU@123


10、对集群进行安装配置

1)可使用 手动安装,安装过程中是图像化界面,如下述的7个工程

 2)使用 模板安装,模板文件百度云盘 《集群安装模板》的目录中

 

11、安装结束后,进行检查查看。



文章转载自腾科教育,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论