暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

eLakehouse核心功能

原创 苏嘉洛 2023-11-24
163

eLakehouse核心功能

实例管理

定义

提供实例管理和运维监控等功能,可进行实例扩缩容、用户权限管理和作业监控等操作。

功能列表

一级菜单

二级菜单

功能名称

功能描述

概览

-

-

展示当前用户下实例个数、所有实例当日累计提交的作业总数及用户使用向导流程。

实例列表

-

查看实例

展示实例名称、ID、创建时间、地域可用区、计费类型、实例规格、已使用存储量(默认单位GB)、实例运行状态。

-

订购实例

支持政企主账号、互联网账号订购实例。

管理

实例配置

  • 基本信息:展示实例基本信息;
  • 系统设置:默认是收起状态,展开后显示作业最大并发数的当前值。选择“编辑”,可以进行修改,修改

用户管理

  • 用户权限信息展示:管理用户的实例、作业维度的操作权限,支持查看、搜索当前实例下子用户权限信息,包括用户名称、所具备权限和操作;
  • 授权:支持主账号给新的子账号授权、管理和回收已有子账号权限。

变更

变更

支持对已有实例计算资源升级或降级。

续订

实例续订

包年包月实例在到期时间之前,或者冻结期(到期后15天)内,均可以发起“续订”操作。

退订

实例退订

支持将不再使用的实例释放掉,节约资源。

主要功能描述

订购实例

用户需根据业务需求选择配置相应的计算资源规格,提交订单完成订购,订购页面如下图所示。

计费资源选择配置使用场景:

  1. 小型:适合初次订购、数据量较小、性能要求低的场景。
  2. 中型:规格适中,适合数据量在30TB以内的场景。
  3. 大型:中大型企业推荐配置,适合数据量在30-50TB的场景。
  4. X-大型:高性能配置,适合数据量在50-100TB的场景。
  5. 1669614616113
变更实例

LakeHouse采用计算存储分离架构,如当前实例无法满足业务量时,用户可根据需要随时升高或降低计算资源规格,存储资源按实际使用量计费,无需考虑扩缩容。变更后规格将在已有作业执行完成后开始生效,升级规格可以提高作业执行效率,缩小规格可能导致作业执行失败,请谨慎操作。变更页面如下图所示。

用户授权

支持查看、搜索当前实例下子用户权限信息,包括用户名称、所具备权限和权限操作,只有被授权的子账号才能在控制台登录后查看到该实例。用户授权界面如下图所示。

数据管理

定义

提供可视化全局元数据视图,方便进行元数据集中和统一管理。

功能列表

一级菜单

二级菜单

功能名称

功能描述

数据管理

数据库

数据库列表

查看当前管理的数据库名称、表数量、描述、创建人、创建时间、更新时间、操作等信息。

创建

支持通过界面快速创建数据库信息。

单击表可以跳转至此数据库下面的数据目录页面。

删除

单击删除可以删除选择的表。

搜索

按表名称搜索模糊查询表信息。

数据目录

数据库/表列表

查看当前管理的数据库、表名、存储位置、关联任务、更新时间、操作等信息。

创建数据目录

可以通过SQL Console控制台命令创建数据目录信息

修改数据目录

可以通过SQL Console控制台命令修改数据目录信息

删除

在数据量列表界面可以单击删除将选择的表信息删除

数据库/表查询

模糊查询数据库/表

关联任务类型

根据任务类型查询数据库/表

关联任务ID

根据任务ID查询数据库/表

列表刷新

支持刷新数据库/表列表

查询数据

跳转SQL Console,支持查看SQL执行历史信息。

主要功能描述

查看数据目录

可以选择表名、数据库、关联任务类型、关联任务ID、最新更新时间等筛选条件后,单击“查询”按钮来查指定的数据目录信息,如下图所示。

数据探索

定义

提供SQL、Spark、Flink控制台,支持Spark、Presto和Flink计算引擎,可使用标准SQL或Spark语句进行数据查询分析,快速挖掘数据价值。例如:MySQL、PostgreSQL、移动云HBasse、Redis、非结构化数据分析等。

功能列表

一级菜单

二级菜单

功能名称

功能描述

数据探索

SQL Console

数据库/表列表

查看当前管理的数据库/表,可折叠展开

数据库/表查询

模糊查询数据库/表

创建数据库

通过界面快速创建数据库信息

列表刷新

支持刷新数据库/表列表

SQL编辑

支持编辑SQL语句,提供SQL语法手册查询

SQL执行

执行SQL语句,返回结果

SQL自动补齐

支持SQL自动补齐

SQL格式化

支持进行SQL格式化

SQL语法校验

支持校验SQL语法是否合规(后台校验)

SQL执行结果

支持查看SQL执行结果,限制400行

SQL执行结果查询

支持根据查询结果内容模糊查询

SQL执行历史

支持查看SQL执行历史信息

SQL执行历史查询

支持根据SQL语句查询执行历史信息

SQL执行监控

支持查看更多SQL执行监控信息

SQL执行结果导出

支持对部分执行结果信息导出到CSV,限制400行

创建作业调度

支持创建作业调度任务。

语法手册

支持查看SQL开发指南文档。

Spark作业管理

查看作业列表

支持查看调度作业列表信息,可折叠展开。

新增

支持通过界面快速创建作业列表目录信息。

列表刷新

支持刷作业列表。

执行

执行Spark语句,并返回结果

编辑

在编辑状态下,可以手动更改Spark语句

示例

可以查看执行文件的Spark示例

创建作业调度

支持通过客户端创建作业调度信息。

查看开发指南

跳转至Spark帮助文档。

执行历史

仅保留一天记录,后续查询历史记录可跳转运维管理查看

搜索

支持按照作业ID/作业内容搜索查看执行历史信息

查看日志

可查看已中断或完成状态下的Spark作业任务日志信息。

Flink作业管理

创建作业

创建Flink SQL/Jar作业

编辑作业

编辑Flink SQL/Jar作业

删除作业

删除Flink SQL/Jar作业

执行作业

执行Flink SQL/Jar作业

查询作业

查询Flink SQL/Jar作业

作业模板

提供Flink SQL作业模板

作业监控

支持监控Flink作业

程序包管理

程序包目录管理

支持创建上传程序包文件夹

程序包上传

支持上传程序包

程序包删除

支持删除程序包

程序包查询

支持查询程序包

作业调度

创建作业调度

支持通过客户端创建作业调度信息。

查看作业调度

支持查看作业ID、状态、作业内容、执行引擎、关联任务、数据库名称、提交时间、结束时间、等待时间等信息。

监控

单击监控可跳转至作业调度界面。

编辑

可以对已有的作业调度信息进行编辑操作

删除

可以删除已有的作业调度信息

刷新

可以刷新作业调度信息列表

重置

可以重置查看作业调度信息的筛选条件

主要功能描述

您可以在LakeHhouse的SQL Console中非常便捷地执行各类SQL语句,同时支持以可视化的方式对目标数据库进行增、删、改、查等操作,适用于数据查询、数据开发等场景。

SQL Console介绍

在左侧库表栏中单击目标库名称,即可手动打开新窗口并进入该目标库,如下图所示。

  1. SQL Console窗口介绍入下表所示:

序号

区域

说明

1

库表目录结果

可视化地管理数据库:查看当前管理的数据库/表,单击库/表名称可展开折叠并打开新的tab页。支持模糊搜索库/表功能。

2

可视化界面管理

默认选中第一个库,每个库是一个Tab页,可单击切换不同tab页,可关闭(默认永远保留第一个库不可关闭)。针对每个库,进入当前SQL Console窗口,可手动增加窗口。

3

可视化操作区域

支持选择执行引擎、实例名称、格式化SQL、创建作业调度、SQL语法手册查询功能。

执行引擎包括:Spark和Presto。

输入SQL语句后单击执行,对数据库进行增删改查操作。

4

命令执行区域

编辑SQL语句。

5

执行结果区域

该区域会返回执行SQL和执行的历史结果。支持将执行结果导出到本地。

执行SQL

在选择好目标库表后,用户可以在SQL Console命令窗口输入SQL命令并单击执行按钮,在执行结果窗口查看执行结果及数据导出,如下图所示。

Spark 介绍

Spark SQL和Spark Jar作业支持调度。

Spark作业窗口介绍如下表所示:

序号

区域

区域说明

1

可视化目录结构管理

查看当前管理的文件夹/文件,单击文件夹/文件名称前面的小三角可展开折叠并打开新的文件目录。支持模糊搜索文件夹/文件功能。

鼠标悬停在文件夹/文件名称后面的按钮,可展开新建文件/重命名/删除功能按钮。

2

执行区域

  • 下拉框支持选择实例名称。
  • 黑色窗口为执行文件编辑区域,编辑完执行任务后,执行结果可以在执行历史区域查看。
  • 执行:触发提交作业。(执行状态下可以单击编辑进入编辑状态)
  • 编辑:编辑状态下支持修改执行文件,(编辑状态下支持保存文件和查看示例)
  • 保存:执行文件编辑完成,单击“保存”按钮后,支持对执行文件进行执行和编辑操作。
  • 示例:支持查看执行文件示例,查看示例状态下的示例代码不支持编辑操作。
  • 创建作业调度:支持创建作业调度任务。
  • 查看开发指南:支持查看Spark开发指南文档。

3

执行结果区域

该区域会返回执行的历史结果,支持将执行结果导出到本地。

查看Spark作业日志

可查看已中断或完成状态下的Spark作业任务日志信息。

Flink 介绍

1678415969800

Flink作业窗口介绍如下表所示:

序号

区域

区域说明

1

作业目录管理

查看当前管理的文件夹/文件,单击文件夹/文件名称前面的小三角可展开折叠并打开新的文件目录。支持模糊搜索文件夹/文件功能。

鼠标悬停在文件夹/文件名称后面的按钮,可展开新建文件/重命名/删除功能按钮。

2

作业编辑/执行

  • 黑色窗口为执行文件编辑区域,编辑完执行任务后,执行结果可以在执行历史区域查看。
  • 执行:触发提交作业。
  • 编辑:编辑状态下支持修改作业信息和配置。
  • 保存:编辑完成,单击“保存”按钮后,支持对作业信息和配置进行保存。
  • 示例:支持查看执行文件示例,并基于示例进行编辑操作。
  • 创建监控:支持跳转至运维管理查看作业执行监控信息。
  • 查看开发指南:支持查看Flink开发指南文档。

3

作业属性/配置

编辑状态进行作业配置,包括执行实例和是否开启CheckPoint;

保存状态查看作业属性/配置。

查看Flink作业执行情况

可跳转至运维管理页面查看Flink作业执行情况。

运维管理

定义

LakeHouse平台提供基于容器的性能指标可视化监控,可实时展示作业的运行状态

支持查看已订购所有实例的作业执行情况及运行日志信息。

功能列表

一级菜单

二级菜单

功能名称

功能描述

运维管理

作业监控

作业列表

展示已订购所有实例的作业执行情况。

查询

根据作业ID、作业类型、状态、实例名称、提交时间等条件查看实例的作业执行情况。

刷新

支持刷新作业监控列表。

重置

支持重置查看作业监控信息筛选条件

展开/收起

支持折叠或者展开筛选条件信息

中断

支持中断“执行中、已提交、已接收”状态下的作业监控。

主要功能描述

作业监控

在筛选条件栏中,根据需求选择筛选条件,单击“查询”按钮,即可查看选定的作业监控信息,如下图所示。

「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论