eLakehouse核心功能
实例管理
定义
提供实例管理和运维监控等功能,可进行实例扩缩容、用户权限管理和作业监控等操作。
功能列表
一级菜单 | 二级菜单 | 功能名称 | 功能描述 |
概览 | - | - | 展示当前用户下实例个数、所有实例当日累计提交的作业总数及用户使用向导流程。 |
实例列表 | - | 查看实例 | 展示实例名称、ID、创建时间、地域可用区、计费类型、实例规格、已使用存储量(默认单位GB)、实例运行状态。 |
- | 订购实例 | 支持政企主账号、互联网账号订购实例。 | |
管理 | 实例配置 |
| |
用户管理 |
| ||
变更 | 变更 | 支持对已有实例计算资源升级或降级。 | |
续订 | 实例续订 | 包年包月实例在到期时间之前,或者冻结期(到期后15天)内,均可以发起“续订”操作。 | |
退订 | 实例退订 | 支持将不再使用的实例释放掉,节约资源。 |
主要功能描述
订购实例
用户需根据业务需求选择配置相应的计算资源规格,提交订单完成订购,订购页面如下图所示。
计费资源选择配置使用场景:
- 小型:适合初次订购、数据量较小、性能要求低的场景。
- 中型:规格适中,适合数据量在30TB以内的场景。
- 大型:中大型企业推荐配置,适合数据量在30-50TB的场景。
- X-大型:高性能配置,适合数据量在50-100TB的场景。
变更实例
LakeHouse采用计算存储分离架构,如当前实例无法满足业务量时,用户可根据需要随时升高或降低计算资源规格,存储资源按实际使用量计费,无需考虑扩缩容。变更后规格将在已有作业执行完成后开始生效,升级规格可以提高作业执行效率,缩小规格可能导致作业执行失败,请谨慎操作。变更页面如下图所示。
用户授权
支持查看、搜索当前实例下子用户权限信息,包括用户名称、所具备权限和权限操作,只有被授权的子账号才能在控制台登录后查看到该实例。用户授权界面如下图所示。
数据管理
定义
提供可视化全局元数据视图,方便进行元数据集中和统一管理。
功能列表
一级菜单 | 二级菜单 | 功能名称 | 功能描述 |
数据管理 | 数据库 | 数据库列表 | 查看当前管理的数据库名称、表数量、描述、创建人、创建时间、更新时间、操作等信息。 |
创建 | 支持通过界面快速创建数据库信息。 | ||
表 | 单击表可以跳转至此数据库下面的数据目录页面。 | ||
删除 | 单击删除可以删除选择的表。 | ||
搜索 | 按表名称搜索模糊查询表信息。 | ||
数据目录 | 数据库/表列表 | 查看当前管理的数据库、表名、存储位置、关联任务、更新时间、操作等信息。 | |
创建数据目录 | 可以通过SQL Console控制台命令创建数据目录信息 | ||
修改数据目录 | 可以通过SQL Console控制台命令修改数据目录信息 | ||
删除 | 在数据量列表界面可以单击删除将选择的表信息删除 | ||
数据库/表查询 | 模糊查询数据库/表 | ||
关联任务类型 | 根据任务类型查询数据库/表 | ||
关联任务ID | 根据任务ID查询数据库/表 | ||
列表刷新 | 支持刷新数据库/表列表 | ||
查询数据 | 跳转SQL Console,支持查看SQL执行历史信息。 |
主要功能描述
查看数据目录
可以选择表名、数据库、关联任务类型、关联任务ID、最新更新时间等筛选条件后,单击“查询”按钮来查指定的数据目录信息,如下图所示。
数据探索
定义
提供SQL、Spark、Flink控制台,支持Spark、Presto和Flink计算引擎,可使用标准SQL或Spark语句进行数据查询分析,快速挖掘数据价值。例如:MySQL、PostgreSQL、移动云HBasse、Redis、非结构化数据分析等。
功能列表
一级菜单 | 二级菜单 | 功能名称 | 功能描述 |
数据探索 | SQL Console | 数据库/表列表 | 查看当前管理的数据库/表,可折叠展开 |
数据库/表查询 | 模糊查询数据库/表 | ||
创建数据库 | 通过界面快速创建数据库信息 | ||
列表刷新 | 支持刷新数据库/表列表 | ||
SQL编辑 | 支持编辑SQL语句,提供SQL语法手册查询 | ||
SQL执行 | 执行SQL语句,返回结果 | ||
SQL自动补齐 | 支持SQL自动补齐 | ||
SQL格式化 | 支持进行SQL格式化 | ||
SQL语法校验 | 支持校验SQL语法是否合规(后台校验) | ||
SQL执行结果 | 支持查看SQL执行结果,限制400行 | ||
SQL执行结果查询 | 支持根据查询结果内容模糊查询 | ||
SQL执行历史 | 支持查看SQL执行历史信息 | ||
SQL执行历史查询 | 支持根据SQL语句查询执行历史信息 | ||
SQL执行监控 | 支持查看更多SQL执行监控信息 | ||
SQL执行结果导出 | 支持对部分执行结果信息导出到CSV,限制400行 | ||
创建作业调度 | 支持创建作业调度任务。 | ||
语法手册 | 支持查看SQL开发指南文档。 | ||
Spark作业管理 | 查看作业列表 | 支持查看调度作业列表信息,可折叠展开。 | |
新增 | 支持通过界面快速创建作业列表目录信息。 | ||
列表刷新 | 支持刷作业列表。 | ||
执行 | 执行Spark语句,并返回结果 | ||
编辑 | 在编辑状态下,可以手动更改Spark语句 | ||
示例 | 可以查看执行文件的Spark示例 | ||
创建作业调度 | 支持通过客户端创建作业调度信息。 | ||
查看开发指南 | 跳转至Spark帮助文档。 | ||
执行历史 | 仅保留一天记录,后续查询历史记录可跳转运维管理查看 | ||
搜索 | 支持按照作业ID/作业内容搜索查看执行历史信息 | ||
查看日志 | 可查看已中断或完成状态下的Spark作业任务日志信息。 | ||
Flink作业管理 | 创建作业 | 创建Flink SQL/Jar作业 | |
编辑作业 | 编辑Flink SQL/Jar作业 | ||
删除作业 | 删除Flink SQL/Jar作业 | ||
执行作业 | 执行Flink SQL/Jar作业 | ||
查询作业 | 查询Flink SQL/Jar作业 | ||
作业模板 | 提供Flink SQL作业模板 | ||
作业监控 | 支持监控Flink作业 | ||
程序包管理 | 程序包目录管理 | 支持创建上传程序包文件夹 | |
程序包上传 | 支持上传程序包 | ||
程序包删除 | 支持删除程序包 | ||
程序包查询 | 支持查询程序包 | ||
作业调度 | 创建作业调度 | 支持通过客户端创建作业调度信息。 | |
查看作业调度 | 支持查看作业ID、状态、作业内容、执行引擎、关联任务、数据库名称、提交时间、结束时间、等待时间等信息。 | ||
监控 | 单击监控可跳转至作业调度界面。 | ||
编辑 | 可以对已有的作业调度信息进行编辑操作 | ||
删除 | 可以删除已有的作业调度信息 | ||
刷新 | 可以刷新作业调度信息列表 | ||
重置 | 可以重置查看作业调度信息的筛选条件 |
主要功能描述
您可以在LakeHhouse的SQL Console中非常便捷地执行各类SQL语句,同时支持以可视化的方式对目标数据库进行增、删、改、查等操作,适用于数据查询、数据开发等场景。
SQL Console介绍
在左侧库表栏中单击目标库名称,即可手动打开新窗口并进入该目标库,如下图所示。
- SQL Console窗口介绍入下表所示:
序号 | 区域 | 说明 |
1 | 库表目录结果 | 可视化地管理数据库:查看当前管理的数据库/表,单击库/表名称可展开折叠并打开新的tab页。支持模糊搜索库/表功能。 |
2 | 可视化界面管理 | 默认选中第一个库,每个库是一个Tab页,可单击切换不同tab页,可关闭(默认永远保留第一个库不可关闭)。针对每个库,进入当前SQL Console窗口,可手动增加窗口。 |
3 | 可视化操作区域 | 支持选择执行引擎、实例名称、格式化SQL、创建作业调度、SQL语法手册查询功能。 执行引擎包括:Spark和Presto。 输入SQL语句后单击执行,对数据库进行增删改查操作。 |
4 | 命令执行区域 | 编辑SQL语句。 |
5 | 执行结果区域 | 该区域会返回执行SQL和执行的历史结果。支持将执行结果导出到本地。 |
执行SQL
在选择好目标库表后,用户可以在SQL Console命令窗口输入SQL命令并单击执行按钮,在执行结果窗口查看执行结果及数据导出,如下图所示。
Spark 介绍
Spark SQL和Spark Jar作业支持调度。
Spark作业窗口介绍如下表所示:
序号 | 区域 | 区域说明 |
1 | 可视化目录结构管理 | 查看当前管理的文件夹/文件,单击文件夹/文件名称前面的小三角可展开折叠并打开新的文件目录。支持模糊搜索文件夹/文件功能。 鼠标悬停在文件夹/文件名称后面的按钮,可展开新建文件/重命名/删除功能按钮。 |
2 | 执行区域 |
|
3 | 执行结果区域 | 该区域会返回执行的历史结果,支持将执行结果导出到本地。 |
查看Spark作业日志
可查看已中断或完成状态下的Spark作业任务日志信息。
Flink 介绍
Flink作业窗口介绍如下表所示:
序号 | 区域 | 区域说明 |
1 | 作业目录管理 | 查看当前管理的文件夹/文件,单击文件夹/文件名称前面的小三角可展开折叠并打开新的文件目录。支持模糊搜索文件夹/文件功能。 鼠标悬停在文件夹/文件名称后面的按钮,可展开新建文件/重命名/删除功能按钮。 |
2 | 作业编辑/执行 |
|
3 | 作业属性/配置 | 编辑状态进行作业配置,包括执行实例和是否开启CheckPoint; 保存状态查看作业属性/配置。 |
查看Flink作业执行情况
可跳转至运维管理页面查看Flink作业执行情况。
运维管理
定义
LakeHouse平台提供基于容器的性能指标可视化监控,可实时展示作业的运行状态
支持查看已订购所有实例的作业执行情况及运行日志信息。
功能列表
一级菜单 | 二级菜单 | 功能名称 | 功能描述 |
运维管理 | 作业监控 | 作业列表 | 展示已订购所有实例的作业执行情况。 |
查询 | 根据作业ID、作业类型、状态、实例名称、提交时间等条件查看实例的作业执行情况。 | ||
刷新 | 支持刷新作业监控列表。 | ||
重置 | 支持重置查看作业监控信息筛选条件 | ||
展开/收起 | 支持折叠或者展开筛选条件信息 | ||
中断 | 支持中断“执行中、已提交、已接收”状态下的作业监控。 |
主要功能描述
作业监控
在筛选条件栏中,根据需求选择筛选条件,单击“查询”按钮,即可查看选定的作业监控信息,如下图所示。




