暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

kettle检查文件是否存在并邮件告警

IT那活儿 2024-01-17
1475
点击上方“IT那活儿”公众号--专注于企业全栈运维技术分享,不管IT什么活儿,干就完了!!!

kettle介绍

ETL 是Extract-Transform-Load三个单词的简称,即抽取、转换、加载。使用ETL工具可以完成从目标数据源进行数据抽取,经过一系列的数据转换,最终形成需要的数据模型并加载到数据库中。

Kettle是开源ETL工具,提供一系列的组件用于完成各种抽取、转换、加载的工作。Kettle中两个核心是转换(transformation)与作业(job)。转换即完成数据ETL工作,作业即定义一个完成整个工作流的控制。

kettle相关功能

2.1 kettle检查文件是否存在并邮件告警

Kettle检查文件是否存在并邮件告警,用于检测业务侧人员是否及时上传文件,若没有上传文件,则发送邮件进行提醒,以免影响后续工作。

下图场景运用于检查业务侧是否上传文件到指定FTP目录下。

图1: 流程图
2.2 步骤详解

step1 Start

开始执行作业。

step2 FTP下载-转换

从另外一台服务器的ftp上下载txt文件、excel文件等形式的文件到本地。

图2: FTP下载配置
  • 配置FTP服务器IP地址、服务器端口号、用户名、密码。
  • 远程目录:所下载文件所在FTP服务器的目录。

  • 目标目录:将远程目录文件所存放到本地的位置。

step3 检查多个文件是否存在

通过“FTP下载”组件下载到本地目录,进一步通过“检查多个文件是否存在”组件进行判断,若文件存在则下一步会到“成功”组件,若文件不存在,则会到“发送邮件”组件。

图3:检查多个文件是否存在
  • 1)配置文件所在本地目录,例如/home/test/test1.xlsx、/home/test/test2.xlsx 等等。
  • 2)若文件都存在时,则下一步会到“成功”组件,流程结束。

  • 3)若文件不存在时,则会到“发送邮件”步骤。

step4 发送邮件

步骤有“地址”、“服务器”、“邮件消息”、“附件”四个标签页。

图4:发送邮件
  • 地址标签页

    配置收件人地址、抄送人地址、暗送人地址、发件人地址、回复地址、联系电话等相应的信息。

  • 服务器标签页

    配置SMTP服务器、端口号、发送人用户名和密码等信息。

  • 邮件信息标签页

    可以自定义发送邮件的主题和邮件正文,例如本案例中主题为:测试文件未上传。

step5 成功

查看执行结果日志,每一步均为result=[true],则作业执行成功,任务结束,否则执行失败。


END


本文作者:杨华倩(上海新炬中北团队)

本文来源:“IT那活儿”公众号

文章转载自IT那活儿,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论