ETL 是Extract-Transform-Load三个单词的简称,即抽取、转换、加载。使用ETL工具可以完成从目标数据源进行数据抽取,经过一系列的数据转换,最终形成需要的数据模型并加载到数据库中。
2.1 kettle检查文件是否存在并邮件告警
Kettle检查文件是否存在并邮件告警,用于检测业务侧人员是否及时上传文件,若没有上传文件,则发送邮件进行提醒,以免影响后续工作。
下图场景运用于检查业务侧是否上传文件到指定FTP目录下。
图1: 流程图step1 Start
开始执行作业。
step2 FTP下载-转换
从另外一台服务器的ftp上下载txt文件、excel文件等形式的文件到本地。
图2: FTP下载配置配置FTP服务器IP地址、服务器端口号、用户名、密码。 远程目录:所下载文件所在FTP服务器的目录。
目标目录:将远程目录文件所存放到本地的位置。
step3 检查多个文件是否存在
通过“FTP下载”组件下载到本地目录,进一步通过“检查多个文件是否存在”组件进行判断,若文件存在则下一步会到“成功”组件,若文件不存在,则会到“发送邮件”组件。
图3:检查多个文件是否存在1)配置文件所在本地目录,例如/home/test/test1.xlsx、/home/test/test2.xlsx 等等。 2)若文件都存在时,则下一步会到“成功”组件,流程结束。
3)若文件不存在时,则会到“发送邮件”步骤。
step4 发送邮件
步骤有“地址”、“服务器”、“邮件消息”、“附件”四个标签页。
图4:发送邮件地址标签页 配置收件人地址、抄送人地址、暗送人地址、发件人地址、回复地址、联系电话等相应的信息。
服务器标签页
配置SMTP服务器、端口号、发送人用户名和密码等信息。
邮件信息标签页
可以自定义发送邮件的主题和邮件正文,例如本案例中主题为:测试文件未上传。
step5 成功
查看执行结果日志,每一步均为result=[true],则作业执行成功,任务结束,否则执行失败。

本文作者:杨华倩(上海新炬中北团队)
本文来源:“IT那活儿”公众号

文章转载自IT那活儿,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。




