暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

用Ambari安装DolphinScheduler,超简单!

海豚调度 2025-02-11
135

点击蓝字



关注我们



Ambari是一个用于管理Hadoop集群的工具,虽然Ambari本身并不直接支持DolphinScheduler的安装,但我们可以通过自定义服务的方式将其集成到Ambari中。本文将描述如何使用Ambari安装DolphinScheduler。

1

Ambari的服务安装包


将需要集成到Ambari的服务安装包放到该目录下

/var/lib/ambari-server/resources/stacks/HDP/3.1/services

1

重启Ambari-server服务



sudo ambari-server restart

继承完之后在Ambari页面上进行服务安装
  1. 添加服务选择dolphinscheduler 

  2. DolphinScheduler服务配置
    这个选择使用mysql数据作为dolphinscheduler服务的元数据库。

  3. 服务选择进行安装
    选择两个DS-master,至少两个DS-ALTERS,DS-APIS,其余节点都部署DS-worker节点。

  4. 如果在安装DolphinScheduler之前做了namenode-ha
    则可能会报'hue-desktop-ini'
    相关报错,则需要对params.py
    脚本进行修改。
脚本位置


/var/lib/ambari-server/resources/stacks/HDP/3.3/services/DOLPHINSCHEDULER/package/scripts/params.py

修改内容
#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host']
hdfs_httpfs_host = "dfs_ha_enabled"

注释#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host']
给hdfs_httpfs_host 任意赋值一个参数让下边的webhdfs_url直接取第一个namenode_hosts[0]

修改完之后保存重启ambari-server
服务重新安装DolphinScheduler。
  1. 拷贝mysql驱动到所有节点libs目录下
cp tmp/mysql-connector-j-8.0.33.jar usr/hdp/current/dolphinscheduler/alert-server/libs/
cp tmp/mysql-connector-j-8.0.33.jar usr/hdp/current/dolphinscheduler/api-server/libs/
cp tmp/mysql-connector-j-8.0.33.jar usr/hdp/current/dolphinscheduler/master-server/libs/
cp tmp/mysql-connector-j-8.0.33.jar usr/hdp/current/dolphinscheduler/worker-server/libs/
cp tmp/mysql-connector-j-8.0.33.jar usr/hdp/3.3.1.0-004/dolphinscheduler/tools/libs/

  1. 因为第二步配置的用户为hdfs用户所以需要将所有服务所属组改为hdfs
/var/log/dolphinscheduler
/usr/hdp/3.3.1.0-004/dolphinscheduler
/etc/dolphinscheduler/

chown -R hdfs:hdfs dolphinscheduler

sdo ln -s usr/hdp/3.1.4.0-315/dolphinscheduler dolphinscheduler

修改完之后ambari管理平台上启动DolphinScheduler,启动过程中元数据会自动初始化建表。
转载自whiteY,原文链接:https://www.cnblogs.com/whiteY/p/18046586




用户案例



每日互动 惠生工程  作业帮 博世智驾 
蔚来汽车 长城汽车 集度 长安汽车
思科网讯 食行生鲜 联通医疗 联想
新网银行 唯品富邦消费金融  
自如 有赞 伊利 当贝大数据
珍岛集团 传智教育 Bigo
YY直播  三合一 太美医疗
Cisco Webex 兴业证券




迁移实战



Azkaban   Ooize(当贝迁移案例)   
Airflow (有赞迁移案例) 
Air2phin(迁移工具)
Airflow迁移实践



发版消息




Apache DolphinScheduler 3.2.2版本正式发布!
Apache DolphinScheduler 3.2.1 版本发布:增强功能与安全性的全面升级
Apache DolphinScheduler 3.1.9 版本发布:提升系统的稳定性和性能
Apache DolphinScheduler 3.1.8 版本发布,修复 SeaTunnel 相关 Bug
Apache DolphinScheduler 2.0.9 发布,或将是最后一个 2.0.X 版本
Apache DolphinScheduler 发布 3.1.7 版本,修复 SeaTunnel 任务保存错误




加入社区



参与Apache DolphinScheduler 社区有非常多的参与贡献的方式,主要分为代码方式和非代码方式两种。

📂非代码方式包括:

完善文档、翻译文档;翻译技术性、实践性文章;投稿实践性、原理性文章;成为布道师;社区管理、答疑;会议分享;测试反馈;用户反馈等。

👩‍💻代码方式包括:

查找Bug;编写修复代码;开发新功能;提交代码贡献;参与代码审查等。

贡献第一个PR(文档、代码) 我们也希望是简单的,第一个PR用于熟悉提交的流程和社区协作以及感受社区的友好度。

社区汇总了以下适合新手的问题列表https://github.com/apache/dolphinscheduler/pulls?q=is%3Apr+is%3Aopen+label%3A%22first+time+contributor%22

优先级问题列表https://github.com/apache/dolphinscheduler/pulls?q=is%3Apr+is%3Aopen+label%3Apriority%3Ahigh

如何参与贡献链接https://dolphinscheduler.apache.org/zh-cn/docs/3.2.2/%E8%B4%A1%E7%8C%AE%E6%8C%87%E5%8D%97_menu/%E5%A6%82%E4%BD%95%E5%8F%82%E4%B8%8E_menu

如果你❤️小海豚,就来为我点亮Star吧!

https://github.com/apache/dolphinscheduler


你的好友秀秀子拍了拍你

并请你帮她点一下“分享”

文章转载自海豚调度,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论