Flink源码解读系列 | TaskManager启动

暴走大数据 2020-09-07

507

点击上方蓝色字体，选择“设为星标”

回复”资源“获取更多惊喜

大数据技术与架构

点击右侧关注，大数据开发领域最强公众号！

暴走大数据

点击右侧关注，暴走大数据！

通过启动脚本已经找到了TaskManager 的启动类org.apache.flink.runtime.taskexecutor.TaskManagerRunner

来看一下它的main方法中

最后被start了起来

start其实是将taskManager 端的RPC服务起起来了

看一下TaskManagerRunner的构造方法中

调用了这个startTaskManager()方法，在这个方法中又调用了

在这个方法中.fromConfiguration()

看到创建了一个networkEnevironment并且把它起了起来其中

因为flink的网络是走的netty,可以看到它会初始化netty的客户端和服务端用于网络通信并且传入了bufferPool池,这个在以后随缘更新到反压会详细的研究

回到fromConfiguration()方法

network.start以后它又

创建了内存管理类memoryManager和io管理类IOmanager, 这里以后随缘更新讲到内存和IO单独说

需要注意的是这里的Async异步IO,其实目前flink只有这一种异步的IO管理器

创建了定时器服务，定时器留到窗口在讲

回到startTaskManager()方法的最后

这个类TaskExecutor就是前面说的包含了RPC接口的类主要是实现了接口

里面包含了一些重要的方法的实现，来看一下有哪些重要的方法

可以看到这是请求slot的

这是启动Task的其中这个tdd就包含了一些任务的信息上下游inputGate，resultPartition等具体job启动的时候详细讲一下

这个方法也是比较重要的，可以看到这是一个触发checkPoint的RPC,这里可能会有疑问为什么Chenkpoint这个RPC会在TaskManager端

可以先简单的看下具体实现

看到这里大致就知道了，其实这个RPC是留给Coordinator调用的，会触发生成Barrier的逻辑（也就是经常说的，coordinator会在source插入barriers用于分布式快照对齐）随缘更新到checkpoint的时候在细说吧

这里TaskManager就差不多启动起来了，当然TaskManager还有很多服务像HA,Heartbeat,BlobCache也会起起来，这里就不全部写出了。

版权声明：

本文为《暴走大数据》整理，原作者独家授权。未经原作者允许转载追究侵权责任。

编辑｜冷眼丶

微信公众号｜暴走大数据

欢迎点赞+收藏

欢迎转发至朋友圈

文章不错？点个【在看】吧！ 👇

文章转载自暴走大数据，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

评论