Task 生命周期
This documentation is for an unreleased version of Apache Flink. We recommend you use the latest stable version.

Task 生命周期 #

Task 是 Flink 的基本执行单元。算子的每个并行实例都在 task 里执行。例如,一个并行度为 5 的算子,它的每个实例都由一个单独的 task 来执行。

StreamTask 是 Flink 流式计算引擎中所有不同 task 子类的基础。本文会深入讲解 StreamTask 生命周期的不同阶段,并阐述每个阶段的主要方法。

算子生命周期简介 #

因为 task 是算子并行实例的执行实体,所以它的生命周期跟算子的生命周期紧密联系在一起。因此,在深入介绍 StreamTask 生命周期之前,先简要介绍一下代表算子生命周期的基本方法。这些方法按调用的先后顺序如下所示。考虑到算子可能是用户自定义函数(UDF),因此我们在每个算子下也展示(以缩进的方式)了 UDF 生命周期中调用的各个方法。AbstractUdfStreamOperator 是所有执行 UDF 的算子的基类,如果算子继承了 AbstractUdfStreamOperator,那么这些方法都是可用的。

    // 初始化阶段
    OPERATOR::setup
        UDF::setRuntimeContext
    OPERATOR::initializeState
    OPERATOR::open
        UDF::open
    // 处理阶段(对每个 element 或 watermark 调用)
    OPERATOR::processElement
        UDF::run
    OPERATOR::processWatermark
    // checkpointing 阶段(对每个 checkpoint 异步调用)
    OPERATOR::snapshotState
    // 通知 operator 处理记录的过程结束
    OPERATOR::finish
    // 结束阶段
    OPERATOR::close
        UDF::close

简而言之,在算子初始化时调用 setup() 来初始化算子的特定设置,比如 RuntimeContext 和指标收集的数据结构。在这之后,算子通过 initializeState() 初始化状态,算子的所有初始化工作在 open() 方法中执行,比如在继承 AbstractUdfStreamOperator 的情况下,初始化用户自定义函数。

initializeState() 既包含在初始化过程中算子状态的初始化逻辑(比如注册 keyed 状态),又包含异常后从 checkpoint 中恢复原有状态的逻辑。在接下来的篇幅会进行更详细的介绍。

当所有初始化都完成之后,算子开始处理流入的数据。流入的数据可以分为三种类型:用户数据、watermark 和 checkpoint barriers。每种类型的数据都有单独的方法来处理。用户数据通过 processElement() 方法来处理,watermark 通过 processWatermark() 来处理,checkpoint barriers 会调用(异步)snapshotState() 方法触发 checkpoint。对于每个流入的数据,根据其类型调用上述相应的方法。注意,processElement() 方法也是用户自定义函数逻辑执行的地方,比如用户自定义 MapFunction 里的 map() 方法。

最后,在算子正常无故障的情况下(比如,如果流式数据是有限的,并且最后一个数据已经到达),会调用 finish() 方法结束算子并进行必要的清理工作(比如刷新所有缓冲数据,或发送处理结束的标记数据)。在这之后会调用 close() 方法来释放算子持有的资源(比如算子数据持有的本地内存)。

在作业失败或手动取消的情况下,会略过从算子异常位置到 close() 中间的所有步骤,直接跳到 close() 方法结束算子。

Checkpoints: 算子的 snapshotState() 方法是在收到 checkpoint barrier 后异步调用的。Checkpoint 在处理阶段执行,即算子打开之后,结束之前的这个阶段。这个方法的职责是存储算子的当前状态到一个特定的状态后端,当作业失败后恢复执行时会从这个后端恢复状态数据。下面我们简要描述了 Flink 的 checkpoint 机制,如果想了解更多 Flink checkpoint 相关的原理,可以读一读 数据流容错

Task 生命周期 #

在上文对算子主要阶段的简介之后,本节将详细介绍 task 在集群执行期间是如何调用相关方法的。这里所说的阶段主要包含在 StreamTask 类的 invoke() 方法里。本文档后续内容将分成两个子章节,一节描述了 task 在正常无故障情况下的执行阶段(请参考常规执行),另一节(稍微简短的部分)描述了 task 取消之后的执行阶段(请参考中断执行),不管是手动取消还是其他原因(比如执行期间遇到异常)导致的取消。

常规执行 #

Task 在没有中断的情况下执行到结束的阶段如下所示:

    TASK::setInitialState
    TASK::invoke
        create basic utils (config, etc) and load the chain of operators
        setup-operators
        task-specific-init
        initialize-operator-states
        open-operators
        run
        finish-operators
        close-operators
        task-specific-cleanup
        common-cleanup

如上所示,在恢复 task 配置和初始化一些重要的运行时参数之后,task 的下一步是读取 task 级别的初始状态。这一步在 setInitialState() 方法里完成,在下面两种情况尤其重要:

  1. 当 Task 从失败中恢复并从最近一次成功的 checkpoint 重启的时候
  2. 当 Task 从 savepoint 恢复的时候。

如果 task 是第一次执行的话,它的初始状态为空。

在恢复初始状态之后,task 进入到 invoke() 方法。在这里,首先调用 setup() 方法来初始化本地计算涉及到的每个算子,然后调用本地的 init() 方法来做特定 task 的初始化。这里所说的特定 task,取决于 task 的类型 (SourceTaskOneInputStreamTaskTwoInputStreamTask 等)。这一步可能会有所不同,但无论如何这是获取 task 范围内所需资源的地方。例如,OneInputStreamTask,代表期望一个单一输入流的 task,初始化与本地任务相关输入流的不同分区位置的连接。

在申请到必要的资源之后,不同算子和用户定义函数开始从上面读到的 task 范围状态数据里获取它们各自的状态值。这一部分是算子调用 initializeState() 完成的。每个有状态的算子都应该重写该方法,包含状态的初始化逻辑,既适用于作业第一次执行的场景,又适用于 task 从 checkpoint 或 savepoint 中恢复的场景。

现在 task 里的所有算子都已经被初始化了,每个算子里的 open()方法也通过 StreamTaskopenAllOperators() 方法调用了。这个方法执行所有操作的初始化,比如在定时器服务里注册获取到的定时器。一个 task 可能会执行多个算子,即一个算子消费它之前算子的输出数据流。在这种情况下,open() 方法从最后一个算子调用到第一个算子,即最后一个算子的输出刚好也是整个 task 的输出。这样做是为了当第一个算子开始处理 task 的输入数据流时,所有下游算子已经准备接收它的输出数据了。

task 里多个连续算子的开启是从后往前依次执行。

现在 task 可以恢复执行,算子可以开始处理新输入的数据。在这里,特定 task 的 run() 方法会被调用。这个方法会一直运行直到没有更多输入数据进来(有限的数据流)或者 task 被取消了(人为的或其他的原因)。这里也是算子定义的 processElement() 方法和 processWatermark() 方法执行的地方。

在运行到完成的情况下,即没有更多的输入数据要处理,从run()方法退出后,task 进入关闭阶段。首先定时器服务停止注册任何新的定时器(比如从正在执行的定时器里注册),清理掉所有还未启动的定时器,并等待当前执行中的定时器运行结束。然后通过调用 finishAllOperators() 方法调用每个算子的 finish() 方法来通知所有参与计算的算子。然后所有缓存的输出数据会刷出去以便下游 task 处理,最终 task 通过调用每个算子的 close() 方法来尝试清理掉算子持有的所有资源。与我们之前提到的开启算子不同是,开启时从后往前依次调用 open();而关闭时刚好相反,从前往后依次调用 close()

task 里的多个连续算子的关闭是从前往后依次执行。

最后,当所有算子都已经关闭,所有资源都已被释放时,task 关掉它的定时器服务,进行特定 task 的清理操作,例如清理掉所有内部缓存,然后进行常规的 task 清理操作,包括关闭所有的输出管道,清理所有输出缓存等。

Checkpoints: 之前我们看到在执行 initializeState() 方法期间,在从异常失败中恢复的情况下,task 和它内部的所有算子函数都从最后一次成功的 checkpoint 数据里获取对应的状态信息。Flink 里的 checkpoint 是根据用户自定义的时间间隔周期执行的,并且在一个与主 task 线程不同的单独线程里执行。这也是我们没有把 checkpoint 过程涵盖在 task 生命周期的主要阶段里的原因。简而言之,Flink 作业的输入数据 source task 会定时插入一种叫 checkpoint barrier 的特殊数据,并跟正常数据一起从 source 流入到 sink。source task 在处于运行模式后发送这些 barrier,同时会假设 CheckpointCoordinator 也在运行。当 task 接收到这样的 barrier 之后,会通过 task 算子里的 snapshotState() 方法调度 checkpoint 线程执行具体任务。在 checkpoint 处理期间,task 依然可以接收输入数据,但是数据会被缓存起来,当 checkpoint 执行成功之后才会被处理和发送到下游算子。

中断执行 #

在前面的章节,我们描述的是运行直到完成的 task 生命周期。在任意时间点取消 task 的话,正常的执行过程会被中断,从这个时候开始只会进行以下操作,关闭定时器服务、执行特定 task 的清理、执行所有算子的关闭,执行常规 task 的清理。

Back to top