状态数据结构升级

Apache Flink 流应用通常被设计为永远或者长时间运行。 与所有长期运行的服务一样,应用程序需要随着业务的迭代而进行调整。 应用所处理的数据 schema 也会随着进行变化。

此页面概述了如何升级状态类型的数据 schema 。 目前对不同类型的状态结构(ValueStateListState 等)有不同的限制

请注意,此页面的信息只与 Flink 自己生成的状态序列化器相关 类型序列化框架。 也就是说,在声明状态时,状态描述符不可以配置为使用特定的 TypeSerializer 或 TypeInformation , 在这种情况下,Flink 会推断状态类型的信息:

ListStateDescriptor<MyPojoType> descriptor =
    new ListStateDescriptor<>(
        "state-name",
        MyPojoType.class);

checkpointedState = getRuntimeContext().getListState(descriptor);

在内部,状态是否可以进行升级取决于用于读写持久化状态字节的序列化器。 简而言之,状态数据结构只有在其序列化器正确支持时才能升级。 这一过程是被 Flink 的类型序列化框架生成的序列化器透明处理的(下面 列出了当前的支持范围)。

如果你想要为你的状态类型实现自定义的 TypeSerializer 并且想要学习如何实现支持状态数据结构升级的序列化器, 可以参考 自定义状态序列化器。 本文档也包含一些用于支持状态数据结构升级的状态序列化器与 Flink 状态后端存储相互作用的必要内部细节。

升级状态数据结构

为了对给定的状态类型进行升级,你需要采取以下几个步骤:

  1. 对 Flink 流作业进行 savepoint 操作。
  2. 升级程序中的状态类型(例如:修改你的 Avro 结构)。
  3. 从 savepoint 恢复作业。当第一次访问状态数据时,Flink 会判断状态数据 schema 是否已经改变,并进行必要的迁移。

用来适应状态结构的改变而进行的状态迁移过程是自动发生的,并且状态之间是互相独立的。 Flink 内部是这样来进行处理的,首先会检查新的序列化器相对比之前的序列化器是否有不同的状态结构;如果有, 那么之前的序列化器用来读取状态数据字节到对象,然后使用新的序列化器将对象回写为字节。

更多的迁移过程细节不在本文档谈论的范围;可以参考文档

数据结构升级支持的数据类型

目前,仅支持 POJO 和 Avro 类型的 schema 升级 因此,如果你比较关注于状态数据结构的升级,那么目前来看强烈推荐使用 Pojo 或者 Avro 状态数据类型。

我们有计划支持更多的复合类型;更多的细节可以参考 FLINK-10896

POJO 类型

Flink 基于下面的规则来支持 POJO 类型结构的升级:

  1. 可以删除字段。一旦删除,被删除字段的前值将会在将来的 checkpoints 以及 savepoints 中删除。
  2. 可以添加字段。新字段会使用类型对应的默认值进行初始化,比如 Java 类型
  3. 不可以修改字段的声明类型。
  4. 不可以改变 POJO 类型的类名,包括类的命名空间。

需要注意,只有从 1.8.0 及以上版本的 Flink 生产的 savepoint 进行恢复时,POJO 类型的状态才可以进行升级。 对 1.8.0 版本之前的 Flink 是没有办法进行 POJO 类型升级的。

Avro 类型

Flink 完全支持 Avro 状态类型的升级,只要数据结构的修改是被 Avro 的数据结构解析规则认为兼容的即可。

一个例外是如果新的 Avro 数据 schema 生成的类无法被重定位或者使用了不同的命名空间,在作业恢复时状态数据会被认为是不兼容的。

Back to top