有没有 flink 写doris的 ,请教一个问题 ,为什么 还是要等检查的 落盘的时候才能数据?-[阿里云_云淘科技]

有没有 flink 写doris的 ,请教一个问题 ,我想设置 最少一次,我 取消2pc ,为什么 还是要等检查的 落盘的时候才能数据?

以下为热心网友提供的参考意见

在Flink中写入Doris时,可以通过设置最少一次(至少一次)的事务保证来确保数据的一致性。取消两阶段提交(2PC)后,Flink会使用一种称为”异步提交”的方式将数据写入Doris。

在异步提交模式下,Flink不会等待Doris的确认信息,而是直接将数据写入Doris,并在稍后的时间进行重试。这种方式可以提高写入性能,但也可能导致数据丢失或重复写入的情况发生。

为了解决数据丢失或重复写入的问题,Flink引入了一种称为”检查点”的机制。检查点是Flink在执行过程中定期保存的数据快照,用于在发生故障时恢复状态和保证数据的一致性。

当您取消2PC并使用异步提交模式时,Flink会在检查点中记录尚未确认的数据,并在恢复时重新发送这些数据。这样可以确保在故障恢复后,未确认的数据仍然能够被正确地写入Doris。

本文来自投稿,不代表新手站长_郑州云淘科技有限公司立场,如若转载,请注明出处:https://www.cnzhanzhang.com/13659.html

(0)
匿名
上一篇 2023年12月10日 下午5:25
下一篇 2023年12月10日

相关推荐

新手站长从“心”出发,感谢16年您始终不离不弃。