#distrubuted_architecture — Public Fediverse posts

Join таблиц в реальном времени на Apache Flink ( Часть 3 )

Скорее всего читатели знают, но контекста ради. Flink имеет децентрализованный дизайн с распределенной архитектурой, где набор контейнеров ( Task Manager ) несут ответственность за свою локальную зону или не несут? Эта зона в случае разбиения через keyBy размазывается исходя из хэша заданного ключа, посредством чего, Flink гарантирует попадание всех событий с этим ключом на тот же контейнер и также гарантирует сохранение того порядка событий, в котором они доехали до оператора, и, как следствие этот контейнер является мастером-владельцем ключа - отсюда понятие локальной зоны становится оправданным, ведь все хэш пространство размазывается на контейнеры равномерно. Однако, если не использовать keyBy и просто попробовать вызвать что угодно, то будет round-robin распределение и тогда снимается понятие локальной зоны ответственности.

https://habr.com/ru/articles/1022368/

#apache_flink #kafka #mysql #postgresql #distrubuted_architecture #architecture #realtime #analytics