#kafka — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #kafka, aggregated by home.social.
-
ID.me is hiring Staff Software Engineer - Reporting & Billing
🔧 #golang #java #kotlin #api #kafka #sql
🌎 McLean, Virginia
⏰ Full-time
🏢 ID.meJob details https://jobsfordevelopers.com/jobs/staff-software-engineer-reporting-billing-at-id-me-sep-4-2026-961359?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
ID.me is hiring Staff Software Engineer - Reporting & Billing
🔧 #golang #java #kotlin #api #kafka #sql
🌎 McLean, Virginia
⏰ Full-time
🏢 ID.meJob details https://jobsfordevelopers.com/jobs/staff-software-engineer-reporting-billing-at-id-me-sep-4-2026-961359?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
ID.me is hiring Staff Software Engineer - Reporting & Billing
🔧 #golang #java #kotlin #api #kafka #sql
🌎 McLean, Virginia
⏰ Full-time
🏢 ID.meJob details https://jobsfordevelopers.com/jobs/staff-software-engineer-reporting-billing-at-id-me-sep-4-2026-961359?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
ID.me is hiring Staff Software Engineer - Reporting & Billing
🔧 #golang #java #kotlin #api #kafka #sql
🌎 McLean, Virginia
⏰ Full-time
🏢 ID.meJob details https://jobsfordevelopers.com/jobs/staff-software-engineer-reporting-billing-at-id-me-sep-4-2026-961359?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
ID.me is hiring Staff Software Engineer - Reporting & Billing
🔧 #golang #java #kotlin #api #kafka #sql
🌎 McLean, Virginia
⏰ Full-time
🏢 ID.meJob details https://jobsfordevelopers.com/jobs/staff-software-engineer-reporting-billing-at-id-me-sep-4-2026-961359?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Databricks is hiring Site Reliability Engineer
🔧 #python #aws #azure #cicd #docker #gcp #kafka #kubernetes #terraform
🌎 Costa Rica
⏰ Full-time
🏢 DatabricksJob details https://jobsfordevelopers.com/jobs/site-reliability-engineer-at-databricks-com-may-19-2026-e87a3b?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Databricks is hiring Site Reliability Engineer
🔧 #python #aws #azure #cicd #docker #gcp #kafka #kubernetes #terraform
🌎 Costa Rica
⏰ Full-time
🏢 DatabricksJob details https://jobsfordevelopers.com/jobs/site-reliability-engineer-at-databricks-com-may-19-2026-e87a3b?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Databricks is hiring Site Reliability Engineer
🔧 #python #aws #azure #cicd #docker #gcp #kafka #kubernetes #terraform
🌎 Costa Rica
⏰ Full-time
🏢 DatabricksJob details https://jobsfordevelopers.com/jobs/site-reliability-engineer-at-databricks-com-may-19-2026-e87a3b?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Databricks is hiring Site Reliability Engineer
🔧 #python #aws #azure #cicd #docker #gcp #kafka #kubernetes #terraform
🌎 Costa Rica
⏰ Full-time
🏢 DatabricksJob details https://jobsfordevelopers.com/jobs/site-reliability-engineer-at-databricks-com-may-19-2026-e87a3b?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Databricks is hiring Site Reliability Engineer
🔧 #python #aws #azure #cicd #docker #gcp #kafka #kubernetes #terraform
🌎 Costa Rica
⏰ Full-time
🏢 DatabricksJob details https://jobsfordevelopers.com/jobs/site-reliability-engineer-at-databricks-com-may-19-2026-e87a3b?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Kaseya is hiring Senior Staff Software Engineer
🔧 #java #springboot #api #hibernate #aws #azure #cicd #gcp #kafka #mysql #postgresql #sql #seniorengineer
🌎 Toronto, Ontario
⏰ Full-time
🏢 KaseyaJob details https://jobsfordevelopers.com/jobs/senior-staff-software-engineer-at-kaseya-com-aug-25-2026-48630e?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Cobradores, de Raymond Carver: el relato más kafkiano del realismo sucio
Foto: UnsplashSigo leyendo ¿Quieres hacer el favor de callarte, por favor?, el primer libro de relatos de Raymond Carver, y me he encontrado con «Cobradores», que es distinto a casi todo lo demás del volumen. Aquí no hay un matrimonio deshaciéndose en la cocina. Hay un hombre solo en una casa y alguien llamando a la puerta.
Un hombre en paro y alguien llamando a la puerta
El narrador está sin trabajo. Lleva días esperando una carta que le confirme un empleo, y mientras tanto no hace nada, tumbado, escuchando. Llaman a la puerta. Es un vendedor, Aubrey Bell, que anuncia que la señora Slater ha ganado en un sorteo una limpieza de alfombras gratuita.
El narrador le dice que la señora Slater no está. Y aquí empieza lo raro: nunca dice si él es el señor Slater. No lo confirma, no lo niega, deja la pregunta sin respuesta durante todo el relato. Bell entra igualmente. Y una vez dentro, ya no se va.
La aspiradora, el colchón y lo que sale de dentro
Lo que sigue es una demostración comercial que se alarga hasta hacerse insoportable. Bell aspira la casa mientras habla de cosas que no vienen a cuento, tranquilo, como si tuviera todo el tiempo del mundo y todo el derecho a estar ahí. En un momento aspira el colchón y le enseña al narrador lo que ha sacado de dentro: la suciedad y los restos de piel muerta acumulados en la cama donde duerme.
Es una escena doméstica y a la vez profundamente violenta, aunque nadie levante la voz. Un desconocido está sacando a la vista lo que este hombre tiene debajo, literalmente, y el hombre lo mira sin moverse. No lo echa. No dice que no quiere la aspiradora. No dice casi nada.
Foto: UnsplashPor qué esto es Kafka con moqueta
Este relato funciona con la misma mecánica que Kafka, aunque el decorado sea una casa cualquiera de la América de los setenta y no un tribunal.
Primero, el intruso con autoridad inexplicable. Bell entra amparado en un trámite absurdo, un sorteo que nadie recuerda haber jugado, y ese papeleo mínimo le basta para ocupar la casa. Es exactamente lo que hacen los guardias que despiertan a Josef K. en El proceso: llegan a su habitación, se instalan, y la explicación de por qué pueden hacerlo nunca llega.
Segundo, la pasividad del protagonista. En Kafka nadie da un puñetazo en la mesa. Se discute, se pregunta, se colabora con el procedimiento. Aquí igual: el narrador podría cerrar la puerta en cualquier momento y no lo hace.
Y tercero, la identidad que se disuelve. Josef K. es una inicial. El narrador de Carver es un hombre que no llega a decir su nombre en su propia casa. Cuando alguien pierde el trabajo y espera una carta que decida por él, deja de tener nombre y pasa a ser un caso pendiente.
La carta
El final es lo mejor y no lo voy a destripar del todo, pero tiene que ver con esa carta que el narrador lleva todo el relato esperando. Carver no explica nada, no cierra nada y no le da al lector la escena que estaría pidiendo. Se limita a colocar el objeto en el sitio equivocado y a irse.
Ahí está la diferencia con Kafka, por cierto. Kafka construye un mundo entero con sus reglas absurdas. Carver no construye nada: coge una tarde normal, mete a un vendedor dentro y deja que la cosa se pudra sola. El resultado es igual de opresivo con la mitad de los medios.
Si os interesa este libro, escribí una entrada general sobre la colección entera, y también sobre «Vecinos», que es el otro relato del volumen donde alguien acaba dentro de una casa que no es la suya. Del Carver más tardío hablé hace poco en «Desde donde llamo».
¿Veis vosotros también ese parentesco entre Carver y Kafka, o os parece que fuerzo la comparación? Decídmelo en los comentarios, que este es de los temas que me pueden tener discutiendo un rato largo. Y si queréis lo que voy leyendo y pensando entre entrada y entrada, ando en Substack con notas más cortas que no llegan al blog.
#booklovers #bookreview #bookstodon #cobradores #Cuentos #Kafka #lectura #leer #libros #Literatura #raymondcarver #realismosucio #relatocorto -
Kafka CLI options driving you crazy? AI might finally have a solution.
Grzegorz Kocur tested Confluent’s mcp-confluent server with Claude Code on local Kafka clusters running mTLS and SASL/SCRAM.
Read to find out what happened: https://softwaremill.com/managing-kafka-with-ai-and-mcp/ -
Миграция MariaDB → PostgreSQL без даунтайма: почему обычные утилиты не подошли и как мы сделали это через Debezium CDC
Перед командой, выросшей на MySQL/MariaDB, встаёт вопрос перехода на PostgreSQL: лицензии, экосистема расширений, более предсказуемое поведение при конкурентных нагрузках - причин достаточно. Проблема в другом: как перенести боевую базу, которая не останавливается ни на минуту, без часов простоя и без риска потерять данные, записанные во время переноса. В этой статье - как мы решали эту задачу для интернет-магазина на MariaDB, почему готовые консольные конвертеры не годятся для «живой» миграции, и как выглядит рабочая схема на Debezium + Kafka Connect, включая Ansible-роль для повторяемого запуска.
-
Миграция MariaDB → PostgreSQL без даунтайма: почему обычные утилиты не подошли и как мы сделали это через Debezium CDC
Перед командой, выросшей на MySQL/MariaDB, встаёт вопрос перехода на PostgreSQL: лицензии, экосистема расширений, более предсказуемое поведение при конкурентных нагрузках - причин достаточно. Проблема в другом: как перенести боевую базу, которая не останавливается ни на минуту, без часов простоя и без риска потерять данные, записанные во время переноса. В этой статье - как мы решали эту задачу для интернет-магазина на MariaDB, почему готовые консольные конвертеры не годятся для «живой» миграции, и как выглядит рабочая схема на Debezium + Kafka Connect, включая Ansible-роль для повторяемого запуска.
-
Миграция MariaDB → PostgreSQL без даунтайма: почему обычные утилиты не подошли и как мы сделали это через Debezium CDC
Перед командой, выросшей на MySQL/MariaDB, встаёт вопрос перехода на PostgreSQL: лицензии, экосистема расширений, более предсказуемое поведение при конкурентных нагрузках - причин достаточно. Проблема в другом: как перенести боевую базу, которая не останавливается ни на минуту, без часов простоя и без риска потерять данные, записанные во время переноса. В этой статье - как мы решали эту задачу для интернет-магазина на MariaDB, почему готовые консольные конвертеры не годятся для «живой» миграции, и как выглядит рабочая схема на Debezium + Kafka Connect, включая Ansible-роль для повторяемого запуска.
-
PayU is hiring Senior Software Engineer
🔧 #java #api #hibernate #kafka #mongodb #mvc #nosql #redis #seniorengineer
🌎 Bengaluru, India
⏰ Full-time
🏢 PayUJob details https://jobsfordevelopers.com/jobs/senior-software-engineer-at-payu-oct-29-2019-58860d?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
#FranzKafka #Literatura #CitasLiterarias #Filosofia #Reflexion #PensamientoExistencial #Kafka #LibrosQueDespiertan #ImpactoLiterario #ElHachaDeLaMente #MarCongelado #DespertarMental #LecturaCritica #LibrosRecomendados #FrasesDeAutores #Existencialismo #Cultura #Conciencia #Introspeccion #Transformacion #PoderDeLaLectura #LiteraturaUniversal #ArteYReflexion #Kafkaesco #MenteAbierta
-
[Перевод] Как Reddit без потерь перенес петабайтную Kafka с EC2 на Kubernetes
Миграция — риск даже для небольших инфраструктур. А когда у вас больше миллиарда пользователей и петабайт данных, права на ошибку нет вообще. Но выход всё равно один — грамотно спланировать переезд и... взять и сделать. В статье — о том, как Reddit перешёл на Kubernetes: почему они отказались от Amazon EC2, какие ограничения им пришлось учитывать и чем их опыт может быть полезен в других проектах.
https://habr.com/ru/companies/flant/articles/1043518/
#kafka #миграция #strimzi #reddit #kraft #kubernetes #ec2 #zookeeper #репликация
-
Погружение в Kafka c KRaft
Обязательной частью является валидировать понимание работы с распределенными событийными моделями. Тут начинается аномалия. Не смотря на то, что все кандидаты заявляют об опыте с Kafka, многие теряются в рассуждениях на тему что это и как организовано. Для того, чтобы коллегам было комфортное на техническом интервью, а так же для желающих понять работу Kafka без Zookeper предлагаю статью. Понимаю, что мы все не любим длинные тексты, поэтому вложил максимум деталей в схемы и краткие формулировки.
https://habr.com/ru/articles/1053670/
#kafka #kraft #raft #java #python #devops #development #broker #partitioning #replica
-
Binance is hiring Senior Java Engineer
🔧 #java #hibernate #blockchain #web3 #aws #kafka #nosql #sql #seniorengineer
🌎 Remote; Asia
⏰ Full-time
🏢 BinanceJob details https://jobsfordevelopers.com/jobs/senior-java-engineer-at-binance-com-dec-29-2025-259e9a?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring -
Kafka Consumer в тестовой автоматизации: архитектурный разбор
Привет, Хабр! На связи Егор Лаптев — QA Fullstack Java в SENSE на проекте крупного российского банка. End-to-end тесты UI проверяют только то, что видно на экране: кнопка нажалась, форма открылась, данные отобразились. Но в распределённых системах значительная часть бизнес-логики уходит за кадр — в асинхронные события, которые летят через Kafka. Если событие не дошло до топика или пришло с неверным payload, пользователь этого не увидит, а бизнес-процесс сломается. В этой статье расскажу, как мы научились проверять Kafka-события прямо в автотестах — без Kafka UI, kcat и обёрточных сервисов, одной зависимостью и так, чтобы это работало в корпоративной сети с SSL. Покажу архитектуру коннектора, разберу три основных проблемы (SSL-сертификаты, конфликты consumer group и асинхронные тайминги), и поделюсь моделью работы инженера в связке с AI-агентом. Кому будет полезно: QA-инженерам и специалистам по автоматизации, которые тестируют распределённые системы и хотят проверять Kafka-события прямо в автотестах; и инженерам, которым интересна практическая модель работы в связке с AI-агентом — как она ускоряет разработку тестовой инфраструктуры.
https://habr.com/ru/companies/it_sense/articles/1051890/
#kafka #kafka_consumer #kafka_в_тестировании #qa_automation #sasl #асинхронное_тестирование #aiагенты #allure #consumer_group #распределенные_системы
-
Как мы ушли от ETL к CDC: выбираем архитектуру real-time аналитики на PostgreSQL, Kafka и ClickHouse. Часть 1
Все началось с просьбы сделать отчеты в реальном времени. На первый взгляд задача выглядела простой, но довольно быстро выяснилось, что существующая архитектура для этого не подходит. Проект был разбит на множество микросервисов, каждый из которых хранил данные в собственной PostgreSQL-базе. Чтобы строить сквозные отчеты, информацию нужно было где-то объединять. На тот момент аналитика уже работала через ETL: раз в сутки Airflow восстанавливал общую PostgreSQL из ежедневных бекапов, а Redash выполнял запросы уже к ней. Решение было надежным и не требовало нагрузки на production, но для real-time оно не годилось — в лучшем случае отчеты показывали состояние системы на начало дня.
https://habr.com/ru/articles/1051760/
#postgresql #clickhouse #kafka #debezium #cdc #kubernetes #etl #realtime_аналитика #kafka_connect #devops
-
Как мы ушли от ETL к CDC: выбираем архитектуру real-time аналитики на PostgreSQL, Kafka и ClickHouse. Часть 1
Все началось с просьбы сделать отчеты в реальном времени. На первый взгляд задача выглядела простой, но довольно быстро выяснилось, что существующая архитектура для этого не подходит. Проект был разбит на множество микросервисов, каждый из которых хранил данные в собственной PostgreSQL-базе. Чтобы строить сквозные отчеты, информацию нужно было где-то объединять. На тот момент аналитика уже работала через ETL: раз в сутки Airflow восстанавливал общую PostgreSQL из ежедневных бекапов, а Redash выполнял запросы уже к ней. Решение было надежным и не требовало нагрузки на production, но для real-time оно не годилось — в лучшем случае отчеты показывали состояние системы на начало дня.
https://habr.com/ru/articles/1051760/
#postgresql #clickhouse #kafka #debezium #cdc #kubernetes #etl #realtime_аналитика #kafka_connect #devops
-
Как мы ушли от ETL к CDC: выбираем архитектуру real-time аналитики на PostgreSQL, Kafka и ClickHouse. Часть 1
Все началось с просьбы сделать отчеты в реальном времени. На первый взгляд задача выглядела простой, но довольно быстро выяснилось, что существующая архитектура для этого не подходит. Проект был разбит на множество микросервисов, каждый из которых хранил данные в собственной PostgreSQL-базе. Чтобы строить сквозные отчеты, информацию нужно было где-то объединять. На тот момент аналитика уже работала через ETL: раз в сутки Airflow восстанавливал общую PostgreSQL из ежедневных бекапов, а Redash выполнял запросы уже к ней. Решение было надежным и не требовало нагрузки на production, но для real-time оно не годилось — в лучшем случае отчеты показывали состояние системы на начало дня.
https://habr.com/ru/articles/1051760/
#postgresql #clickhouse #kafka #debezium #cdc #kubernetes #etl #realtime_аналитика #kafka_connect #devops
-
Реалтайм-аналитика «без боли»: миграция из PostgreSQL и Kafka в ClickHouse и визуализация в Superset
Когда у вас появляется продукт с активными процессами и большим количеством пользователей, объём данных начинает расти быстрее, чем ожидалось. На старте всё выглядит достаточно просто: есть PostgreSQL, где хранятся основные сущности, есть Kafka с событиями, и кажется, что этого достаточно для решения большинства задач. Но со временем появляются новые вопросы. Команде становится недостаточно просто посчитать количество записей или получить текущее состояние объекта. Хочется понять, что происходило в системе: какие события привели к изменению состояния, какие действия выполнялись, где возникла проблема и на каком этапе произошёл сбой. В этот момент становится понятно, что обычные источники данных не всегда подходят для аналитики. PostgreSQL должен обслуживать основную нагрузку приложения, а Kafka отлично решает задачи доставки событий, но не является удобным инструментом для сложного анализа. В этой статье расскажу, как мы с командой построили отдельный аналитический контур: организовали миграцию данных из разных источников, объединили события Kafka и данные PostgreSQL, а затем вывели результат в удобные дашборды для технических специалистов и бизнеса. Узнать больше
https://habr.com/ru/companies/magnit/articles/1049072/
#clickhouse #kafka #postgresql #superset #peerdb #kafkaconnect
-
Тонкости Kafka Connect и Debezium
Привет! Меня зовут Ильсаф, я инженер данных в MAGNIT OMNI — бизнес-группе ритейлера «Магнит», которая отвечает за развитие омниканального опыта для клиентов. В этой статье я собрал свои практические наблюдения по работе Kafka Connect и Debezium с PostgreSQL: от настройки репликации до мониторинга и бэкфиллинга.
-
Тонкости Kafka Connect и Debezium
Привет! Меня зовут Ильсаф, я инженер данных в MAGNIT OMNI — бизнес-группе ритейлера «Магнит», которая отвечает за развитие омниканального опыта для клиентов. В этой статье я собрал свои практические наблюдения по работе Kafka Connect и Debezium с PostgreSQL: от настройки репликации до мониторинга и бэкфиллинга.
-
Тонкости Kafka Connect и Debezium
Привет! Меня зовут Ильсаф, я инженер данных в MAGNIT OMNI — бизнес-группе ритейлера «Магнит», которая отвечает за развитие омниканального опыта для клиентов. В этой статье я собрал свои практические наблюдения по работе Kafka Connect и Debezium с PostgreSQL: от настройки репликации до мониторинга и бэкфиллинга.
-
Геораспределенное резервирование Postgres при помощи Debezium
Всем привет, меня зовут Николай Голубев, я — техлид из компании HFLabs. Эта статья написана по мотивам моего выступления на конференции
https://habr.com/ru/companies/oleg-bunin/articles/1001862/
#highload #PostgreSQL #базы_данных #высоконагруженные_системы #Debezium #хранение_данных #Kafka #релоцирование
-
Геораспределенное резервирование Postgres при помощи Debezium
Всем привет, меня зовут Николай Голубев, я — техлид из компании HFLabs. Эта статья написана по мотивам моего выступления на конференции
https://habr.com/ru/companies/oleg-bunin/articles/1001862/
#highload #PostgreSQL #базы_данных #высоконагруженные_системы #Debezium #хранение_данных #Kafka #релоцирование
-
Геораспределенное резервирование Postgres при помощи Debezium
Всем привет, меня зовут Николай Голубев, я — техлид из компании HFLabs. Эта статья написана по мотивам моего выступления на конференции
https://habr.com/ru/companies/oleg-bunin/articles/1001862/
#highload #PostgreSQL #базы_данных #высоконагруженные_системы #Debezium #хранение_данных #Kafka #релоцирование
-
Capitalism’s defenders like to boast that it rewards talent. What capitalism actually rewards is saleability, compliance, stamina, inheritance, and the ability to endure long periods of spiritual self-betrayal without becoming visibly troublesome.
https://philosophics.blog/2026/03/08/capitalism-doesnt-merely-exploit-labour/?utm_source=masto
#philosophy #capitalism #labour #art #employment #artists #culture #Kafka #modernity, #exploitation #creativity #patronage #work #society #politics #enlightenment #civilisation #potential #opportunitycosts #parasites #blog
-
Capitalism’s defenders like to boast that it rewards talent. What capitalism actually rewards is saleability, compliance, stamina, inheritance, and the ability to endure long periods of spiritual self-betrayal without becoming visibly troublesome.
https://philosophics.blog/2026/03/08/capitalism-doesnt-merely-exploit-labour/?utm_source=masto
#philosophy #capitalism #labour #art #employment #artists #culture #Kafka #modernity, #exploitation #creativity #patronage #work #society #politics #enlightenment #civilisation #potential #opportunitycosts #parasites #blog
-
Capitalism’s defenders like to boast that it rewards talent. What capitalism actually rewards is saleability, compliance, stamina, inheritance, and the ability to endure long periods of spiritual self-betrayal without becoming visibly troublesome.
https://philosophics.blog/2026/03/08/capitalism-doesnt-merely-exploit-labour/?utm_source=masto
#philosophy #capitalism #labour #art #employment #artists #culture #Kafka #modernity, #exploitation #creativity #patronage #work #society #politics #enlightenment #civilisation #potential #opportunitycosts #parasites #blog
-
Capitalism’s defenders like to boast that it rewards talent. What capitalism actually rewards is saleability, compliance, stamina, inheritance, and the ability to endure long periods of spiritual self-betrayal without becoming visibly troublesome.
https://philosophics.blog/2026/03/08/capitalism-doesnt-merely-exploit-labour/?utm_source=masto
#philosophy #capitalism #labour #art #employment #artists #culture #Kafka #modernity, #exploitation #creativity #patronage #work #society #politics #enlightenment #civilisation #potential #opportunitycosts #parasites #blog
-
Capitalism’s defenders like to boast that it rewards talent. What capitalism actually rewards is saleability, compliance, stamina, inheritance, and the ability to endure long periods of spiritual self-betrayal without becoming visibly troublesome.
https://philosophics.blog/2026/03/08/capitalism-doesnt-merely-exploit-labour/?utm_source=masto
#philosophy #capitalism #labour #art #employment #artists #culture #Kafka #modernity, #exploitation #creativity #patronage #work #society #politics #enlightenment #civilisation #potential #opportunitycosts #parasites #blog
-
CDC своими руками: Kafka + Debezium в домашней лаборатории
Третья статья цикла о построении CDC-пайплайна с нуля. Сегодня — самое интересное: захватываем изменения из PostgreSQL и отправляем в Kafka. И разбираемся, почему WAL может съесть весь диск, даже если данные не меняются.
-
CDC своими руками: Kafka + Debezium в домашней лаборатории
Третья статья цикла о построении CDC-пайплайна с нуля. Сегодня — самое интересное: захватываем изменения из PostgreSQL и отправляем в Kafka. И разбираемся, почему WAL может съесть весь диск, даже если данные не меняются.
-
CDC своими руками: Kafka + Debezium в домашней лаборатории
Третья статья цикла о построении CDC-пайплайна с нуля. Сегодня — самое интересное: захватываем изменения из PostgreSQL и отправляем в Kafka. И разбираемся, почему WAL может съесть весь диск, даже если данные не меняются.
-
Debezium 3.4 Final: A Feature-Packed Release for Modern Data Pipelines
https://techlife.blog/posts/debezium-3-4-release/
#Debezium #CDC #ChangeDataCapture #Kafka #Quarkus #Oracle #PostgreSQL #MongoDB #SQLServer #OpenSource
-
Debezium 3.4 Final: A Feature-Packed Release for Modern Data Pipelines
https://techlife.blog/posts/debezium-3-4-release/
#Debezium #CDC #ChangeDataCapture #Kafka #Quarkus #Oracle #PostgreSQL #MongoDB #SQLServer #OpenSource
-
Как оптимизация перформанса Debezium JDBC Sink Connector помогла улучшить Open-source версию решения
Debezium — популярный фреймворк для Change Data Capture (CDC), позволяющий отслеживать изменения в источниках данных (таких как базы данных) и передавать их в потоковые платформы вроде Apache Kafka. Одним из компонентов Debezium является JDBC Sink Connector, предназначенный для записи данных из Kafka в реляционные базы данных посредством интерфейса Java Database Connectivity (JDBC). Debezium JDBC Sink Connector может решать множество задач: от репликации данных между БД и синхронизации обновлений между микросервисами до создания резервных копий данных для целей тестирования или разработки. Мы в VK Tech используем Debezium JDBC sink connector, чтобы строить перформанс-интеграции. Но в нагрузочных тестах столкнулись с проблемой производительности, которая не решалась никакими обходными путями. Поэтому нам пришлось детально погрузиться в нюансы обработки событий в Debezium JDBC connector. Привет, Хабр. Меня зовут Артём Дубинин. Я старший разработчик Backend в команде Tarantool CDC — решения для репликации данных в реальном времени между системами управления базами данных (СУБД). В этой статье я изложу свою интерпретацию создания Debezium, расскажу о том, как работает Debezium JDBC connector, а также о нашем варианте оптимизации перформанса, который попал в Open-source версию.
https://habr.com/ru/companies/vktech/articles/967558/
#Tarantool #архитектура #отказоустойчивость #debezium #Kafka #JDBC_Sink_Connector #jdbc #vk_tech #tarantool_cdc #перформанс
-
Как оптимизация перформанса Debezium JDBC Sink Connector помогла улучшить Open-source версию решения
Debezium — популярный фреймворк для Change Data Capture (CDC), позволяющий отслеживать изменения в источниках данных (таких как базы данных) и передавать их в потоковые платформы вроде Apache Kafka. Одним из компонентов Debezium является JDBC Sink Connector, предназначенный для записи данных из Kafka в реляционные базы данных посредством интерфейса Java Database Connectivity (JDBC). Debezium JDBC Sink Connector может решать множество задач: от репликации данных между БД и синхронизации обновлений между микросервисами до создания резервных копий данных для целей тестирования или разработки. Мы в VK Tech используем Debezium JDBC sink connector, чтобы строить перформанс-интеграции. Но в нагрузочных тестах столкнулись с проблемой производительности, которая не решалась никакими обходными путями. Поэтому нам пришлось детально погрузиться в нюансы обработки событий в Debezium JDBC connector. Привет, Хабр. Меня зовут Артём Дубинин. Я старший разработчик Backend в команде Tarantool CDC — решения для репликации данных в реальном времени между системами управления базами данных (СУБД). В этой статье я изложу свою интерпретацию создания Debezium, расскажу о том, как работает Debezium JDBC connector, а также о нашем варианте оптимизации перформанса, который попал в Open-source версию.
https://habr.com/ru/companies/vktech/articles/967558/
#Tarantool #архитектура #отказоустойчивость #debezium #Kafka #JDBC_Sink_Connector #jdbc #vk_tech #tarantool_cdc #перформанс
-
Как оптимизация перформанса Debezium JDBC Sink Connector помогла улучшить Open-source версию решения
Debezium — популярный фреймворк для Change Data Capture (CDC), позволяющий отслеживать изменения в источниках данных (таких как базы данных) и передавать их в потоковые платформы вроде Apache Kafka. Одним из компонентов Debezium является JDBC Sink Connector, предназначенный для записи данных из Kafka в реляционные базы данных посредством интерфейса Java Database Connectivity (JDBC). Debezium JDBC Sink Connector может решать множество задач: от репликации данных между БД и синхронизации обновлений между микросервисами до создания резервных копий данных для целей тестирования или разработки. Мы в VK Tech используем Debezium JDBC sink connector, чтобы строить перформанс-интеграции. Но в нагрузочных тестах столкнулись с проблемой производительности, которая не решалась никакими обходными путями. Поэтому нам пришлось детально погрузиться в нюансы обработки событий в Debezium JDBC connector. Привет, Хабр. Меня зовут Артём Дубинин. Я старший разработчик Backend в команде Tarantool CDC — решения для репликации данных в реальном времени между системами управления базами данных (СУБД). В этой статье я изложу свою интерпретацию создания Debezium, расскажу о том, как работает Debezium JDBC connector, а также о нашем варианте оптимизации перформанса, который попал в Open-source версию.
https://habr.com/ru/companies/vktech/articles/967558/
#Tarantool #архитектура #отказоустойчивость #debezium #Kafka #JDBC_Sink_Connector #jdbc #vk_tech #tarantool_cdc #перформанс
-
This is my November Fedi reminder that I am a talented #Java developer looking for a developer position either remote, or based in Tampa, FL. I have some neat skills, like #CoreJava, #JavaEE, #Spring Frameworks, #WebServices, #Kafka, and many others. If you want to set up a call, I promise I will respond. (And I only ask you apply the same rule.)
Oh yeah, something-something-pumpkin-spice; now it's a November post.
-
Spark, DataSphere и немного магии: как мы строим аналитическую платформу в облаке для банка
Для решения классических аналитических задач в банке дата‑специалисты обрабатывают миллиарды транзакций. Поэтому создание единого информационного пространства для работы с большими объёмами данных потребует решить как задачи оптимизации производительности и обеспечения безопасности, так и задачи удобства для пользователей — и найти баланс между ними. Сергей Виноградов на конференции Data&ML2Business рассказал про разработку и построение DWH для задач Яндекс Пэй. В этой статье — дополненный рассказ о том, как устроена аналитическая платформа на базе Greenplum® и ClickHouse®, которую решили строить на базе managed‑сервисов в облаке. А также о том, как жизнь аналитиков облегчает связка Apache Spark™ и Jupyter‑ноутбуков в Yandex DataSphere.
https://habr.com/ru/companies/yandex_cloud_and_infra/articles/957470/
#spark #kafka #cdc #debezium #change_data_capture #map_reduce
-
Spark, DataSphere и немного магии: как мы строим аналитическую платформу в облаке для банка
Для решения классических аналитических задач в банке дата‑специалисты обрабатывают миллиарды транзакций. Поэтому создание единого информационного пространства для работы с большими объёмами данных потребует решить как задачи оптимизации производительности и обеспечения безопасности, так и задачи удобства для пользователей — и найти баланс между ними. Сергей Виноградов на конференции Data&ML2Business рассказал про разработку и построение DWH для задач Яндекс Пэй. В этой статье — дополненный рассказ о том, как устроена аналитическая платформа на базе Greenplum® и ClickHouse®, которую решили строить на базе managed‑сервисов в облаке. А также о том, как жизнь аналитиков облегчает связка Apache Spark™ и Jupyter‑ноутбуков в Yandex DataSphere.
https://habr.com/ru/companies/yandex_cloud_and_infra/articles/957470/
#spark #kafka #cdc #debezium #change_data_capture #map_reduce
-
Spark, DataSphere и немного магии: как мы строим аналитическую платформу в облаке для банка
Для решения классических аналитических задач в банке дата‑специалисты обрабатывают миллиарды транзакций. Поэтому создание единого информационного пространства для работы с большими объёмами данных потребует решить как задачи оптимизации производительности и обеспечения безопасности, так и задачи удобства для пользователей — и найти баланс между ними. Сергей Виноградов на конференции Data&ML2Business рассказал про разработку и построение DWH для задач Яндекс Пэй. В этой статье — дополненный рассказ о том, как устроена аналитическая платформа на базе Greenplum® и ClickHouse®, которую решили строить на базе managed‑сервисов в облаке. А также о том, как жизнь аналитиков облегчает связка Apache Spark™ и Jupyter‑ноутбуков в Yandex DataSphere.
https://habr.com/ru/companies/yandex_cloud_and_infra/articles/957470/
#spark #kafka #cdc #debezium #change_data_capture #map_reduce