home.social

#iceberg — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #iceberg, aggregated by home.social.

  1. Antarctic station discovers its shipping containers floating away on iceberg after blizzard

    From the air, they look like seven little ants on a torn piece of white paper. But a…
    #NewsBeep #News #Environment #antarctic #antarctica #AU #Australia #Base #breakaway #german #Iceberg #neumayerstation #Science #shippingcontainer #tas
    newsbeep.com/au/688385/

  2. Antarctic station discovers its shipping containers floating away on iceberg after blizzard

    From the air, they look like seven little ants on a torn piece of white paper. But a…
    #NewsBeep #News #Environment #antarctic #antarctica #AU #Australia #Base #breakaway #german #Iceberg #neumayerstation #Science #shippingcontainer #tas
    newsbeep.com/au/688385/

  3. Строим машину времени для данных (SCD-2) на движке Trino под управлением Airflow

    Сегодня SCD-2-таблицы не только остаются актуальными для медленно меняющихся данных, но и, на мой взгляд, становятся гораздо проще в реализации благодаря новым технологиям и инструментам. Мне поручили пересобрать витрину в ходе миграции в наше новое хранилище данных. Итак, в этой статье мы будем: — строить Iceberg-таблицы SCD-2 с помощью Trino, SQL и Python; — попутно освоим прекрасные функции merge, MD5 и другие полезные инструменты; — напишем свой собственный оператор для Airflow для автоматизации ETL-процесса.

    habr.com/ru/companies/X5Tech/a

    #scd_type_2 #trino #iceberg #airflow #lakehouse #etl #slowly_changing_dimensions #data_mesh #витрина_данных #хранилище_данных

  4. Строим машину времени для данных (SCD-2) на движке Trino под управлением Airflow

    Сегодня SCD-2-таблицы не только остаются актуальными для медленно меняющихся данных, но и, на мой взгляд, становятся гораздо проще в реализации благодаря новым технологиям и инструментам. Мне поручили пересобрать витрину в ходе миграции в наше новое хранилище данных. Итак, в этой статье мы будем: — строить Iceberg-таблицы SCD-2 с помощью Trino, SQL и Python; — попутно освоим прекрасные функции merge, MD5 и другие полезные инструменты; — напишем свой собственный оператор для Airflow для автоматизации ETL-процесса.

    habr.com/ru/companies/X5Tech/a

    #scd_type_2 #trino #iceberg #airflow #lakehouse #etl #slowly_changing_dimensions #data_mesh #витрина_данных #хранилище_данных

  5. Строим машину времени для данных (SCD-2) на движке Trino под управлением Airflow

    Сегодня SCD-2-таблицы не только остаются актуальными для медленно меняющихся данных, но и, на мой взгляд, становятся гораздо проще в реализации благодаря новым технологиям и инструментам. Мне поручили пересобрать витрину в ходе миграции в наше новое хранилище данных. Итак, в этой статье мы будем: — строить Iceberg-таблицы SCD-2 с помощью Trino, SQL и Python; — попутно освоим прекрасные функции merge, MD5 и другие полезные инструменты; — напишем свой собственный оператор для Airflow для автоматизации ETL-процесса.

    habr.com/ru/companies/X5Tech/a

    #scd_type_2 #trino #iceberg #airflow #lakehouse #etl #slowly_changing_dimensions #data_mesh #витрина_данных #хранилище_данных

  6. Строим машину времени для данных (SCD-2) на движке Trino под управлением Airflow

    Сегодня SCD-2-таблицы не только остаются актуальными для медленно меняющихся данных, но и, на мой взгляд, становятся гораздо проще в реализации благодаря новым технологиям и инструментам. Мне поручили пересобрать витрину в ходе миграции в наше новое хранилище данных. Итак, в этой статье мы будем: — строить Iceberg-таблицы SCD-2 с помощью Trino, SQL и Python; — попутно освоим прекрасные функции merge, MD5 и другие полезные инструменты; — напишем свой собственный оператор для Airflow для автоматизации ETL-процесса.

    habr.com/ru/companies/X5Tech/a

    #scd_type_2 #trino #iceberg #airflow #lakehouse #etl #slowly_changing_dimensions #data_mesh #витрина_данных #хранилище_данных

  7. Spent some time chasing icebergs offshore eastern #Newfoundland yesterday. There were ducks fighting for the camera's attention!

    I think I see a troll face in the iceberg.

    #Iceberg #Duck #Pareidolia

  8. Con esta imagen de un iceberg (que he creado con Canva) intento reflejar que lo interesante de la red (con sus nodos de relaciones) no es lo que se ve en la superficie. Como Mastodon 😊

    #iceberg #internet #Mastodon

  9. Con esta imagen de un iceberg (que he creado con Canva) intento reflejar que lo interesante de la red (con sus nodos de relaciones) no es lo que se ve en la superficie. Como Mastodon 😊

    #iceberg #internet #Mastodon

  10. Con esta imagen de un iceberg (que he creado con Canva) intento reflejar que lo interesante de la red (con sus nodos de relaciones) no es lo que se ve en la superficie. Como Mastodon 😊

    #iceberg #internet #Mastodon

  11. Con esta imagen de un iceberg (que he creado con Canva) intento reflejar que lo interesante de la red (con sus nodos de relaciones) no es lo que se ve en la superficie. Como Mastodon 😊

    #iceberg #internet #Mastodon

  12. Con esta imagen de un iceberg (que he creado con Canva) intento reflejar que lo interesante de la red (con sus nodos de relaciones) no es lo que se ve en la superficie. Como Mastodon 😊

    #iceberg #internet #Mastodon

  13. When does #Iceberg beat #Parquet+projection on #AWSGlue, and when doesn't ?

    An end-to-end #ETL PoC on #AWS to find out: producer, #Kinesis, two #Firehose paths, two #Glue jobs, #Athena.

    🔮 Spoiler: how the data is read is the key to the choice.

    In the article: every choice with its why, plus a few gems from some Glue experience 😄

    alessandra.bilardi.net/diary/a

    #DiaryOfALazyDeveloper

  14. When does #Iceberg beat #Parquet+projection on #AWSGlue, and when doesn't ?

    An end-to-end #ETL PoC on #AWS to find out: producer, #Kinesis, two #Firehose paths, two #Glue jobs, #Athena.

    🔮 Spoiler: how the data is read is the key to the choice.

    In the article: every choice with its why, plus a few gems from some Glue experience 😄

    alessandra.bilardi.net/diary/a

    #DiaryOfALazyDeveloper

  15. apache iceberg и его философия

    iceberg и его философия metadata расскажем почему iceberg эффективно выполняет запросы и прост в управлении данными благодаря своей metadata

    habr.com/ru/articles/1033546/

    #iceberg #metadata #data_lake #s3 #hdfs #data_lakehouse #acid #olap

  16. apache iceberg и его философия

    iceberg и его философия metadata расскажем почему iceberg эффективно выполняет запросы и прост в управлении данными благодаря своей metadata

    habr.com/ru/articles/1033546/

    #iceberg #metadata #data_lake #s3 #hdfs #data_lakehouse #acid #olap

  17. apache iceberg и его философия

    iceberg и его философия metadata расскажем почему iceberg эффективно выполняет запросы и прост в управлении данными благодаря своей metadata

    habr.com/ru/articles/1033546/

    #iceberg #metadata #data_lake #s3 #hdfs #data_lakehouse #acid #olap

  18. apache iceberg и его философия

    iceberg и его философия metadata расскажем почему iceberg эффективно выполняет запросы и прост в управлении данными благодаря своей metadata

    habr.com/ru/articles/1033546/

    #iceberg #metadata #data_lake #s3 #hdfs #data_lakehouse #acid #olap

  19. #epsteinfiles is just the tip of the #iceberg that is the #corruption of #washington and other capitalist capitals #trump #compromised #israel #politics in #usa is not even good for #comedy anymore #epstein #crime #criminals #netanyahoo #iran #war #corruption #corrupt and #decadence of a #corrupt #evil #oil and #money #empire this video is important for the last ... to realize that

  20. #epsteinfiles is just the tip of the #iceberg that is the #corruption of #washington and other capitalist capitals #trump #compromised #israel #politics in #usa is not even good for #comedy anymore #epstein #crime #criminals #netanyahoo #iran #war #corruption #corrupt and #decadence of a #corrupt #evil #oil and #money #empire this video is important for the last ... to realize that

  21. is just the tip of the that is the of and other capitalist capitals in is not even good for anymore and of a and this video is important for the last ... to realize that

  22. #epsteinfiles is just the tip of the #iceberg that is the #corruption of #washington and other capitalist capitals #trump #compromised #israel #politics in #usa is not even good for #comedy anymore #epstein #crime #criminals #netanyahoo #iran #war #corruption #corrupt and #decadence of a #corrupt #evil #oil and #money #empire this video is important for the last ... to realize that

  23. Современный дата-стек: потоковая система из «LEGO»

    Вы слышали о Kafka , MQTT , S3 , Iceberg , Trino , PostgreSQL , Redis и Flink ? А насколько хорошо вы знаете эти технологии? По каждой из них написаны огромные книги («Kafka: The Definitive Guide», около 800 страниц), и каждый день выходят новые публикации про тонкости. Эта статья про другое. Вместо внутренностей движков и законов распределённых систем посмотрим на эти технологии как на кубики LEGO: какую роль каждая из них играет в архитектуре и как они стыкуются друг с другом. Это будет практический туториал: начнём с минимальной конфигурации и постепенно соберём сложную систему. Статью можно просто читать как обзор архитектуры, а можно запускать каждую конфигурацию и изучать её в деталях. Для этого достаточно Git , Git LFS и Docker Compose . Всё запускается в контейнерах. Даже примеры на Java собираются через Docker multi-stage build .

    habr.com/ru/articles/1022970/

    #Kafka #Flink #Redis #Iceberg #Java #Docker #dockercompse

  24. Современный дата-стек: потоковая система из «LEGO»

    Вы слышали о Kafka , MQTT , S3 , Iceberg , Trino , PostgreSQL , Redis и Flink ? А насколько хорошо вы знаете эти технологии? По каждой из них написаны огромные книги («Kafka: The Definitive Guide», около 800 страниц), и каждый день выходят новые публикации про тонкости. Эта статья про другое. Вместо внутренностей движков и законов распределённых систем посмотрим на эти технологии как на кубики LEGO: какую роль каждая из них играет в архитектуре и как они стыкуются друг с другом. Это будет практический туториал: начнём с минимальной конфигурации и постепенно соберём сложную систему. Статью можно просто читать как обзор архитектуры, а можно запускать каждую конфигурацию и изучать её в деталях. Для этого достаточно Git , Git LFS и Docker Compose . Всё запускается в контейнерах. Даже примеры на Java собираются через Docker multi-stage build .

    habr.com/ru/articles/1022970/

    #Kafka #Flink #Redis #Iceberg #Java #Docker #dockercompse

  25. Современный дата-стек: потоковая система из «LEGO»

    Вы слышали о Kafka , MQTT , S3 , Iceberg , Trino , PostgreSQL , Redis и Flink ? А насколько хорошо вы знаете эти технологии? По каждой из них написаны огромные книги («Kafka: The Definitive Guide», около 800 страниц), и каждый день выходят новые публикации про тонкости. Эта статья про другое. Вместо внутренностей движков и законов распределённых систем посмотрим на эти технологии как на кубики LEGO: какую роль каждая из них играет в архитектуре и как они стыкуются друг с другом. Это будет практический туториал: начнём с минимальной конфигурации и постепенно соберём сложную систему. Статью можно просто читать как обзор архитектуры, а можно запускать каждую конфигурацию и изучать её в деталях. Для этого достаточно Git , Git LFS и Docker Compose . Всё запускается в контейнерах. Даже примеры на Java собираются через Docker multi-stage build .

    habr.com/ru/articles/1022970/

    #Kafka #Flink #Redis #Iceberg #Java #Docker #dockercompse

  26. Современный дата-стек: потоковая система из «LEGO»

    Вы слышали о Kafka , MQTT , S3 , Iceberg , Trino , PostgreSQL , Redis и Flink ? А насколько хорошо вы знаете эти технологии? По каждой из них написаны огромные книги («Kafka: The Definitive Guide», около 800 страниц), и каждый день выходят новые публикации про тонкости. Эта статья про другое. Вместо внутренностей движков и законов распределённых систем посмотрим на эти технологии как на кубики LEGO: какую роль каждая из них играет в архитектуре и как они стыкуются друг с другом. Это будет практический туториал: начнём с минимальной конфигурации и постепенно соберём сложную систему. Статью можно просто читать как обзор архитектуры, а можно запускать каждую конфигурацию и изучать её в деталях. Для этого достаточно Git , Git LFS и Docker Compose . Всё запускается в контейнерах. Даже примеры на Java собираются через Docker multi-stage build .

    habr.com/ru/articles/1022970/

    #Kafka #Flink #Redis #Iceberg #Java #Docker #dockercompse

  27. @thealexmerced thanks! Added to wish list in manning. Better 2buy there vs Amazon to get the ai features?

    I guess Manning got rid of old option to buy coins 2 read individual pages? was a cool feature 2 bad.

    Thanks for reminder about #datafusion i guess it & #polars have excellent #iceberg support & can be used from #rust

    I was thinking about replacing a #pyspark glue job with a rust #lambda on #aws

    Just found your excellent medium account. Best of luck at your upcoming talk!

  28. @thealexmerced thanks! Added to wish list in manning. Better 2buy there vs Amazon to get the ai features?

    I guess Manning got rid of old option to buy coins 2 read individual pages? was a cool feature 2 bad.

    Thanks for reminder about #datafusion i guess it & #polars have excellent #iceberg support & can be used from #rust

    I was thinking about replacing a #pyspark glue job with a rust #lambda on #aws

    Just found your excellent medium account. Best of luck at your upcoming talk!