home.social

#apachehadoop — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #apachehadoop, aggregated by home.social.

  1. #Uber, running one of the largest #ApacheHadoop installations in the world, is moving to Google Cloud!

    #CaseStudy - Discover its strategy to migrate the batch data analytics and machine learning (ML) training stack to Google Cloud Platform (GCP): bit.ly/4cmgonj

    #DevOps #GoogleCloud #BigData #InfoQ

  2. I hope we open source some of the #ApacheHadoop work we are doing because Dark Lord knows this is harder than it should be.

  3. For those a little familiar with Cascading, in , it was originally designed to run on , and then , but it also has a local planner.

    This lets developers create non-clustered data applications, without the Hadoop/Tez etc dependencies or runtime.

    I've been using the local planner in production for over 5 years now.

    But Parquet requires Hadoop libraries, and this is ok, there is a shim between the libraries that allow Parquet and S3AFileSystem to be used locally.

  4. A little more color on this announcement..
    fosstodon.org/@cwensel/1105490

    First, removed support, so I had to splice the original source into Cascading. But the ParquetScheme didn't honor type information fully. So there is a new TypedParquetScheme that has native support for JSON and Timestamps.

    Second, Parquet requires the FileSystem, which means we get the wonderful S3A implementation. But we also get a 331MB jar dependency with the aws bundle.

  5. Apache Drill bringt eine Rückportierung zu Hadoop 2 und eine Anbindung an die Datenbank-Engine Apache Phoenix. Auch neue Dateiformate sind nun möglich.
    SQL-Engine: Apache Drill 1.20 abwärtskompatibel zu Hadoop 2
  6. Das Update der Plattform zur Datenflussautomatisierung legt den Fokus auf sichere Grundeinstellungen und bietet erweiterte Security-Optionen.
    Big Data: Apache NiFi 1.14 arbeitet sicherer
  7. Das neue Release der analytischen Datenbank sieht einige Änderungen bei Authentifizierung und Autorisierung vor, darunter die Integration mit Apache Knox.
    Hadoop: Apache Impala 4.0 mit erweitertem Multithreading
  8. Die Private-Equity-Firmen KKR und Clayton, Dubilier & Rice sollen Cloudera den Weg zu mehr Kunden und produktgetriebenem Wachstum weisen. Hadoop-Pionier Cloudera will sich abseits der Börse neu positionieren
  9. Die ASF hat zahlreiche Projekte endgültig in den Ruhestand geschickt. Apache Falcon benötigte knapp zwei Jahre für den Weg auf den Dachboden. Apache Software Foundation räumt beim großen Frühjahrsputz auf