home.social

#lpu — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #lpu, aggregated by home.social.

  1. Nvidia nie bierze jeńców. Wydaje 20 mld dolarów na „mózgi” Groq w największej transakcji w swojej historii

    Mieli być „pogromcą Nvidii”, oferując szybsze i tańsze chipy do AI. Zamiast tego, ich szefowie i technologia właśnie trafili pod skrzydła Jensena Huanga.

    Nvidia cementuje swoją pozycję monopolisty, wydając rekordowe 20 miliardów dolarów w kontrowersyjnym modelu „acquihire”.

    Groq był gwiazdą startupów AI. Ich procesory LPU (Language Processing Units) obiecywały to, czego GPU Nvidii nie potrafiły: błyskawiczne generowanie odpowiedzi (inference) przy ułamku kosztów energii. Firma budowała nawet własne centra danych w Europie i otwarcie oskarżała Nvidię o praktyki monopolistyczne. Cóż, jak mówi stare porzekadło: jeśli nie możesz ich pokonać, kup ich.

    Najdroższe „CV” w historii

    Według doniesień Tom’s Hardware, transakcja jest majstersztykiem prawnym, mającym na celu ominięcie urzędów antymonopolowych. Nvidia nie kupuje firmy Groq (co zablokowałaby Federalna Komisja Handlu). Zamiast tego:

    • Płaci 20 miliardów dolarów za niewyłączną licencję na własność intelektualną Groq.
    • Zatrudnia kluczowych pracowników, w tym założyciela i CEO Jonathana Rossa (twórcę układów TPU Google’a) oraz prezydenta Sunny’ego Madrę.

    To model działania znany jako „acquihire” (przejęcie dla talentów), który w ostatnich latach stosowały Microsoft (z Inflection AI) i Amazon (z Adept).

    Co zyskuje Nvidia?

    Jensen Huang, CEO Nvidii, powiedział wprost: „Planujemy zintegrować procesory Groq o niskich opóźnieniach z architekturą fabryk AI Nvidii”. Oznacza to, że firma łata swoją jedyną słabość – wydajność w tzw. inference (wnioskowaniu). Nvidia ma najlepsze chipy do uczenia AI, ale Groq miał lepsze do jej obsługi. Teraz Nvidia ma obie te rzeczy.

    Groq jako „wydmuszka”?

    Formalnie Groq pozostaje niezależną firmą. Nowym CEO zostanie dotychczasowy dyrektor finansowy Simon Edwards, a usługa GroqCloud ma działać bez zmian. Pytanie jednak, czym jest firma technologiczna bez swoich założycieli, kluczowych inżynierów i z technologią, którą właśnie oddała największemu konkurentowi?

    Dla rynku to jasny sygnał: w 2026 roku Nvidia zamierza być jedynym liczącym się graczem. A 20 miliardów dolarów to dla nich niska cena za święty spokój.

    Koniec eldorado w chmurze. Od 1 stycznia NVIDIA wprowadza sztywne limity w GeForce Now

    #AIInference #Groq #JensenHuang #JonathanRoss #LPU #nvidia #przejęcie #rynekChipów #sztucznaInteligencja
  2. [Перевод] Архитектура LPU и будущее AI без задержек

    Команда AI for Devs подготовила перевод статьи о том, как Groq пытается устранить главное «бутылочное горлышко» современного ИИ — задержку. Их специализированный процессор LPU обещает скорость в реальном времени и открывает путь к новым приложениям: от финансовых систем до Coding AI-ботов. Но за пределами маркетинга остаются вопросы: что с большими контекстами, какова конкуренция с Cerebras и GPU, и выдержит ли бизнес-модель такие вызовы?

    habr.com/ru/articles/945894/

    #Groq #LPU #инференс #задержка #ai #gpu

  3. I was an early #LPU member in 2001 and happy to have joined the @linkinpark Undergrpund again. Looking forward to their concert in June! The last one I attended was exactly 1 month before @chesterbe passed away. 💔

  4. 🌟 Exciting Online Program on High-Performance Computing (HPC) in India!

    Learn about Foundations, Parallel Programming, and GPU Acceleration from a stellar team of 7 experts, including industry leaders and international experts.

    📅 Dates: Jan 27-Feb 1, 2025.
    ⏰Time: 6-9 PM IST.
    💻 Mode: Online.
    💰 Free registration!

    Topics include MPI, OpenMP, CUDA, and more. Perfect for academicians and professionals.

    Limited seats! Register now:
    atalacademy.aicte-india.org/

    #HPC #FDP #FreeEvent #LPU

  5. [Перевод] Глубокое погружение в базовую архитектуру LPU Groq

    В этой статье мы собираемся разобрать архитектуру Tensor Streaming Processor TSP и его компилятора, а затем увидим, как Groq построили надежный и высокопроизводительный распределенный механизм инференса искусственного интеллекта с использованием этих TSP.

    habr.com/ru/articles/857800/

    #Groq #LPU #TPU #TSP #cyberdyne

  6. @florianaigner

    Na, dann hätte er aus den 20 Arbeiten 200 gemacht. #LPU

    Ist halt doof für alle, denn alle müssen das Zeug lesen, begutachten, zitieren. Wir beschäftigen uns alle mit uns selbst. Damit irgendwelche Verwaltungen was zusammenzählen können.

    Aber die DFG ist zumindest schon bei den Antragstellungen vom Prinzip Masse weg. Da darf man nur noch wenige Publikationen auflisten.

  7. wow.groq.com/why-groq/

    "An LPU has greater compute capacity than a GPU and CPU in regards to LLMs. This reduces the amount of time per word calculated, allowing sequences of text to be generated much faster. Additionally, eliminating external memory bottlenecks enables the LPU Inference Engine to deliver orders of magnitude better performance on LLMs compared to GPUs."

    #groq #LLMs #LPU #GenerativeAI

  8. Groq sounds exciting with it's LPU (Language Processing Unit) as a faster and more efficient alternative to GPU's for LLM's. However difficult to establish the viability with only a website, whitepaper and online demo. Time will tell.
    groq.com/
    #AI #LPU #LLM #Groq

  9. #introduction for all the fediverse people I'm beginning to follow and who might follow back. I've been interested in #physicalsecurity and #lockpicking for the past 20 years, and started Augusta Locksports and the #LPU discord server. I'm a casual #linux user, mostly for server things but every once in a while I get a wild hair up my ass to run it as my daily driver. I'm a hobbyist #dicemaker and my wife and I raise rabbits.

  10. Form 3 SLA Printer Teardown, Bunnie Style - [Bunnie Huang] has shared with all of us his utterly detailed teardown on the Form 3 SLA printer fro... more: hackaday.com/2020/01/21/form-3 #3dprinterhacks #bunniestudios #bunniehuang #3dprinting #teardown #formlabs #form3 #resin #lpu #sla