home.social

#hgx — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #hgx, aggregated by home.social.

  1. Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7

    Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из

    habr.com/ru/companies/cloud_ru

    #b200 #hgx #a100 #h100 #h200 #dgx #ml #glm47

  2. Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7

    Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из

    habr.com/ru/companies/cloud_ru

    #b200 #hgx #a100 #h100 #h200 #dgx #ml #glm47

  3. Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7

    Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из

    habr.com/ru/companies/cloud_ru

    #b200 #hgx #a100 #h100 #h200 #dgx #ml #glm47

  4. Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7

    Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из

    habr.com/ru/companies/cloud_ru

    #b200 #hgx #a100 #h100 #h200 #dgx #ml #glm47

  5. 🎉 Wow, someone finally virtualized those #HGX #B200 GPUs using #open #source, because plain old hardware was just too mainstream. 🙄 Apparently, doing it in Europe makes it 100% more private, because geography is encryption now. 🚀
    ubicloud.com/blog/virtualizing #virtualization #privacy #technology #innovation #HackerNews #ngated

  6. 🇹🇼 TAIWAN
    🔴 Nvidia Powers Quantum Leap in AI Research

    🔸 New NCHC supercomputer aims to boost AI performance 8x over previous system.
    🔸 Built with HGX H200, 1,700+ GPUs, Blackwell Ultra HGX B300 & Quantum InfiniBand.
    🔸 Will support national AI projects, quantum research & advanced science.

    #Taiwan #Nvidia #Supercomputer #AI #QuantumComputing #HGX #Blackwell

  7. Inside the World's Largest AI Supercluster xAI Colossus

    ---

    Summary

    🚀 #Largest AI Supercomputer: The #xAI #Colossus is built with over 100,000 GPUs, massive storage, and #High Speed Networking, designed for #AI projects beyond typical #Chatbot applications.

    🛠️ #Record Breaking Construction: The facility, containing over 100,000 GPUs, was constructed in just 122 days—significantly faster than traditional #Supercomputers that often take years.

    💧 #Advanced Liquid Cooling System: The #Data Halls are equipped with #State Of The Art liquid cooling, using separate pipes for hot water and cold water, which efficiently manages #Heat from the #GPU Servers.

    📊 #Scalable GPU Racks: Each rack includes multiple #NVIDIA #HGX H100 units, optimized with #Compact and easily serviceable designs, featuring #Cooling Manifolds and advanced #GPU configurations.

    🔌 #Innovative Power Management: #Tesla #Mega Packs support the power demands of the #AI Clusters by managing microsecond power fluctuations, stabilizing #Energy Delivery to the GPU units.

    🌐 #Ethernet Driven Networking: Unlike most #Supercomputers, the cluster uses #Ethernet Networking with #NVIDIA #Bluefield 3 #DPUs and #Spectrum X switches, offering robust 400 Gbps connections for efficient data flow.

    youtu.be/Jf8EPSBZU7Y?si=Gi1i66

  8. #Nvidia Readies New #AI and #HPC #GPU for #China Market
    Hopper and Ada Lovelace-based solutions that comply with U.S. export requirements.
    AI and HPC products in question are #HGX #H20, #L20 PCle, and L2 PCle GPU all of them are already heading to Chinese server makers. HKEPC has published a slide claiming new HGX H20 with 96 GB of HBM3 memory is based on the Hopper architecture and either uses a severely crippled flagship #H100 silicon or a new Hopper-based design.
    tomshardware.com/tech-industry