#b200 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #b200, aggregated by home.social.
-
Из коробки не работает: запускаем свежие большие LLM
В последнее время открытых моделей сверхбольшого размера развелось неимоверное количество, даже не просто моделей, а производителей. Вариации GLM, Kimi, DeepSeek занимают по нескольку строк в топ 5-10-20. Понадобилось перебрать основные LLM для тестов и выбора "рабочей лошадки", для чего пришлось немного пошуршать в интернетах. Оставлю в качестве памятки, вдруг кому-то окажется полезным. Всё делалось на базе образов vllm-openai, платформ B200/H200 и дров 590.48.01. На момент начала экспериментов - примерно пару недель тому назад - версии vllm 0.16 ещё не было, но, как выяснилось в итоге, это не сильно повлияло на ситуацию. Основные костыли остались теми же самыми. Разве что кастомизация образа не для каждой модели нужна теперь. В целом там, понятное дело, никакого RocketScience нету (особенно после того, как почитаешь китайские форумы в поисках нюансов). Но если бы кто-то посидел заранее и собрал советы в одном месте - жизнь была бы немного проще )) поэтому делюсь. Итак, поехали.
-
Из коробки не работает: запускаем свежие большие LLM
В последнее время открытых моделей сверхбольшого размера развелось неимоверное количество, даже не просто моделей, а производителей. Вариации GLM, Kimi, DeepSeek занимают по нескольку строк в топ 5-10-20. Понадобилось перебрать основные LLM для тестов и выбора "рабочей лошадки", для чего пришлось немного пошуршать в интернетах. Оставлю в качестве памятки, вдруг кому-то окажется полезным. Всё делалось на базе образов vllm-openai, платформ B200/H200 и дров 590.48.01. На момент начала экспериментов - примерно пару недель тому назад - версии vllm 0.16 ещё не было, но, как выяснилось в итоге, это не сильно повлияло на ситуацию. Основные костыли остались теми же самыми. Разве что кастомизация образа не для каждой модели нужна теперь. В целом там, понятное дело, никакого RocketScience нету (особенно после того, как почитаешь китайские форумы в поисках нюансов). Но если бы кто-то посидел заранее и собрал советы в одном месте - жизнь была бы немного проще )) поэтому делюсь. Итак, поехали.
-
Из коробки не работает: запускаем свежие большие LLM
В последнее время открытых моделей сверхбольшого размера развелось неимоверное количество, даже не просто моделей, а производителей. Вариации GLM, Kimi, DeepSeek занимают по нескольку строк в топ 5-10-20. Понадобилось перебрать основные LLM для тестов и выбора "рабочей лошадки", для чего пришлось немного пошуршать в интернетах. Оставлю в качестве памятки, вдруг кому-то окажется полезным. Всё делалось на базе образов vllm-openai, платформ B200/H200 и дров 590.48.01. На момент начала экспериментов - примерно пару недель тому назад - версии vllm 0.16 ещё не было, но, как выяснилось в итоге, это не сильно повлияло на ситуацию. Основные костыли остались теми же самыми. Разве что кастомизация образа не для каждой модели нужна теперь. В целом там, понятное дело, никакого RocketScience нету (особенно после того, как почитаешь китайские форумы в поисках нюансов). Но если бы кто-то посидел заранее и собрал советы в одном месте - жизнь была бы немного проще )) поэтому делюсь. Итак, поехали.
-
Из коробки не работает: запускаем свежие большие LLM
В последнее время открытых моделей сверхбольшого размера развелось неимоверное количество, даже не просто моделей, а производителей. Вариации GLM, Kimi, DeepSeek занимают по нескольку строк в топ 5-10-20. Понадобилось перебрать основные LLM для тестов и выбора "рабочей лошадки", для чего пришлось немного пошуршать в интернетах. Оставлю в качестве памятки, вдруг кому-то окажется полезным. Всё делалось на базе образов vllm-openai, платформ B200/H200 и дров 590.48.01. На момент начала экспериментов - примерно пару недель тому назад - версии vllm 0.16 ещё не было, но, как выяснилось в итоге, это не сильно повлияло на ситуацию. Основные костыли остались теми же самыми. Разве что кастомизация образа не для каждой модели нужна теперь. В целом там, понятное дело, никакого RocketScience нету (особенно после того, как почитаешь китайские форумы в поисках нюансов). Но если бы кто-то посидел заранее и собрал советы в одном месте - жизнь была бы немного проще )) поэтому делюсь. Итак, поехали.
-
Из коробки не работает: запускаем свежие большие LLM В последнее время открытых моделей сверхбольшого разме...
#Kimi-K2.5 #DeepSeek-v3.2 #GLM-5 #Qwen3.5 #vllm #B200
Origin | Interest | Match -
Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7
Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из
-
Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7
Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из
-
Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7
Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из
-
Тестируем B200 от NVIDIA: живые бенчмарки с GLM-4.7
Если вы занимаетесь обучением или тюнингом больших языковых моделей, используете инференс в режиме реального времени или выполняете сложные HPC-симуляции, то наверняка задавались вопросом: «а каково это будет на одном из лучших в мире чипов»? Как только мы получили B200, графический процессор, который по заявлениям производителя открывает новые грани производительности, гибкости и масштабируемости, то сразу побежали его тестировать. Сегодня я и мои коллеги из
-
Manchester Monday 26th January 2026.
[…]https://mancavgeek.co.uk/2026/01/26/manchester-monday-26th-january-2026/
-
Manchester Monday 26th January 2026.
[…]https://mancavgeek.co.uk/2026/01/26/manchester-monday-26th-january-2026/
-
Manchester Monday 26th January 2026.
[…]https://mancavgeek.co.uk/2026/01/26/manchester-monday-26th-january-2026/
-
Manchester Monday 26th January 2026.
[…]https://mancavgeek.co.uk/2026/01/26/manchester-monday-26th-january-2026/
-
Manchester Monday 26th January 2026.
[…]https://mancavgeek.co.uk/2026/01/26/manchester-monday-26th-january-2026/
-
🎉 Wow, someone finally virtualized those #HGX #B200 GPUs using #open #source, because plain old hardware was just too mainstream. 🙄 Apparently, doing it in Europe makes it 100% more private, because geography is encryption now. 🚀
https://www.ubicloud.com/blog/virtualizing-nvidia-hgx-b200-gpus-with-open-source #virtualization #privacy #technology #innovation #HackerNews #ngated -
Nvidia’s H200 chips could be ‘sugar-coated bullets’ for China
Washington reportedly is considering allowing the export of Nvidia’s H200 graphics processing units (GPUs) to China, but Chinese…
#NewsBeep #News #Artificialintelligence #AI #ArtificialIntelligence #AU #Australia #b200 #Block2 #China #Chipswars #GPUs #H20 #H200 #HuaHongSemiconductor #HuaweiTechnologies #JensenHuang #MaoZedong #Nvidia #SMIC #Technology #UnitedStates #us-chinatrade
https://www.newsbeep.com/au/307660/ -
8x AMD Instinct #MI355X (288GB @8TB/s) take back the lead over 8x Nvidia #B200 (180GB @8TB/s) in #FluidX3D #CFD, achieving 362k MLUPs/s (vs. 219k MLUPs/s). Thanks to Jon Stevens from Hot Aisle to run the benchmarks! 🖖😊
In single-GPU, both perform about the same, but in 8x #GPU config, MI355X is 65% faster. The difference comes from PCIe bandwidth - MI355X does 55GB/s, B200 only 14GB/s. #Nvidia leaves a lot of perf on the table by not exposing #NVLink P2P to #OpenCL.
-
8x AMD Instinct #MI355X (288GB @8TB/s) take back the lead over 8x Nvidia #B200 (180GB @8TB/s) in #FluidX3D #CFD, achieving 362k MLUPs/s (vs. 219k MLUPs/s). Thanks to Jon Stevens from Hot Aisle to run the benchmarks! 🖖😊
In single-GPU, both perform about the same, but in 8x #GPU config, MI355X is 65% faster. The difference comes from PCIe bandwidth - MI355X does 55GB/s, B200 only 14GB/s. #Nvidia leaves a lot of perf on the table by not exposing #NVLink P2P to #OpenCL.
-
8x AMD Instinct #MI355X (288GB @8TB/s) take back the lead over 8x Nvidia #B200 (180GB @8TB/s) in #FluidX3D #CFD, achieving 362k MLUPs/s (vs. 219k MLUPs/s). Thanks to Jon Stevens from Hot Aisle to run the benchmarks! 🖖😊
In single-GPU, both perform about the same, but in 8x #GPU config, MI355X is 65% faster. The difference comes from PCIe bandwidth - MI355X does 55GB/s, B200 only 14GB/s. #Nvidia leaves a lot of perf on the table by not exposing #NVLink P2P to #OpenCL.
-
8x AMD Instinct #MI355X (288GB @8TB/s) take back the lead over 8x Nvidia #B200 (180GB @8TB/s) in #FluidX3D #CFD, achieving 362k MLUPs/s (vs. 219k MLUPs/s). Thanks to Jon Stevens from Hot Aisle to run the benchmarks! 🖖😊
In single-GPU, both perform about the same, but in 8x #GPU config, MI355X is 65% faster. The difference comes from PCIe bandwidth - MI355X does 55GB/s, B200 only 14GB/s. #Nvidia leaves a lot of perf on the table by not exposing #NVLink P2P to #OpenCL.
-
8x AMD Instinct #MI355X (288GB @8TB/s) take back the lead over 8x Nvidia #B200 (180GB @8TB/s) in #FluidX3D #CFD, achieving 362k MLUPs/s (vs. 219k MLUPs/s). Thanks to Jon Stevens from Hot Aisle to run the benchmarks! 🖖😊
In single-GPU, both perform about the same, but in 8x #GPU config, MI355X is 65% faster. The difference comes from PCIe bandwidth - MI355X does 55GB/s, B200 only 14GB/s. #Nvidia leaves a lot of perf on the table by not exposing #NVLink P2P to #OpenCL.
-
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers
Recent airborne science flights to Greenland are improving NASA’s understanding of space weather by measuring radiation exposure to…
#NewsBeep #News #Space #B200 #CA #Canada #general #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #LangleyResearchCenter #modeling #NASAAircraft #radiation #Science #Science&Research #ScienceintheAir #ScienceMissionDirectorate #spaceweather
https://www.newsbeep.com/ca/170497/ -
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers https://www.nasa.gov/centers-and-facilities/langley/nasa-flights-study-cosmic-ray-effects-for-air-future-space-travelers/ #NASA #LangleyResearchCenter #B200 #General #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #Modeling #NASAAircraft #Radiation #ScienceResearch #ScienceInTheAir
-
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers https://www.nasa.gov/centers-and-facilities/langley/nasa-flights-study-cosmic-ray-effects-for-air-future-space-travelers/ #NASA #LangleyResearchCenter #B200 #General #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #Modeling #NASAAircraft #Radiation #ScienceResearch #ScienceInTheAir
-
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers https://www.nasa.gov/centers-and-facilities/langley/nasa-flights-study-cosmic-ray-effects-for-air-future-space-travelers/ #NASA #LangleyResearchCenter #B200 #General #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #Modeling #NASAAircraft #Radiation #ScienceResearch #ScienceInTheAir
-
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers https://www.nasa.gov/centers-and-facilities/langley/nasa-flights-study-cosmic-ray-effects-for-air-future-space-travelers/ #NASA #LangleyResearchCenter #B200 #General #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #Modeling #NASAAircraft #Radiation #ScienceResearch #ScienceInTheAir
-
NASA Flights Study Cosmic Ray Effects for Air, Future Space Travelers
Recent airborne science flights to Greenland are improving NASA’s understanding of space weather by measuring radiation exposure to…
#NewsBeep #News #Science #AU #Australia #b200 #general #GoddardSpaceFlightCenter #Heliophysics #HeliophysicsDivision #LangleyResearchCenter #modeling #NASAAircraft #radiation #Science&Research #ScienceintheAir #ScienceMissionDirectorate #SpaceWeather
https://www.newsbeep.com/au/169025/ -
https://www.europesays.com/uk/313369/ Did Donald Trump just give China a major advantage on AI? #AI #AITechnology #ArtificialIntelligence #b200 #China #ChinaUSTradeWar #GeopoliticalStrategy #H100 #H20 #H20Chips #H20Microchips #Huawei #JensonHuang #Microchips #NationalSecurity #Nvidia #SiliconValley #Tech #Technology #Trade #trump #UnitedStates #us #USA #WorldPolitics
-
Hei enää pari tuntia viikonloppuun ja 200 kilsan pyörälenkkiin! Wuhuu!
#fillaridontti #b200 #BikeTooter -
Battle of the giants: Nvidia #Blackwell B200 takes the lead in FluidX3D CFD performance
#Nvidia #B200 just launched, and I'm one of the first people to benchmark 8x B200 via Shadeform, in a WhiteFiber server with 2x #Intel #Xeon6 6960P 72-core CPUs. 🖖😋
8x Nvidia B200 go head-to-head with 8x #AMD #MI300X in the #FluidX3D #CFD benchmark, winning overall (with FP16S storage) at 219300 MLUPs/s (~17TB/s combined VRAM bandwidth), but losing in FP32 & FP16C storage. 8x MI300X achieve 204924 MLUPs/s.
-
NASA Measures Moonlight to Improve Earth Observations https://www.nasa.gov/centers-and-facilities/armstrong/nasa-measures-moonlight-to-improve-earth-observations/ #NASA #ArmstrongFlightResearchCenter #AirborneScience #B200 #EarthScience #EarthScienceTechnologyOffice #EarthSAtmosphere #JetPropulsionLaboratory #NASADirectorates #ScienceResearch
-
NASA Supports Wildland Fire Technology Demonstration https://www.nasa.gov/centers-and-facilities/armstrong/nasa-supports-wildland-fire-technology-demonstration/ #NASA #ArmstrongFlightResearchCenter #AirborneScience #B200 #DronesYou #LangleyResearchCenter #ScienceMissionDirectorate
-
Nvidia presenta Blackwell Ultra B300, 1.5X vegades més ràpid que el B200 i fins a 288GB de memòria HBM3e 🔥
Això de la IA és un no parar.
-
Nvidia presenta Blackwell Ultra B300, 1.5X vegades més ràpid que el B200 i fins a 288GB de memòria HBM3e 🔥
Això de la IA és un no parar.
-
Nvidia presenta Blackwell Ultra B300, 1.5X vegades més ràpid que el B200 i fins a 288GB de memòria HBM3e 🔥
Això de la IA és un no parar.
-
Nvidia presenta Blackwell Ultra B300, 1.5X vegades més ràpid que el B200 i fins a 288GB de memòria HBM3e 🔥
Això de la IA és un no parar.
-
NASA Uses New Technology to Understand California Wildfires https://www.nasa.gov/science-research/earth-science/nasa-uses-new-technology-to-understand-california-wildfires/ #NASA #EarthScience #AirborneScience #ArmstrongFlightResearchCenter #B200 #EarthScienceTechnologyOffice #EarthSAtmosphere #General #JetPropulsionLaboratory
-
NASA Explores Earth Science with New Navigational System https://www.nasa.gov/science-research/earth-science/nasa-explores-earth-science-with-new-navigational-system/ #NASA #AirborneScience #ArmstrongFlightResearchCenter #B200 #EarthScience #JetPropulsionLaboratory
-
Photo of the Day 15th December 2024.
G-UKFD, Fokker F100, Air UK, taxiing out to Runway 24 at Manchester Airport, some time between July 1992 and January 1998.- Bonus Photo of the Day 15th December 2024.
- Bonus Photo of the Day 2 15th December 2024.
#airshow #AirUKPhotoOfTheDay #aviation #b200 #barton #Beech #beechcraft #EA300 #egcb #egcc #egcd #Extra #f100 #fokker #IrishAirCorps #KingAir #man #manchester #photography #planespotting #woodford
-
Photo of the Day 15th December 2024.
G-UKFD, Fokker F100, Air UK, taxiing out to Runway 24 at Manchester Airport, some time between July 1992 and January 1998.- Bonus Photo of the Day 15th December 2024.
- Bonus Photo of the Day 2 15th December 2024.
#airshow #AirUKPhotoOfTheDay #aviation #b200 #barton #Beech #beechcraft #EA300 #egcb #egcc #egcd #Extra #f100 #fokker #IrishAirCorps #KingAir #man #manchester #photography #planespotting #woodford
-
Photo of the Day 15th December 2024.
G-UKFD, Fokker F100, Air UK, taxiing out to Runway 24 at Manchester Airport, some time between July 1992 and January 1998.- Bonus Photo of the Day 15th December 2024.
- Bonus Photo of the Day 2 15th December 2024.
#airshow #AirUKPhotoOfTheDay #aviation #b200 #barton #Beech #beechcraft #EA300 #egcb #egcc #egcd #Extra #f100 #fokker #IrishAirCorps #KingAir #man #manchester #photography #planespotting #woodford
-
Photo of the Day 15th December 2024.
G-UKFD, Fokker F100, Air UK, taxiing out to Runway 24 at Manchester Airport, some time between July 1992 and January 1998.- Bonus Photo of the Day 15th December 2024.
- Bonus Photo of the Day 2 15th December 2024.
#airshow #AirUKPhotoOfTheDay #aviation #b200 #barton #Beech #beechcraft #EA300 #egcb #egcc #egcd #Extra #f100 #fokker #IrishAirCorps #KingAir #man #manchester #photography #planespotting #woodford
-
Photo of the Day 15th December 2024.
G-UKFD, Fokker F100, Air UK, taxiing out to Runway 24 at Manchester Airport, some time between July 1992 and January 1998.- Bonus Photo of the Day 15th December 2024.
- Bonus Photo of the Day 2 15th December 2024.
#airshow #AirUKPhotoOfTheDay #aviation #b200 #barton #Beech #beechcraft #EA300 #egcb #egcc #egcd #Extra #f100 #fokker #IrishAirCorps #KingAir #man #manchester #photography #planespotting #woodford
-
Intel Gaudi — гонка ИИ-ускорителей
Привет Хабр! С вами снова ServerFlow и мы хотим поговорить о насущном – о ИИ с нейросетями, а точнее о железе на котором нейросети обучают и на котором впоследствии они работают. В последние годы эта индустрия напоминает арену бойцовского клуба, где технологические гиганты с ожесточенной конкуренцией стремятся предложить наиболее производительные и эффективные решения для машинного обучения. И хотя не особо похоже, чтобы у кого-то на этой арене получилось сместить лидера рынка в лице NVIDIA, однако, попытки продолжают предприниматься. Так продолжает и Intel, представив свету свою серию ИИ-ускорителей под брендом Gaudi, а не так давно и обновленную модель Gaudi 3. Ранее Intel предпринимала попытки в собственные разработки ИИ ускорителей, но в этот раз за работу взялась компания Habana Labs, приобретённая Intel в 2019 году за внушительную сумму в 2 миллиарда долларов.
https://habr.com/ru/companies/serverflow/articles/839090/
#npu #Intel #Gaudi #nvidia #h100 #ии #нейросети #gpu #b200 #FP8
