#nvidia_h200 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #nvidia_h200, aggregated by home.social.
-
Какие GPU вам подойдут? Фото из ЦОДа и обзор H200 и L40S
Привет, Хабр. На связи Т1 Облако. Если вы интересуетесь генеративным ИИ, то наверняка знаете, что LLM давно превратились из хайповой игрушки в рабочий инструмент для множества бизнес‑задач: от создания небольших чат‑ботов для клиентской поддержки до крупных мультимодальных моделей для генерации текстов, изображений и видео. И хотя обучение и инференс моделей остаются основной причиной роста спроса на GPU, для участия в этой «вечеринке» не всегда нужен суперкар уровня H100 или H200. Речь о том, чтобы оптимально подобрать GPU под конкретный сценарий, будь то обучение скромного чат‑бота на внутренних руководствах, проектирование или обработка терабайтов видео в 8K или создание корпоративной базы знаний для бигтеха. Под каждый сценарий — свой тип ускорителя, чтобы не ехать за хлебом на Феррари. Именно поэтому мы не стали ставить во все серверы исключительно флагманские видеокарты, а расширили линейку GPU различными моделями как для инференса, так и для гибридных сценариев. Поделимся техническим обзором серверов с
-
GPU для дата-центров
Серверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт) Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU , много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие. И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.
https://habr.com/ru/companies/ruvds/articles/837286/
#GPU #NPU #TPU #ARM #AI #ИИ #Copilot+ #Qualcomm_Snapdragon X #Core_Ultra #AMD_XDNA #Intel_AI_Boost #Qualcomm_Hexagon #Instinct_MI325X #Nvidia_H100 #Nvidia_H200 #Nvidia_GH100 #Instinct_MI300X #Nvidia_B200 #Grace_Blackwell_Superchip #GB200 #AMD_Ryzen_AI_300 #MediaTek #OpenVINO #ruvds_статьи