#nvidia_h100 — Public Fediverse posts

Лампочка из гипермаркета и ваш GPU. Что у них общего?

Представьте синюю светодиодную лампочку из строительного магазина за 100 ₽, и NVIDIA H100 за три миллиона. Внутри у обоих работает один и тот же физический принцип: PN-переход. Меня это в свое время сильно удивило. Так вот эта статья примерно про то, как лампочка и видеокарта оказались родственниками.

https://habr.com/ru/companies/selectel/articles/1038442/

#полупроводники #PNпереход #светодиоды #GaN #кремний #NVIDIA_H100 #силовая_электроника #литография #история_технологий #selectel

Этот пранк чуть не зашел слишком далеко: как мировые СМИ повелись на фейковый ИИ ЦОД посреди моря

Массовое применение и внедрение ИИ-технологий среди обычных потребителей случилось буквально пару лет назад. В 2023-м нас всех поражала возможность ChatGPT писать логически складные и осмысленные абзацы, а качество картинок с Midjourney вообще вызвала ажиотаж и беспокойство о будущем профессий художника и дизайнера. И ИИ-контент еще не выглядел так инородно: если сегодня каждый третий Shorts или картинка в соцсетях сгенерированы, то в 2023 году многим и в голову не могло прийти, что картинку можно нарисовать нечеловеческими «руками». И именно в тот год один ушлый художник решил провернуть перформанс, который зашел слишком далеко. Настолько, что смог обмануть весь Twitter (X) и кучу авторитетных зарубежных СМИ, включая The Verge, Tom Hardware и TechRadar. Имя авантюры: Del Complex — независимый плавучий город с 10 тысячами GPU-ускорителей H100 на борту посреди океана. Вспомним, как это было и как удалось разоблачить эксперимент одного художника.

https://habr.com/ru/companies/ru_mts/articles/1008034/

#Del_Complex #BlueSea_Frontier #Nvidia_H100 #GPU_кластер #датацентры #AI_инфраструктура #AI_фейки #генеративный_AI #Midjourney

Из чего сделаны GPU от Т1 Облако? Фотообзор и примеры применения

Привет, Хабр. На связи команда

https://habr.com/ru/companies/T1Holding/articles/897528/

#nvidia_h100 #machine_learning #gpu #cloud #облака

GPU для дата-центров

Серверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт) Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU , много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие. И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.

https://habr.com/ru/companies/ruvds/articles/837286/

#GPU #NPU #TPU #ARM #AI #ИИ #Copilot+ #Qualcomm_Snapdragon X #Core_Ultra #AMD_XDNA #Intel_AI_Boost #Qualcomm_Hexagon #Instinct_MI325X #Nvidia_H100 #Nvidia_H200 #Nvidia_GH100 #Instinct_MI300X #Nvidia_B200 #Grace_Blackwell_Superchip #GB200 #AMD_Ryzen_AI_300 #MediaTek #OpenVINO #ruvds_статьи

Почему искусственный интеллект — это дорого

Сегодня технологии искусственного интеллекта находятся в фазе взрывного роста. Темпы его внедрения ускоряются во всем мире и охватывают все больше отраслей, включая здравоохранение, образование, финансы, средства массовой информации и маркетинг. Конкурентное преимущество искусственного интеллекта в автоматизации процессов и персонализации услуг вынуждает компании ускоренно интегрировать эти технологии в свои бизнес-процессы. Чат-боты, генерация изображений, мобильные приложения — все это основные тенденции, которые будут способствовать развитию искусственного интеллекта в ближайшие годы. По прогнозам, в 2024 году объем рынка искусственного интеллекта достигнет 184 миллиардов $, что на 35% больше чем в 2023 году. Ожидается, что при ежегодных темпах роста 28,46% к 2030 году объем рынка превысит 826 миллиардов $ США. Однако по более оптимистичным оценкам ежегодный рост составит 35,7% в период с 2024 по 2030 год, а объем рынка увеличится до 1,339 триллиона $ к 2030 году. Но вместе с ростом технологий растут и затраты. И на это есть две ключевые причины: модели искусственного интеллекта становятся все более масштабными и дорогостоящими в разработке, а глобальный спрос на услуги искусственного интеллекта требует все большего числа дата центров и инфраструктуры для их поддержки.

https://habr.com/ru/articles/824926/

#искусственный_интеллект;_ии;_ai #большие_языковые_модели #chatgpt #nvidia_h100 #датацентры

Чипы на киловатт изменили теплоотвод

Производительность чипов растёт экспоненциально по закону Мура и не думает останавливаться. Но вместе с ней растёт и энергопотребление, и тепловыделение микросхем. В 2023 году с появлением суперчипов GH200 (на КДПВ) ускорители перешли киловаттный диапазон. И это очень большая проблема. Инженерам приходится принимать неординарные решения по теплоотводу.

https://habr.com/ru/companies/ruvds/articles/815619/

#процессоры #CPU #тепловыделение #Nvidia_GH200 #Nvidia_H100 #Nvidia_DGX_H100 #H200 #TDP #термоэлектрическое_охлаждение #эффект_Пельтье #ruvds_статьи