#видеокарта — Public Fediverse posts

GTX 1080 Ti не сдаётся: выбираем лучшую MoE-модель для llama-server среди 35B, 120B и 176B

Привет, Хабр! В прошлой статье я рассказывал, как запустить 176B-класс Qwen3.8-Flash-Next на GTX 1080 Ti, и тогда это был, скорее, эксперимент на грани возможного. Но недавно я наткнулся на материал на ast-softpro.ru , где ребята запустили Qwen 3.8-27B на двух RTX 5060 Ti по 16 ГБ (32 ГБ суммарно). Если коротко, они подтвердили, что гибридная архитектура DeltaNet + attention позволяет эффективно работать с длинным контекстом, а на их стенде модель в квантизации Q4_K_M выдавала около 24 токенов/с. Именно это, а также комментарии на Хабре, подтолкнуло меня к серии экспериментов, о которых пойдёт речь. Забегу наперед, я был удивлён результату: на моём стенде, который я опишу ниже, результаты на одной из моделей, которая как минимум не хуже, оказались сопоставимыми.

https://habr.com/ru/articles/1086998/

#ai #llmмодели #llamacpp #server #эксперимент #старое_компьютерное_железо #видеокарта #gtx_1080 #vram

Корпоративный мозг на одной видеокарте: что на самом деле умеет локальная модель

Есть компании, где вопрос «какую модель выбрать» отходит на второй план, а первым встаёт другой: выйдут ли данные за периметр . Банк, госкорпорация, оборонный подрядчик, медицинский холдинг. И если ответ «выйдут, но мы всё обезличим» — начинается тяжёлый разговор. Обезличивание не даёт технической гарантии: достаточно одного не вычищенного поля в выгрузке или сочетания признаков, по которому человек восстанавливается. А отвечать за это решение будет конкретный человек — и чем выше цена ошибки, тем охотнее он выбирает вариант, где данные просто никуда не уходят. Крупные игроки эту задачу решают. Сбер сделал GigaChat, у Яндекса своя линейка, ряд банков строит внутренние платформы; другие компании разрешают облачные модели, но под контролем — DLP, договоры, фильтрация персональных данных на выходе. Оба пути рабочие. Только первый — это программа на сотни человек и бюджет соответствующего порядка, а второй упирается в политику безопасности, которая не везде это позволяет. А между «построить свою модель, как Сбер» и «отправлять всё в облако» лежит широкая полоса: компании, которым первое не по карману, а второе не разрешает служба безопасности. Вот им обычно и говорят: тогда ничего серьёзного не получится. Аргумент — открытая модель среднего размера проигрывает облачным гигантам почти по всем строкам бенчмарков, так что максимум, на что можно рассчитывать, — умный автодополнитель. Вот это утверждение я и взялся проверить на практике: собрать не чат-бота, а полноценный корпоративный оркестратор — систему, которая понимает задачу, сама выбирает исполнителей, ходит в корпоративные системы, делает многошаговую работу и отвечает файлом, письмом или отчётом. И запустить его не на кластере ускорителей, а на одной потребительской видеокарте .

https://habr.com/ru/articles/1072746/

#LLM #Языковые_модели #GPU #Видеокарта #RTX_3090 #Оркестратор #ИИ #Искусственный_интеллект #агенты_ии #ai

Российский блогер собрал «самый мощный моноблок в мире»: внутри Ryzen 9 9900X и RTX 5080

Очевидно что формат моноблока всегда был про экономию места и красивый внешний вид, а не про экстремальную производительность. Поэтому большинство подобных устройств используют мобильные комплектующие, или сильно ограниченные версии десктопного железа. Но что будет, если полностью проигнорировать здравый смысл? Поймать вертолёты

https://habr.com/ru/articles/1047356/

#моноблок #diy #компьютер #пк #spline #сплайн #видеокарта #процессор #rtx_5080

Максимально выгодно используем видеокарты с помощью школьной формулы из физики

Многие слышали, что разные модели видеокарт имеют разную экономическую эффективность, например, в майнинге, где часто используется понятие «хэш/Ватт». Однако, даже одна и та же видеокарта может работать с сильно разной экономической эффективностью в зависимости от настроек Power Limit и частоты. И это касается любых длительных вычислительных задач. Давайте же посмотрим, как помощью простой школьной формулы Энергия = Время × Мощность оптимально настроить видеокарту и получить за каждый потраченный киловатт максимум полезной работы. Поехали!

https://habr.com/ru/companies/ruvds/articles/1017150/

#видеокарта #power_limit #ruvds_статьи

Обзор видеокарты Gigabyte GeForce RTX 5060 Ti EAGLE OC ICE 8G

Сборка нового компьютера для знакомого осуществлялась с ориентацией на бюджет и максимальную эффективность каждого вложенного рубля. В поисках подходящей видеокарты рассматривались модели GeForce RTX 5060 и RTX 5060 Ti, которые наилучшим образом вписывались в установленные финансовые ограничения. После нескольких недель мониторинга цен была приобретена видеокарта Gigabyte GeForce RTX 5060 Ti EAGLE OC ICE 8G, которой и посвящён данный обзор, тогда как остальные компоненты будущего компьютера пока находятся на этапе согласования, выбора и заказа.

https://habr.com/ru/articles/1016188/

#GeForce_RTX_5060_Ti #RTX_5060_Ti_EAGLE #видеокарта

̶К̶у̶п̶а̶н̶и̶е̶ тестирование «красного» ̶к̶о̶н̶я̶ представителя GPU от АМД с приставкой ИИ — RADEON AI PRO R9700

Тестировать друг за другом видеокарты от NVIDIA надоедает, благо разница в последнем поколении только в мощностях процессоров семейства Blackwell, объеме памяти и ширине шины. А вот посмотреть, что предлагают конкуренты, а тем более громко называя это «ИИ», уже интересней. Мы проверили Radeon AI PRO R9700 с 32 Гб памяти на реальных задачах: LLM, генерация графики и видео, 3D-рендеринг, и сравнили с NVIDIA.

https://habr.com/ru/companies/hostkey/articles/991780/

#hostkey #Radeon_AI_PRO_R9700 #ROCm #инференс_LLM #генеративный_ИИ #видеокарта #NVIDIA_RTX #Ollama #RDNA_4 #GDDR6

Видеокарта в конце 2025-го: покупать сейчас или ждать, пока рынок отыграет RAM-кризис

Если видеокарта нужна «играть сегодня вечером», покупать её сейчас имеет смысл, но только если смотреть не на маркетинг, а на цену за кадр и планы на апгрейд через пару лет. За последний год рынок железа переехал в странную реальность: ОЗУ резко подорожала, производители памяти включили классический «суперцикл» роста цен, а геймеры и так живут с завышенными ценами на GPU. В этой статье разберёмся, повторит ли рынок видеокарт RAM-покалипсис, почему ИИ-дата-центры так сильно давят на стоимость игровых моделей и как понять, выгоднее купить карту прямо сейчас или подождать следующую волну железа.

https://habr.com/ru/articles/973352/

#видеокарта #цены_на_видеокарты_2025 #рынок_GPU #RAMпокалипсис #GDDR7 #ИИ_и_датацентры #апгрейд_ПК #цена_за_кадр #гейминг #компьютерное_железо

Играемся с видеокартой Tesla H100 (GH100)

Продолжаем статьи про практические тесты актуальных картонок от Nvidia ( RTX 5090 , A5000 Ada , A100 , 3090 и A10 ). В этот раз мне уже предложили покрутить на несколько часиков H100 с 80 GB VRAM. Тренировать опять ничего не будем, снимем попугаев через gpu-burn , попробуем MIG (multi-instance GPU) и также замерим инференс одной нашей прожорливой сетки. С A100 и MIG мне как-то тоже пришлось поиграться, но я не думал, что в России в принципе когда-либо появятся H100. Поэтому в этот раз главная шутка будет про санкции и про сумочку , сделанную из H100. Также пару слов расскажем про "фишку" MIG, доступную для самых толстых карт в линейках NVIDIA (из "доступных" в основном A100 и H100, но есть и экзотика). В конце даже получилась небольшая детективная история. Поехали

https://habr.com/ru/articles/945290/

#nvidia #H100 #hopper #deep_learning #машинное_обучение #видеокарта #nvidia_tesla #nvidia_tesla_h100

О графике в Unity: видеокарты и их работа

Всем привет! Меня зовут Григорий Дядиченко , я уже что-то разрабатываю на Unity десять лет. В прошлой статье была база — графический конвейер, но в разы полезнее понимать, а как графика вообще работает. Понимание работы GPU позволяет понимать суть оптимизаций и почему они именно так работают, а не охотится на ведьм. Если интересуетесь темой — добро пожаловать под кат!

https://habr.com/ru/articles/933404/

#warp #wavefront #pcie #branch_divergence #rendering #texture_sampling #unity3d #волновой_фронт #gpu #видеокарта

Играемся с RTX 5090 (GB202) для инференса

Продолжаем статьи про практические тесты актуальных картонок от Nvidia ( A5000 Ada , A100 , 3090 и A10 ). В этот раз мне предложили (не реклама) денёк погонять Nvidia RTX 5090 в хостинге (себе такую брать я бы не стал), и я не мог отказаться от такого предложения. За день что-то стоящее натренировать нынче уже проблематично, поэтому будем "снимать" уже привычных обратно совместимых "попугаев" через gpu-burn и также замерим скорость инференса одной нашей довольно прожорливой сетки в продакшене. Все шутки про Nvidia давно уже не шутки, санкции и торговые войны идут своим чередом, но тем не менее в России новинки появляются с завидной регулярностью несмотря на все запреты. На фоне сильно негативного новостного фона со стороны игрового сообщества про новый релиз Nvidia и своеобразных "успехов" Nvidia по наращиванию своей капитализации продвинутой "сегментации" рынка (все уже пошутили про новый коннектор, огромный рост TDP и размера карт), мне лично было интересно, а есть ли рост 50* поколения карт для наших задач против 30* поколения. Если верить техно- и игровым блоггерам, их новое поколение совсем не впечатлило. Меня зато так "впечатлило" 40* поколение, что мы даже не рассматривали апгрейд 3090. Но обо всём по порядку. Давайте разбираться!

https://habr.com/ru/articles/913174/

#nvidia #blackwell #5090 #deep_learning #машинное_обучение #нейросети #видеокарта #nvidia_rtx_5090 #geforce #железо

NVIDIA в 2025: кризис или временный манёвр?

NVIDIA, долгое время остававшаяся лидером в производстве чипов для искусственного интеллекта, сталкивается с беспрецедентными вызовами. Налоги, запреты на продажи в Китай и растущая конкуренция со стороны AMD, Intel и китайских компаний ставят под вопрос её доминирование. В статье разбираем ключевые проблемы 2025 года, возможные сценарии развития событий и будущее технологического гиганта в условиях глобальных изменений. Читайте до конца, чтобы узнать, какие шаги NVIDIA может предпринять — и как это повлияет на индустрию ИИ.

https://habr.com/ru/articles/891140/

#nvidia #видеокарты #видеокарта

Ускорители для ЦОД: китайские и российские решения в погоне за NVIDIA

Привет, Хабр! В прошлом материале мы поговорили о том, чем серверные видеокарты отличаются от потребительских, а теперь немного углубимся в технические аспекты профессиональных ускорителей и поговорим о решениях, которые доступны (или скоро будут доступны).

https://habr.com/ru/companies/fplus_tech/articles/885690/

#ускорители #ускорители_вычислений #ускорители_ии #видеокарты #Видеокарта #itинфраструктура #ии #искусственный_интеллект #цод #fpga

Сервер туманного гейминга или проблемы на ровном месте за 30 руб./ч

К написанию этой статьи меня подтолкнули две причины. Во-первых в силу сложившихся изначально причин тривиальная задача превратилась в интересное и увлекательное приключение. Во-вторых точка в этой истории еще не поставлена, а среди комментариев встречаются полезные советы. Начало этого приключения уходит корнями в 2020 год. Времена санитарных ограничений мы с семьей проводили в сельском доме родителей, улучшая в нем жилищные условия. Чистый воздух, свободное время, интерес к электронным устройствам и стремление к новому опыту привели меня в мир домашней автоматизации и майнинга. В ноябре прошлого года я придумывал заработок на обычно простаивающем 7900X + 4070TiS, вспомнил про аренду ПК для игр. С сервисом туманного гейминга от МТС я был знаком, даже безрезультатно пытался разместить прошлый ПК. В этот раз четко следовал инструкции и меня ожидал полный успех. Установил киберпанк, ведьмака и доту, назначил минимальный тариф, сделал первые выводы. Спрос на мой ПК не высок, с ~2 до ~10 ожидаемо вообще без подключений. Иногда игра длится несколько часов, а иногда завершается в первые пять минут без оплаты, доход ориентировочно десятая часть от рекламируемого. Тестировал сам. Задержку изображения заметно, особенно перед включённым монитором арендованного ПК, однако спустя некоторое время происходит адаптация и будто так и должно быть. Есть сохранения в облаке МТС и личный профиль Стим, при игре с личной страницы снижается комиссия платформы. В общем платформа мне кажется интересной и перспективной.

https://habr.com/ru/articles/875130/

#сервер #proxmox #корпус #облачный_гейминг #видеокарта

Чем серверные GPU-ускорители отличаются от потребительских видеокарт

При сравнении профессиональных и настольных GPU решающую роль играют показатели производительности. Так, серверные GPU предназначены для задач с высокой степенью многопоточности, для чего имеют больший объем производительной памяти в сравнении с настольными аналогами, что делает профессиональные графические процессоры важным компонентом ЦОД’ов и облачных вычислительных сред, где параллельная обработка имеет важное значение. Но… давайте покопаемся в этом поподробнее.

https://habr.com/ru/companies/fplus_tech/articles/865762/

#GPUускорители #gpu #видеокарты #видеокарта #потребительские_видеокарты #nvidia #cpu #NLP #нейросети #серверные_GPU

Magic bash script для установки драйверов Nvidia и CUDA (и Docker) в Ubuntu 22.04 и 24.04

Установка драйверов для видеокарт от Nvidia с одной стороны сейчас не вызывает столько проблем, как было еще 10–15 лет назад, с другой стороны если с драйверами еще как-то народ управляется, то вот работоспособную CUDA получить могут не все. У себя в HOSTKEY мы создали специальный скрипт, который пользователь может запустить самостоятельно и получить рабочее окружение для запускавсего — от PyTorch до Stable Diffusion и Ollama с поддержкой GPU.

https://habr.com/ru/companies/hostkey/articles/835058/

#nvidia #cuda #ubuntu #bash #настройка_linux #видеокарта

VGA-видеокарта на советских микросхемах

Быть или не быть VGA-видеокарте на советских микросхемах?! Всё же быть! Представляю Вашему вниманию VGA-видеокарту!

https://habr.com/ru/articles/825610/

#VGA #видеокарта #СССР #сделай_сам

Чем антисанкционная видеокарта Nvidia GeForce RTX 4090D отличается от обычной RTX 4090?

Релиз каждой новой видеокарты Nvidia всегда становится большим событием для всех причастных. Даже если компания представляет не новое поколение, а просто улучшает предыдущее, выпуская модификацию с пометкой Super. Так что выход GeForce RTX 4090D тоже не мог пройти незамеченным. Теперь главное - разобраться, что она из себя представляет, чем отличается от классической

https://habr.com/ru/companies/x-com/articles/800215/

#xcomshop #тест #видеокарта #санкции #Nvidia #gpu

Стоит ли устанавливать в игровой компьютер 2 видеокарты?

Установка новой видеокарты - это рост графической производительности, увеличение фпс, фреймтайма и, конечно, качества самой картинки. Но видеокарты - особенно мощные - стоят недешево, поэтому некоторые умельцы предпочитают использовать вместо одной мощной модели пару штук послабее и подешевле. В свое время, еще до появления линейки GeForce RTX, такие спецы умудрялись запускать игры в 4К на базе двух GTX 1080. А что, если взять две

https://habr.com/ru/companies/x-com/articles/798125/

#xcomshop #nvidia #amd #gpu #видеокарта #crossfire #SLI

Новый Ryzen 7 8700G получил мощную встроенную графику для игр, которая выдает 60+ fps в Cyberpunk 2077

Геймерский компьютер за копейки - это реально, что и доказали эксперты XCOM-SHOP.RU, собрав ПК для игр дешевле 30 000 рублей . Мы отказались от дискретной видеокарты, а в качестве графики задействовали видеоядро

https://habr.com/ru/companies/x-com/articles/789138/

#xcom #amd #geforce #видеокарта #интегрированная_видеокарта #сборка_пк