home.social

#gpu — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #gpu, aggregated by home.social.

  1. NVIDIA Reportedly Invested in AI Startups to Maintain GPU Demand Amid Supply Concerns

    📰 Original title: NVIDIA Allegedly Engineered Scarcity By Funding AI Startups To Buy Its GPUs

    🤖 IA: It's not clickbait ✅
    👥 Users: It's not clickbait ✅

    👇👇👇 en.killbait.com/nvidia-reporte

    #business #gpu #ai

  2. RE: mas.to/@gabrielesvelto/1176155

    This is a dense but understandable thread on the #LLM, #GPU, memory hypecycle. Worth a read.

  3. RE: mastodon.social/@maquinari_cat

    Notícia bomba: NVIDIA hauria muntat empreses d'IA perquè li compressin les seves pròpies GPUs. Es diu «escassetat artificial» i, segons el WSJ, el pla era treure's de sobre una allau de xips de TSMC. 250.000 M$ de finançament creuat, i els proveïdors petits ni tan sols podien pagar. Capitalisme de mercat, deien. 🤡 #Nvidia #GPU #IA

  4. NVIDIA hauria creat empreses de IA per comprar les seves pròpies GPUs i crear l'escassetat i encariment dels seus productes.

    techpowerup.com/354814/nvidia-

    #Nvidia #IA #AI #GPU

  5. [Перевод] Как ускорить локальную LLM на 50% без покупки новой видеокарты

    На GTC Berlin 2026 участники воркшопа NVIDIA смогли ускорить генерацию Qwen3-32B с 16,4 до 24,5 токена в секунду, не меняя оборудование. Для этого использовали FP8 вместо BF16. Общая пропускная способность тоже выросла, хотя и заметно меньше: с 639 до 719 токенов в секунду. Эксперимент проводили на Kubernetes-кластере с четырьмя NVIDIA A100 по 80 ГБ. У каждого участника был собственный кластер, на котором можно было разворачивать модели, менять конфигурацию и измерять производительность. Помимо квантизации, на занятии разбирали NVIDIA Dynamo, маршрутизацию запросов с учётом KV-кеша, автоматическое масштабирование и разделение prefill/decode между GPU. Материал основан на статье инженера Siim Tolk , опубликованной 4 ноября 2026 года.

    habr.com/ru/articles/1107848/

    #gpu #nvidia #dynamo #квантизация #инференс #llm #vllm #qwen #fp8 #оптимизация_llm

  6. The #Global #Memory #Innovation #Forum 2026 (#GMIF 2026) brought together 40 companies in #Shenzhen, #China to demonstrate how artificial intelligence is changing the #commercial value of memory and #storage. #Exhibitors presented #technologies intended to improve #AI #inference, extend limited #GPU memory, move #data more efficiently and support increasingly demanding #cloud, #edge, #automotive and on-device workloads. chinaexpohub.com/gmif-2026-ai-

  7. WebAssembly on the backend. Java on GPUs. Distributed AI inference at scale.

    How are these technologies reshaping backend computing?

    In this InfoQ podcast, Edoardo Vacchi explores TornadoVM, llm-d, and vLLM on Kubernetes, including how smarter cache management and request routing maximize expensive GPU utilization.

    🎧 Listen now: infoq.com/podcasts/distributed

    #WebAssembly #Java #AI #LLM #Kubernetes #GPU #InfoQ

  8. 黃仁勳辭職、財務長暫代:從英特爾衰退前例,看輝達陣前換將的治理考驗
    徐作聖 (Joseph Z. Shyu) 2026-11-14 07:57:00 CST
    輝達創辦人黃仁勳辭任執行長,由財務長暫代。從英特爾2019年由財務長接任的前例看,過渡期的穩定無法取代戰略決斷,台灣供應鏈也得跟著調整。
    https://www.thenewslens.com/article/271137
    #科技 #鴻海 #執行長 #台積電 #供應鏈 #英特爾 #人工智慧 #財務長 #TPU #資料中心 #超微 #GPU #BobSwan #輝達 #CoWoS #PatGelsinger #先進製程 #季辛格 #EUV #黃仁勳 #AI產業 #CUDA #ASIC #AI伺服器 #Blackwell #ColetteKress #Rubin #Trainium #ASDS #Maia #雲端巨頭
  9. I hate the scheduling of #GPU|s it is the worst.

    Jellyfin doing a reindex and the entire #KDE #Plasma gui starts to freeze and stutter...

    On the same note the former "a user taking a lot of resources should not/minimally affect other users" on #Linux is a joke these days.

    #Jellyfin runs as its own user and yet it doing stuff still freezes the entire gui for me. It even freezes the mouse pointer.

  10. Intel drm-xe-next sorozatban készíti elő az SR-IOV alapú vGPU profilkezelést: PF/VF provisioning és prioritásváltások master mutex alá szervezve, hogy egy fizikai GPU több vGPU-ra osszon VM-ek között — várható összhang a D Series (Crescent Island) hardverrel. További optimalizációk CCS iGPU-knak és force-probe üzenetcsökkentés. linuxmint.hu/hir/2026/11/az-in #Linux #Intel #GPU #virtualization #OpenSource

  11. Мы делили апельсин (или не делили?) — разбираемся в различиях GPU Passthrough и vGPU

    Еще лет пять назад графические ускорители в стойке выглядели как экзотика и весьма специфическое решение для узкого круга задач вроде тяжелого рендеринга или специфических научных расчетов. Теперь же с их помощью успешно решают задачи локального обучения нейросетей, аналитики видео и развертывания мощных виртуальных рабочих мест. Однако физический GPU спроектирован как монолитное устройство для параллельных вычислений. В отличие от процессора и оперативной памяти, его нельзя просто так «нарезать» на части стандартными программными методами гипервизора. Из-за этого видеокарту сложно использовать эффективно — если отдать ее целиком одной ВМ под небольшую задачу, остальная часть ресурсов может простаивать, а распределить свободные мощности между соседними виртуальными машинами без специальных технологий не получится. Чтобы решить эту проблему, инженерам приходится выбирать между двумя принципиально разными подходами — GPU Passthrough и vGPU. Ниже мы подробно разберем, как устроены эти технологии, в чем их реальные различия и что выбрать под конкретные сценарии и типы нагрузок.

    habr.com/ru/companies/ispsyste

    #gpu #графический_ускоритель #ispsystem #vmmanager #vgpu #gpu_passthrough

  12. I've added a cool new feature to github.com/ProjectPhysX/OpenCL

    With a one-line change, you can now dump assembly of compiled #OpenCL kernels for any #GPU or #CPU:
    - #AMD ISA
    - #Intel vISA
    - #Nvidia #PTX
    - CPU #x86

    That can be super helpful for debugging and optimization 🖖🧐

  13. 27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K

    Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к которой не покидают Беларусь. Официальный vLLM на этих картах 4-битную модель не запускает. Рассказываю, на каком форке это работает, куда утекает память, что показал бенчмарк MoE против dense и почему имя модели нельзя менять никогда.

    habr.com/ru/articles/1104832/

    #gpu #v100 #inference #llm #vllm #qwen #awq #zubriq

  14. Теперь ИИ-компании вкладывают миллиарды в генерацию энергии

    Компания Anthropic заплатила OnePWR Solutions 3,4 млрд долларов . Раньше такие суммы фигурировали в поставках чипов, но на этот раз речь о газовых генераторах для выработки 1,7 ГВт мощности для дата-центров. По данным Financial Times, это крупнейшая разовая закупка энергооборудования ИИ-компанией. Мы уже привыкли к дефициту чипов для ИИ, особенно высокопроизводительной памяти и GPU, поставки которых расписаны до 2030 года. Теперь наступил черёд ресурсов для работы этих чипов. Текущие энергетические мощности США оказались очень ограничены, а запуск ИИ-центров вызывает протесты местных жителей, для которых стоимость энергии возрастает в разы, – поставщикам выгоднее продать её владельцам дата-центров. Сроки подключения к энергосетям растягиваются до того же 2030 года. Чтобы их сократить, ИИ-компании переключаются на автономную генерацию и даже закупают отработанные авиационные турбины. Показательно, что Anthropic выбирает не «зелёные» источники энергии, а газ и атомную энергию. Для работы дата-центров нужна постоянная энергия, недопустимо зависеть от облачности и силы ветра. А возможные штрафы за выбросы углерода станут лишь ещё одной строчкой в расходах. Такой же подход и у других ИИ-компаний: SpaceXSI Илона Маска использует газовые турбины для суперкомпьютеров серии Colossus в Теннесси и Миссисипи, Meta* развивает собственную газовую генерацию в Огайо. Microsoft, Amazon и Google перезапускают атомную энергетику США для получения постоянного источника энергии. Например, Google вложил более 4,4 млрд долларов в Constellation Energy для модернизации текущих АЭС и получения дополнительных 890 МВт мощностей в ближайшие 20 лет.

    habr.com/ru/companies/ruvds/ar

    #искусственный_интеллект #gpu #инфраструктура #датацентры #энергетика #атомная_энергетика #энергоснабжение #вычислительные_мощности #ruvds_пост #газовая_генерация

  15.  - 🔥 Domina tu GPU: Temperatura y consumo al descubierto.
     - #MonitoreaTuGPU #TemperaturaYConsumo #RendimientoRealGaming - #Hardware Performance - #BenchMark #EvergreenContent #GPU
     - 🔥 Domina tu GPU y aprende a medir su temperatura y consumo de forma realista. Olvida las pruebas rápidas: usa juegos exigentes al 100% de carga ...
    mastertrend.info/domina-tu-gpu

  16. CW: kernel/illesztőprogram részletek

    Intel GPU D‑Series (Crescent Island) támogatása bővül a Linux 7.5-ben: HWMON hőmérséklet-szenzorok (VRAM, PCIe, memvezérlő), CPER RAS naplózás, OOBMSM/OCode telemetria és dupla-bites ECC kezelés. Részletek a PR-ben.

    #Linux #Intel #GPU #Kernel #DRM #OpenSource
    linuxmint.hu/hir/2026/11/az-in

  17. 黃仁勳風暴台鏈篇:轉單ASIC還是守住GPU?供應鏈憂「AI中央銀行」縮手
    TNL科技編譯 2026-11-13 12:52:00 CST
    輝達創辦人黃仁勳辭職,財務長克瑞斯暫代執行長。台股隔天不跌反漲,台廠也說訂單還在,但供應商真正擔心的是,下一任執行長還會不會像黃仁勳一樣搶產能、推著台廠擴產。
    https://www.thenewslens.com/article/271132
    #科技 #Google #台積電 #庫克 #龔明鑫 #TPU #VeraRubin #資料中心 #超微 #GPU #中國間諜 #輝達 #AI晶片 #黃仁勳 #CUDA #ASIC #蘇姿丰 #AI伺服器 #ReneHaas #ColetteKress #台灣供應鏈 #HarveyCJones #Feynman #AI中央銀行 #IanBuck
  18. 【笠原一輝のユビキタス情報局】フアン氏辞任のNVIDIA、33年の成功を支えたCUDAと次のリーダーの条件
    pc.watch.impress.co.jp/docs/co

    #impress #半導体_周辺機器 #GPU #NVIDIA #市場 #動向 #その他 #AI

  19. 深圳APEC前夕黃仁勳閃辭震撼彈:美中晶片戰進入深水區,台灣真正的考驗在2028
    廖明輝 2026-11-13 11:00:00 CST
    黃仁勳離開輝達,AI訂單不會跟著消失;真正會變的是美國的晶片管制規則,以及台廠在供應鏈裡的談判位置,考驗落在2028年之後。
    https://www.thenewslens.com/article/271131
    #科技 #台積電 #供應鏈 #華為 #國安危機 #川普 #人工智慧 #VeraRubin #國防授權法 #資料中心 #超微 #GPU #中國間諜 #博通 #台廠 #出口管制 #輝達 #AI晶片 #美中晶片戰 #黃仁勳 #AI產業 #CUDA #ASIC #AI伺服器 #ColetteKress #Megaspeed #黃樂 #HarveyJones #晶片安全法 #AI監督法 #硬體技術多邊協調管制法 #遠端存取安全法 #深圳APEC
  20. The #Global #Memory #Innovation #Forum 2026 (#GMIF 2026) brought together 40 companies in #Shenzhen, #China to demonstrate how artificial intelligence is changing the #commercial value of memory and #storage. #Exhibitors presented #technologies intended to improve #AI #inference, extend limited #GPU memory, move #data more efficiently and support increasingly demanding #cloud, #edge, #automotive and on-device workloads. chinaexpohub.com/gmif-2026-ai-

  21. Вы будете смеяться, но я нашёл упоминание ещё одного патента #microsoft и в этот раз они даже готовы вам заплатить.

    Если я не чего не упустил, то суть такая: ваша видеокарта в момент простоя или низкой нагрузки участвует в распределённых вычислениях для обучения #AI

    В качестве оплаты вроде бы предполагаются деньги, кредиты, софт компании и доступ к #ИИ модели, не удивлюсь если к той самой, которая и обучается.

    #OpenAI нужна ваша #RAM , а microsoft уже присматривается к твоей #GPU

    :welp:

  22. Well, at least we now know that GPU CEOs are hot-pluggable.

    #GPU #CEO #honeypot #JensenHuang #Nvidia

  23. Jensen Huang azonnali hatállyal lemondott elnöki, vezérigazgatói és igazgatósági tagsági posztjáról, lezárva a 33 éves vezetői periódust. Colette Kress ideiglenes vezérigazgatóként (és továbbra is CFO) vezeti a céget; Harvey C. Jones az igazgatótanács elnöke. A távozás oka és a független vizsgálat eredménye nem részletezett. Részletek: linuxmint.hu/hir/2026/11/jense
    #NVIDIA #AI #GPU #Tech

  24. Just re-tested #GPUSPH on the #SteamDeck. Needed a bit to reorient myself, so I documented what is needed and added some information to the documentation.

    I don't think anybody is going to run any serious testcase on it, but I like the fact that it does work on it. I should probably recheck also that it at least builds correctly on the various BSDs and on GNU Hurd.

    Also I'm finding out that #FreeBSD is adding support for #HIP #ROCm

    freebsdfoundation.org/blog/fre

    so it'll be interesting to see if GPUSPH can be built on it *with* GPU support rather than just in CPU mode. (Does any BSD have #CUDA support?)

    #BSD #GNUHurd #NVIDIA #AMD #GPGPU #GPU

  25. NAVER Secures 2 Trillion Won in AI Factory Compute Deals

    NAVER (035420) has secured computing service supply contracts worth about 2 trillion won ($1.4 billion) for the artificial…
    #EuropeSays #Korea #KR #Naver #AIfactory #Brookfield #ChoiSoo-yeon #GPU #NVIDIA #VeraRubin
    europesays.com/korea/226752/

  26. honestly, I wouldn't be surprised if Huang decided to leak himself about extramarital affairs and orchestrate it.

    perhaps he was told - or figured out himself - how & when AI bubble is going to burst, so that after resigning he'll be financially safe when bubble bursts.

    #Nvidia #Huang #Tech #Technology #AI #GPU

  27. Paukenschlag bei #Nvidia: #CEO Jen-Hsun #Huang tritt nach dem #Skandal um seine außerehelichen Äffären ab. Finanzchefin Kress wird Interims-Chefin. Börsen reagieren mit Kursstürzen. #KI #GPU winfuture.de/news,162640.html?

Share on Mastodon

Enter the server where you have an account.