NVIDIA Reportedly Invested in AI Startups to Maintain GPU Demand Amid Supply Concerns
📰 Original title: NVIDIA Allegedly Engineered Scarcity By Funding AI Startups To Buy Its GPUs
🤖 IA: It's not clickbait ✅
👥 Users: It's not clickbait ✅
Live and recent posts from across the Fediverse tagged #gpu, aggregated by home.social.
NVIDIA Reportedly Invested in AI Startups to Maintain GPU Demand Amid Supply Concerns
📰 Original title: NVIDIA Allegedly Engineered Scarcity By Funding AI Startups To Buy Its GPUs
🤖 IA: It's not clickbait ✅
👥 Users: It's not clickbait ✅
RE: https://mas.to/@gabrielesvelto/117615583548422327
This is a dense but understandable thread on the #LLM, #GPU, memory hypecycle. Worth a read.
RE: https://mastodon.social/@maquinari_cat/117615267789084880
Notícia bomba: NVIDIA hauria muntat empreses d'IA perquè li compressin les seves pròpies GPUs. Es diu «escassetat artificial» i, segons el WSJ, el pla era treure's de sobre una allau de xips de TSMC. 250.000 M$ de finançament creuat, i els proveïdors petits ni tan sols podien pagar. Capitalisme de mercat, deien. 🤡 #Nvidia #GPU #IA
NVIDIA hauria creat empreses de IA per comprar les seves pròpies GPUs i crear l'escassetat i encariment dels seus productes.
[Перевод] Как ускорить локальную LLM на 50% без покупки новой видеокарты
На GTC Berlin 2026 участники воркшопа NVIDIA смогли ускорить генерацию Qwen3-32B с 16,4 до 24,5 токена в секунду, не меняя оборудование. Для этого использовали FP8 вместо BF16. Общая пропускная способность тоже выросла, хотя и заметно меньше: с 639 до 719 токенов в секунду. Эксперимент проводили на Kubernetes-кластере с четырьмя NVIDIA A100 по 80 ГБ. У каждого участника был собственный кластер, на котором можно было разворачивать модели, менять конфигурацию и измерять производительность. Помимо квантизации, на занятии разбирали NVIDIA Dynamo, маршрутизацию запросов с учётом KV-кеша, автоматическое масштабирование и разделение prefill/decode между GPU. Материал основан на статье инженера Siim Tolk , опубликованной 4 ноября 2026 года.
https://habr.com/ru/articles/1107848/
#gpu #nvidia #dynamo #квантизация #инференс #llm #vllm #qwen #fp8 #оптимизация_llm
The #Global #Memory #Innovation #Forum 2026 (#GMIF 2026) brought together 40 companies in #Shenzhen, #China to demonstrate how artificial intelligence is changing the #commercial value of memory and #storage. #Exhibitors presented #technologies intended to improve #AI #inference, extend limited #GPU memory, move #data more efficiently and support increasingly demanding #cloud, #edge, #automotive and on-device workloads. https://chinaexpohub.com/gmif-2026-ai-storage-memory-supply-chain/
WebAssembly on the backend. Java on GPUs. Distributed AI inference at scale.
How are these technologies reshaping backend computing?
In this InfoQ podcast, Edoardo Vacchi explores TornadoVM, llm-d, and vLLM on Kubernetes, including how smarter cache management and request routing maximize expensive GPU utilization.
🎧 Listen now: https://www.infoq.com/podcasts/distributed-llm-inference-kubernetes/
https://www.europesays.com/people/307392/ Super Micro, run by Jensen Huang’s friend, says Megaspeed was ‘never’ its customer #China #chips #gpu #JensenHuang #Nvidia #SuperMicroComputer
徐作聖 (Joseph Z. Shyu) 2026-11-14 07:57:00 CST輝達創辦人黃仁勳辭任執行長,由財務長暫代。從英特爾2019年由財務長接任的前例看,過渡期的穩定無法取代戰略決斷,台灣供應鏈也得跟著調整。
I hate the scheduling of #GPU|s it is the worst.
Jellyfin doing a reindex and the entire #KDE #Plasma gui starts to freeze and stutter...
On the same note the former "a user taking a lot of resources should not/minimally affect other users" on #Linux is a joke these days.
#Jellyfin runs as its own user and yet it doing stuff still freezes the entire gui for me. It even freezes the mouse pointer.
Intel drm-xe-next sorozatban készíti elő az SR-IOV alapú vGPU profilkezelést: PF/VF provisioning és prioritásváltások master mutex alá szervezve, hogy egy fizikai GPU több vGPU-ra osszon VM-ek között — várható összhang a D Series (Crescent Island) hardverrel. További optimalizációk CCS iGPU-knak és force-probe üzenetcsökkentés. https://linuxmint.hu/hir/2026/11/az-intel-xe-illesztoprogram-sr-iov-alapu-vgpu-profilkezelest-kap #Linux #Intel #GPU #virtualization #OpenSource
Veyra: This Free GPU Tool Enhances Videos and Game Streams in Real Time
https://firethering.com/veyra-gpu-video-enhancement-software/
Мы делили апельсин (или не делили?) — разбираемся в различиях GPU Passthrough и vGPU
Еще лет пять назад графические ускорители в стойке выглядели как экзотика и весьма специфическое решение для узкого круга задач вроде тяжелого рендеринга или специфических научных расчетов. Теперь же с их помощью успешно решают задачи локального обучения нейросетей, аналитики видео и развертывания мощных виртуальных рабочих мест. Однако физический GPU спроектирован как монолитное устройство для параллельных вычислений. В отличие от процессора и оперативной памяти, его нельзя просто так «нарезать» на части стандартными программными методами гипервизора. Из-за этого видеокарту сложно использовать эффективно — если отдать ее целиком одной ВМ под небольшую задачу, остальная часть ресурсов может простаивать, а распределить свободные мощности между соседними виртуальными машинами без специальных технологий не получится. Чтобы решить эту проблему, инженерам приходится выбирать между двумя принципиально разными подходами — GPU Passthrough и vGPU. Ниже мы подробно разберем, как устроены эти технологии, в чем их реальные различия и что выбрать под конкретные сценарии и типы нагрузок.
https://habr.com/ru/companies/ispsystem/articles/1107676/
#gpu #графический_ускоритель #ispsystem #vmmanager #vgpu #gpu_passthrough
https://www.europesays.com/cz/278726/ Nadšenkyně udělala z těžební GPU plnohodnotný A100 od Nvidie #gpu #GrafickáKarta #NVIDIA #Science #Science&Technology #Server #Technika #Technology #těžba #Věda #VědaATechnika
I've added a cool new feature to https://github.com/ProjectPhysX/OpenCL-Wrapper/compare/2659f660728c879f5cfa35999fc18b113e9b28f2..fa007302e9569c836323880f980b6e6288f3be48
With a one-line change, you can now dump assembly of compiled #OpenCL kernels for any #GPU or #CPU:
- #AMD ISA
- #Intel vISA
- #Nvidia #PTX
- CPU #x86
That can be super helpful for debugging and optimization 🖖🧐
27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K
Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к которой не покидают Беларусь. Официальный vLLM на этих картах 4-битную модель не запускает. Рассказываю, на каком форке это работает, куда утекает память, что показал бенчмарк MoE против dense и почему имя модели нельзя менять никогда.
Теперь ИИ-компании вкладывают миллиарды в генерацию энергии
Компания Anthropic заплатила OnePWR Solutions 3,4 млрд долларов . Раньше такие суммы фигурировали в поставках чипов, но на этот раз речь о газовых генераторах для выработки 1,7 ГВт мощности для дата-центров. По данным Financial Times, это крупнейшая разовая закупка энергооборудования ИИ-компанией. Мы уже привыкли к дефициту чипов для ИИ, особенно высокопроизводительной памяти и GPU, поставки которых расписаны до 2030 года. Теперь наступил черёд ресурсов для работы этих чипов. Текущие энергетические мощности США оказались очень ограничены, а запуск ИИ-центров вызывает протесты местных жителей, для которых стоимость энергии возрастает в разы, – поставщикам выгоднее продать её владельцам дата-центров. Сроки подключения к энергосетям растягиваются до того же 2030 года. Чтобы их сократить, ИИ-компании переключаются на автономную генерацию и даже закупают отработанные авиационные турбины. Показательно, что Anthropic выбирает не «зелёные» источники энергии, а газ и атомную энергию. Для работы дата-центров нужна постоянная энергия, недопустимо зависеть от облачности и силы ветра. А возможные штрафы за выбросы углерода станут лишь ещё одной строчкой в расходах. Такой же подход и у других ИИ-компаний: SpaceXSI Илона Маска использует газовые турбины для суперкомпьютеров серии Colossus в Теннесси и Миссисипи, Meta* развивает собственную газовую генерацию в Огайо. Microsoft, Amazon и Google перезапускают атомную энергетику США для получения постоянного источника энергии. Например, Google вложил более 4,4 млрд долларов в Constellation Energy для модернизации текущих АЭС и получения дополнительных 890 МВт мощностей в ближайшие 20 лет.
https://habr.com/ru/companies/ruvds/articles/1107500/
#искусственный_интеллект #gpu #инфраструктура #датацентры #энергетика #атомная_энергетика #энергоснабжение #вычислительные_мощности #ruvds_пост #газовая_генерация
- 🔥 Domina tu GPU: Temperatura y consumo al descubierto.
- #MonitoreaTuGPU #TemperaturaYConsumo #RendimientoRealGaming - #Hardware Performance - #BenchMark #EvergreenContent #GPU
- 🔥 Domina tu GPU y aprende a medir su temperatura y consumo de forma realista. Olvida las pruebas rápidas: usa juegos exigentes al 100% de carga ...
https://mastertrend.info/domina-tu-gpu/?utm_source=mastodon&utm_medium=social&utm_campaign=mastertrend_social_2025&utm_content=domina-tu-gpu&utm_id=9765&fsp_sid=9765
CW: kernel/illesztőprogram részletek
Intel GPU D‑Series (Crescent Island) támogatása bővül a Linux 7.5-ben: HWMON hőmérséklet-szenzorok (VRAM, PCIe, memvezérlő), CPER RAS naplózás, OOBMSM/OCode telemetria és dupla-bites ECC kezelés. Részletek a PR-ben.
#Linux #Intel #GPU #Kernel #DRM #OpenSource
https://linuxmint.hu/hir/2026/11/az-intel-tovabb-boviti-a-gpu-d-series-crescent-island-illesztoprogram-tamogatasat-a
https://www.europesays.com/people/306360/ His Name Is Also Jensen Huang. the Scandal Is Good for Business. #AsToldToEssay #Business #FirstTime #friend #gpu #HolyCrap #JensenHuang #LinkedinPost #name #NvidiaCEO #NvidiaFounder #other #people #stuff #thing
TNL科技編譯 2026-11-13 12:52:00 CST輝達創辦人黃仁勳辭職,財務長克瑞斯暫代執行長。台股隔天不跌反漲,台廠也說訂單還在,但供應商真正擔心的是,下一任執行長還會不會像黃仁勳一樣搶產能、推著台廠擴產。
廖明輝 2026-11-13 11:00:00 CST黃仁勳離開輝達,AI訂單不會跟著消失;真正會變的是美國的晶片管制規則,以及台廠在供應鏈裡的談判位置,考驗落在2028年之後。
The #Global #Memory #Innovation #Forum 2026 (#GMIF 2026) brought together 40 companies in #Shenzhen, #China to demonstrate how artificial intelligence is changing the #commercial value of memory and #storage. #Exhibitors presented #technologies intended to improve #AI #inference, extend limited #GPU memory, move #data more efficiently and support increasingly demanding #cloud, #edge, #automotive and on-device workloads. https://chinaexpohub.com/gmif-2026-ai-storage-memory-supply-chain/
I've been offline most of the day, but as expected...
Jensen Huang is no longer CEO of Nvidia
#Nvidia #NVDA #JensenOusted #JensenResigns #JensenHuang #GPU #AI #GenAI #GameDev #3D #CGI #VFX
I figured Jensen musta had 4 parallel operations executing.
Вы будете смеяться, но я нашёл упоминание ещё одного патента #microsoft и в этот раз они даже готовы вам заплатить.
Если я не чего не упустил, то суть такая: ваша видеокарта в момент простоя или низкой нагрузки участвует в распределённых вычислениях для обучения #AI
В качестве оплаты вроде бы предполагаются деньги, кредиты, софт компании и доступ к #ИИ модели, не удивлюсь если к той самой, которая и обучается.
#OpenAI нужна ваша #RAM , а microsoft уже присматривается к твоей #GPU
:welp:
Well, at least we now know that GPU CEOs are hot-pluggable.
Jensen Huang azonnali hatállyal lemondott elnöki, vezérigazgatói és igazgatósági tagsági posztjáról, lezárva a 33 éves vezetői periódust. Colette Kress ideiglenes vezérigazgatóként (és továbbra is CFO) vezeti a céget; Harvey C. Jones az igazgatótanács elnöke. A távozás oka és a független vizsgálat eredménye nem részletezett. Részletek: https://linuxmint.hu/hir/2026/11/jensen-huang-33-ev-utan-hivatalosan-lemondott-az-nvidia-vezerigazgatoi-posztjarol
#NVIDIA #AI #GPU #Tech
Just re-tested #GPUSPH on the #SteamDeck. Needed a bit to reorient myself, so I documented what is needed and added some information to the documentation.
I don't think anybody is going to run any serious testcase on it, but I like the fact that it does work on it. I should probably recheck also that it at least builds correctly on the various BSDs and on GNU Hurd.
Also I'm finding out that #FreeBSD is adding support for #HIP #ROCm
so it'll be interesting to see if GPUSPH can be built on it *with* GPU support rather than just in CPU mode. (Does any BSD have #CUDA support?)
NAVER Secures 2 Trillion Won in AI Factory Compute Deals
NAVER (035420) has secured computing service supply contracts worth about 2 trillion won ($1.4 billion) for the artificial…
#EuropeSays #Korea #KR #Naver #AIfactory #Brookfield #ChoiSoo-yeon #GPU #NVIDIA #VeraRubin
https://www.europesays.com/korea/226752/
honestly, I wouldn't be surprised if Huang decided to leak himself about extramarital affairs and orchestrate it.
perhaps he was told - or figured out himself - how & when AI bubble is going to burst, so that after resigning he'll be financially safe when bubble bursts.
https://www.europesays.com/be-fr/319860/ Une Nvidia RTX 5090 modifiée avec 96 Go de VRAM et un BIOS personnalisé fait son apparition en Chine #BE #BEFr #Belgique #Belgium #blackwell #chine #GB202 #GDDR7 #GeForceRTX5090 #GPU #ia #InformationsSurDesOrdinateursPortatifs #Matériel #nouvelles #Nvidia #rapport #revues #Science #ScienceAndTechnology #Sciences #SciencesEtTechnologies #Technologies #Technology #test