#vgpu — Public Fediverse posts

Снижаем стоимость инференса. Часть 1. Популярные подходы и что помогло нам повысить утилизацию GPU на 70%

Привет, Хабр! Меня зовут Данила Гудынин, я DevOps-инженер направления Evolution ML Inference в Узнать больше

https://habr.com/ru/companies/cloud_ru/articles/950162/

#vllm #vgpu

nVidia GPU virtualization: Folks crack nVidia's limiting of virtualizing consumer GPUs
https://www.reddit.com/r/Proxmox/comments/1ltxq6q/nvidias_new_vgpu_solution_cracked_rtx_30series/
#virtualization #proxmox #hacking #nvidia #vgpu #gpu #ai #+

Эффективное использование GPU в Kubernetes: Настройка и использование Volcano Scheduler + Volcano vGPU Device Plugin

В этой статье я расскажу, как можно разделить GPU на vGPU в кластере Kubernetes с поддержкой жесткой изоляции, используя Volcano и Volcano vGPU Device Plugin.

https://habr.com/ru/articles/913374/

#kubernetes #nvidia_gpu #helm #vgpu #linux #видеокарты #gpu #nvidia

Proxmox lanza la versión 8.4 de su plataforma de virtualización con soporte para vGPU NVIDIA y mejoras clave para entornos empresariales https://blog.elhacker.net/2025/04/proxmox-virtualizacion-soporte-vgpu-nvidia.html #virtualizar #proxmox #nvidia #vgpu

Thank god I own a custom domain address so getting #nVidia's free 90-day evaluation trial to obtain the driver for #vGPU was relatively painless. I dream of the day we can have subscription-free #VDI and #GPU acceleration in VMs

#homelab #linux

#NVIDIA Publishes #OpenSource #Linux Driver Code For #GPU Virtualization "#vGPU"
"This is intended to be a real product that customers would use, it is not a proof of concept. There is alot of demand for this kind of simplified virtualization infrastructure in the host side...From the VFIO side I would like to see something like this merged in nearish future as it would bring a previously out of tree approach to be fully intree using our modern infrastructure.
https://www.phoronix.com/news/NVIDIA-Open-GPU-Virtualization #QEMU #VM