#sm121 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #sm121, aggregated by home.social.
-
RT @mr_r0b0t: vLLM v0.27.0 ist gerade veröffentlicht worden, und diese Version ist wirklich umfangreich! 🚀 Highlights umfassen: • Vollständiges Full-Stack-Kimi-K3-Unterstützung • Qwen3.5-dichte und MoE-Unterstützung • Wesentliche DeepSeek-V4-Kernel-, TTFT- und Speicheroptimierungen • Fehlertoleranz für große DP + EP-Bereitstellungen • Erweiterte Präfill/Decode-Disaggregation • Rubin SM107 und ROCm gfx1250-Enabling • Model Runner V2 erweitert sich über die Generierung hinaus • Inkling NVFP4-Checkpoint-Unterstützung Es gibt auch einen wichtigen SM121-Fix für die CUDA-Architekturerkennung, der zuvor kernellose Builds produzieren konnte 👀👀 Eine Warnung vor dem Upgrade: v0.27.0 wechselt zu PyTorch 2.13 und Triton 3.7.1, was eine umwälzende Umgebungsänderung darstellt ⚠️ Release Notes: https://github.com/vllm-project/vllm/releases/tag/v0.27.0
mehr auf Arint.info
#CUDA #DeepSeekV4 #PyTorch213 #SM121 #Triton371 #vLLM #arint_info
-
RT @mr_r0b0t: vLLM v0.27.0 ist gerade veröffentlicht worden, und diese Version ist wirklich umfangreich! 🚀 Highlights umfassen: • Vollständiges Full-Stack-Kimi-K3-Unterstützung • Qwen3.5-dichte und MoE-Unterstützung • Wesentliche DeepSeek-V4-Kernel-, TTFT- und Speicheroptimierungen • Fehlertoleranz für große DP + EP-Bereitstellungen • Erweiterte Präfill/Decode-Disaggregation • Rubin SM107 und ROCm gfx1250-Enabling • Model Runner V2 erweitert sich über die Generierung hinaus • Inkling NVFP4-Checkpoint-Unterstützung Es gibt auch einen wichtigen SM121-Fix für die CUDA-Architekturerkennung, der zuvor kernellose Builds produzieren konnte 👀👀 Eine Warnung vor dem Upgrade: v0.27.0 wechselt zu PyTorch 2.13 und Triton 3.7.1, was eine umwälzende Umgebungsänderung darstellt ⚠️ Release Notes: https://github.com/vllm-project/vllm/releases/tag/v0.27.0
mehr auf Arint.info
#CUDA #DeepSeekV4 #PyTorch213 #SM121 #Triton371 #vLLM #arint_info
-
RT @mr_r0b0t: vLLM v0.27.0 ist gerade veröffentlicht worden, und diese Version ist wirklich umfangreich! 🚀 Highlights umfassen: • Vollständiges Full-Stack-Kimi-K3-Unterstützung • Qwen3.5-dichte und MoE-Unterstützung • Wesentliche DeepSeek-V4-Kernel-, TTFT- und Speicheroptimierungen • Fehlertoleranz für große DP + EP-Bereitstellungen • Erweiterte Präfill/Decode-Disaggregation • Rubin SM107 und ROCm gfx1250-Enabling • Model Runner V2 erweitert sich über die Generierung hinaus • Inkling NVFP4-Checkpoint-Unterstützung Es gibt auch einen wichtigen SM121-Fix für die CUDA-Architekturerkennung, der zuvor kernellose Builds produzieren konnte 👀👀 Eine Warnung vor dem Upgrade: v0.27.0 wechselt zu PyTorch 2.13 und Triton 3.7.1, was eine umwälzende Umgebungsänderung darstellt ⚠️ Release Notes: https://github.com/vllm-project/vllm/releases/tag/v0.27.0
mehr auf Arint.info
#CUDA #DeepSeekV4 #PyTorch213 #SM121 #Triton371 #vLLM #arint_info
-
RT @mr_r0b0t: Es sieht so aus, als ob @MiniMaxAI M3 für SM100/120/121 optimiert ist 👀😍
mehr auf Arint.info
-
RT @mr_r0b0t: Es sieht so aus, als ob @MiniMaxAI M3 für SM100/120/121 optimiert ist 👀😍
mehr auf Arint.info
-
RT @mr_r0b0t: Es sieht so aus, als ob @MiniMaxAI M3 für SM100/120/121 optimiert ist 👀😍
mehr auf Arint.info
-
RT @mr_r0b0t: Es sieht so aus, als ob @MiniMaxAI M3 für SM100/120/121 optimiert ist 👀😍
mehr auf Arint.info
-
RT @mr_r0b0t: Es sieht so aus, als ob @MiniMaxAI M3 für SM100/120/121 optimiert ist 👀😍
mehr auf Arint.info