#lucebox — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #lucebox, aggregated by home.social.
-
RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF auf einem 128 GB AMD Strix Halo System. Das Modell erreicht 82/92 Punkte auf ds4-eval-92 und erzielt 32,7 Token pro Sekunde mit DSpark. Über unsere festen Evaluierungen HumanEval, GSM8K und MATH hinweg beträgt der Durchschnitt 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit. Alle Details im Artikel unten, unterstütztes Target hier: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science zu erweitern und zu demokratisieren. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 zum Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst die adaptiven ROCmFPX-Formate, HIP- und CUDA-Kernel, eingebettetes Codebook-Loading und Runtime — https://nitter.net/pupposandro/status/2087231513515511845#m
mehr auf Arint.info
#AI #AMD #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info
-
RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — https://nitter.net/pupposandro/status/2087231513515511845#m
mehr auf Arint.info
#AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info