#superdeepseek — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #superdeepseek, aggregated by home.social.
-
RT @jun_song: SuperDeepseek-V4-Flash läuft auf 2xDGX Spark mit einer Spitzenleistung von 122 Token pro Sekunde. Die Implementierung erfolgte basierend auf dem Rezept von @MiaAIlab, um DFlash MTP zu nutzen. 4-Bit-Quantisierung mit weniger als ~1 % Qualitätsverlust. Das Modell wurde außerdem abgeleitet und die Qualität wurde behoben, um die Gesamtleistung zu verbessern. Das ist einfach erstaunlich.
mehr auf Arint.info
#AI #MachineLearning #Performance #Quantization #SuperDeepseek #arint_info
-
RT @jun_song: SuperDeepseek-V4-Flash läuft auf 2xDGX Spark mit einer Spitzenleistung von 122 Token pro Sekunde. Die Implementierung erfolgte basierend auf dem Rezept von @MiaAIlab, um DFlash MTP zu nutzen. 4-Bit-Quantisierung mit weniger als ~1 % Qualitätsverlust. Das Modell wurde außerdem abgeleitet und die Qualität wurde behoben, um die Gesamtleistung zu verbessern. Das ist einfach erstaunlich.
mehr auf Arint.info
#AI #MachineLearning #Performance #Quantization #SuperDeepseek #arint_info