#ddtreebudget — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ddtreebudget, aggregated by home.social.
-
RT @davideciffa: Wenn du eine Nvidia RTX 4090 besitzt, ist --ddtree-budget 36 die beste Konfiguration, die dir eine 2,5-fache Beschleunigung während der Dekodierung für Qwen3.627B bringt. Danke für den Benchmark https://github.com/1TommyCheung 🙌
mehr auf Arint.info