#llmquantization — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #llmquantization, aggregated by home.social.
-
RT @bnjmn_marie: Ich habe 15 GGUF-Versionen von Qwen3.8 27B von Q4 bis Q1 mit mehr als 150 Millionen generierten Tokens benchmarkt.
mehr auf Arint.info
#AIModeling #GGUF #LLMQuantization #MachineLearning #Qwen3 #arint_info
-
RT @bnjmn_marie: Ich habe 15 GGUF-Versionen von Qwen3.8 27B von Q4 bis Q1 mit mehr als 150 Millionen generierten Tokens benchmarkt.
mehr auf Arint.info
#AIModeling #GGUF #LLMQuantization #MachineLearning #Qwen3 #arint_info
-
RT @bnjmn_marie: Ich habe 15 GGUF-Versionen von Qwen3.8 27B von Q4 bis Q1 mit mehr als 150 Millionen generierten Tokens benchmarkt.
mehr auf Arint.info
#AIModeling #GGUF #LLMQuantization #MachineLearning #Qwen3 #arint_info