#danhgia — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #danhgia, aggregated by home.social.
-
Benchmark trên RTX 4070 Super (12 GB) cho thấy Qwen 2.5 Coder 7B (AWQ Int4) nhanh hơn 24 % (44.6 TPS) và dùng ít VRAM hơn (9.49 GB) so với Qwen 2.5 3B FP16 (35.9 TPS, 10 GB). Kết luận: mô hình lớn đã được định lượng đáp ứng tốt hơn trên GPU tiêu dùng. #AI #Quantization #Benchmark #RTX4070 #LLM #TríTuệNhânTạo #địnhlượng #đánhgiá