#dịnhdạng — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #dịnhdạng, aggregated by home.social.
-
🧠 Tại sao định dạng NVFP8/MXFP8 không được quan tâm trong llama.cpp hay VLLM dù có độ chính xác cao hơn FP8 và được tối ưu trên kiến trúc Blackwell? Câu hỏi mở cho cộng đồng AI!
#AI #MachineLearning #Quantization #ĐịnhDạng #TríTuệNhânTạo #HọcMáyhttps://www.reddit.com/r/LocalLLaMA/comments/1qsi8n2/why_no_nvfp8_or_mxfp8/
-
Định dạng VSC không giúp giảm 71% chi phí AI như quảng cáo. Tiết kiệm thực tế chỉ 3% tổng số token, khoảng 0,89$ mỗi 10.000 lượt gọi API. #VSC #AI #TiếtKiệm #ĐịnhDạng #TríTuệNhânTạo #ChiPhí #TốiƯuHóa #TínhToán #データ # trí tuệ nhân tạo #tối ưu hóa #tính toán
https://www.reddit.com/r/ollama/comments/1ozswfh/vsc_format_wont_cut_your_ai_costs_by_71_despite/