#lowvram — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #lowvram, aggregated by home.social.
-
Ktransformers vừa bổ sung hỗ trợ cho mô hình Qwen3-Next, giúp chạy trên hệ thống có VRAM thấp chỉ 6GB nhưng cần tới 320GB RAM hệ thống. Đây có thể là giải pháp tạm thời lý tưởng trước khi llamacpp hỗ trợ. Hy vọng phiên bản quantized sẽ giảm yêu cầu RAM trong tương lai! 🤖💡
#AI #MachineLearning #Ktransformers #Qwen3Next #LowVRAM #TríTuệNhânTạo #HọcMáy #CôngNghệ
https://www.reddit.com/r/LocalLLaMA/comments/1nipldx/ktransformers_now_supports_qwen3next/