Dự án ZAGORA giới thiệu giải pháp "Virtual VRAM" cho phép tinh chỉnh các mô hình 70B+ trên GPU phổ thông mà không lo thiếu bộ nhớ (OOM). Nền tảng này gom các GPU phân tán thành một cụm duy nhất. Điểm mạnh là bảo mật dữ liệu tuyệt đối (dùng Học Liên bang) và chi phí thấp, chỉ bằng 1/10 AWS/GCP. Đang mở thử nghiệm Beta kín.
#LLM #AI #VRAM #FederatedLearning #ZAGORA #HocMay #TinhChinhMoHinh #GPU #BaoMat
https://www.reddit.com/r/LocalLLaMA/comments/1pyk5qh/project_i_built_a_virtual_vram_swarm_to_fi