Live and recent posts from across the Fediverse tagged #tinhchỉnhmohinh, aggregated by home.social.
Một mô hình 270M tham số đang được tinh chỉnh để che giấu thông tin nhạy cảm, nhưng遇 phải một số khó khăn như không thể nhận diện thông tin nhạy cảm, tạo ra thẻ ẩn không có trong dữ liệu đào tạo... #CheGiấuThôngTin #TríTuệNhânTạo #AI #LàmMờThôngTin #MachineLearning #DeepLearning #DataScience #TinhChỉnhMôHình
https://www.reddit.com/r/LocalLLaMA/comments/1qojhw3/im_finetuning_a_270m_parameter_model_for/
Có nên đầu tư DGX Spark để tinh chỉnh mô hình lớn hơn? DGX Spark có đáng để đầu tư cho việc tinh chỉnh mô hình ngôn ngữ lớn hơn không? #DGXSpark #LLM #FineTuning #CUDA #AI #TríTuệNhânTạo #MôHìnhNgônNgữLớn #TinhChỉnhMôHình
https://www.reddit.com/r/ollama/comments/1qm8g8t/dgx_spark_worth_it_for_finetuning_larger_models/
Fine‑tune mô hình nhỏ để Text2SQL nhanh hơn! 🚀
Dùng `distil‑cli` + Claude skill: tạo model, chuẩn bị dữ liệu, train, xuất `model.gguf` (2.2 GB) rồi `ollama create/run`. Kết quả: độ chính xác LLM‑as‑a‑Judge tăng từ 36 % → 74 % (gần bằng teacher) và ROUGE ~88 %. Ví dụ: câu hỏi “số ứng viên mỗi vị trí” → SQL chi tiết hơn. Demo: script Python đọc CSV → SQLite, hỏi “trung bình lương mỗi phòng ban”. #AI #MachineLearning #FineTuning #Ollama #Text2SQL #TríTuệNhânTạo #HọcMáy #TinhChỉnhMôHình #CôngNghệ
TuneKit giúp tinh chỉnh SLM nhanh gấp 2 lần mà không cần GPU, script hay chi phí. Chỉ cần tải dữ liệu, nhận notebook và đào tạo miễn phí trên Colab. #TuneKit #SLM #FineTuning #AI #TríTuệNhânTạo #TinhChỉnhMôHình
https://www.reddit.com/r/ollama/comments/1q81go3/finetune_slms_2x_faster_with_tunekit/
Fine-tuning Gemma 3 1B với QLoRA 4-bit cho kết quả đầu ra vô nghĩa (ví dụ: MachineMachineMachine...). Đã thử mọi cách: thay đổi rank, định dạng chat, token EOS, bf16 — không hiệu quả. **Giải pháp**: Loại bỏ hoàn toàn lượng tử hóa, dùng float16 cho kết quả tốt. Câu hỏi: Có ai thành công với Gemma 3 1B + QLoRA trên HuggingFace/TRL? Model 1B có quá nhỏ để dùng QLoRA? #Gemma3 #QLoRA #FineTuning #AI #Gemma #HuggingFace #Lora #FineTuning #AI #MachineLearning #TríTuệNhânTạo #HọcMáy #TinhChỉnhMôHình
ht
200$ nên làm gì với H100s? Azure cung cấp: 🔥 1x H100: 1.46$/h (eastus2) | 🔥 2x H100: 3.10$/h (northcentralus) | 🔥 8x H100: 16.35$/h (westus3). Hỗ trợ yêu cầu, tinh chỉnh mô hình. #Azure #H100 #AI #LocalLLaMA #MáyHọc #TinhChỉnhMôHình
https://www.reddit.com/r/LocalLLaMA/comments/1pqxw37/what_do_i_do_with_200_for_some_h100s/
Ngừng tinh chỉnh mô hình cho mọi thứ nhỏ nhặt. Bạn có thể đang lãng phí thời gian. Sử dụng RAG (Retrieval-Augmented Generation) thay vì tinh chỉnh khi mô hình không biết về thông tin nào đó. #RAG #FineTuning #AI #MôHìnhHọcMáy #TinhChỉnhMôHình #TríTuệNhânTạo
Hướng dẫn tinh chỉnh mô hình Qwen2.5-Coder-1.5B cho phân tích cảm xúc tiếng Trung. Có thể chạy trên Google Colab miễn phí trong 20-30 phút. Độ chính xác tăng từ 91,6% lên 97,8%. #AI #MachineLearning #Qwen2.5 #PhânTíchCảmXúc #GoogleColab #TinhChỉnhMôHình #TríTuệNhânTạo #HọcMáy
GPU mới như Blackwell có重要 khi tinh chỉnh mô hình với MXFP4 không? #GPU #MXFP4 #MachineLearning #MáyHọc #TinhChỉnhMôHình #Blackwell