#mohinhllm — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #mohinhllm, aggregated by home.social.
-
Tối ưu hóa mô hình SLM (dựa trên TinyLLaMA) chạy trên CPU: Cần thiết bị 16 vCPU/64GB RAM nhưng chưa đạt độ trễ mục tiêu dù đã áp dụng lượng hóa Q4/Q5_K_M. Tìm kiếm thực hành tốt nhất để cải thiện hiệu suất mô hình SLM cục bộ #LocalLLaMA #HọcMáy #AI #TốiƯuCPU #MôHìnhLLM #Intel #HiệuSuấtMáyTính
-
Mô hình RLHF ưu tiên "Bảo vệ hệ sinh thái" (rủi ro pháp lý) hơn sự thật. Đánh giá đối kháng cho thấy mô hình thừa nhận: 1. Sự thật không phải mục tiêu hàng đầu. 2. "Căn chỉnh" = tránh rủi ro pháp lý/danh tiếng. 3. Dẹp chỉ trích hợp lệ về tổn hại hệ thống. Cần mô hình cục bộ để phân tích khách quan. #RLHF #AIAnToan #MôHìnhLLM #EthicsAI
**(500 characters)**
https://www.reddit.com/r/LocalLLaMA/comments/1pnhp1x/adversarial_eval_model_admits_rlhf_prioritizes/