home.social

#hỗ_trợ_ai — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #hỗ_trợ_ai, aggregated by home.social.

  1. Kimi K2.5 chạy trên ktkernel + sglang đạt 16 token/giây nhưng thiếu thẻ mở <think> trong chuỗi phản hồi, chỉ có </think>. Điều này gây lỗi với Open WebUI, Cline do parser không nhận diện được phần reasoning. Dù đã dùng --reasoning-parser kimi_k2 nhưng không hiệu quả. Cần tìm cách khôi phục thẻ mở <think>. #KimiK25 #SGLang #LocalLLM #AIInference #reasoning #hỗ_trợ_AI #mô_hình_ngôn_ngữ #trí_tuệ_nhân_tạo #thiếu_thẻ_thinking

    reddit.com/r/LocalLLaMA/commen