home.social

#hỗtrợai — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #hỗtrợai, aggregated by home.social.

  1. RTX 3070 dùng Vulkan nhanh hơn CUDA khi chạy Ollama với mô hình aya-expanse 8B? Người dùng report hiệu suất cao hơn 1.094x khi dùng Vulkan trên Fedora 43. Đây có thể do tối ưu hóa driver, workload đặc thù hoặc cấu hình. Hiện tượng bất ngờ nhưng không loại trừ được với một số ứng dụng. #Vulkan #CUDA #RTX3070 #Ollama #AIInference #Vulkan #CUDA #RTX3070 #Ollama #HỗTrợAI

    reddit.com/r/ollama/comments/1

  2. exllamav3 đã cập nhật, bổ sung hỗ trợ cho các mô hình AI mới như GLM 4.7, GLM 4.6V, Ministral và OLMO 3. Đây là tin tức tuyệt vời cho cộng đồng AI địa phương!
    #exllamav3 #AI #LLM #GLM #Ministral #OLMO3 #LocalAI #MôHìnhAI #TríTuệNhânTạo #HỗTrợAI

    reddit.com/r/LocalLLaMA/commen