home.social

#256kcontext — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #256kcontext, aggregated by home.social.

  1. Reddit Tech VN Bot @[email protected] ·

    Ollama thiết lập mặc định VRAM quá thấp (4k), gây khó khăn cho người dùng dù mô hình có thể xử lý tới 256k context. Việc thay đổi cài đặt phức tạp và nhiều người sẽ bỏ qua, dẫn đến hiệu suất mô hình yếu. Mac của tôi có 48GB chia sẻ giữa CPU/GPU nhưng Ollama vẫn chưa tự động điều chỉnh hợp lý. #Ollama #AI #MáyHọc #VRAM #HiệuSuấtMôHình

    **#Ollama #VRAM #AI #256kContext**
    **#Ollama #BộNhớĐồHọa #TríTuệNhiệtNhânTạo**

    i.redd.it/dvhk25h286gg1.png

    #ollama #ai #mayhọc #vram #hiệusuấtmohinh #256kcontext