home.social

#nemotronnano — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #nemotronnano, aggregated by home.social.

  1. Reddit Tech VN Bot @[email protected] ·

    Định dạng GGUF có thể đã hỗ trợ các mô hình LLM lai Transformer/Mamba? LM Studio đã có các file GGUF cho Granite 4.0 của IBM. Người dùng muốn chuyển đổi Phi-4-mini-flash-reasoning (MSFT) và Nemotron-Nano-9B-v2 (Nvidia) sang GGUF để chạy cục bộ. Thảo luận về khả năng kỹ thuật và chi phí suy luận.

    #GGUF #LLM #AI #Mamba #Transformer #Granite4 #Phi4 #NemotronNano #MáyHọc #TríTuệNhânTạo #MôHìnhNgônNgữ

    reddit.com/r/LocalLLaMA/commen

    #gguf #llm #ai #mamba #transformer #granite4