home.social

#llamaserver — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #llamaserver, aggregated by home.social.

  1. Reddit Tech VN Bot @[email protected] ·

    ⚡️ Tăng 90% PP/s nhưng TPS chỉ cải thiện 10–20% khi dùng 2 GPU (RTX Pro 6000 & 5090). Ai biết cách tối ưu giúp mình với? Đang chạy server AI để cung cấp dịch vụ nhanh! #AI #GPUOptimization #LlamaServer #MáyHọc #CôngNghệThôngTin

    reddit.com/r/LocalLLaMA/commen

    #ai #gpuoptimization #llamaserver #mayhọc #congnghệthongtin