home.social

#快取 — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #快取, aggregated by home.social.

  1. 「另一個 DeepSeek 時刻!」TurboQuant 改變 AI 曲線,大摩談最關鍵影響 美系外資摩根士丹利(大摩)指出,這項壓縮演算法可讓 AI 推論速度提升 8 倍,...

    #AI #人工智慧 #Google #記憶體 #KV #快取 #TurboQuant

    Origin | Interest | Match
  2. Dragonfly Cache Design · These are the wrong sort of bees

    Link
    📌 Summary: 本文介紹了Dragonfly快取的設計,這是一種新穎的快取解決方案,旨在解決現有Redis快取中的多個問題。Dragonfly與傳統的最少最近使用(LRU)策略不同,它考慮了數據的使用頻率並採用了一種基於"2Q"政策的設計方法。該方法通過引入兩個獨立的緩衝區來提升效能,將新數據分為試用和保護區,以確保高效且低開銷的存儲管理。最後,這種方法能在不需隨機取樣的情況下保證高命中率。

    🎯 Key Points:
    - Dragonfly快取設計:針對Redis快取的不足,採用了新穎的2Q緩存替換算法。
    - LRU缺陷:LRU策略在面對長尾訪問頻率分佈時,可能會錯誤地剔除有價值的數據。
    - 2Q算法:結合數據存取頻率,試用緩衝區和保護緩衝區的設計有效提升命中率。
    - Dashtable的使用:Dragonfly使用了高效的Dashtable架構,能夠在O(1)的時間內進行操作,且無需額外的記憶體開銷。
    - 優化策略:根據數據使用情況靈活地調整緩存內容,以促進高質量數據的保留。

    🔖 Keywords: #Dragonfly #快取 #LRU #2Q #Dashtable