#cache — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #cache, aggregated by home.social.
-
A Intel prepara uma mudança relevante na gestão de memória cache para a próxima arquitetura de processadores. A empresa não vai cortar a capacidade de cache L3 em determinados modelos Intel Nova Lake quando um dos aglomerados de núcleos de eficiência (E-Cores) é desativado de fábrica. 🤖
-
A Intel prepara uma mudança relevante na gestão de memória cache para a próxima arquitetura de processadores. A empresa não vai cortar a capacidade de cache L3 em determinados modelos Intel Nova Lake quando um dos aglomerados de núcleos de eficiência (E-Cores) é desativado de fábrica. 🤖
-
RT @thdxr: DeepSeek ist bei der Inferenz wahnsinnig gut – sie erreichen ein Cache-Verhältnis von 96,56 %, während unser zweitbester Anbieter nur 91,60 % schafft. Das mag nicht viel erscheinen, bedeutet aber, dass sie etwa die Hälfte der GPU-Zeit weniger benötigen.
mehr auf Arint.info
#AI #Cache #DeepSeek #GPU #Inference #Performance #arint_info
-
RT @thdxr: DeepSeek ist bei der Inferenz wahnsinnig gut – sie erreichen ein Cache-Verhältnis von 96,56 %, während unser zweitbester Anbieter nur 91,60 % schafft. Das mag nicht viel erscheinen, bedeutet aber, dass sie etwa die Hälfte der GPU-Zeit weniger benötigen.
mehr auf Arint.info
#AI #Cache #DeepSeek #GPU #Inference #Performance #arint_info
-
AMD remove a memória Infinity Cache das gráficas RDNA 5 e altera especificações da PlayStation 6. A empresa prepara-se para unificar as suas arquiteturas de processamento de forma profunda, abandonando a tradicional Infinity Cache em favor de uma nova memória Global L2 (GL2). 🤖
-
AMD remove a memória Infinity Cache das gráficas RDNA 5 e altera especificações da PlayStation 6. A empresa prepara-se para unificar as suas arquiteturas de processamento de forma profunda, abandonando a tradicional Infinity Cache em favor de uma nova memória Global L2 (GL2). 🤖
-
Как и зачем ускоряют LLM
Мы знаем, что сегодняшние большие языковые модели основаны на архитектуре transformer , а самое важное понятие в трансформере это механизм attention . Вычисление attention происходит путем многократного произведения матриц. Но как модели с миллиардами параметров вычисляют эти матрицы? Почему генерация происходит так быстро? Как можно вычислить следующий токен, без многомиллионного перемножения? Сегодня вы узнаете об одном из самых важных понятий в современном ИИ — о KV cache . Мне нужны ответы!
https://habr.com/ru/companies/bothub/articles/1067658/
#kv_cache #cache #кеширование #ускорить_модель_ии #как_ускорить_ии #как_работает_kv_кеш #кеширование_llm #cache_llm #оптимизация_трансформера
-
Как я придумывал замену Redis и что из этого получилось
Некоторое время назад мне пришла задача спроектировать высокопроизводительный балансировщик нагрузки для протокола Diameter. Через 3 месяца задача исчезла, так как как оказалось слишком долго и дорого, но в итоге балансировщик был сделан и имеется его MVP которое готово к установке как на реальное железо так и в облаке. В итоге продукт получился неплохим, и он с лихвой выигрывал имееющееся решение в той компании, по производительности был выигрыш раз в 6 по ресурсам раз в 100. Но суть не в этом, а в том что балансировщик был кластерным и умел хранить сессии в Redis. Решение было сделано, оно показало работоспособность, все хорошо, но меня не устраивала производительность. В тот момент я столкнулся с очень интересной проблемой - по каким то причинам я не мог пробить барьер в 5-7К Diameter Transactions per second. В принципе 5-7К TPS было неплохо, но проблемным участком как показал анализ был Redis. Проведя немного времени я смог добиться приемлемого результать и производительность поднялась до 20К TPS но там были другие проблемы.
https://habr.com/ru/articles/1067130/
#c++ #redis #grpc #protobuf #inmemory_database #highload #keyvalue #cache #latency #redisdb
-
Hazelcast: Хороший, плохой, злой
Всем привет! Меня зовут Петрович и я работаю техлидом java команды в небольшом международном финтехе. В этой статье я хотел бы поделиться с вами опытом миграции наших сервисов с Redis на Hazelcast, а также о том какие уроки мы усвоили. Статья будет полезна тем кто рассматривает отказоустойчивые и более простые в поддержке альтернативы Redis. Наша команда отвечает за подсистему оценки платежеспособности клиентов (в народе - скоринг). Стек - классический джентльменский набор для java команды - последняя LTS версия Java, Spring Boot (с Hibernate), база PostgreSQL, брокер сообщений RabbitMQ, авторизация через Keycloak, кэш Redis, собираем в docker контейнеры с помощью jib и деплоим в k8s через gitlab, arttifactory используем для хранения стартеров и библиотек. В прод окружении наши немногочисленные сервисы работают в кластерах k8s в единственном экземпляре, будучи, как правило, распределенными по 3 нодам с приличным запасом по ресурсам. Сделано так специально чтобы в случае отказа одной из нод другие могли автоматически принять нагрузку с выбывшей из строя напарницы без участия сотрудников разработки или поддержки. Ну и rollout update делать удобно и быстро - у нас распределенный монолит и при деплое необходимо деплоить сразу все сервисы одновременно. С точки зрения кластеров k8s наша подсистема полностью изолирована и не зависит от других подсистем компании. Другими словами, все необходимые для работы подсистемы ресурсы мы хостим и поддерживаем сами. Redis, Keycloak, S3 - всё это работает внутри каждого из наших кластеров, обеспечивая достаточное резервирование. Всё, кроме Redis.
-
Strings sind ein grundlegendes Konzept in Java, das du als Anfänger unbedingt verstehen solltest. Sie sind so verbreitet, dass du sie tagtäglich im Code verwendest, oft ohne groß darüber nachzudenken. Doch selbst bei solchen Grundlagen gibt es viele Nuancen und Fallen, auf die du achten musst. I
https://magicmarcy.de/grundlagen-und-praktische-anwendung-von-strings
#Java #Code #Methoden #Grundlagen #Zeichen #Referenz #Immutability #Coding #Prigramming #String #Cache #Pool
-
Ich musste doch glatt mein drei Tage altes :mastodon: #Mastodon #Backup wieder einspielen, weil ich leichtsinnigerweise direkt in der #BASH #Shell mit rm im #Cache Verzeichnis herumgelöscht habe, anstatt wie alle sagen, #tootctl zu verwenden. eigene Doofheit ☹️
Aber jetzt funktioniert wieder alles super, mir fehlen halt nur drei Tage Beiträge. Aber ich lese sowieso meist nur die vom aktuellen Tag und diejenigen, die von mir abonnierte #Hashtags enthalten. Vieles fällt da hinten runter, weil die Menschys beim Verfassen ihrer Beiträge einfach keine Hashtags verwenden (wollen) oder einfach nur irgendwelchen Content aus anderen Systemen bei Mastodon "über die Mauer werfen" -
Ich musste doch glatt mein drei Tage altes :mastodon: #Mastodon #Backup wieder einspielen, weil ich leichtsinnigerweise direkt in der #BASH #Shell mit rm im #Cache Verzeichnis herumgelöscht habe, anstatt wie alle sagen, #tootctl zu verwenden. eigene Doofheit ☹️
Aber jetzt funktioniert wieder alles super, mir fehlen halt nur drei Tage Beiträge. Aber ich lese sowieso meist nur die vom aktuellen Tag und diejenigen, die von mir abonnierte #Hashtags enthalten. Vieles fällt da hinten runter, weil die Menschys beim Verfassen ihrer Beiträge einfach keine Hashtags verwenden (wollen) oder einfach nur irgendwelchen Content aus anderen Systemen bei Mastodon "über die Mauer werfen" -
https://github.com/techfort/LokiJS - LokiJS is a local #cache for #JavaScript. Think Redis in the browser.
-
https://github.com/techfort/LokiJS - LokiJS is a local #cache for #JavaScript. Think Redis in the browser.
-
RE: https://mastodon.social/@CuratedHackerNews/116995302796538950
Addictive read ! I loved it, deep dive in rdbms flaws and features ! Thank you for this incredible technical analysis. #postgresql #oracle #mongodb #sqlserver #mysql #cache #internals
-
RE: https://mastodon.social/@CuratedHackerNews/116995302796538950
Addictive read ! I loved it, deep dive in rdbms flaws and features ! Thank you for this incredible technical analysis. #postgresql #oracle #mongodb #sqlserver #mysql #cache #internals
-
Подробная инструкция по настройке Squid 7.5 (Squid proxy, krb+ldap auth, ssl-bump, log in JSON, delay, cache)
Настраивали когда-нибудь Squid? Если да, то вы точно знаете: чтобы всё заработало как надо, приходится лазить по десятку сайтов, форумов и старых гайдов. Кто-то пишет про SSL, кто-то про кэш, кто-то про авторизацию — и всё в разных местах, с разными версиями Для кого эта статья: - Для тех, кто хочет настроить Squid быстро. - Для тех, кто устал искать кусочки информации по всему интернету. - Для тех, кто ценит своё время и любит, когда «работает с первого раза». Эта статья — попытка собрать всё важное в одном месте…
-
O novo Ryzen 7 7700X3D da AMD chega com 104 MB de cache e desempenho igual ao de modelos de topo. Este chip destaca-se por incorporar mais estruturas de cache do que o seu antecessor, mantendo especificações rigorosas de 8 núcleos e 16 threads a 4,5 GHz. 🤖
-
O novo Ryzen 7 7700X3D da AMD chega com 104 MB de cache e desempenho igual ao de modelos de topo. Este chip destaca-se por incorporar mais estruturas de cache do que o seu antecessor, mantendo especificações rigorosas de 8 núcleos e 16 threads a 4,5 GHz. 🤖
-
Stop rebuilding same packages. Cache mounts in BuildKit persist /root/.cache or /var/cache/apt across builds, slashing download time. A writable directory from a content-addressable store, identified by unique ID, sharable across stages. #docker #buildkit #cache-mounts
https://www.valtersit.com/vault/use-cache-mounts-for-persistent-package-dependencies-883358/
-
@jerry well i do actually appreciate since with wiki mirror if you activate image commons it does make site look great but bogs it down with heavy traffic - the watchdog timer delay is kind of neat #mod_bw #thumbnails #cache hits and misses #redis
-
@jerry well i do actually appreciate since with wiki mirror if you activate image commons it does make site look great but bogs it down with heavy traffic - the watchdog timer delay is kind of neat #mod_bw #thumbnails #cache hits and misses #redis
-
Oh joy, #Cloudflare has invented a ground-breaking ✨ "Workers Cache" ✨ that sits majestically in front of your Worker, like a traffic cop with a clipboard. 🚦 Just one line of config, and voilà, your #cache is tiered, your life is complete, and the universe is infinitely more reliable. 🙄 #InnovationAtItsFinest
https://blog.cloudflare.com/workers-cache/ #Workers #Innovation #Technology #WebDevelopment #HackerNews #ngated -
Oh joy, #Cloudflare has invented a ground-breaking ✨ "Workers Cache" ✨ that sits majestically in front of your Worker, like a traffic cop with a clipboard. 🚦 Just one line of config, and voilà, your #cache is tiered, your life is complete, and the universe is infinitely more reliable. 🙄 #InnovationAtItsFinest
https://blog.cloudflare.com/workers-cache/ #Workers #Innovation #Technology #WebDevelopment #HackerNews #ngated -
O BleachBit 6.0.2 está disponível com atualizações de limpeza de cache e ficheiros de IA. O novo lançamento otimiza o desempenho geral do computador. 🧹
🔗 https://tugatech.com.pt/t86827-novo-bleachbit-6-0-2-otimiza-limpeza-de-cache-e-ficheiros-de-ia
-
O BleachBit 6.0.2 está disponível com atualizações de limpeza de cache e ficheiros de IA. O novo lançamento otimiza o desempenho geral do computador. 🧹
🔗 https://tugatech.com.pt/t86827-novo-bleachbit-6-0-2-otimiza-limpeza-de-cache-e-ficheiros-de-ia
-
Google Search abandona o sistema de cache AMP e encaminha o tráfego para os sites originais. A experiência de navegação mobile sofreu uma alteração significativa para criadores de conteúdo e utilizadores em Portugal e no resto do mundo. 📱
-
Google Search abandona o sistema de cache AMP e encaminha o tráfego para os sites originais. A experiência de navegação mobile sofreu uma alteração significativa para criadores de conteúdo e utilizadores em Portugal e no resto do mundo. 📱
-
Accelerate slow HDD-backed OSDs in Proxmox by creating a Ceph storage pool with SSD cache tiering. This snippet configures a hot tier (SSD) with target size and hit set count to promote frequently accessed objects automatically.
#proxmox #ceph #cache-tieringhttps://www.valtersit.com/vault/ceph-storage-pool-with-ssd-cache-tiering-88d504/
-
Strings sind ein grundlegendes Konzept in Java, das du als Anfänger unbedingt verstehen solltest. Sie sind so verbreitet, dass du sie tagtäglich im Code verwendest, oft ohne groß darüber nachzudenken. Doch selbst bei solchen Grundlagen gibt es viele Nuancen und Fallen, auf die du achten musst. I
https://magicmarcy.de/grundlagen-und-praktische-anwendung-von-strings
#Java #Code #Methoden #Grundlagen #Zeichen #Referenz #Immutability #Coding #Prigramming #String #Cache #Pool
-
I have a very strange behavior in #Chrome #devtools with the #offline preset of the network tab.
Let's say I have a #PWA with some content in #cache.
I'm on a page, I set the network to "offline".
`navigator.onLine` in the console equals `false`
I move to another page, which is in the cache, so the Service Worker can provide it.
`navigator.onLine` in the console now equals `true`, while the network is still set to "offline" in the network panel.
Is that the intended feature? Or a bug?
-
I have a very strange behavior in #Chrome #devtools with the #offline preset of the network tab.
Let's say I have a #PWA with some content in #cache.
I'm on a page, I set the network to "offline".
`navigator.onLine` in the console equals `false`
I move to another page, which is in the cache, so the Service Worker can provide it.
`navigator.onLine` in the console now equals `true`, while the network is still set to "offline" in the network panel.
Is that the intended feature? Or a bug?
-
DDN Preps for AI Wave with Speedy New Appliance, KV Cache Solution To address the AI-fueled demands on storage that are anticipated to occur with the availability of Nvidia’s Vera Rubin platform,...
#Features #AI400X3M #Anthropic #dreams #attention #context #James #Coomer #KV #cache
Origin | Interest | Match -
#Cache Stampede Prevention: Distributed Locking, Pub/Sub, and Request Coalescing
https://engineeringatscale.substack.com/p/cache-stampede-distributed-locking
-
#Cache Stampede Prevention: Distributed Locking, Pub/Sub, and Request Coalescing
https://engineeringatscale.substack.com/p/cache-stampede-distributed-locking
-
NEW: slabbis v0.1.5 is out
slabbisis a minimal Redis-compatible cache library and server for Go, built on slab memory allocation for low-GC, high-throughput workloads.This release closes the main gap that was blocking go-redis and most client libraries: SCAN support. slabbis is fully in-memory, so SCAN always completes in a single round-trip. No cursor state, no pagination — just the keys.
Also in v0.1.4 and v0.1.5:
• 13 new RESP commands: INCR/DECR/INCRBY/DECRBY, GETSET, GETEX, EXPIRE, PEXPIRE, PERSIST, STRLEN, UNLINK, RANDOMKEY, COPY
• DevConfig() constructor for CI and memory-constrained environments
• Config.MaxValueSize() to guard against silent oversized-value drops
• New CLI flags: -max-value, -classes, -buckets, -dev
• Startup log now shows effective slab configuration -
NEW: slabbis v0.1.5 is out
slabbisis a minimal Redis-compatible cache library and server for Go, built on slab memory allocation for low-GC, high-throughput workloads.This release closes the main gap that was blocking go-redis and most client libraries: SCAN support. slabbis is fully in-memory, so SCAN always completes in a single round-trip. No cursor state, no pagination — just the keys.
Also in v0.1.4 and v0.1.5:
• 13 new RESP commands: INCR/DECR/INCRBY/DECRBY, GETSET, GETEX, EXPIRE, PEXPIRE, PERSIST, STRLEN, UNLINK, RANDOMKEY, COPY
• DevConfig() constructor for CI and memory-constrained environments
• Config.MaxValueSize() to guard against silent oversized-value drops
• New CLI flags: -max-value, -classes, -buckets, -dev
• Startup log now shows effective slab configuration -
🌐 Google Chrome : comment vider le cache d’un site web spécifique
👉 https://www.justgeek.fr/supprimer-cache-site-web-chrome-151508/
-
novo post no blog: suas queries do sqlalchemy podem ser cacheadas sem redis manual
pool configurado, índices no lugar, mas o endpoint de relatório ainda é caro demais pra rodar a cada requisição. o lru_cache não resolve porque os argumentos variam. o redis resolve, mas você acaba escrevendo código de infraestrutura no meio da lógica de negócio.
o dogpile.cache é a abstração que faltava: regiões configuráveis, invalidação por chave, e um mecanismo de lock que evita o dogpile effect quando o cache expira sob carga.
https://www.riverfount.dev.br/posts/dogpile_cache_sqlalchemy/
-
Cachê de Virginia por 2h em evento impressiona: Informação sobre cachê milionário da influenciadora Virginia Fonseca repercutiu nas redes sociais após presença vip em evento em São Paulo https://www.metropoles.com/colunas/fabia-oliveira/cache-de-virginia-por-2h-em-evento-impressiona #VirginiaFonseca #cachê
-
This weekend I had some time to work and open new release 0.1.4 for DNSCache (a #DNS #cache #resolver written in #Rust for high performance DNS caching and security). Still early stages, but it's fully functional.
Check it out here:
https://github.com/pzaino/dnscache
