home.social

#qat — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #qat, aggregated by home.social.

  1. ⚽ Probabilistic forecasts for today's matches at using our machine learning ensemble.

    In Group B:
    🥅 Mean goals: 1.6-0.9

    🇧🇦 53.9%
    Draw 25.2%
    🇶🇦 20.9%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  2. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #BIHQAT #BIH #QAT
    🥅 Mean goals: 1.6-0.9

    🇧🇦 53.9%
    Draw 25.2%
    🇶🇦 20.9%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  3. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #BIHQAT #BIH #QAT
    🥅 Mean goals: 1.6-0.9

    🇧🇦 53.9%
    Draw 25.2%
    🇶🇦 20.9%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  4. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #BIHQAT #BIH #QAT
    🥅 Mean goals: 1.6-0.9

    🇧🇦 53.9%
    Draw 25.2%
    🇶🇦 20.9%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  5. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #BIHQAT #BIH #QAT
    🥅 Mean goals: 1.6-0.9

    🇧🇦 53.9%
    Draw 25.2%
    🇶🇦 20.9%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  6. BiH favored to edge Qatar in the WC clash; kickoff 21:00 CEST. A lively, hopeful night ahead.

    Bosnia and Herzegovina 53.2%
    Draw 27.6%
    Qatar 19.2%

    #Football #Soccer #Weltmeisterschaft #WorldCup #WM2026 #BIH #QAT #BIHQAT

  7. BiH favored to edge Qatar in the WC clash; kickoff 21:00 CEST. A lively, hopeful night ahead.

    Bosnia and Herzegovina 53.2%
    Draw 27.6%
    Qatar 19.2%

    #Football #Soccer #Weltmeisterschaft #WorldCup #WM2026 #BIH #QAT #BIHQAT

  8. BiH favored to edge Qatar in the WC clash; kickoff 21:00 CEST. A lively, hopeful night ahead.

    Bosnia and Herzegovina 53.2%
    Draw 27.6%
    Qatar 19.2%

    #Football #Soccer #Weltmeisterschaft #WorldCup #WM2026 #BIH #QAT #BIHQAT

  9. BiH favored to edge Qatar in the WC clash; kickoff 21:00 CEST. A lively, hopeful night ahead.

    Bosnia and Herzegovina 53.2%
    Draw 27.6%
    Qatar 19.2%

    #Football #Soccer #Weltmeisterschaft #WorldCup #WM2026 #BIH #QAT #BIHQAT

  10. BiH favored to edge Qatar in the WC clash; kickoff 21:00 CEST. A lively, hopeful night ahead.

    Bosnia and Herzegovina 53.2%
    Draw 27.6%
    Qatar 19.2%

    #Football #Soccer #Weltmeisterschaft #WorldCup #WM2026 #BIH #QAT #BIHQAT

  11. Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+

    Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.

    habr.com/ru/articles/1050030/

    #TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование

  12. Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+

    Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.

    habr.com/ru/articles/1050030/

    #TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование

  13. Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+

    Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.

    habr.com/ru/articles/1050030/

    #TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование

  14. Нейросеть за 50 центов (~36 ₽): TernML, тернарный ИИ без FPU

    В прошлый раз я рассказал про GraphKAN, первую тернарную KAN с весами {-1, 0, +1}, которая выдала 96.15% на MNIST при 15 КБ. ( ссылка ). С тех пор проект переродился. Рассказываю, что изменилось и почему.

    habr.com/ru/articles/1049940/

    #TernML #тернарные_нейросети #TinyML #микроконтроллеры #квантизация #QAT #Edge_AI #STM32

  15. Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше

    Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.

    habr.com/ru/articles/1049822/

    #KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32

  16. Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше

    Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.

    habr.com/ru/articles/1049822/

    #KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32

  17. Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше

    Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.

    habr.com/ru/articles/1049822/

    #KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32

  18. ⚽ Probabilistic forecasts for today's matches at using our machine learning ensemble.

    In Group B:
    🥅 Mean goals: 2.0-0.7

    🇨🇦 68.9%
    Draw 19.8%
    🇶🇦 11.3%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  19. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #CANQAT #CAN #QAT
    🥅 Mean goals: 2.0-0.7

    🇨🇦 68.9%
    Draw 19.8%
    🇶🇦 11.3%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  20. Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM

    Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.

    habr.com/ru/articles/1048200/

    #TinyML #Edge_AI #KAN #нейросети #тернарные_веса #VSA #QAT

  21. Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM

    Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.

    habr.com/ru/articles/1048200/

    #TinyML #Edge_AI #KAN #нейросети #тернарные_веса #VSA #QAT

  22. Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM

    Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.

    habr.com/ru/articles/1048200/

    #TinyML #Edge_AI #KAN #нейросети #тернарные_веса #VSA #QAT

  23. #Qatar last minute draw was magical. They didn't give in, but #Switzerland let them in.

    It was known that Quatar would have at least a couple of opportunities, the problem was capitalizing them. Complacence by Switzerland = 2 points lost.

    Everyone in the group is tied now with 1 point. LOL.

    #QATSUI #Football #WorldCup #FIFA #FIFAWorldCup #QAT #SUI

  24. #Qatar last minute draw was magical. They didn't give in, but #Switzerland let them in.

    It was known that Quatar would have at least a couple of opportunities, the problem was capitalizing them. Complacence by Switzerland = 2 points lost.

    Everyone in the group is tied now with 1 point. LOL.

    #QATSUI #Football #WorldCup #FIFA #FIFAWorldCup #QAT #SUI

  25. ⚽ Probabilistic forecasts for today's matches at using our machine learning ensemble.

    In Group B:
    🥅 Mean goals: 0.6-2.1

    🇶🇦 9.4%
    Draw 18.0%
    🇨🇭 72.6%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  26. ⚽ Probabilistic forecasts for today's matches at #FIFA2026 using our machine learning ensemble.

    In Group B: #QATSUI #QAT #SUI
    🥅 Mean goals: 0.6-2.1

    🇶🇦 9.4%
    Draw 18.0%
    🇨🇭 72.6%

    Heatmap with probabilistic forecasts for the possible outcomes of the match:

  27. RT @NeoAIForecast: Gemma 4 12B auf einer AMD Radeon RX 7800 XT mit llama.cpp ROCm/HIP benchmarked. Verglichen: Original Q4KXL, QAT Q4KXL, QAT Q4KXL + MTP Drafter. Leistung: Original: 1325 pp512, 44.2 tg128, 41.7 tok/s Server, QAT: 1413 pp512, 54.8 tg128, 52.4 tok/s Server, QAT + MTP: 1400 pp512, 54.8 tg128, 76.8 tok/s Server. Ich weiß nicht, warum das Original bei EVAL+ so niedrig abschnitt. Qualitätssteigerungen durch QAT: HumanEval: 75,0% → 91,5%, HumanEval+: 24,4% → 87,2%, MBPP+: 64,0% → 67,2%, IFEval Strict: 65,3% → 66,4%, GSM8K: 93,1% → 93,7%. QAT war das herausragende Ergebnis. Schnellere Generierung, deutlich bessere Coding-Leistung und keine signifikanten Einbußen an anderer Stelle. MTP steigerte dann den Server-Durchsatz weiter auf 76,8 tok/s, ohne die Benchmark-Qualität in diesem Durchlauf zu beeinträchtigen.

    mehr auf Arint.info

    #AMD #Benchmarking #Gemma4 #LLM #MachineLearning #QAT #arint_info

    https://x.com/NeoAIForecast/status/2064092299148374454#m

  28. 「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
    forest.watch.impress.co.jp/doc

    #forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini

  29. 「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
    forest.watch.impress.co.jp/doc

    #forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini

  30. 「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
    forest.watch.impress.co.jp/doc

    #forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini

  31. #localai #speed vergleich #tokens

    in #lmstudio auf #macstudio #m4max #128gbram

    #llms
    google/gemma-4-26b-a4b(q8) = 76 token/s
    google/gemma-4-26b-a4b-qat(q4) = 106 token/s

    +39% speed

    und laut google soll die quantisierung bei #qat keine einfluss haben:
    Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.

    bei 11gb weniger #ram belegung

    natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu

    wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P

  32. #localai #speed vergleich #tokens

    in #lmstudio auf #macstudio #m4max #128gbram

    #llms
    google/gemma-4-26b-a4b(q8) = 76 token/s
    google/gemma-4-26b-a4b-qat(q4) = 106 token/s

    +39% speed

    und laut google soll die quantisierung bei #qat keine einfluss haben:
    Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.

    bei 11gb weniger #ram belegung

    natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu

    wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P

  33. #localai #speed vergleich #tokens

    in #lmstudio auf #macstudio #m4max #128gbram

    #llms
    google/gemma-4-26b-a4b(q8) = 76 token/s
    google/gemma-4-26b-a4b-qat(q4) = 106 token/s

    +39% speed

    und laut google soll die quantisierung bei #qat keine einfluss haben:
    Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.

    bei 11gb weniger #ram belegung

    natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu

    wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P

  34. #localai #speed vergleich #tokens

    in #lmstudio auf #macstudio #m4max #128gbram

    #llms
    google/gemma-4-26b-a4b(q8) = 76 token/s
    google/gemma-4-26b-a4b-qat(q4) = 106 token/s

    +39% speed

    und laut google soll die quantisierung bei #qat keine einfluss haben:
    Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.

    bei 11gb weniger #ram belegung

    natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu

    wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P

  35. vergleich

    in auf


    google/gemma-4-26b-a4b(q8) = 76 token/s
    google/gemma-4-26b-a4b-qat(q4) = 106 token/s

    +39% speed

    und laut google soll die quantisierung bei keine einfluss haben:
    Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.

    bei 11gb weniger belegung

    natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu

    wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay user lassen wir dann zurück :-P

  36. Gemma 4 QAT is here - now I’m waiting for Ollama TurboQuant so the full stack is ready: QAT, MoE, sparse-active models, smarter attention, and MTP speculative decoding. #Gemma4 #Ollama #TurboQuant #QAT #MoE #MTP #LocalAI

  37. Gemma 4 QAT is here - now I’m waiting for Ollama TurboQuant so the full stack is ready: QAT, MoE, sparse-active models, smarter attention, and MTP speculative decoding. #Gemma4 #Ollama #TurboQuant #QAT #MoE #MTP #LocalAI

  38. Gemma 4 QAT is here - now I’m waiting for Ollama TurboQuant so the full stack is ready: QAT, MoE, sparse-active models, smarter attention, and MTP speculative decoding. #Gemma4 #Ollama #TurboQuant #QAT #MoE #MTP #LocalAI

  39. Gemma 4 QAT is here - now I’m waiting for Ollama TurboQuant so the full stack is ready: QAT, MoE, sparse-active models, smarter attention, and MTP speculative decoding. #Gemma4 #Ollama #TurboQuant #QAT #MoE #MTP #LocalAI

  40. Gemma 4 QAT is here - now I’m waiting for Ollama TurboQuant so the full stack is ready: QAT, MoE, sparse-active models, smarter attention, and MTP speculative decoding. #Gemma4 #Ollama #TurboQuant #QAT #MoE #MTP #LocalAI

  41. RT @spiritbuun: Mein allererster Quant wird in der nächsten Woche veröffentlicht. Ich arbeite bereits seit über einem Monat daran. Das Rezept steht. Die QAT ist abgeschlossen. Dies ist nicht einfach nur Quantisierung. Dies ist der intelligenteste B27, den es je gab. Video

    mehr auf Arint.info

    #AI #B27 #MachineLearning #QAT #Quantization #Tech #arint_info

    https://x.com/spiritbuun/status/2061881478397485295#m