#qat — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #qat, aggregated by home.social.
-
https://www.lovenba.com/1784723/ India 🇮🇳 v Qatar 🇶🇦 | Extended Highlights | FIBA Basketball World Cup 2027 Asian Qualifiers #02072026 #Basketball #BasketballVideos #fiba #FIBABasketballWorldCup2027AsianQualifiers #FIBABasketballWorldCup2027AsianQualifiers2027 #highlights #ind #INDVQAT02072026 #India #India(IND) #IndiaVsQatar #QAT #Qatar #Qatar(QAT)
-
https://www.lovenba.com/1784476/ India 🇮🇳 v Qatar 🇶🇦 | Highlights | FIBA Basketball World Cup 2027 Asian Qualifiers #02072026 #Basketball #BasketballVideos #fiba #FIBABasketballWorldCup2027AsianQualifiers #FIBABasketballWorldCup2027AsianQualifiers2027 #highlights #ind #INDVQAT02072026 #India #India(IND) #IndiaVsQatar #QAT #Qatar #Qatar(QAT)
-
https://www.lovenba.com/1783448/ Qatar 🇶🇦 v Saudi Arabia 🇸🇦 | Highlights | FIBA Basketball World Cup 2027 Asian Qualifiers #29062026 #Basketball #BasketballVideos #fiba #FIBABasketballWorldCup2027AsianQualifiers #FIBABasketballWorldCup2027AsianQualifiers2027 #highlights #KSA #QAT #QATVKSA29062026 #Qatar #Qatar(QAT) #QatarVsSaudiArabia #SaudiArabia #SaudiArabia(KSA)
-
Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+
Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.
https://habr.com/ru/articles/1050030/
#TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование
-
Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+
Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.
https://habr.com/ru/articles/1050030/
#TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование
-
Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+
Продолжение цикла. До этого были базовые цифры и анонс 5 архитектур. Теперь - что сломалось, как чинили, что узнали.
https://habr.com/ru/articles/1050030/
#TernML #тернарные_нейросети #TinyML #микроконтроллеры #QAT #ViT #CNN #GraphKAN #CortexM0+ #квантование
-
Нейросеть за 50 центов (~36 ₽): TernML, тернарный ИИ без FPU
В прошлый раз я рассказал про GraphKAN, первую тернарную KAN с весами {-1, 0, +1}, которая выдала 96.15% на MNIST при 15 КБ. ( ссылка ). С тех пор проект переродился. Рассказываю, что изменилось и почему.
https://habr.com/ru/articles/1049940/
#TernML #тернарные_нейросети #TinyML #микроконтроллеры #квантизация #QAT #Edge_AI #STM32
-
Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше
Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.
https://habr.com/ru/articles/1049822/
#KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32
-
Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше
Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.
https://habr.com/ru/articles/1049822/
#KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32
-
Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше
Это продолжение поста “Две нейросети по 15 КБ” - там были базовые цифры. А тут уже личная история: как делалось, что пошло не так, и что выяснилось по пути. Май 2024 года. Выходит статья “KAN: Kolmogorov-Arnold Networks”. И происходит то, что бывает раз в несколько лет - кто-то предлагает альтернативу MLP. Не модификацию и не лайфхак - альтернативу. В MLP каждый нейрон делает weight × input + bias , и все 80 лет развития - это вариации на тему “как сделать этот вес точнее, быстрее, разреженнее”. KAN предлагает другое: заменить линейный вес на обучаемую функцию. Вроде мелкий трюк, а на практике - меньше параметров при той же точности и встроенная интерпретируемость. К 2026 году уже появились QuantKAN (4-битное квантование), KANtize (2-3-битные B-spline таблицы), BiKA (аппаратный акселератор, вдохновленный KAN). И все они, по сути, про одно - сделать KAN меньше, чтоб работал не только на GPU. Граница в три бита - она же психологическая. Ниже 4 бит у всех начинается «а вдруг всё сломается». И знаете что? Обычно так и есть. Любой, кто квантовал нейросети в 2 бита, знает: точность падает. Не чуть-чуть - катастрофически. Но {-1, 0, +1} - это даже не два бита, это log₂(3) ≈ 1.58 бита. Формально - между binary и ternary, а по ощущениям - чистое безумие. Ну я и решил попробовать.
https://habr.com/ru/articles/1049822/
#KAN #KolmogorovArnold_Networks #тернарные_веса #квантование #QAT #TinyML #Edge_AI #MNIST #регуляризация #STM32
-
Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM
Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.
-
Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM
Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.
-
Две нейросети по 15 КБ: тернарный KAN и рассуждение без LLM
Тернарный KAN 15.4 КБ с точностью 96.15% на MNIST и система многошагового рассуждения VSA‑Reasoner без LLM с 90% точностью. Оба изобретения используют тернарные веса {-1,0,+1}, работают на CPU и упаковываются в десятки килобайт.
-
#Qatar last minute draw was magical. They didn't give in, but #Switzerland let them in.
It was known that Quatar would have at least a couple of opportunities, the problem was capitalizing them. Complacence by Switzerland = 2 points lost.
Everyone in the group is tied now with 1 point. LOL.
-
#Qatar last minute draw was magical. They didn't give in, but #Switzerland let them in.
It was known that Quatar would have at least a couple of opportunities, the problem was capitalizing them. Complacence by Switzerland = 2 points lost.
Everyone in the group is tied now with 1 point. LOL.
-
RT @NeoAIForecast: Gemma 4 12B auf einer AMD Radeon RX 7800 XT mit llama.cpp ROCm/HIP benchmarked. Verglichen: Original Q4KXL, QAT Q4KXL, QAT Q4KXL + MTP Drafter. Leistung: Original: 1325 pp512, 44.2 tg128, 41.7 tok/s Server, QAT: 1413 pp512, 54.8 tg128, 52.4 tok/s Server, QAT + MTP: 1400 pp512, 54.8 tg128, 76.8 tok/s Server. Ich weiß nicht, warum das Original bei EVAL+ so niedrig abschnitt. Qualitätssteigerungen durch QAT: HumanEval: 75,0% → 91,5%, HumanEval+: 24,4% → 87,2%, MBPP+: 64,0% → 67,2%, IFEval Strict: 65,3% → 66,4%, GSM8K: 93,1% → 93,7%. QAT war das herausragende Ergebnis. Schnellere Generierung, deutlich bessere Coding-Leistung und keine signifikanten Einbußen an anderer Stelle. MTP steigerte dann den Server-Durchsatz weiter auf 76,8 tok/s, ohne die Benchmark-Qualität in diesem Durchlauf zu beeinträchtigen.
mehr auf Arint.info
#AMD #Benchmarking #Gemma4 #LLM #MachineLearning #QAT #arint_info
-
RT @googlegemma: Wir haben die Gemma 4 Quantization-Aware Training (QAT)-Checkpoints auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #OnDevice #QAT #arint_info
-
RT @googlegemma: Wir haben die Gemma 4 Quantization-Aware Training (QAT)-Checkpoints auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #OnDevice #QAT #arint_info
-
RT @googlegemma: Wir haben die Gemma 4 Quantization-Aware Training (QAT)-Checkpoints auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #OnDevice #QAT #arint_info
-
RT @googlegemma: Wir haben die Gemma 4 Quantization-Aware Training (QAT)-Checkpoints auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #OnDevice #QAT #arint_info
-
RT @googlegemma: Wir haben die Gemma 4 Quantization-Aware Training (QAT)-Checkpoints auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #OnDevice #QAT #arint_info
-
「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
https://forest.watch.impress.co.jp/docs/news/2115073.html#forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini
-
「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
https://forest.watch.impress.co.jp/docs/news/2115073.html#forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini
-
「Gemma 4」のメモリ消費を大幅削減する「QAT」、品質はそのままスマホ上でも十分動作/最小の「E2B」は約1GB、最大の「31B」も1/4にまでメモリ削減
https://forest.watch.impress.co.jp/docs/news/2115073.html#forest_watch_impress #Gemma #Google_DeepMind #Gemma_4 #QAT #genai #文章生成 #AIコーディング #AIエージェント #Gemini
-
#localai #speed vergleich #tokens
in #lmstudio auf #macstudio #m4max #128gbram
#llms
google/gemma-4-26b-a4b(q8) = 76 token/s
google/gemma-4-26b-a4b-qat(q4) = 106 token/s+39% speed
und laut google soll die quantisierung bei #qat keine einfluss haben:
Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.bei 11gb weniger #ram belegung
natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu
wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P
-
#localai #speed vergleich #tokens
in #lmstudio auf #macstudio #m4max #128gbram
#llms
google/gemma-4-26b-a4b(q8) = 76 token/s
google/gemma-4-26b-a4b-qat(q4) = 106 token/s+39% speed
und laut google soll die quantisierung bei #qat keine einfluss haben:
Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.bei 11gb weniger #ram belegung
natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu
wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P
-
#localai #speed vergleich #tokens
in #lmstudio auf #macstudio #m4max #128gbram
#llms
google/gemma-4-26b-a4b(q8) = 76 token/s
google/gemma-4-26b-a4b-qat(q4) = 106 token/s+39% speed
und laut google soll die quantisierung bei #qat keine einfluss haben:
Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.bei 11gb weniger #ram belegung
natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu
wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P
-
#localai #speed vergleich #tokens
in #lmstudio auf #macstudio #m4max #128gbram
#llms
google/gemma-4-26b-a4b(q8) = 76 token/s
google/gemma-4-26b-a4b-qat(q4) = 106 token/s+39% speed
und laut google soll die quantisierung bei #qat keine einfluss haben:
Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.bei 11gb weniger #ram belegung
natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu
wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P
-
#localai #speed vergleich #tokens
in #lmstudio auf #macstudio #m4max #128gbram
#llms
google/gemma-4-26b-a4b(q8) = 76 token/s
google/gemma-4-26b-a4b-qat(q4) = 106 token/s+39% speed
und laut google soll die quantisierung bei #qat keine einfluss haben:
Gemma 4 26B A4B QAT is the Quantization-Aware Training version of Gemma 4 26B A4B. It aims to keep quality close to bfloat16 while using much less memory to load the model.bei 11gb weniger #ram belegung
natürlich mit vorsicht zu genießen - bei problemen schreib ich noch was dazu
wenn jetzt das kleine modell was könnte - das wäre der durchbruch bei lokalen llms - imaging jeder mit 16gb ram könnte so was selbst laufen lassen 😍 okay #macneo user lassen wir dann zurück :-P
-
RT @googlegemma: Wir haben gerade die Gemma 4 Checkpoints für quantisierungsawaretes Training (QAT) auf Hugging Face veröffentlicht!
mehr auf Arint.info
#AI #Gemma4 #HuggingFace #MachineLearning #QAT #Quantization #arint_info
-
RT @spiritbuun: Mein allererster Quant wird in der nächsten Woche veröffentlicht. Ich arbeite bereits seit über einem Monat daran. Das Rezept steht. Die QAT ist abgeschlossen. Dies ist nicht einfach nur Quantisierung. Dies ist der intelligenteste B27, den es je gab. Video
mehr auf Arint.info
#AI #B27 #MachineLearning #QAT #Quantization #Tech #arint_info