#mxfp6 — Public Fediverse posts on home.social

RT @SebAaltonen: Die AMD MI4555X scheint großartig zu sein: 40 Petaflops MXFP6 (gemeinsamer Exponent → Qualität nahe an fp8). 432 GB RAM mit ~20 TB/s. MXFP6-quantisiertes Kimi K3 sollte auf 6 GPUs passen. Das sind rund 300.000 US-Dollar für unbegrenzte Frontier-Modell-Token für etwa 10 Entwickler… videocardz.com/newz/amd-inst… Link AMD Instinct MI455X GPU: 432 GB HBM4 und 23,3 TB/s Speicherbandbreite - VideoCardz.com Die neue Instinct-GPU verwendet ein Chiplet-Paket mit zwei Fabric-Dies und zwei I/O-Dies. Die maximale Speicherbandbreite beträgt 23,3 TB/s. videocardz.com