home.social

#amdstrixhalo — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #amdstrixhalo, aggregated by home.social.

fetched live
  1. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, konvertieren Gewichte jedoch weiterhin in breitere Formate während der Ausführung. Unsere IU4-Spur hält Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und mappt sie direkt auf RDNA 3.5-Integer-Hardware. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Zauberer damit anstellen. Angetrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in Human Eval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai angetrieben wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Runner: huggingface.c…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  2. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, konvertieren Gewichte jedoch weiterhin in breitere Formate während der Ausführung. Unsere IU4-Spur hält Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und mappt sie direkt auf RDNA 3.5-Integer-Hardware. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Zauberer damit anstellen. Angetrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in Human Eval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai angetrieben wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Runner: huggingface.c…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  3. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, konvertieren Gewichte jedoch weiterhin in breitere Formate während der Ausführung. Unsere IU4-Spur hält Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und mappt sie direkt auf RDNA 3.5-Integer-Hardware. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Zauberer damit anstellen. Angetrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in Human Eval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai angetrieben wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Runner: huggingface.c…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  4. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, konvertieren Gewichte jedoch weiterhin in breitere Formate während der Ausführung. Unsere IU4-Spur hält Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und mappt sie direkt auf RDNA 3.5-Integer-Hardware. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Zauberer damit anstellen. Angetrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in Human Eval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai angetrieben wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Runner: huggingface.c…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  5. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, konvertieren Gewichte jedoch weiterhin in breitere Formate während der Ausführung. Unsere IU4-Spur hält Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und mappt sie direkt auf RDNA 3.5-Integer-Hardware. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Zauberer damit anstellen. Angetrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in Human Eval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai angetrieben wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Runner: huggingface.c…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  6. RT @Italianclownz: Qwen 3.8 27B ROCmi4 läuft in Hermes und wird vom ROCmFPX-Build bereitgestellt. Ein reales Beispiel für einen Chat. Die TTFT (Time to First Token) kann noch verbessert werden, aber bei einem dichten Modell und da es sich um eine neue Veröffentlichung handelt, bin ich zufrieden. Die Antworten 🚀 Hardware: @FrameworkPuter AMD Strix Halo Software: ROCmFPX-Build Agent: Hermes

    mehr auf Arint.info

    #AIChat #AMDStrixHalo #HermesAgent #MachineLearning #Qwen38 #ROCmFPX #arint_info

    https://x.com/Italianclownz/status/2091210394022842576

  7. RT @Italianclownz: Qwen 3.8 27B ROCmi4 läuft in Hermes und wird vom ROCmFPX-Build bereitgestellt. Ein reales Beispiel für einen Chat. Die TTFT (Time to First Token) kann noch verbessert werden, aber bei einem dichten Modell und da es sich um eine neue Veröffentlichung handelt, bin ich zufrieden. Die Antworten 🚀 Hardware: @FrameworkPuter AMD Strix Halo Software: ROCmFPX-Build Agent: Hermes

    mehr auf Arint.info

    #AIChat #AMDStrixHalo #HermesAgent #MachineLearning #Qwen38 #ROCmFPX #arint_info

    https://x.com/Italianclownz/status/2091210394022842576

  8. RT @Italianclownz: Qwen 3.8 27B ROCmi4 läuft in Hermes und wird vom ROCmFPX-Build bereitgestellt. Ein reales Beispiel für einen Chat. Die TTFT (Time to First Token) kann noch verbessert werden, aber bei einem dichten Modell und da es sich um eine neue Veröffentlichung handelt, bin ich zufrieden. Die Antworten 🚀 Hardware: @FrameworkPuter AMD Strix Halo Software: ROCmFPX-Build Agent: Hermes

    mehr auf Arint.info

    #AIChat #AMDStrixHalo #HermesAgent #MachineLearning #Qwen38 #ROCmFPX #arint_info

    https://x.com/Italianclownz/status/2091210394022842576

  9. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, wandeln Gewichte jedoch während der Ausführung weiterhin in breitere Formate um. Unsere IU4-Spur behält die Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und leitet sie direkt an die RDNA 3.5-Ganzzahlhardware weiter. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Experten damit anstellen werden. Getrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in HumanEval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai unterstützt wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Ru…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  10. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, wandeln Gewichte jedoch während der Ausführung weiterhin in breitere Formate um. Unsere IU4-Spur behält die Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und leitet sie direkt an die RDNA 3.5-Ganzzahlhardware weiter. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Experten damit anstellen werden. Getrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in HumanEval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai unterstützt wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Ru…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  11. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, wandeln Gewichte jedoch während der Ausführung weiterhin in breitere Formate um. Unsere IU4-Spur behält die Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und leitet sie direkt an die RDNA 3.5-Ganzzahlhardware weiter. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Experten damit anstellen werden. Getrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in HumanEval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai unterstützt wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Ru…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  12. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, wandeln Gewichte jedoch während der Ausführung weiterhin in breitere Formate um. Unsere IU4-Spur behält die Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und leitet sie direkt an die RDNA 3.5-Ganzzahlhardware weiter. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Experten damit anstellen werden. Getrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in HumanEval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai unterstützt wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Ru…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  13. RT @ciruai: Das beste Qwen3.8 27B-Modell für AMD Strix Halo ist da. In Zusammenarbeit mit Pete Hopton und dem Kairic.ai-Team präsentiere ich: Qwen3.8-27B-IU4-KAIRIC-EDGE. Unserer Kenntnis nach ist dies die weltweit erste öffentliche Veröffentlichung eines 27B-LLM mit einer beschleunigten nativen IU4-Inferenzspur, speziell für AMD Strix Halo (gfx1151) entwickelt. Warum ist IU4 wichtig? Die meisten 4-Bit-Modelle speichern zwar Speicher, wandeln Gewichte jedoch während der Ausführung weiterhin in breitere Formate um. Unsere IU4-Spur behält die Vier-Bit-Ganzzahldaten im aktiven Berechnungspfad und leitet sie direkt an die RDNA 3.5-Ganzzahlhardware weiter. Das reduziert den Speichertraffic und verwandelt Quantisierung von einem Speicherformat in eine echte Hardware-Ausführungsstrategie. Der abgestimmte IU4-Operator erreichte 104,66 TOPS – 1,94× FP16 und 1,93× IU8. Dies eröffnet einen Weg zu schnellerer, effizienterer lokaler KI, ohne dabei die Modellqualität zu opfern. Ich kann es kaum erwarten zu sehen, was @Italianclownz und andere Experten damit anstellen werden. Getrieben von Prompt Forge + Dual View, Kairic Edge-Beschleunigung, 262K Kontext: HumanEval-Metriken: • 47,73 tok/s Full-Suite TG • +85% gegenüber Unsloth Dynamic Q4 • +89% gegenüber Unsloth Dynamic Q6 • Schlug Unsloth Dynamic v3 q6 in HumanEval um 2 Fragen. Dies ist auch die erste Veröffentlichung, die von Kairic.ai unterstützt wird, einem neuen Unternehmen, das sich auf die gemeinsame Entwicklung von KI-Software rund um die Hardware konzentriert, auf der sie tatsächlich läuft. Modell, Benchmarks, Quelle, Build-Anleitung und Ru…

    mehr auf Arint.info

    #AMDStrixHalo #KairicAI #LLM #LocalAI #Qwen3 #RDNA3 #arint_info

    https://x.com/ciruai/status/2091004843720659229

  14. RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — nitter.net/pupposandro/status/

    mehr auf Arint.info

    #AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info

    https://x.com/pupposandro/status/2087231623381000381#m

  15. RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — nitter.net/pupposandro/status/

    mehr auf Arint.info

    #AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info

    https://x.com/pupposandro/status/2087231623381000381#m

  16. RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — nitter.net/pupposandro/status/

    mehr auf Arint.info

    #AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info

    https://x.com/pupposandro/status/2087231623381000381#m

  17. RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — nitter.net/pupposandro/status/

    mehr auf Arint.info

    #AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info

    https://x.com/pupposandro/status/2087231623381000381#m

  18. RT @pupposandro: Lucebox Engine betreibt nun DeepSeek V4 Flash 0731 von einem einzelnen 98,29 GB großen GGUF-Modell auf einem 128 GB AMD Strix Halo System. Das Modell erzielt 82/92 Punkte auf ds4-eval-92 und erreicht 32,7 Token pro Sekunde mit DSpark. Über unsere festgelegten Evaluierungen HumanEval, GSM8K und MATH hinweg liegt die Durchschnittsgeschwindigkeit bei 27,9 Token pro Sekunde. Vielen Dank noch einmal an @GeometricAGI für die fantastische Zusammenarbeit an diesem Projekt. Alle Details finden Sie im untenstehenden Artikel. Unterstütztes Ziel: huggingface.co/Lucebox/DeepS… Link Lucebox/DeepSeek-V4-Flash-0731-ROCmFP3 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und demokratisierbar zu machen. huggingface.co Sandro (@pupposandro) Artikel Lucebox × Geometric: DeepSeek V4 Flash 0731 erreicht 32,7 Token pro Sekunde auf AMD Strix Halo. Wir haben gemeinsam mit Geometric die Unterstützung für DeepSeek-V4-Flash-0731 in Lucebox Engine hinzugefügt. Die Zusammenarbeit umfasst adaptive ROCmFPX-Formate, HIP- und CUDA-Kernels, eingebettetes Codebook-Loading und Runtime — nitter.net/pupposandro/status/

    mehr auf Arint.info

    #AI #AMDStrixHalo #DeepSeek #Lucebox #MachineLearning #OpenSource #arint_info

    https://x.com/pupposandro/status/2087231623381000381#m

  19. The AYANEO Next 2 is a handheld game console with an AMD Strix Halo processor. After suspending pre-orders earlier this year because the $1999 starting price was "unsustainable," it's now priced at $2999 and up. minimachines.net/actu/console- #AYANEONext2 #AMDStrixHalo #HandheldGamingPC

  20. The AYANEO Next 2 is a handheld game console with an AMD Strix Halo processor. After suspending pre-orders earlier this year because the $1999 starting price was "unsustainable," it's now priced at $2999 and up. minimachines.net/actu/console-

  21. The AYANEO Next 2 is a handheld game console with an AMD Strix Halo processor. After suspending pre-orders earlier this year because the $1999 starting price was "unsustainable," it's now priced at $2999 and up. minimachines.net/actu/console- #AYANEONext2 #AMDStrixHalo #HandheldGamingPC

  22. The AYANEO Next 2 is a handheld game console with an AMD Strix Halo processor. After suspending pre-orders earlier this year because the $1999 starting price was "unsustainable," it's now priced at $2999 and up. minimachines.net/actu/console- #AYANEONext2 #AMDStrixHalo #HandheldGamingPC

  23. The AYANEO Next 2 is a handheld game console with an AMD Strix Halo processor. After suspending pre-orders earlier this year because the $1999 starting price was "unsustainable," it's now priced at $2999 and up. minimachines.net/actu/console- #AYANEONext2 #AMDStrixHalo #HandheldGamingPC

  24. The internet(tm) claims that DevStral2 would be almost on par with Claude Sonnet 4.5.
    Also, open weights model with 120B, i.e. reasonable on current om-prem hardware a la AMDs 395+.
    Prices are also pretty ok if hosted, also: EU hostable.

    Did anyone compare that thing to the above Claude model, ideally using Claude Code as control system?
    I'd also be interested in on-prem reports, ideally also with one of the AMD 395+ UMA boxes.

    #llm #claudecode #claude_sonnet_45 #sonnet45 #devstral #devstral2 #mistral #aicoding #uma #amd #amdstrixhalo

  25. The internet(tm) claims that DevStral2 would be almost on par with Claude Sonnet 4.5.
    Also, open weights model with 120B, i.e. reasonable on current om-prem hardware a la AMDs 395+.
    Prices are also pretty ok if hosted, also: EU hostable.

    Did anyone compare that thing to the above Claude model, ideally using Claude Code as control system?
    I'd also be interested in on-prem reports, ideally also with one of the AMD 395+ UMA boxes.

    #llm #claudecode #claude_sonnet_45 #sonnet45 #devstral #devstral2 #mistral #aicoding #uma #amd #amdstrixhalo

  26. The internet(tm) claims that DevStral2 would be almost on par with Claude Sonnet 4.5.
    Also, open weights model with 120B, i.e. reasonable on current om-prem hardware a la AMDs 395+.
    Prices are also pretty ok if hosted, also: EU hostable.

    Did anyone compare that thing to the above Claude model, ideally using Claude Code as control system?
    I'd also be interested in on-prem reports, ideally also with one of the AMD 395+ UMA boxes.

    #llm #claudecode #claude_sonnet_45 #sonnet45 #devstral #devstral2 #mistral #aicoding #uma #amd #amdstrixhalo

  27. The internet(tm) claims that DevStral2 would be almost on par with Claude Sonnet 4.5.
    Also, open weights model with 120B, i.e. reasonable on current om-prem hardware a la AMDs 395+.
    Prices are also pretty ok if hosted, also: EU hostable.

    Did anyone compare that thing to the above Claude model, ideally using Claude Code as control system?
    I'd also be interested in on-prem reports, ideally also with one of the AMD 395+ UMA boxes.

    #llm #claudecode #claude_sonnet_45 #sonnet45 #devstral #devstral2 #mistral #aicoding #uma #amd #amdstrixhalo

  28. The internet(tm) claims that DevStral2 would be almost on par with Claude Sonnet 4.5.
    Also, open weights model with 120B, i.e. reasonable on current om-prem hardware a la AMDs 395+.
    Prices are also pretty ok if hosted, also: EU hostable.

    Did anyone compare that thing to the above Claude model, ideally using Claude Code as control system?
    I'd also be interested in on-prem reports, ideally also with one of the AMD 395+ UMA boxes.

    #llm #claudecode #claude_sonnet_45 #sonnet45 #devstral #devstral2 #mistral #aicoding #uma #amd #amdstrixhalo

  29. The MSI AI Edge is the latest small desktop PC with a Ryzen AI Max+ 395 Strix Halo processor. It has a 4 liter chassis, up to 128GB of LPDDR5X-8000 memory and AMD's high-end chip with 16 Zen 5 CPU cores and 40-core RDNA 3.5 graphics. msi.com/news/detail/MSI-Launch #MSIAIEdge #MiniPC #CES2026 #AMDStrixHalo

  30. The MSI AI Edge is the latest small desktop PC with a Ryzen AI Max+ 395 Strix Halo processor. It has a 4 liter chassis, up to 128GB of LPDDR5X-8000 memory and AMD's high-end chip with 16 Zen 5 CPU cores and 40-core RDNA 3.5 graphics. msi.com/news/detail/MSI-Launch

  31. The MSI AI Edge is the latest small desktop PC with a Ryzen AI Max+ 395 Strix Halo processor. It has a 4 liter chassis, up to 128GB of LPDDR5X-8000 memory and AMD's high-end chip with 16 Zen 5 CPU cores and 40-core RDNA 3.5 graphics. msi.com/news/detail/MSI-Launch #MSIAIEdge #MiniPC #CES2026 #AMDStrixHalo

  32. The MSI AI Edge is the latest small desktop PC with a Ryzen AI Max+ 395 Strix Halo processor. It has a 4 liter chassis, up to 128GB of LPDDR5X-8000 memory and AMD's high-end chip with 16 Zen 5 CPU cores and 40-core RDNA 3.5 graphics. msi.com/news/detail/MSI-Launch #MSIAIEdge #MiniPC #CES2026 #AMDStrixHalo

  33. The MSI AI Edge is the latest small desktop PC with a Ryzen AI Max+ 395 Strix Halo processor. It has a 4 liter chassis, up to 128GB of LPDDR5X-8000 memory and AMD's high-end chip with 16 Zen 5 CPU cores and 40-core RDNA 3.5 graphics. msi.com/news/detail/MSI-Launch #MSIAIEdge #MiniPC #CES2026 #AMDStrixHalo

  34. Now you can buy a GPD Win 5 handheld gaming PC with a Ryzen AI Max+ 395 processor and up to 128GB of RAM and 4TB of storage... if you're willing to spend $2700 on a handheld for features that matter most if you plan to use it as an AI workstation. indiegogo.com/en/projects/gpdh #GPDWin5 #AMDStrixHalo #HandheldGamingPC

  35. Now you can buy a GPD Win 5 handheld gaming PC with a Ryzen AI Max+ 395 processor and up to 128GB of RAM and 4TB of storage... if you're willing to spend $2700 on a handheld for features that matter most if you plan to use it as an AI workstation. indiegogo.com/en/projects/gpdh

  36. Now you can buy a GPD Win 5 handheld gaming PC with a Ryzen AI Max+ 395 processor and up to 128GB of RAM and 4TB of storage... if you're willing to spend $2700 on a handheld for features that matter most if you plan to use it as an AI workstation. indiegogo.com/en/projects/gpdh #GPDWin5 #AMDStrixHalo #HandheldGamingPC

  37. Now you can buy a GPD Win 5 handheld gaming PC with a Ryzen AI Max+ 395 processor and up to 128GB of RAM and 4TB of storage... if you're willing to spend $2700 on a handheld for features that matter most if you plan to use it as an AI workstation. indiegogo.com/en/projects/gpdh #GPDWin5 #AMDStrixHalo #HandheldGamingPC

  38. Now you can buy a GPD Win 5 handheld gaming PC with a Ryzen AI Max+ 395 processor and up to 128GB of RAM and 4TB of storage... if you're willing to spend $2700 on a handheld for features that matter most if you plan to use it as an AI workstation. indiegogo.com/en/projects/gpdh #GPDWin5 #AMDStrixHalo #HandheldGamingPC

  39. AMD Strix Halo handheld PC comparison: AYANEO NEXT II vs GPD Win 5 vs OneXFly Apex

    AMD’s Ryzen AI Max and Max+ processors, also known by the code-name “Strix Halo” are mobile chips that combine up to a 16-core, 32-thread Zen 5 CPU with up to 40 RDNA 3.5 GPU compute units. Positioned as a solution for gaming laptops and mini PCs that can function as AI workstations, the chips are also starting to show up in handheld gaming computers.

    But fitting a chip this powerful into a […]

    #amdStrixHalo #ayaneo #ayaneoNext2 #ayaneoNextIi #gpd #gpdWin5 #handheldGamingPc #oneNetbook #onexflyApex #ONEXPLAYER #strixHalo Read more: liliputing.com/amd-strix-halo-
  40. AMD Strix Halo handheld PC comparison: AYANEO NEXT II vs GPD Win 5 vs OneXFly Apex

    AMD’s Ryzen AI Max and Max+ processors, also known by the code-name “Strix Halo” are mobile chips that combine up to a 16-core, 32-thread Zen 5 CPU with up to 40 RDNA 3.5 GPU compute units. Positioned as a solution for gaming laptops and mini PCs that can function as AI workstations, the chips are also starting to show up in handheld gaming computers.

    But fitting a chip this powerful into a […]

    #amdStrixHalo #ayaneo #ayaneoNext2 #ayaneoNextIi #gpd #gpdWin5 #handheldGamingPc #oneNetbook #onexflyApex #ONEXPLAYER #strixHalo Read more: liliputing.com/amd-strix-halo-
  41. AMD Strix Halo handheld PC comparison: AYANEO NEXT II vs GPD Win 5 vs OneXFly Apex

    AMD’s Ryzen AI Max and Max+ processors, also known by the code-name “Strix Halo” are mobile chips that combine up to a 16-core, 32-thread Zen 5 CPU with up to 40 RDNA 3.5 GPU compute units. Positioned as a solution for gaming laptops and mini PCs that can function as AI workstations, the chips are also starting to show up in handheld gaming computers.

    But fitting a chip this powerful into a […]

    #amdStrixHalo #ayaneo #ayaneoNext2 #ayaneoNextIi #gpd #gpdWin5 #handheldGamingPc #oneNetbook #onexflyApex #ONEXPLAYER #strixHalo Read more: liliputing.com/amd-strix-halo-
  42. AMD Strix Halo handheld PC comparison: AYANEO NEXT II vs GPD Win 5 vs OneXFly Apex

    AMD’s Ryzen AI Max and Max+ processors, also known by the code-name “Strix Halo” are mobile chips that combine up to a 16-core, 32-thread Zen 5 CPU with up to 40 RDNA 3.5 GPU compute units. Positioned as a solution for gaming laptops and mini PCs that can function as AI workstations, the chips are also starting to show up in handheld gaming computers.

    But fitting a chip this powerful into a […]

    #amdStrixHalo #ayaneo #ayaneoNext2 #ayaneoNextIi #gpd #gpdWin5 #handheldGamingPc #oneNetbook #onexflyApex #ONEXPLAYER #strixHalo Read more: liliputing.com/amd-strix-halo-