#dragonq6a — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #dragonq6a, aggregated by home.social.
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI
-
🧠 Hoy Astrid ha conseguido hablar con la NPU del Radxa Dragon Q6A.
Llama 3.2 1B + Qualcomm Genie + HTP.
Todavía no está integrada en Nexus, pero ya está viva. 😂
La NPU funciona.
-
Dragon Q6A: Excellent Qualcomm SBC