#dragonq6a — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #dragonq6a, aggregated by home.social.
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI
-
🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!
Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.
El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎
No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.
Astrid sigue creciendo, nodo a nodo. 🖤
#Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI