home.social

#dragonq6a — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #dragonq6a, aggregated by home.social.

  1. 🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!

    Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.

    El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎

    No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.

    Astrid sigue creciendo, nodo a nodo. 🖤

    #Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI

  2. 🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!

    Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.

    El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎

    No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.

    Astrid sigue creciendo, nodo a nodo. 🖤

    #Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI

  3. 🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!

    Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.

    El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎

    No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.

    Astrid sigue creciendo, nodo a nodo. 🖤

    #Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI

  4. 🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!

    Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.

    El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎

    No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.

    Astrid sigue creciendo, nodo a nodo. 🖤

    #Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI

  5. 🔥 ¡Astrid ya corre sobre la NPU de la Radxa Dragon Q6A!

    Después de bastante cacharreo, desbloquear la aceleración Hexagon HTP mediante Genie + QAIRT, ejecutando Llama 3.2 1B directamente en la NPU.

    El resultado: respuestas mucho más rápidas que con llama.cpp en la SBC, mientras la CPU apenas se inmuta. 😎

    No es el PC, ni pretende serlo. Es una pequeña SBC con su propia NPU.

    Astrid sigue creciendo, nodo a nodo. 🖤

    #Astrid #NPU #Genie #QAIRT #Radxa #DragonQ6A #LocalAI #OpenSource #AI #EdgeAI