home.social

#npu — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #npu, aggregated by home.social.

  1. Modern #Androids pack 45+ #TOPS of #NPU compute. Instead of draining battery, a native app using #ExecuTorch and #NNAPI runs 4-bit quantized #LLMs natively, turning smartphones into a massive, parallelized compute swarm. 🧠🔋 #EdgeAI #MachineLearning #AndroidDev

    Turning Android Phones Into An...

  2. Modern #Androids pack 45+ #TOPS of #NPU compute. Instead of draining battery, a native app using #ExecuTorch and #NNAPI runs 4-bit quantized #LLMs natively, turning smartphones into a massive, parallelized compute swarm. 🧠🔋 #EdgeAI #MachineLearning #AndroidDev

    Turning Android Phones Into An...

  3. Dự án chuyển Chronos Bolt (mô hình thời gian) và T5 sang NPU di động đã được chia sẻ code thực thi, mở ra khả năng chạy inference AI hiệu năng cao trên thiết bị nhúng. #AI #NPU #MobileAI #ChronosBolt #T5 #MachineLearning #HọcMáy #TríTuệNhânTạo

    reddit.com/r/LocalLLaMA/commen

  4. Dự án chuyển Chronos Bolt (mô hình thời gian) và T5 sang NPU di động đã được chia sẻ code thực thi, mở ra khả năng chạy inference AI hiệu năng cao trên thiết bị nhúng. #AI #NPU #MobileAI #ChronosBolt #T5 #MachineLearning #HọcMáy #TríTuệNhânTạo

    reddit.com/r/LocalLLaMA/commen

  5. Dự án chuyển Chronos Bolt (mô hình thời gian) và T5 sang NPU di động đã được chia sẻ code thực thi, mở ra khả năng chạy inference AI hiệu năng cao trên thiết bị nhúng. #AI #NPU #MobileAI #ChronosBolt #T5 #MachineLearning #HọcMáy #TríTuệNhânTạo

    reddit.com/r/LocalLLaMA/commen

  6. Hello XDNA!

    We're documenting how to program AMD's NPUs in Ryzen AI chips.

    Our website covers the ISA, register files, operation latencies, and hand-optimized assembly kernels for tensor contractions.

    Measured single-compute-tile throughput:
    • XDNA1 (Ryzen 7 8700G): 398 BF16 GFLOPS (86% of peak)
    • XDNA2 (Ryzen AI Max PRO 390): 1760 BFP16 GFLOPS (95% of peak)

    tnzr.org/xdna

  7. #AMD Just Showed Off Its Own DGX Spark Rival, The Ryzen #AIHalo: Full #ROCm Support, Day-0 Support For Leading #AI Models, Available In Q2
    AMD Ryzen AI MAX family, codenamed #StrixHalo, has seen adoption, from laptops to handhelds and Mini PC; every consumer PC segment. High-performance and premium SoCs offer amazing performance thanks to #Zen5 #CPU, #RDNA 3.5 #GPU, & #XDNA 2 #NPU architectures. AMD developed its own Mini PC featuring these chips, called the #RyzenAIHalo.
    wccftech.com/amd-showed-off-it

  8. Exynos 2600 y Nota AI – El salto definitivo hacia una Inteligencia Artificial 100% local en el Galaxy S26

    Samsung ha anunciado una alianza estratégica con la empresa coreana Nota AI para potenciar las capacidades de inteligencia artificial del próximo Exynos 2600, el corazón del futuro Galaxy S26. Esta colaboración se centra en la plataforma NetsPresso, una tecnología diseñada para hacer que los modelos de IA sean extremadamente ligeros sin perder su eficacia.

    https://twitter.com/nota_ai/status/2005790940783382591

    ¿Qué es NetsPresso y cómo beneficia al Galaxy S26?

    La plataforma NetsPresso de Nota AI es la clave para la «IA en el dispositivo» (on-device AI). Su función principal es optimizar y comprimir modelos de lenguaje y procesamiento visual para que puedan ejecutarse directamente en el hardware del teléfono.

    Puntos clave de la optimización:

    • Reducción del 90%: La tecnología permite reducir el tamaño de los modelos de IA hasta en un 90% manteniendo una alta precisión.
    • Privacidad Total: Al procesar todo localmente, los datos del usuario (fotos, mensajes, grabaciones de voz) no necesitan viajar a la nube, eliminando riesgos de seguridad y latencia.
    • Sin Conexión: Podrás usar funciones avanzadas de traducción en tiempo real o edición de imagen profesional incluso en lugares sin señal de internet o WiFi.
    • Eficiencia Energética: Al ser modelos más livianos, la NPU (Unidad de Procesamiento Neuronal) del Exynos 2600 consume menos energía, ayudando a preservar la batería del dispositivo.

    El Exynos 2600 en Cifras

    Este chip no solo destaca por su software, sino por ser una «bestia» de hardware diseñada bajo el proceso de 2 nanómetros de Samsung:

    • Potencia de IA: Ofrece una mejora del 113% en rendimiento de NPU respecto a su predecesor.
    • CPU de 10 núcleos: Basado en la arquitectura ARM v9.3, promete ser un 39% más rápido.
    • GPU Xclipse 960: Duplica el rendimiento gráfico del año anterior, ideal para juegos de alta exigencia y herramientas creativas.

    Exynos AI Studio: Para Desarrolladores

    Como parte de este acuerdo, Samsung y Nota AI están codesarrollando el Exynos AI Studio. Esta será una caja de herramientas (toolchain) automatizada que permitirá a los desarrolladores de apps optimizar sus propios modelos de IA para que funcionen a la perfección con el hardware de Samsung, garantizando que el ecosistema de apps sea más inteligente y fluido en el Galaxy S26.

    #arielmcorg #Exynos2600 #GalaxyS26 #infosertec #InteligenciaArtificial #NetsPresso #NotaAI #NPU #OnDeviceAI #PORTADA #Samsung #smartphone #tecnología

  9. First time I supervised a master thesis, man I am getting old.

    It was extremely fun though to see someone explore applications and mapping them to a with great success.

    While perhaps no surprise as both use streaming processing, dataflow architectures and microarchitectures. It is great to have the NPUs available in modern processors effectively allowing for accelerated or on mobile devices.

    You can find the work here: repository.tudelft.nl/record/u

  10. Производительность Windows 11 «комически низкая», в интерфейс внедряют рекламу. Люди возвращаются на Windows 10

    На рынке операционных систем происходит странное. Доля Windows 11 не растёт, как положено для новинки, а снижается. Согласно апрельской статистике Statcounter , после достижения рекордного показателя 28,16% в феврале 2024 года доля Windows 11 упала до 26,19% в апреле. Тем временем доля Windows 10 за тот же период приблизилась к 70%. И это после того, как Microsoft объявила о завершении поддержки Windows 10 в октябре 2025 года . Что вообще происходит?

    habr.com/ru/companies/ruvds/ar

    #ruvds_статьи #Windows_11 #Windows_10 #производительность #Чёрное_зеркало #блокировка_рекламы #Bloatynosy #Winpilot #Adblock #резервное_копирование #Windows 12 #меню_Пуск #Recall #Copilot_Plus #NPU #Amperage #Windrecorder #OFGB #POPCNT #SSE 42

  11. Copilot+ PC meets Recall

    Nichts wurde heisser diskutiert bei der Präsentation des Copilot+ PC und das Programms #Recall auf der #Microsoft Build 2024.
    Ich erkläre Funktionen und Sicherheitsaspekte und lade zur Diskussion beim Microsoft 365 Café am 12. Juni 2024 ein.

    Hier weitere Informationen: bit.ly/3KHHWrr

    #MSBuild #Sicherheit #KIaufdemLaptop #Bedenken #Datenschutz
    #CopilotPC #ARM #NPU #SnapShots #DRM #Bitlocker #Preview #ContentStaysLocal

  12. #AMD quietly confirms worldwide launch for #Ryzen7 #8700F, #Ryzen5 #8400F
    These chips are #iGPU and #NPU-free versions of #Ryzen 8700G and 8600G
    Similar to Intel's F-series CPUs and AMD's other F-series CPUs, these new #Zen4 chips are built from recycled silicon that might have defective graphics unit and/or NPU inside. This improves AMD's production efficiency and reduces excess waste which would be the case if it threw out every single #APU it made with a bad GPU/NPU.
    tomshardware.com/pc-components