#npu — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #npu, aggregated by home.social.
-
-
Засовываем VLA на гуманоида: как выбрать платформу, модель и планировщик
Год назад на проекте гуманоида с Jetson Orin на борту меня регулярно спрашивали одно и то же. “Можно ли гонять нашу VLA локально, без сети?” VLA это модель. Она берёт кадр и текст и выдаёт команды на приводы. Я листал документацию, тикеты PyTorch и чужие статьи, а когда разобрался, ответил пересчётом. “Теоретически да, но от кадра до движения выходит 0,84 с. Робот за это время успеет упасть, а пользователь решит, что он завис.” После того гуманоида ко мне не раз приходили за помощью в проектировании. Чаще это была детекция на 30 FPS на плате за $10 или передовая LLM на устройстве. Нужна документация, местами китайская, которую приходится гонять через переводчик, и нужны подробные инженерные расчёты. Пиковые тераоперации из даташита почти не двигают задержку от кадра до движения.
https://habr.com/ru/articles/1059204/
#edge_AI #NPU #MobileNet #LLM_на_устройстве #memory_wall #compute_crunch #inference_platform #embedded #ml #выбор_платформы
-
ローカルAIが効率的に動いているか「タスク マネージャー」でチェック ～Microsoftが解説／なるべくNPUやGPUのニューラルエンジンで動かすのがパフォーマンス・電力効率改善のコツ
https://forest.watch.impress.co.jp/docs/news/2134067.html#forest_watch_impress #Microsoft #GPU #タスク_マネージャー #Windows_11 #NPU #システム_ファイル #システム #Windows
-
🧠 Hoy Astrid ha conseguido hablar con la NPU del Radxa Dragon Q6A.
Llama 3.2 1B + Qualcomm Genie + HTP.
Todavía no está integrada en Nexus, pero ya está viva. 😂
La NPU funciona.
-
Tymbal — нейросинтезатор на одном чипе
Инструмент называется Tymbal . Характер задаёт учитель — обработанный сигнал, на который натаскивается уточнитель. Смените учителя, и характер сменится целиком, а конструкция останется прежней. Tymbal — орган звукоизвлечения цикады: ребристая мембрана, которая щёлкает при нелинейном выгибании. Маленький аппарат, громкий и богатый обертонами результат, и весь механизм держится на одной нелинейности. У нас нелинейность учителя переносится сетью на детерминированный скелет, и всё это живёт на одном чипе. Слово к тому же приходит оттуда же, откуда «тембр». Merriam‑Webster выводит tymbal как изменённое от более раннего timbal (литавра), а timbre — от греческого tympanon , барабана: в старофранцузском это ещё барабан, в среднефранцузском — колокол под молоточком, и лишь потом слово стало означать окраску звука. Имя инструмента и слово «тембр» — родня по барабану. Первый вариант я написал через i , как в литавре. Пришлось переименовывать: у цикады это tymbal , через y . N6 ниже по тексту — рабочий индекс по имени чипа, он остался в названиях файлов и веток.
https://habr.com/ru/articles/1070464/
#stm32n6 #dsp #cortexm55 #npu #профилирование #нейросети #оптимизация #mve #edgeai
-
📬 ChatBots erzählen zu oft Unsinn: Interview mit dem BRAIN-Entwickler Heiko Janicke
#Interviews #KünstlicheIntelligenz #Brain #Chatbot #Geseke #HeikoJanicke #Interview #NPU #Sprachmodell https://sc.tarnkappe.info/87401c -
Samsung’s reported Gaia NPU suggests AI PCs may be headed toward dedicated accelerators, not just CPU-integrated NPUs, for local generative AI workloads.
-
People start using #NPU, I remember AMD was planning to release a minibox price tag at 1500 but this is not it, I wonder when we will see those new boxes
-
Together with Toradex, we're helping bring Edge AI workloads closer to the hardware.
At Embedded World, Collabora's Guy Lunardi, VP Business Development, walks through our NPU enablement work on the TI AM69, powered by Toradex hardware and Torizon OS, showing how Edge AI can move from prototype to production: faster inference, scalable deployments, and hardware-level integration that just works.
See it in action 👇
🎥 https://www.toradex.com/videos/collabora-npu-enablement-edge-ai-ti-am69 -
Just dump question with all of the NPU stuff rising up, has anyone looked into using it for rendering or other actually useful things on enduser devices?
-
A Microsoft está a expandir as capacidades de inteligência artificial local no Windows 11 para permitir execução através de placas gráficas dedicadas. Isto elimina a necessidade de uma NPU para executar estas capacidades.
-
Welcome to the latest trend: cramming the word salad of acronyms into the soup of tech buzzwords 🤯. Watch in awe as unnecessarily fancy #jargon about #YOLOv8n and #NPU dances around like it's the next Shakespearean play, all while trying to convince us that detecting drones at 42 FPS is the pinnacle of human achievement! 🕵️♂️🎭
https://github.com/alebal123bal/khadas_yolov8n_multithread #techbuzzwords #drone_detection #humanachievement #HackerNews #ngated -
Dual YOLOv8n UAV Detection on RK3588S at 42 FPS Using NPU
https://github.com/alebal123bal/khadas_yolov8n_multithread
#HackerNews #DualYOLOv8n #UAVDetection #RK3588S #NPU #42FPS #ComputerVision
-
Microsoft ahora permitirá que las PC sin NPU puedan acceder a su API de IA local, lo que implica que ya no será necesario tener una PC Copilot+ para tener IA local. Sin embargo, hay ciertas limitaciones que se deben considerar.
-
아침 저녁으로 전해드리는 #UbuCon Korea 2026 #주제 소개 3탄!
다양한 영역의 발표 사례로 여러분의 이야기를 준비해 보세요.🎛️ 로봇과 임베디드 with #IoT
#우분투 와 #ROS 조합으로 완성한 #로봇 제어는 물론,
#임베디드 시스템 구축, #SBC 위에서 동작하는 #Ubuntu 등 다양한 사례를 공유해 주세요.지난해에는 Wig Cheng 님께서 #NPU 가속을 지원하는 #AIoT Gateway를 만드는 과정을 소개해 주셨습니다.
https://events.canonical.com/event/126/contributions/685 -
Axera AX650N: архитектура Edge ML SoC под CNN, LLM и VLM
Большинство задач современной робототехники так или иначе завязаны на нейронных сетях: детекция объектов, оценка глубины, локализация, планирование. Всё это ресурсоёмко, и вопрос выбора компактного вычислителя (достаточно часто алгоритмы должны работать локально) встает довольно остро. На практике выбор сводится к трём классам устройств: NVIDIA Jetson , внешний ускоритель (один из самых популярных — Hailo) и китайский (не всегда, конечно, но в современных реалиях обычно китайский) SoC с интегрированным NPU. В этой статье я рассмотрю представителя третьего класса — Axera AX650N , а NVIDIA Jetson будет использоваться для сравнения, так как это единственное массовое edge-решение с универсальными вычислительными ядрами (CUDA) . Это первая часть цикла. Здесь я разберу аппаратную архитектуру самого AX650N — CPU, NPU, DSP, ISP, память — и поделюсь результатами первых тестов: YOLO, Depth Anything, SuperPoint и мультимодальный Qwen3. Подробные бенчмарки и сравнения — во второй части. Я тестировал AX650N в рамках готового устройства от Sipeed — Maix4 Hat . Он состоит из двух частей: SoM , на котором расположены SoC и 8 GB RAM (2x4 GB, так как у AX650N два отдельных DDR-контроллера) , и baseboard от Sipeed с минимальным количеством интерфейсов. Скромность интерфейсов объясняется просто: baseboard — это HAT для Raspberry Pi 5, подключающийся по PCIe 2.0. В такой конфигурации AX650N работает как внешний ML-ускоритель, аналогично Hailo . В рамках этой и последующих статей я буду использовать Maix4 Hat как самостоятельный микрокомпьютер.
https://habr.com/ru/articles/1035776/
#Axera #NPU #VLM #llm #embedded #cnn #нейросети #sipeed #электроника #компьютерное_зрение
-
NPU в ноутбуках: что меняется для тех, кто закупает корпоративную технику
Привет, Хабр! Меня зовут Артем, я дата-инженер. В работе часто приходится выбирать: гонять вычисления в облаке или делать их ближе к данным, и у каждого варианта свои больные места. Но недавно ИИ-нагрузки начали переезжать с облачных GPU на обычные ноутбуки — Microsoft вписала нейропроцессор в требования к Copilot+ PC, AMD и Intel встраивают NPU прямо в SoC. Мне стало любопытно: что там на самом деле происходит? За маркетинговой шумихой скрывается сдвиг к гибридной архитектуре: тяжёлое остаётся в облаке, массовые задачи разъезжаются по устройствам сотрудников. Это меняет работу тех, кто такой парк закупает и обслуживает — добавляются требования к памяти и поддержке конкретных ИИ-фреймворков, появляется новая задача доставки и обновления моделей на устройствах, а горизонт планирования у ИТ-отделов оказывается короче, чем кажется. Я заинтересовался темой после одного бенчмарка : NPU в ноутбуке AMD Ryzen AI 300 генерировал изображение 70 секунд, а встроенный GPU того же чипа справлялся за 30 — специализированный нейропроцессор проиграл универсальному вдвое на задаче, под которую его затачивали. Через эту аномалию хорошо видно, как устроены три процессора в одном SoC. Разберём: чем NPU отличается от соседей по чипу, почему всё упирается в память, как LLM удаётся уместить на ноутбуке и что из этого реально работает в корпоративной среде уже сейчас.
https://habr.com/ru/companies/ru_mts/articles/1033588/
#NPU #Искусственный_интеллект #LLM #Железо #Процессоры #Ноутбуки #Машинное_обучение #Инференс #Copilot+_PC #Корпоративные_технологии
-
Windows 11 recebe novos detalhes sobre NPU e desempenho no Gestor de Tarefas
🔗 https://tugatech.com.pt/t82672-windows-11-recebe-novos-detalhes-sobre-npu-e-desempenho-no-gestor-de-tarefas -
Windows 11 Task Manager Will Soon Show Neural Engine Columns #artificialintelligence #microsoft #npu #software #windows11
https://www.lowyat.net/2026/390982/windows-11-task-manager-will-soon-show-neural-engine-columns/
-
Смогут ли микроконтроллеры с NPU заменить облако для распознавания речи?
Голосовые ассистенты работают удобно, но почти всегда через облако: нужна сеть, есть задержка, и речь уходит на внешние серверы. На устройстве обычно либо примитивный команды, либо слишком тяжёлая платформа. Я проверил, можно ли закрыть этот разрыв на микроконтроллере STM32N6 со встроенным NPU : распознавать произвольную речь локально , в реальном времени и с потреблением около 0.2 Вт .
https://habr.com/ru/articles/1022384/
#stm32 #stm32n6 #npu #mcu #микроконтроллеры #распознавание_речи #edge_ai #машинное_обучение #нейросети #tinyml
