home.social

#edge_inference — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #edge_inference, aggregated by home.social.

  1. Habr @[email protected] ·

    [Перевод] Всё про инференс на Sophon NPU

    В этой статье мы поговорим про ML на базе плат Sophon. Наверное это один из производителей которые набрали больше всего популярнсти в AI последнее время. Я расскажу как они соотносятся с другими платами на рынке (Jetson, RockChip, Hailo, TI, etc.). Расскажу как подготовить сети для работы на платформах, покажу ограничения (что пока нельзя сделать, ограничения по скорости, и.т.д.).

    habr.com/ru/companies/recognit

    #Sophon #NPU #Jetson #RockChip #ML #Edge_Inference #Computer_Vision #LLM #VLM #Qwen

    #sophon #npu #jetson #rockchip #ml #edge_inference