#tinyml — Public Fediverse posts

Максимально эффективная интеграция ИИ в робототехнику

OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →

https://habr.com/ru/articles/1023564/

#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek

Максимально эффективная интеграция ИИ в робототехнику

OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →

https://habr.com/ru/articles/1023564/

#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek

Максимально эффективная интеграция ИИ в робототехнику

OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →

https://habr.com/ru/articles/1023564/

#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek

Максимально эффективная интеграция ИИ в робототехнику

OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →

https://habr.com/ru/articles/1023564/

#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek

Смогут ли микроконтроллеры с NPU заменить облако для распознавания речи?

Голосовые ассистенты работают удобно, но почти всегда через облако: нужна сеть, есть задержка, и речь уходит на внешние серверы. На устройстве обычно либо примитивный команды, либо слишком тяжёлая платформа. Я проверил, можно ли закрыть этот разрыв на микроконтроллере STM32N6 со встроенным NPU : распознавать произвольную речь локально , в реальном времени и с потреблением около 0.2 Вт .

https://habr.com/ru/articles/1022384/

#stm32 #stm32n6 #npu #mcu #микроконтроллеры #распознавание_речи #edge_ai #машинное_обучение #нейросети #tinyml

Machine Learning Trends: The Future is Here

https://jivoice.com/machine-learning-trends-2/

#MLOps #AItrends2024 #reinforcementlearning #tinyML #AIethics #federatedlearning #futureofmachinelearning #explainableAI #naturallanguageprocessing #multimodalAI

🚀 Why pay more for cloud AI when smarter AI fits in your watch?
Discover how Small Language Models are quietly outperforming LLMs —
• 8X faster
• 90% cheaper
• 100% offline 🤯

From Tesla to smart clinics, this is the AI story no one's telling — yet.
Read the full piece 👇
🔗 https://medium.com/@rogt.x1997/8x-faster-90-cheaper-how-tiny-ai-models-are-beating-gpt-4-at-the-edge-1ae79fe3eb64

#EdgeAI #SLMs #TinyML #FutureReady
https://medium.com/@rogt.x1997/8x-faster-90-cheaper-how-tiny-ai-models-are-beating-gpt-4-at-the-edge-1ae79fe3eb64

I’m done with the second course on #TinyML #edX.
https://courses.edx.org/certificates/11156eea6ed34ec69694d82d3960be26

This one was more focused on how to reduce the models while keeping them accurate enough. I also learned how to compensate for bias, especially when social aspects are involved.

Next course: we’re getting them running on #Arduino.

Check out my latest note: Calculating the Harris index with Python libraries https://linkedin.com/pulse/calculating-harris-index-python-libraries-gustavo-sanchez #machinelearning #neuralnetworks #edgeai #edgecomputing #tinyml #anomalydetection
#predictivemaintenance #conditionmonitoring
#timeseriesanalysis #signalprocessing #controlsystems