#vikhr — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #vikhr, aggregated by home.social.
-
Максимально эффективная интеграция ИИ в робототехнику
OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →
https://habr.com/ru/articles/1023564/
#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek
-
Максимально эффективная интеграция ИИ в робототехнику
OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →
https://habr.com/ru/articles/1023564/
#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek
-
Максимально эффективная интеграция ИИ в робототехнику
OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →
https://habr.com/ru/articles/1023564/
#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek
-
Максимально эффективная интеграция ИИ в робототехнику
OpenGrall — модульный фреймворк для роботов на LLM, который решает три главные проблемы «тормознутых» проектов: 1. LLM принимает решения только высокого уровня. 2. Сенсоры работают асинхронно, никто не ждёт «отстающих». 3. Массив данных структурируется в тщательно выверенный, короткий промпт с весами и возрастом. И другие решения насущных проблем. В статье: архитектура SensorMemory и WeightCalculator, реальные промпты, кэширование решений, эпизодическая память инструкций человека и автономное целеполагание. Всё на GitHub, работает на слабом железе и с LLM почти любых размеров. Узнать, что под капотом →
https://habr.com/ru/articles/1023564/
#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek
-
Максимально эффективная интеграция ИИ в робототехнику OpenGrall — модульный фреймворк для роботов на LLM, котор...
#LLM #ROS #TinyML #робототехника #OpenGrall #ИИ #Python #WebSocket #Vikhr #DeepSeek
Origin | Interest | Match -
А llama.cpp достаточно легко и просто скомпилировалась в моей 32битной altlinux. Зависимостей мизер. Ничего не потребовалось доустанавливать, компилить. При этом работает стабильно, не ругается, не сегфолтиться.
Тестил с Vikhr-Llama-3.2-1B-Q8_0.gguf, которая на 1,2ГБ и знает русский язык. Скорость "чтения" промпта 2 токена/сек. А скорость генерации ответа 1 токен/сек. Для вопросов "не к спеху" можно использовать, но качество ответа так себе.
Замечу, что компьютер у меня старенький: Pentium D E6300 на 2,8Ггц, поддерживает максимум SSSE3 и работает с памятью DDR2 на 4ГБ. По этому, то, что есть уже радует меня)