home.social

#локальные_llm — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #локальные_llm, aggregated by home.social.

  1. Как подключить n8n к локальной языковой модели для приватной автоматизации

    Подключить n8n к локальной языковой модели можно минут за десять: Ollama в соседнем контейнере, один HTTP-запрос, и n8n уже пишет резюме заявок, ничего не отправляя в облако. А вот с приватностью всё не так быстро. К этому моменту текст заявки успел осесть в истории запусков n8n, в журналах контейнеров и в бэкапе базы, а любой неосторожно добавленный узел может унести его наружу. Пример ниже собран на n8n 2.43.5 и Ollama 0.40.4. Названия узлов, формат credentials и совместимость API от версии к версии меняются, так что стриминг, structured output и вызов инструментов придётся проверить на своей связке. Как n8n вызывает локальную модель через API? Узел HTTP Request отправляет POST на адрес Ollama с моделью, текстом и параметрами генерации, а следующий узел достаёт ответ из JSON. Подойдёт нативный /api/chat или OpenAI-совместимый /v1/chat/completions. Адрес должен открываться именно из контейнера n8n, а формат ответа и стриминг проверяют для выбранного маршрута.

    habr.com/ru/articles/1098354/

    #автоматизация #искусственный_интеллект #vps #безопасность_данных #docker_compose #n8n #ollama #aiагенты #локальные_llm #selfhosted_ai

Share on Mastodon

Enter the server where you have an account.