home.social

#локальная_llm — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #локальная_llm, aggregated by home.social.

  1. Внедрение ИИ‑агента в бизнес‑процесс за один день: от развертывания до прототипа

    Когда руководитель просит «внедрить ИИ в бизнес‑процесс», обычно за этим стоит неприятная реальность: бюджета нет, данные нельзя отдавать в облако, разработчиков под рукой тоже нет, а показать результат нужно почти сразу. В этой статье — практический маршрут, как за один рабочий день собрать локальный прототип ИИ‑агента на Ollama и n8n: развернуть модель, связать её с автоматизацией, написать рабочие промпты и при необходимости подключить RAG по внутренней базе знаний. Читать гайд

    habr.com/ru/companies/otus/art

    #ИИагент #локальная_LLM #Ollama #n8n #автоматизация_процессов #RAG #промптинжиниринг #бизнеспроцессы #локальная_модель #прототипирование

  2. Внедрение ИИ‑агента в бизнес‑процесс за один день: от развертывания до прототипа

    Когда руководитель просит «внедрить ИИ в бизнес‑процесс», обычно за этим стоит неприятная реальность: бюджета нет, данные нельзя отдавать в облако, разработчиков под рукой тоже нет, а показать результат нужно почти сразу. В этой статье — практический маршрут, как за один рабочий день собрать локальный прототип ИИ‑агента на Ollama и n8n: развернуть модель, связать её с автоматизацией, написать рабочие промпты и при необходимости подключить RAG по внутренней базе знаний. Читать гайд

    habr.com/ru/companies/otus/art

    #ИИагент #локальная_LLM #Ollama #n8n #автоматизация_процессов #RAG #промптинжиниринг #бизнеспроцессы #локальная_модель #прототипирование

  3. Внедрение ИИ‑агента в бизнес‑процесс за один день: от развертывания до прототипа

    Когда руководитель просит «внедрить ИИ в бизнес‑процесс», обычно за этим стоит неприятная реальность: бюджета нет, данные нельзя отдавать в облако, разработчиков под рукой тоже нет, а показать результат нужно почти сразу. В этой статье — практический маршрут, как за один рабочий день собрать локальный прототип ИИ‑агента на Ollama и n8n: развернуть модель, связать её с автоматизацией, написать рабочие промпты и при необходимости подключить RAG по внутренней базе знаний. Читать гайд

    habr.com/ru/companies/otus/art

    #ИИагент #локальная_LLM #Ollama #n8n #автоматизация_процессов #RAG #промптинжиниринг #бизнеспроцессы #локальная_модель #прототипирование

  4. Внедрение ИИ‑агента в бизнес‑процесс за один день: от развертывания до прототипа

    Когда руководитель просит «внедрить ИИ в бизнес‑процесс», обычно за этим стоит неприятная реальность: бюджета нет, данные нельзя отдавать в облако, разработчиков под рукой тоже нет, а показать результат нужно почти сразу. В этой статье — практический маршрут, как за один рабочий день собрать локальный прототип ИИ‑агента на Ollama и n8n: развернуть модель, связать её с автоматизацией, написать рабочие промпты и при необходимости подключить RAG по внутренней базе знаний. Читать гайд

    habr.com/ru/companies/otus/art

    #ИИагент #локальная_LLM #Ollama #n8n #автоматизация_процессов #RAG #промптинжиниринг #бизнеспроцессы #локальная_модель #прототипирование

  5. Наливатор произносит тост «за Родину» и поможет поддержать дружественный разговор в компании, заинтересовать подружку

    Почему домашний бар перестал быть просто набором бутылок и как сегодня можно пересмотреть актуальность DIY-наливаторов Людей уже так давно подсадили на кофе, что даже пришельцами-червями из Людей в Черном никого не удивишь. Наш организм пропитан этим экстрактом кофейных семян настолько, что в голове уже кипят совершенно нереальные ежедневные мысли и инсайты. Мы измеряем утро эспрессо, рабочий день американо, а вечер крафтовым рафом, хотя есть еще люди, посасывающие бутылочки в барах или за телевизором по вечерам, в которых не совсем кофе. Кофемашины стали идеальными: точные, быстрые, бесшумные. Но в этой эффективности потерялось главное, ради чего мы вообще собираемся за столом. Ритуал. Общение. Тот самый момент, когда кто-то поднимает бокал, говорит пару слов, и комната на секунду становится теплее. Мы решили вернуть это в быт. И создали устройство, которое не про кофе. Оно навряд ли заменит Вам вашу подружку-кофемашину, но даст в жизни действительно что-то новое кроме очередных кофейных эмоций. Устройство не просто молча и нужно наливает, а разговаривает, предлагает тосты и превращает домашнее распитие или встречу друзей в событие с особой, оригинальной, атмосферой. У него есть несколько названий, одно из них – «Наливатор». В статье немного пересмотрен подход и принципы, которые использованы в решении 2020 года.

    habr.com/ru/articles/1034278/

    #наливатор #бармен #устройство_для_кухни #электроника #интернет_вещей_iot #разработка #arduino #esp32 #локальная_llm #умный_дом

  6. Наливатор произносит тост «за Родину» и поможет поддержать дружественный разговор в компании, заинтересовать подружку

    Почему домашний бар перестал быть просто набором бутылок и как сегодня можно пересмотреть актуальность DIY-наливаторов Людей уже так давно подсадили на кофе, что даже пришельцами-червями из Людей в Черном никого не удивишь. Наш организм пропитан этим экстрактом кофейных семян настолько, что в голове уже кипят совершенно нереальные ежедневные мысли и инсайты. Мы измеряем утро эспрессо, рабочий день американо, а вечер крафтовым рафом, хотя есть еще люди, посасывающие бутылочки в барах или за телевизором по вечерам, в которых не совсем кофе. Кофемашины стали идеальными: точные, быстрые, бесшумные. Но в этой эффективности потерялось главное, ради чего мы вообще собираемся за столом. Ритуал. Общение. Тот самый момент, когда кто-то поднимает бокал, говорит пару слов, и комната на секунду становится теплее. Мы решили вернуть это в быт. И создали устройство, которое не про кофе. Оно навряд ли заменит Вам вашу подружку-кофемашину, но даст в жизни действительно что-то новое кроме очередных кофейных эмоций. Устройство не просто молча и нужно наливает, а разговаривает, предлагает тосты и превращает домашнее распитие или встречу друзей в событие с особой, оригинальной, атмосферой. У него есть несколько названий, одно из них – «Наливатор». В статье немного пересмотрен подход и принципы, которые использованы в решении 2020 года.

    habr.com/ru/articles/1034278/

    #наливатор #бармен #устройство_для_кухни #электроника #интернет_вещей_iot #разработка #arduino #esp32 #локальная_llm #умный_дом

  7. Наливатор произносит тост «за Родину» и поможет поддержать дружественный разговор в компании, заинтересовать подружку

    Почему домашний бар перестал быть просто набором бутылок и как сегодня можно пересмотреть актуальность DIY-наливаторов Людей уже так давно подсадили на кофе, что даже пришельцами-червями из Людей в Черном никого не удивишь. Наш организм пропитан этим экстрактом кофейных семян настолько, что в голове уже кипят совершенно нереальные ежедневные мысли и инсайты. Мы измеряем утро эспрессо, рабочий день американо, а вечер крафтовым рафом, хотя есть еще люди, посасывающие бутылочки в барах или за телевизором по вечерам, в которых не совсем кофе. Кофемашины стали идеальными: точные, быстрые, бесшумные. Но в этой эффективности потерялось главное, ради чего мы вообще собираемся за столом. Ритуал. Общение. Тот самый момент, когда кто-то поднимает бокал, говорит пару слов, и комната на секунду становится теплее. Мы решили вернуть это в быт. И создали устройство, которое не про кофе. Оно навряд ли заменит Вам вашу подружку-кофемашину, но даст в жизни действительно что-то новое кроме очередных кофейных эмоций. Устройство не просто молча и нужно наливает, а разговаривает, предлагает тосты и превращает домашнее распитие или встречу друзей в событие с особой, оригинальной, атмосферой. У него есть несколько названий, одно из них – «Наливатор». В статье немного пересмотрен подход и принципы, которые использованы в решении 2020 года.

    habr.com/ru/articles/1034278/

    #наливатор #бармен #устройство_для_кухни #электроника #интернет_вещей_iot #разработка #arduino #esp32 #локальная_llm #умный_дом

  8. Наливатор произносит тост «за Родину» и поможет поддержать дружественный разговор в компании, заинтересовать подружку

    Почему домашний бар перестал быть просто набором бутылок и как сегодня можно пересмотреть актуальность DIY-наливаторов Людей уже так давно подсадили на кофе, что даже пришельцами-червями из Людей в Черном никого не удивишь. Наш организм пропитан этим экстрактом кофейных семян настолько, что в голове уже кипят совершенно нереальные ежедневные мысли и инсайты. Мы измеряем утро эспрессо, рабочий день американо, а вечер крафтовым рафом, хотя есть еще люди, посасывающие бутылочки в барах или за телевизором по вечерам, в которых не совсем кофе. Кофемашины стали идеальными: точные, быстрые, бесшумные. Но в этой эффективности потерялось главное, ради чего мы вообще собираемся за столом. Ритуал. Общение. Тот самый момент, когда кто-то поднимает бокал, говорит пару слов, и комната на секунду становится теплее. Мы решили вернуть это в быт. И создали устройство, которое не про кофе. Оно навряд ли заменит Вам вашу подружку-кофемашину, но даст в жизни действительно что-то новое кроме очередных кофейных эмоций. Устройство не просто молча и нужно наливает, а разговаривает, предлагает тосты и превращает домашнее распитие или встречу друзей в событие с особой, оригинальной, атмосферой. У него есть несколько названий, одно из них – «Наливатор». В статье немного пересмотрен подход и принципы, которые использованы в решении 2020 года.

    habr.com/ru/articles/1034278/

    #наливатор #бармен #устройство_для_кухни #электроника #интернет_вещей_iot #разработка #arduino #esp32 #локальная_llm #умный_дом

  9. Как устроен Meshtastic, зачем он нужен и как я подключил его к локальной модели на ноутбуке

    Практический эксперимент с Meshtastic: две Heltec ESP32 LoRa 32 V4, связь на 702 м в городской среде, разбор LoRa-настроек, ролей нод, MQTT и Python-мост к локальной LLM через Ollama.

    habr.com/ru/articles/1030872/

    #Meshtastic #LoRa #meshсеть #Ollama #локальная_LLM #Python #Heltec_ESP32_LoRa_32_V4 #MQTT #offgrid #IoT

  10. Как я встроил локального нейробота в панель поиска заявок для логистики

    В логистике всё редко выглядит как аккуратная CRM из презентации. Заявки (аукционы/тендеры/грузы приходят из разных источников. Часть данных живёт в 1С/Битрикс/Excel/Амбарная книга, часть — в SQL, часть — в интерфейсах сайтов, часть — в голове менеджера. Перевозчики отвечают неравномерно, менеджеры работают через звонки и таблицы, а руководителю нужно быстро понимать: какие заявки есть сегодня, где рента, какие маршруты повторяются, кто из менеджеров проседает, где найти транспорт. Я делаю внутреннюю систему автоматизации для логистической компании. Один из её модулей — веб‑панель поиска заявок. Сначала это была обычная таблица с фильтрами: маршрут, дата, тип кузова, источник, цена, рубли за километр. Но довольно быстро стало понятно: сама таблица не закрывает главный сценарий. Человеку всё равно нужно руками формулировать фильтр, помнить названия полей, переключаться между поиском, аналитикой и рекомендациями. Плюс в логистике своя внутренняя бизнес кухня, прибыль идет от типа ТС (реф/тент/изотерм/прочие) + сезонность, А если надо спросить что‑то вроде «какая ставка/руб‑км Краснодар — Москва тент?» или «сравни двух менеджеров за неделю», таблица превращается в набор ручных действий. Так внутри поиск‑панели появился нейробот.

    habr.com/ru/articles/1029370/

    #llmагент #локальная_llm

  11. Локальная LLM для кодинга за 12 минут: LM Studio, Kilo Code и четыре бесплатных облачных варианта

    Показываю, как запустить локальную LLM и подключить её к IDE за 15 минут, а также четыре бесплатных облачных альтернативы. Локальный вариант: LM Studio + Qwen3-Coder + Kilo Code. Работает офлайн, без подписки и лимитов на запросы. Облачные варианты: Kilo Code со своими бесплатными моделями, Qwen Code с 1 000 запросов в день, OpenCode с ротируемыми open source free моделями и OpenAI Codex — пока бесплатный для Free-аккаунтов.

    habr.com/ru/companies/haulmont

    #локальная_LLM #LM_Studio #Kilo_Code #Qwen #Claude_Code #open_source #ИИагент #кодинг #бесплатные_модели

  12. Как мы сделали AI code review через Ollama без облака?

    Как запустить AI code review по git diff на своей машине через Ollama - без облака и API-ключей? Установка, конфиг и пример отчёта.

    habr.com/ru/articles/1006258/

    #code_review #ollama #ai #cli #кодревью #статический_анализ #линтер #локальная_llm #git_diff #автоматизация

  13. LLM и Дональд Трамп + qwen3.5:122b

    Ollama выложили новую модель qwen3.5:122b которая уже умеет видеть. Потестировав на логику, написание скриптов она оказалась весьма неплохой, на уровне наверное gpt-oss:120b. Но в отличии от gpt-oss она еще может обрабатывать картинки. И я ради интереса загрузил ей карикатуру на Дональда Трама, кто не знает, это руководитель такой страны как америка. Кто не знает что такое америка, могу рассказать в комментариях.

    habr.com/ru/articles/1005036/

    #как_видят_нейросети #llmмодели #llm_vision #тест_llm #локальная_llm

  14. AI & RAG. Помощник по техническим вопросам систем управления освещением

    Свою первую программу я написал в 1988 году на калькуляторе МК52. Очень хотелось программировать и даже максимально странный интерфейс не останавливал. Утекло почти 40 лет. Были Атари, Синклеры, 286 IBM, Интернет, смартофоны. Но все эти технологии входили как-то постепенно, приспосабливаясь и без шока. AI ворвался в жизнь бывалого ИТшника как пыльным мешком по голове. После первого шока, скормленных Дипсику результатов анализов, идей подарков, профессиональная “чуйка” потребовала придумать новой чудо-технологии боевое применение в том, чем я занимаюсь каждый день на протяжении всей сознательной жизни. Фокус группы не сформулировали внятного предложения куда погрузить AI - было решен что потрачу время и часы штатных программистов на то, чтобы уменьшить свою боль - держать в голове кучу технических нюансов, документации, кейсов и лайвхаков.

    habr.com/ru/articles/983974/

    #RAG #Qdrant #FRIDA #эмбеддинг #Qwen #локальная_LLM #техническая_документация #Claude #системы_управления_освещением #AIfirst

  15. GPT-OSS-20B / 120B: Сухие цифры после реальных тестов

    GPT-OSS - тесты на реальном железе: производительность моделей 20B и 120B на RTX 4090, RTX 5090 и H100. Реальные метрики TPS, сравнение скорости генерации и практические выводы о том, какую модель выбрать для локального использования.

    habr.com/ru/articles/938960/

    #GPTOSS20B #GPTOSS120B #TPS_токены_в_секунду #RTX_4090_vs_RTX_5090 #Ollama #H100_PCIe #llm #локальная_LLM #VRAM_использование #vllm

  16. GPT-OSS-20B / 120B: Сухие цифры после реальных тестов

    GPT-OSS - тесты на реальном железе: производительность моделей 20B и 120B на RTX 4090, RTX 5090 и H100. Реальные метрики TPS, сравнение скорости генерации и практические выводы о том, какую модель выбрать для локального использования.

    habr.com/ru/articles/938960/

    #GPTOSS20B #GPTOSS120B #TPS_токены_в_секунду #RTX_4090_vs_RTX_5090 #Ollama #H100_PCIe #llm #локальная_LLM #VRAM_использование #vllm

  17. GPT-OSS-20B / 120B: Сухие цифры после реальных тестов

    GPT-OSS - тесты на реальном железе: производительность моделей 20B и 120B на RTX 4090, RTX 5090 и H100. Реальные метрики TPS, сравнение скорости генерации и практические выводы о том, какую модель выбрать для локального использования.

    habr.com/ru/articles/938960/

    #GPTOSS20B #GPTOSS120B #TPS_токены_в_секунду #RTX_4090_vs_RTX_5090 #Ollama #H100_PCIe #llm #локальная_LLM #VRAM_использование #vllm

  18. GPT-OSS-20B / 120B: Сухие цифры после реальных тестов

    GPT-OSS - тесты на реальном железе: производительность моделей 20B и 120B на RTX 4090, RTX 5090 и H100. Реальные метрики TPS, сравнение скорости генерации и практические выводы о том, какую модель выбрать для локального использования.

    habr.com/ru/articles/938960/

    #GPTOSS20B #GPTOSS120B #TPS_токены_в_секунду #RTX_4090_vs_RTX_5090 #Ollama #H100_PCIe #llm #локальная_LLM #VRAM_использование #vllm