#локальный_ии — Public Fediverse posts

OpsDeck за три недели: ИИ-агент, который сам ходит на хосты, и ещё восемь релизов

OpsDeck за три недели: ИИ-агент, который сам ходит на хосты, и ещё восемь релизов Три недели назад я писал здесь про OpsDeck — бесплатное открытое приложение, в котором DevOps-инженер держит в одном окне терминал, Kubernetes, SSH, базы, заметки и прочее, по чему обычно разложены пять вкладок и три консоли. С тех пор вышло девять релизов, в репозитории появились внешние контрибьюторы, а приложение заметно изменилось — настолько, что отдельный рассказ назрел. Коротко о главном: локальный ИИ перестал быть подсказчиком команд и научился сам ходить на хосты — по правилам, которые вы ему задаёте, и с вашим разрешением на любое изменение. Об этом — первая половина поста. Дальше — что ещё появилось и чему меня научили ваши баг-репорты. Поехали!

https://habr.com/ru/articles/1098148/

#opensource #искусственный_интеллект #системное_администрирование #itинфраструктура #rust #devops #локальные_нейросети #локальный_ии #локальный_запуск_нейросетей #локальные_модели

12 спрайтов и 61 цвет: как нейросеть собрала пиксель-арт-маскота для сайта из черновиков Qwen Image 2.1

Нейросеть нарисовала ведьму, которая выглядит как пиксель-арт. Спрайтом она не является: в файле 1344×1344 и 40 318 уникальных цветов (это кадр read ), а сетки, по которой эти «пиксели» выстроены, не существует. Это принципиальная разница, и она не косметическая: картинку «под пиксели» нельзя перекрасить в ночную палитру одной операцией, нельзя анимировать по кадрам и нельзя гарантировать, что при смене эмоции персонаж не дёрнется. Ниже — пайплайн, который превращает такие черновики в спрайты, где один пиксель — это ровно один цвет из палитры , и где это свойство проверяется числом, а не глазами. Заодно покажу, где пайплайн ломается: на каждый из пяти приёмов нашлись свои грабли.

https://habr.com/ru/articles/1095304/

#пиксельарт #обработка_изображений #нейросети #спрайты #маскот #генерация_изображений #comfyui #ииагенты #локальный_ии #qwen_image

[Перевод - recovery mode ] Локальный запуск Qwen-Image-2.1 без safety checker: тест на MacBook Air с 16 ГБ памяти

Команда Qwen из Alibaba выпустила Qwen-Image-2.1 — модель для генерации и редактирования изображений на базе diffusion transformer с 7 млрд параметров, поддержкой нативного вывода до 2K и лицензией Qwen Research License. Она умеет

https://habr.com/ru/articles/1093810/

#macbook_air #генерация_изображений #apple_silicon #comfyui #gguf #локальный_ии #mlx #qwenimage21

35B‑модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4

Моя RTX 3060 на PCIe Gen2 x4 не мешает генерации Qwen3.6–35B‑A3B со скоростью 109 ток/с. Разбираю, почему это работает .

https://habr.com/ru/articles/1093074/

#pcie #gguf #moe #llamacpp #локальный_ии #локальные_llm #vram_использование #инференс_llm #qwen36 #qwen_36_27b

Домашний ИИ: простой способ добавить «интеллект» своему компьютеру

В этой статье мы рассмотрим открытые модели машинного обучения. Они не требуют обязательного подключения к интернету и подписки, никуда не передают ваши данные и достаточно компактные, чтобы их можно было запускать на ПК или ноутбуке. Эксперименты выполнялись на ПК с Core i5-14600, 32 ГБ DDR5 и RTX 3070Ti c 8 ГБ VRAM. Комментарии подготовлены экспертами лаборатории искусственного интеллекта российской ИТ-компании «Криптонит».

https://habr.com/ru/companies/kryptonite/articles/1091402/

#локальные_модели #локальные_нейросети #локальный_ии #LM_Studio #Bionic #Whisper #huggung_face #транскрибация #расшифровка_аудио #LLM

Собираю робота на Raspberry Pi 5 для дочери. Но говорящей колонкой тут не отделаться! Вызов принят, погнали

Я хотел, чтобы робот помогал ребенку и мог разговаривать без интернета . Пришлось перебрать почти двадцать локальных моделей, подобрать голос, поставить камеру в бант и научить глаза и голову следить за человеком. В первой части рассказываю, как из эскиза получился работающий стенд — и что пошло не по плану.

https://habr.com/ru/articles/1090078/

#Raspberry_Pi_5 #домашний_робот #робототехника #локальный_ИИ #3Dпечать #распознавание_речи #синтез_речи #слежение_за_лицом #сервопривод #python3

35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4

На материнке B450-Plus с урезанным вторым слотом PCIe Gen2 x4 Qwen3.6 выдала 109 ток/с. MoE обнуляет аргумент «одна видеокарта лучше двух».

https://habr.com/ru/articles/1088316/

#llamacpp #локальные_llm #moe #gguf #инференс_llm #vram_использование #pcie #qwen36 #Qwen_36 #локальный_ии

Что значит развернуть LLM локально: два дня с vLLM, DGX Spark и настоящими ограничениями

Когда меня однажды спросили, что такое инференс и как выглядит локальное развёртывание модели, я ответил правильно, но слишком общо. Через несколько дней пришлось пройти этот путь целиком: поднять две LLM на NVIDIA DGX Spark, отдельную ASR-модель на AMD GPU и подключить всё к мультиагентной платформе. В статье — инженерный разбор того, почему файлы модели ещё не сервис, как длинный контекст конкурирует с KV-кэшем и параллелизмом, почему tokens/sec не описывают пользовательскую задержку и зачем иногда откатывать более быструю модель из-за качества.

https://habr.com/ru/articles/1081324/

#LLM #inference #vLLM #CUDA #ROCm #DGX_Spark #AIагенты #ASR #KVкэш #локальный_ИИ

On-device OCR для первички: как распознавать документы без отправки в облако

Представим обычную ситуацию: экспедитор принимает товар на складе, подписывает накладную и фотографирует документ корпоративным смартфоном. Через несколько секунд реквизиты должны оказаться в учетной системе – без ручного ввода данных, офисного сканера и ожидания, пока бумага доедет до бухгалтерии. Но есть условие: фотография не должна отправляться ни OCR-провайдеру, ни стороннему центру обработки, ни оператору ручной верификации. В идеальном сценарии изображение вообще не покидает мобильное устройство – в корпоративную систему поступают уже извлеченные и проверенные данные. Возможно ли распознать на смартфоне многостраничный УПД со сложной таблицей, исправить перспективу, прочитать мелкий шрифт и рукописные пометки – и сделать все это без подключения к внешней инфраструктуре? Короткий ответ: да. Однако для безопасной системы распознавания первички недостаточно написать в презентации “работает локально”. Нужно правильно выстроить весь маршрут документа – от камеры смартфона до 1С или ERP.

https://habr.com/ru/companies/smartengines/articles/1079702/

#распознавание_документов #ocr #ondevice_OCR #мобильное_распознавание #бухгалтерские_документы #первичная_документация #автоматизация_документооборота #компьютерное_зрение #локальный_ии

Проектирование медицинского ИИ, ориентированного на лечебное дело, в условиях экстремальных аппаратных ограничений

В статье описывается архитектура автономной (внесетевой) полностью локальной системы поиска информации, предназначенной для анализа глобальной медицинской литературы на общедоступных серийных вычислительных устройствах в условиях жестких ограничений по объему памяти. Используя базу данных из примерно 2500 современных тщательно отобранных монографий и ресурсоэффективную агентную структуру, система преодолевает разрыв между обширными базами данных медицинских публикаций и возможностями работующего локально типового серийного оборудования, сохраняя при этом абсолютную конфиденциальность данных и детерминированную проверяемость результатов поиска. Система облегчает извлечение научных знаний из литературы в области лечебного дела, клинической фармакологии и биохимии. Она также предоставляет механизм поиска изображений медицинских патологий по их словесным описаниям и средства визуализации инструментальных медицинских исследований в формате DICOM. Предлагаемый ИИ асистент служит доступным ускорителем семантических исследований для практикующих врачей, биомедицинских инженеров и междисциплинарных специалистов.

https://habr.com/ru/articles/1078980/

#ииагенты #ииассистент #медицина #здоровье #локальный_ии #медицинский_поиск #dicom #оптимизация_vram #автономные_агенты

Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU

Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пустой строкой, хотя в логах не было ни одной явной ошибки. Агент не мог достучаться до Ollama, панель не проходила авторизацию, ключ отклонялся из-за прав доступа, а gateway показывал зелёный статус, но будто не замечал изменений в конфиге. В этой статье хочу разобрать три случая, сопроводим их реальными репликами агента и выводами команд. Посмотрим, как модель имитирует выполненную работу, почему при переполнении лучше не увеличивать окно, а искать причину по логам, и как скилл по расписанию оказался удобнее панели управления. Статья написана на основе моего вебинара , можно посмотреть его в записи.

https://habr.com/ru/companies/vktech/articles/1068686/

#vk_cloud #локальный_ии #ai_agents #ollama #openclaw #nvidia_a30 #gpu #llm_inference #selfhosted_ai #информационная_безопасность

Chrome скачал себе мозг: Gemini Nano локально, Ask Gemini — в облаке

В настройках Chrome появился переключатель «ИИ на устройстве» . Он относится к моделям, которые запускаются прямо на компьютере, причем, для целей довольно разнообразных (в частности, даже для обнаружения мошеннических сайтов). В каталоге профиля браузера при этом действительно лежат несколько гигабайт весов Gemini Nano. Хочется сказать: раз модель уже скачана, то встроенный Gemini должен работать локально - например, читать и пересказывать открытую страницу без обращения в облако! Увы, для Google это оказалось не самым логичным решением. Более того, они даже с неймингом не справились до конца, чем здорово всех запутали. Под словом Gemini у компании скрываются две принципиально разные системы. Ask Gemini / Gemini in Chrome — облачный сервис. Когда вы просите его пересказать страницу или ответить на вопрос по открытым вкладкам, их содержимое передаётся в инфраструктуру Google. Gemini Nano — локальная модель. Chrome скачивает её на компьютер и запускает на CPU или GPU. Отдельной кнопки «спросить Gemini Nano» у пользователя нет. Этой моделью пользуются сайты и расширения через специальные API Chrome, а также сам браузер — например, при первичной проверке подозрительных страниц.

https://habr.com/ru/articles/1068242/

#Google_Chrome #Gemini_Nano #Gemini_in_Chrome #локальный_ИИ #искусственный_интеллект #браузер #Summarizer_API #Prompt_API #Google_Safe_Browsing #приватность

Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX

Я запустил Ideogram 4 локально на Mac, а затем собрал для него нативное приложение на Swift и MLX — без отдельного Python-процесса во время рендера. Сразу честно: «6 часов против 11 минут» — не ускорение одной картинки в 35 раз, а два разных режима: максимальный Quality 2048×2048 на 48 шагах и повседневный Turbo 1152×768 на 12. Это продолжение серии о Typhoonminigen. В статье — архитектура приложения, реальные замеры, удачные решения, ограничения и ошибки, которые пришлось исправлять по пути.

https://habr.com/ru/articles/1060678/

#искусственный_интеллект #Cyclonminigen #Ideogram_4 #MLX #Swift #Apple_Silicon #macOS #генерация_изображений #локальный_ИИ #open_source

Нужен ли GUI вашему продукту, если всё решает локальный агент?

Я разрабатываю очередную платформу ИИ и вокруг меня пузырятся всякие ИИ проекты и продукты: вайбкодинг, гардрейлы, агенты, цифро сотрудники и тому подобная тематика. Среди всего этого я стал замечать определенный тренд - целевому пользователю все реже надо ходить в разные приложения, кроме одного единственного локального агента, который уже ходит всюду. После настройки MCP & Skills мы в этом едином интерфейсе видим чат на вход и текст или рендер видео\графики\таблички на выход, ведь получать информацию легче через картинку, а кликать - быстрее, чем вводить текст. Понятное дело, что текстовый ввод легко дополняется голосовым и далее через транскрибацию все уходит в текстовый канал. Возможно, скоро приделают нейро ввод. Также есть запрос на мульти модельную обработку запросов на сервисах разных вендоров с хранением единой истории локально, потому что разные модели имеют разное качество ответов в разных областях знаний. Многие инвестируют также в локальный инференс из-за предпочтений в части приватности, что позволяет сделать значительную глубину предобработки запроса offline и, возможно, сэкономить платные токены. Таким образом, каждый из нас уже сейчас имеет возможность создать локально супер приложение, которое будет ходить и делать что угодно, отображая тебе результат своей работы или формулируя дополнительный вопрос по задаче в том виде, как ты привык. То есть твой локальный агент будет рендерить тебе GUI, который будет максимально тебе удобен. Например, ты хочешь, чтобы корзина товаров всегда на всех ресурсах была сверху ? Не вопрос, совершенно не важно, что UX специалисты озона и дикой ягоды иного мнения - твой агент == твои правила. Или на работе корп портал писали альтернативно одаренные люди и он работает с перебоями или крайне долго ? Это уже проблема задача твоего локального агента, который возьмет поручение удобным для тебя способом и потом обязательно доложит о его исполнении.

https://habr.com/ru/articles/1058270/

#ai_агент #gui #единый_клиент #mcp #локальный_инференс #локальный_ии #ui #ux

«Четыре шага — и точка» Я сам придумал главное ограничение своего приложения

Пару недель назад я рассказывал здесь, как три ночи чинил рендер, который не был сломан . С тех пор в главном ничего не изменилось: я по-прежнему энтузиаст, а не разработчик; код печатает машина, а что и зачем печатать, решаю я. Правда, машин в этот раз было две: код писала Claude Opus 4.8 в режиме ultracode с рассуждением, выкрученным на максимум (xhigh), а вторая — Fable 5 — атаковала приложение. Об этом ближе к концу. Изменилось всё остальное. Typhoonminigen — бесплатное open-source (MIT) нативное macOS-приложение для локальной генерации FLUX.2 Klein на Apple Silicon, без Python, без ComfyUI, без облака — доросло до версии 2.0: 57 новых функций, 150+ исправлений. Про них и статья. Но начать придётся не с функций, а с признания: самый живучий баг приложения сидел не в коде. Он сидел во мне.

https://habr.com/ru/articles/1055878/

#FLUX2 #Klein #MLX #Apple_Silicon #генерация_изображений #LoRA #обучение_LoRA #Swift #macOS #локальный_ИИ

Claude Code с локальными Qwen3.6 на AMD Strix Halo: полное руководство по настройке

Всем привет! Продолжаю тему локальных LLM. В предыдущей статье мы сравнивали железо для инференса — Nvidia DGX Spark, Mac Studio M3 Ultra и Strix Halo. И как можно было догадаться, я остановился именно на последнем. Теперь, когда железка есть, встает вопрос: а как из неё извлечь практическую пользу? Claude code с оригинальными LLM - это, конечно, замечательно. Но это стоят денег, да и свой код в чужие дата-центры не всегда правильно лить. Плюс за всякое неосторожное движение можно попасть в бан, рискуя потерять все свои наработки. Одно из решений: Claude Code во free mode с локальными моделями . Anthropic позволяет заменить свои модели на любые с совместимым API. То есть, на что угодно — даже на модель, крутящуюся прямо у вас на компьютере. В этой статье я расскажу, как всё это настроить на Strix Halo — от загрузки моделей до первого запроса к Claude Code.

https://habr.com/ru/articles/1038774/

#claudecode #strix_halo #ииагенты #программирование #antropic #qwen36 #локальный_ии #llamacpp #vibecoding

Видео → текст → саммари. Ставим транскрибацию на Mac

Транскрибируем любое видео локально, прямо на Mac. Бесплатно, приватно, с качеством на уровне платных сервисов. Полный гайд: настройка, скрипт и промпт для саммари

https://habr.com/ru/articles/1040998/

#whispercpp #транскрибация #macOS #распознавание_речи #локальный_ИИ #видео_в_текст #subtitles #voice_activity_detection

Capacitor: от веба к мобильным приложениям. Часть 4. Интегрируем локальный LLM в проект

В этой уже 5 по счету статье мы поговорим про актуальность локального AI в мобильных приложениях а также займемся интеграцией плагина для локальных LLM в Capacitor приложение.

https://habr.com/ru/articles/1039318/

#capacitor #мобильные_приложения #гибридные_приложения #typescript #javascript #ios #android #ai #llm #локальный_ии

Мессенджер HalChat теперь в Google Play: 3 года разработки, ИИ в браузере и квест с модерацией

Всем привет! Моему мессенджеру HalChat исполнилось три года. За это время он прошел огромный путь: из месива символов и сырых блоков превратился в стабильную систему с интуитивным дизайном и современными протоколами. Я разрабатываю его один и позиционирую как приватный, кастомизируемый и автоматизированный мессенджер. Далее: итоги разработки, локальный ИИ в браузере без сторонних серверов и история о том, как я проходил квест с новыми жесткими правилами тестирования в Google Play.

https://habr.com/ru/articles/1038816/

#мессенджер #android #google_play #петпроект #приватность #шифрование #локальный_ИИ #halchat

DGX Spark на 256K контексте: тестирую конфигурации vLLM, реальные замеры и почему NVFP4 в mainline сломан

NVIDIA продаёт спарку с лозунгом «один петафлоп на FP4». Я купил коробку, поставил vLLM, запустил инференс и получил 40 токенов в секунду на 35B MoE‑модели. После маркетинговых слайдов цифра выглядит грустно. Объяснение простое. NVFP4 в основной ветке vLLM и FlashInfer физически сломан на SM_121 — варианте Blackwell, который установлен в GB10. Ядра собраны под compute_120f , а нативные NVFP4-инструкции есть только в compute_120a и compute_121a . На SM_121 распаковка квантованных весов идёт через программные битовые манипуляции в шейдере, без участия тензорных ядер. Сообщество вытащило стек руками: нашло обходные пути, собрало рабочие конфигурации. Я прогнал на своём Spark шесть разных конфигураций vLLM — от стокового BF16 до форка с DFlash speculative decoding — и замерил каждую одинаковым тестом. В этой статье разбираю, что в итоге работает и что выбирать под разные задачи.

https://habr.com/ru/articles/1033342/

#vllm #dgx_spark #gb10 #blackwell #nvfp4 #llm #инференс #локальный_ии

Кириллица в LLM: почему русский язык в нейросетях стоит дороже и работает медленнее

Когда вы пишете запрос в ChatGPT или другую нейросеть, она не работает с буквами или словами — она режет ваш текст на маленькие кусочки. Эти кусочки называются токенами, и от того, как именно нейросеть режет текст, зависит цена ответа, скорость, и сколько информации в неё помещается за раз. С английским это работает хорошо: одно слово — обычно один‑два кусочка. С русским всё хуже: то же самое слово часто превращается в три‑четыре обрывка. Английское «contract» — один токен. Русское «разработка» — два‑три. «Программирование» — три‑четыре. Из‑за этого русский текст в облачных сервисах вроде OpenAI обходится примерно в 2 раза дороже английского, медленнее обрабатывается, и в одно «контекстное окно» нейросети помещается заметно меньше реального содержания. Эта статья — про то, откуда берётся разница, как её измерить на ваших данных и какие модели лучше работают с русским языком.

https://habr.com/ru/articles/1032610/

#llm #токенизация #нейросети #локальный_ии #selfhosted #кириллица #qwen #gigachat #llama #yandexgpt

Как сделать локальный генератор изображений через ComfyUI

Чтобы не зависеть от онлайн-сервисов с их лимитами, очередями и закрытыми настройками, локальный генератор изображений можно собрать прямо на своём компьютере. Такой подход даёт больше контроля: можно самостоятельно выбирать модель, менять параметры генерации, подключать LoRA, использовать апскейл, ControlNet и другие инструменты.

https://habr.com/ru/articles/1030754/

#ComfyUI #генерация_изображений #нейросети #локальный_ИИ #генеративный_ИИ #NoobXL #CFG_Scale #локальная_генерация #workflow #texttoimage

Дружба Linux и Windows, или как поиграться с ИИ-моделями на втором компьютере без видеокарты

Работаете под Windows? Есть лишний компьютер? Нет видеокарты, но хотите сами запускать ИИ-модели? Тогда делаем как на картинке, по шагам.

https://habr.com/ru/articles/1024950/

#Локальный_ИИ #Windows #LMStudio #openwebui #linux_mint #паранойя_mode_on

Свой ИИ без облаков: практический гайд по llama.cpp + Qwen

В этой статье я расскажу, как установить нейросеть на своё оборудование. Так вы сможете изучить LLM и применить их на практике. При этом ваши данные не будут передаваться в чужие облака, что критично при работе с конфиденциальными данными. И вам не придётся платить за использование какого-либо внешнего сервиса или решать вопросы с заблокированным доступом. Вы установите инструмент для запуска больших языковых моделей llama.cpp и модель нейросети Qwen на компьютер или сервер. Я расскажу об установке в тех случаях, когда в составе оборудования есть Nvidia GPU или интегрированная графика Intel Iris Xe Graphics (актуально для ноутбуков).

https://habr.com/ru/companies/first/articles/1017822/

#нейросети #искусственный_интеллект #llamacpp #qwen #локальный_ии

Эволюция Telegram-бота на локальной LLM от болтуна до мини-игр, генерации фото, возможности выбора модели

Хочу рассказать о том, как я создавал tg бота на локальной LLM Ollama и с какими проблемами я столкнулся. Бот написан на python и библиотеке telegram. Почему выбрал именно Ollama? Потому что она бесплатна, есть множество открытых моделей и её очень просто развернуть в своем проекте. Если брать облачные решения от других компаний например ChatGPT, то тут можно упереться в то, что за них нужно платить. Модели я подбирал под свой компик: 5070 и 32 гб оперативы. Сервера своего нету, поэтому бот работает только когда я дома. Бот продолжает развиваться. Следить за обновлениями и новыми фичами можно в моем Telegram-канале: https://t.me/rocet_0 Изучить историю

https://habr.com/ru/articles/1008248/

#Python #Telegram_бот #Ollama #LLM #искусственный_интеллект #генерация_изображений #самообучение #локальный_ИИ #разработка_ботов #кейс

Как запустить 4 независимые нейросети на одном GPU (16 ГБ) под FastAPI

Как поднять мультимодальный AI-сервис (OCR, ASR, LLM, TTS) на одной GPU 16GB без облачных API? Разбираем пошагово: - Подготовка VPS (Ubuntu + CUDA + драйверы) -FastAPI-архитектура с PyTorch/Transformers - Управление памятью (без OOM-ошибок) - Продакшен: systemd + Nginx + HTTPS + домен - Тестирование в Swagger Итог: локальный сервис "под ключ" с предсказуемыми расходами, полной приватностью данных и возможностью масштабирования. Для кого: DevOps, Python-разработчики, AI-интеграторы, стартапы. Исходники в репозитории, демо-видео, лайфхаки по разработке прямо на сервере!

https://habr.com/ru/companies/hostkey/articles/982278/

#fastapi #whisper #deepseek #deepseek_ocr #python #локальный_ии #Локальные_LLM_VPS #Локальный_AI_сервис #OCR_ASR_TTS_сервер #CUDA_PyTorch_FastAPI

Запускаем LLM на iPhone локально — мой опыт с Gemma 2B

Долгое время меня мучал вопрос - возможно ли запустить ИИшку у себя на телефоне, и если да, то какую. Я уверен, что об этом думали многие, но не понимали смысла, зачем тратить время на такого рода занятия. Что ж, я не выдержал и сделал мини-приложение, которое запускает Qwen / Gemma модель и общается с вами без доступа в интернет - прямо на смартфоне.

https://habr.com/ru/articles/977476/

#Сезон_ИИ_в_разработке #iOS #Swift #LLM #нейросеть #Gemma #llamacpp #офлайн #локальный_ИИ #мобильная_разработка

Оцифровываем сырую документацию компании с помощью ИИ локально! DeepSeek-OCR + Qwen 1.5

Недавно получил задачу сделать автоматизированную оцифровку характеристик из паспортов товаров в БД, а не изменение параметров вручную в ERP. Я подумал, было бы здорово поделиться, как я это сделал, с вами на Хабре!

https://habr.com/ru/articles/975824/

#OCR #DeepSeek #Qwen #vLLM #Docker #LLM #локальный_ИИ #оцифровка_документов #selfhosted #Сезон_ИИ_в_разработке

Делаю своего ИИ-помощника для экосистемы HalNet

Локальный ИИ-ассистент прямо в мессенджере HalChat: без серверов, без рисков, только приватность и RAG.

https://habr.com/ru/articles/973006/

#ИИ #Локальный_ИИ #HalChat #HalSM #ИИ_Помощник #WLamma #приватность #javascript #экосистема #чат_бот

HalChatLocalAI: как я встроил офлайн-ИИ прямо в мессенджер

Большинство ИИ-ассистентов работают в облаке. А я сделал локальный — прямо внутри мессенджера HalChat .

https://habr.com/ru/articles/966888/

#ИИ #Локальный_ИИ #HalChat #HalSM #WLLama #LLM #приватность #javascript #чат_бот #экосистема