#локальный_ai — Public Fediverse posts

API принятия решений у вас в телефоне: ответ за десятки миллисекунд, без облака и без подписки (быстрый аналог Jev)

Быстрый аналог Jev API для классификации запросов — в телефоне. В статье — что это за модель, как запустить сервер за пять минут и как встроить его в бота или автоматизацию с помощью одного curl и десяти строк на Python.

https://habr.com/ru/articles/1089714/

#Decision_API #классификация_намерений #локальный_AI #нейросети_на_телефоне #офлайн #Cortiq #CMF #JSON_API #автоматизация #Android

Запускаем множество ИИ на телефоне без интернета в новом формате CMF

Чат, перевод и решения для ваших скриптов — прямо на телефоне, без интернета и без подписок. Разбираем Cortiq Mobile: открытое приложение для Android и iOS, которое запускает нейросети локально. С замерами, скриншотами и инструкцией «попробовать за пять минут».

https://habr.com/ru/articles/1089704/

#локальный_AI #нейросети_на_телефоне #офлайн #Cortiq #CMF #Android #iOS #LLM #перевод #Flutter

Локальный анализ звонков без GPU. Что происходит на пути от аудио до резюме

Я хотел проверить не то, насколько хорошо локальная LLM пишет резюме по красивому тестовому диалогу, а что произойдёт с полным пайплайном на обычном телефонном звонке с музыкой, автоответчиком, перебиваниями и плохим звуком. Я сделал desktop приложение на Tauri, Rust, React и SQLite. Оно распознаёт речь, разделяет спикеров, анализирует тональность, эмоции и риски, а в конце локальная модель формирует резюме и рекомендации. Всё работает на компьютере, интернет нужен только для скачивания моделей. В эксперименте я прогнал реальные записи через два распознавателя и сравнил, где именно возникают проблемы на пути от аудио до итогового резюме.

https://habr.com/ru/articles/1088060/

#локальный_AI #распознавание_речи #speechtotext #диаризация #LLM #GigaAM #Whisper #Qwen #анализ_звонков #CPU

Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL

Полгода назад мне понадобился личный AI помощник ( знаю...звучит слишком пафосно и мне самому это словосочетание не нравится ) для работы на своем ноутбуке на Windows. В основном для достаточно простых вещей. Посмотреть простой Python код, разобраться с Pandas, найти ошибку в SQL запросе или подсказать, как можно переписать кусок кода. Проблема была в том, что рабочий код и данные нельзя было отправлять во внешний контур. Поэтому привычный сценарий с ChatGPT или другим облачным сервисом мне не подходил. Я знал, что существуют локальные языковые модели, но до этого никогда их самостоятельно не запускал. Казалось, что для этого придется разбираться в Linux, Docker, CUDA и еще десятке технологий.... В итоге все оказалось заметно проще ))))... Я установил Ollama, скачал DeepSeek и получил локального AI помощника, который работает непосредственно на моем компьютере. В этой статье покажу весь путь от установки до первого запроса. Без глубокого погружения в устройство LLM. Просто повторяем несколько шагов и получаем работающую модель через 15 минут. Сразу оговорюсь. Это не инструкция по построению полноценного корпоративного закрытого контура. Речь именно о локальном запуске модели на своем компьютере. Если у вас есть требования информационной безопасности, их необходимо учитывать отдельно.

https://habr.com/ru/articles/1087416/

#Ollama #DeepSeek #LLM #локальный_AI #Python #Pandas #SQL #Windows #локальные_модели

PewDiePie выложил в open source Odysseus — персональный AI-хаб для локальной работы

Блогер PewDiePie выпустил Odysseus — self-hosted AI workspace, который он позиционирует как локальную альтернативу интерфейсам ChatGPT и Claude. Проект объединяет чат с моделями, AI-агента с доступом к файлам и shell, систему памяти и навыков, deep research, редактор документов, email-триаж, заметки, задачи и календарь. Главная ставка — не просто на удобство, а на приватность: Феликс прямо объясняет, что чем полезнее становится ИИ, тем больше личного контекста пользователь ему передаёт, а значит, тем важнее держать всё это не у биг-тех-платформ, а у себя. На момент написания статьи репозиторий, созданный 31 мая 2026 года , уже успел набрать около 8,7 тыс. звёзд , 1,2 тыс. форков и более сотни открытых issues. Для проекта, который появился буквально только что, это очень быстрый старт — и во многом он объясняется не только масштабом аудитории PewDiePie, но и тем, что Odysseus попадает сразу в несколько горячих трендов: self-hosting, локальные LLM, агентные интерфейсы и усталость пользователей от подписочной AI-экономики.

https://habr.com/ru/companies/first/articles/1041970/

#agent #ai #pewdiepie #selfhosted #opensource #chatgpt_alternative #aiагент #aiagent #llamacpp #локальный_ai

AI для умного дома: что уже работает сегодня (часть 1)

В статье — не просто список инструментов, а как они сочетаются , какие подводные камни ждут при развёртывании, какие цифры можно ожидать по производительности и как обойти ограничения Llama 8B без облачных кредитов.

https://habr.com/ru/articles/1014246/

#умный_дом #Home_Assistant #Ollama #OpenClaw #MCP #LLM #локальный_AI #Whisper #n8n #голосовое_управление

Мультимодальный AI в 2025: как GPT‑5.1, Gemini, Claude и Grok научились понимать текст, изображения и видео одновременно

В 2020 году AI был архипелагом изолированных моделей. К 2025-му всё изменилось. Эта статья — глубокое погружение в единую парадигму Next Token Prediction, которая позволила GPT-5.1, Gemini, Claude и Grok научиться понимать текст, изображения и видео одновременно. Разбираем, как это работает, и на что способны флагманские модели сегодня.

https://habr.com/ru/articles/967218/

#llm #локальный_ai #мультимодальные_модели #gpt51 #gemini_25_pro #claude_opus_41 #grok_4 #next_token_prediction #vision_transformer

Домашний супер-компьютер для ИИ: какой выбрать в 2025?

Вполне возможно, что в этом году происходит зарождение нового тренда. Он заключается в переносе вычислительных мощностей ближе к пользователю - прямо домой, на его личную вычислительную станцию. Похоже, что большие языковые моделей (LLM) и генеративный ИИ перестают быть прерогативой дата-центров. В этой статье приведен обзор решений, которые можно применить в качестве домашних вычислительных станций ИИ сегодня.

https://habr.com/ru/articles/964332/

#локальный_ai #инференс_ллм #llm #локальный_запуск_нейросетей #Nvidia_DGX_Spark #mac_studio #Strix_Halo #RYZEN_AI_MAX+_395 #ии #ai