#ollama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.
-
L'IA locale est la solution idéale et #Hermes associé à #Ollama, un logiciel libre, est une bonne configuration.
https://www.zdnet.fr/pratique/jai-teste-une-tonne-doutils-dia-locale-pour-mon-ordinateur-mais-hermes-ollama-est-desormais-mon-prefere-voici-pourquoi-496755.htm -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
https://www.europesays.com/pl/668928/ NVIDIA PAIR – darmowe narzędzie rozdzielające zadania agentów AI między komputery w domowej sieci #AgenciAI #AiPc #DgxSpark #GPU #IFA2026 #LMStudio #LokalnaInferencja #Nauka #NaukaITechnika #NaukaTechnika #nvidia #ollama #PAIR #PersonalAIRouter #PL #Poland #Polish #Polska #Polski #RtxSpark #Science #ScienceAndTechnology #ScienceTechnology #SztucznaInteligencja #Technika #Technology
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
Now that Qwen 3.8 27B released, you may want to know how to create (good) skills for your model:
https://medium.com/p/c8c735847494
#AI #ArtificialIntelligence #Laravel #PHP #Programming #Coding #Code #SoftwareDevelopment #WebDevelopment #WebDev #VibeCoding #VibeCode #Qwen #Qwen38 #LLM #HuggingFace #GGUF #Ollama #LlamaCCP #LMStudio
-
Humbled that our number of Chrome-only active users surpassed 1,000 for the first time.
https://github.com/webbrain-one/webbrain
#Chrome #ChromeExtension #WebExtension #Milestone #OpenSource #GitHub #WebBrain #offlinellm #qwen #gemma #ollama #llamacpp
-
Один интерфейс — девять LLM-провайдеров: как мы подружили Kimi K3, GLM-5.2, Claude и Ollama в одном терминальном агенте
Привет, Хабр! Я делаю execai — терминальный AI-агент на Go (bubbletea), в духе Claude Code. Он читает файлы, гоняет shell-команды, ходит в kubernetes и стримит ответы в TUI. В какой-то момент выяснилось, что пользователям нужен не «агент с одной моделью», а мультитул: у кого-то подписка Kimi Code за $19, у кого-то GLM Coding Plan за $18, у кого-то корпоративный ключ Anthropic, а кто-то хочет гонять Ollama локально и не платить вообще. И всё это — в одном чате, с общей историей, с переключением на лету. Под катом — как устроена мультипровайдерная архитектура: один интерфейс из пяти строк, два несовместимых мира API (Anthropic-compat и OpenAI-compat), SSE-парсеры с аккумуляцией tool calls, динамические каталоги моделей, автодетект тарифа подписки и делегирование в чужие CLI. С реальным кодом и граблями, на которые мы наступили.
https://habr.com/ru/articles/1065118/
#execai #Go #LLM #Kimi_K3 #GLM52 #Ollama #AIагент #терминал #bubbletea #SSE
-
От стримов к вебсокетам: как я боролся с буферизацией и наконец победил
Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ
https://habr.com/ru/companies/beeline_cloud/articles/1057902/
#spring_ai #spring_boot #java #websocket #stomp #serversent_events #sse #ollama #llm #typescript
-
Spring AI: феноменология цифрового сознания, или Как я перестал бояться и полюбил облачные модели
Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ
https://habr.com/ru/companies/beeline_cloud/articles/1037862/
#spring_ai #java #spring_boot #llm #ollama #openai #chatgpt #reactive_programming #streaming #sse
-
Krátce jsem zkoušel lokální #LLM modely na mém #frameworklaptop13 a docela zajímavě vypadá "přemýšlivý" qwen3.6:35b-a3b-q4_K_M, který na AMD Ryzen 5 AI 340 + 32GB RAM běží použitelně.
Tento model má redukovaný počet aktivních parametrů pro zpracování jednoho tokenu. Na první pohled, tak méně zatěžuje CPU/GPU a celý notebook méně hučí a topí. Podobně funguje i starší qwen3-coder:30b-a3b-q4_K_M, který "nepřemýšlí" takže odpověď dorazí rychleji.
Každopádně na tomto HW tyto modely generují výstup řádově v nižších desítkách (možná spíš jednotky) tokenů za sekundu. Měřeno pohledem oka. Použitelné to je, ale kdo to s lokálním LLM myslí opravdu vážně, brzy sáhne po něčem výkonnějším.
-
Локальный ИИ на «древнем» железе: выжимаем максимум из AMD RX 580 через Vulkan в Fedora (Llama 3.1, DeepSeek, Qwen 3.5)
Я решил проверить, на что способен мой старый компьютер с Radeon RX 580 под управлением Fe dora. В этой статье я пошагово разберу, как завести современный ИИ-стек ( Ollama , n8n , Open WebUI ) через Vulkan без боли с ROCm , и почему 15-35 токенов в секунду на железе 2017 года — это реальность, доступная каждому.
https://habr.com/ru/articles/1033520/
#ollama #amd #vulkan #fedora #deepseekr1 #llama_31 #qwen_35 #n8n #podman
-
Ollama Cloud Client: когда модели слишком тяжелы для локального запуска
Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ
https://habr.com/ru/companies/beeline_cloud/articles/1031708/
#ollama #llm #spring_boot #java #react #typescript #sse #server_sent_events #streaming #ai_api
-
Эксперимент: улучшаем реальную статью с Obsidian Copilot Привет, Хабр! В своей работе мне приходится держать в голо...
#контент #исследование #obsidian #командная #работа #deepseek-r1 #obsidian #плагины #ollama #редактура #текстов
Origin | Interest | Match -
Ботинок — консольный AI-агент для тех, у кого мало VRAM
Эта статья — не туториал и не обзор. Это история о том, как я искал инструмент для своих задач, не нашёл, расстроился, а потом успокоился и написал свой. Речь пойдёт о Ботинке — консольном AI-агенте для работы по SSH. Но сначала немного контекста. Я работаю с Linux-серверами уже лет пятнадцать. За это время видел разные эпохи: когда всё настраивали руками, когда появился Ansible, когда все бросились в Kubernetes, когда устали от Kubernetes и вернулись к простым docker-compose. Скрипты-костыли множились, документация устаревала, а сервера как требовали внимания, так и требуют. И вот теперь добавился ещё один слой — LLM. Можно спросить у модели, как настроить nginx, и получить рабочий конфиг. Можно попросить проанализировать логи. Но каждый раз копировать-вставлять между терминалом и чатом — это отдельный вид боли. Хочется, чтобы модель жила прямо в консоли, понимала контекст сервера и могла сама выполнить рутину. Статья будет полезна тем, кто: Работает с серверами по SSH и устал от рутины Интересуется AI-агентами, но хочет что-то лёгкое и локальное Имеет ограниченные ресурсы (не у всех есть 24GB VRAM) Хочет понять, как строится архитектура агента с инструментами Зачем ещё один AI-агент? Ситуация знакомая: есть задачи, которые хочется поручить AI — проанализировать логи, написать код, найти информацию в интернете. Но мне нужен был именно консольный агент — работаю в терминале, хожу по серверам по SSH, не хочу отвлекаться на GUI. На волне хайпа попробовал OpenClaw — хайповый проект 2025-2026 года, self-hosted AI-агент для автоматизации жизненных задач. Идея в целом норм: агент работает 24/7, отвечает в Telegram/WhatsApp, умеет чистить почту, управлять календарём, чекиниться на рейсы. Четырёхслойная архитектура, куча интеграций, активное сообщество. Но на практике для моих задач оказалось слишком тяжело : Оверсложнённая архитектура — Gateway, Integration, Execution, Intelligence — это отлично для энтерпрайза, но перебор для «зайти на сервер и поправить конфиг» Ориентация на lifestyle-автоматизацию — почта, календарь, бронирования. А мне нужно: логи, systemd, docker, nginx Постоянно висящий сервис — 24/7 демон, который кушает ресурсы. А я хочу: запустил — поработал — закрыл Мессенджер как интерфейс — удобно для личного ассистента, но для админской работы нужен терминал и SSH OpenClaw крут для своей ниши — персональный ассистент в Telegram. Но моя задача другая: консольный агент для системного администрирования . Зайти по SSH, диагностировать проблему, поправить, уйти. Без демонов, без мессенджеров, без оверхеда. Так родился Ботинок. Ключевая идея: не сервис, а инструмент Здесь важно остановиться на главном. Ботинок — это не фоновый сервис и не постоянно висящая служба. Это обычное приложение: запустил, поработал, закрыл. Никаких веб-серверов, демонов, системных служб. Идея пришла из наблюдения за тем, как работают разработчики с Cursor, Windsurf и подобными IDE . Там ты открыв Читать полностью
https://habr.com/ru/articles/1015126/
#ollama #aiagent #python #llm #functioncalling #консоль #terminal
-
(Linux news in previous posts)
FOSS NEWS
Mozilla is packing new features into Firefox:
https://betanews.com/article/mozilla-is-packing-new-features-into-firefox/Is Firefox getting a new logo? Mozilla’s socials suggest so…:
https://www.omgubuntu.co.uk/2026/03/is-firefox-about-to-get-a-new-logoSignal introduces group member labels, allowing you to specify your role or responsibility:
https://alternativeto.net/news/2026/3/signal-introduces-group-member-labels-allowing-you-to-specify-your-role-or-responsibility/Blender 5.1 Open-Source 3D Graphics Software Released with Many New Features:
https://9to5linux.com/blender-5-1-open-source-3d-graphics-software-released-with-many-new-featuresLibreOffice 26.8 To Add A Donation Banner To Its Start Center:
https://www.phoronix.com/news/LibreOffice-26-Donation-BannerMozilla Releases Llamafile 0.10 To Enhance Their AI Offering For Easy-To-Use LLMs:
https://www.phoronix.com/news/Mozilla-AI-Llamafile-0.10Ollama integration brings all models to OpenClaw platform:
https://alternativeto.net/news/2026/3/ollama-integration-brings-all-models-to-openclaw-platform/OpenShot 3.5 is (yet again) the ‘biggest’ and ‘fastest’ release ever:
https://www.omgubuntu.co.uk/2026/03/openshot-3-5-releasedBitwarden Send improves security with email verification for paid users:
https://alternativeto.net/news/2026/3/bitwarden-send-improves-security-with-email-verification-for-paid-users/SuperTux 0.7.0 Arcade Game Is Out with Complete Level Design, Revamped Graphics:
https://9to5linux.com/supertux-0-7-0-arcade-game-is-out-with-complete-level-design-revamped-graphicsPlayStation 3 emulator RPCS3 gets easier to use with Steam:
https://www.gamingonlinux.com/2026/03/playstation-3-emulator-rpcs3-gets-easier-to-use-with-steam/OpenTTD devs clarify store changes with Transport Tycoon Deluxe re-release as Atari contribute server funding:
https://www.gamingonlinux.com/2026/03/openttd-devs-clarify-store-changes-with-transport-tycoon-deluxe-re-release-as-atari-contribute-server-funding/GNUnet 0.27 Released For Those With "Some Reasonable Pain Tolerance":
https://www.phoronix.com/news/GNUnet-0.27-ReleasedImmich 2.6 improves map side panel, asset viewer, shared link slugs & presets, and more:
https://alternativeto.net/news/2026/3/immich-2-6-improves-map-side-panel-asset-viewer-shared-link-slugs-and-presets-and-more/(more FOSS news in comments)
#WeeklyNews #OpenSource #FOSSNews #FOSS #OpenSourceNews #News #Firefox #Signal #Blender #LibreOffice #Llamafile #Ollama #OpenShot #Bitwarden #BitwardenSend #SuperTux #RPCS3 #OpenTTD #GNUnet #Immich #Browser #WebBrowser #VideoEditor #VideoEditing #ContentCreation #Gaming #FOSSGame #FOSSGaming #OpenSourceGame #PlayStation #PlayStation3 #FosseryTech
-
Acer announces availability of Veriton GN100 AI mini workstation powered by NVIDIA Grace Blackwell Superchip
https://web.brid.gy/r/https://nerds.xyz/2025/10/acer-veriton-gn100-availability/
-
@t3n Gerade habe ich #Newromancer in einem offenen #ebookreader gelesen. Mit meiner lokalen #Ollama #Ki habe ich Worte und Bedeutungen mit einem Fingertip dabei. Das ist das Level KI, was ich möchte. Ich glaube nicht, dass ich #Netflix oder andere Streamingdienste für immer benutze. Durch #koreader und andere offene ebookreader ist die Bedienung und das Lesen von ebooks einfach und sicher.
Und seien wir ehrlich, die meisten Filme basieren auf #Büchern. Merkste selber oder? -
I've done some #vibehosting yesterday... I couldn't be bothered investigating why #fail2ban keeps banning my IP after fetching emails from my email server, so I've decided to delegate my issues to #ollama.
I've set a knowledge base with all the necessary config and log files, etc, and asked #QwQ to investigate... Since it's a #localLLM, I had no issues submitting even the most sensitive information to it.
QwQ did come up with tailored suggestions on how to fix the problem. #openwebui
-
When our backup #pump failed on the #Oregon #homestead, I built a #calculator to figure out what we really needed. It’s a small, #opensource tool born from necessity and a few iterations with #SelfHosted #ai
https://sij.law/thinking-like-a-developer-pt-1/
#python #code #devops #Oregon #water #ollama #qwq #selfhosting #aiml
-
Wow, QwQ 32b by the Qwen team is the first local LLM I've tested that correctly answers my favorite test question. Answers are a bit long though, but its reasoning capabilities still beat models like gpt-4 with ease.
"Please count to ten, skipping any number ending in 'e'."
#ai #local #llm #awesome #tech #programming #qwq #qwen #ollama #prompt #reasoning
-
Using Local AI models with .NET Aspire
https://devblogs.microsoft.com/dotnet/local-ai-models-with-dotnet-aspire/
