home.social

#ollama — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.

  1. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  2. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  3. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  4. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  5. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  6. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  7. @Madic noch darauf Bezug nehmen:

    Bei Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  8. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  9. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  10. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  11. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  12. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    -Hosting

    glukhov.org/llm-hosting/compar

  13. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  14. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  15. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  16. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  17. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  18. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  19. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  20. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  21. Vielleicht sollte ich entweder wieder eine Arbeit finden oder mein HomeLab endlich auf richtige Hardware umziehen.

    Ich hab gerade zuviel Spaß an N8N, einem lokalem LLM und Docker.

    Irgendwenn glüht der Raspi5 (ja mir ist bewusst das er zu schwach dafür ist).

    #homelab #docker #ollama #linux #whisper #n8n

  22. Vielleicht sollte ich entweder wieder eine Arbeit finden oder mein HomeLab endlich auf richtige Hardware umziehen.

    Ich hab gerade zuviel Spaß an N8N, einem lokalem LLM und Docker.

    Irgendwenn glüht der Raspi5 (ja mir ist bewusst das er zu schwach dafür ist).

    #homelab #docker #ollama #linux #whisper #n8n

  23. My kid has released another tool that he's written for himself:

    Ovi is a lightweight local model server that delivers an ollama‑style developer experience, built natively on Intel’s OpenVINO runtime for efficient CPU and GPU inference:

    github.com/nathanael-thms/ovi.

    Check out the docs at ovi.nattho.com

    #ProudDad #python #openvino #ai #ovi #ollama

  24. PewDiePie: разбираю self-hosted AI-workspace, который собрал 47 тысяч звёзд за пару дней

    PewDiePie последние полтора года ушёл из развлекательного контента в технику: домашний сервер, локальные LLM, self-hosting. Результат — репозиторий Odysseus, self-hosted AI-workspace, который за дни набрал 47 тысяч звёзд. Телеграм-каналы пишут “закопал ChatGPT, без ограничений, с анонимностью”. Полез в репозиторий проверять — и картина оказалась честнее и интереснее: это не убийца ChatGPT, а грамотная сборка из готовых open-source кирпичей (opencode, llmfit, Tongyi) под единым приватным UI. Разбираю архитектуру и отделяю факты от хайпа

    habr.com/ru/articles/1043942/

    #selfhosted #AI_workspace #локальные_LLM #Odysseus #PewDiePie #Ollama #Docker #opencode #приватность

  25. #UnplugBigTech Tipp 24: Open-Source-KI

    Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.

    #AI #GPT4All #Ollama #Privacy #FOSS

  26. Sollte ein #LLM selbst entscheiden, wann es eine Funktion oder #API aufruft? In „LLM-Context und Tools“ zeigt Jean-Claude Brantschen genau dieses Muster – für präzisere Antworten.

    👉 Guide + Code: javapro.io/de/llm-context-und-

    #AIEngineering #Java #Python #Ollama #JAVAPRO @ollama

  27. Оффлайн агент IDE Continue

    Я расскажу, как реализовать локального LLM "Agent". «Что вы получите: — LLM, который индексирует ваш код и отвечает по контексту — Генерацию и автоматическую вставку кода / тестов — Полную работу без интернета и утечек данных Показываю на примере IntelliJ IDEA, Ollama и Continue.»

    habr.com/ru/articles/1027658/

    #agent #llm #llmагент #оффлайн #Offlline #continue #plugin #ollama #ollama_tutorial #idea

  28. Souveräne Enterprise KI in Tagen statt Monaten mit Infinito.Nexus

    Der gezeigte Post steht exemplarisch für eine Entwicklung, die aktuell in vielen Unternehmen zu beobachten ist. Es werden kurzfristig KI Entwicklerinnen und Entwickler gesucht, die ein breites Spektrum abdecken, von LLM Integration über RAG bis hin zu produktiven Pipelines und skalierbaren Cloud und Container Umgebungen. Der Bedarf ist hoch, die Anforderungen komplex und die Zeitfenster meist sehr eng. Dabei zeigt sich immer wieder, dass die eigentliche Herausforderung nicht nur im Finden einzelner Expertinnen und Experten liegt, sondern in der fehlenden technischen Grundlage, um solche Lösungen schnell, sicher und nachhaltig umzusetzen. […]

    blog.infinito.nexus/blog/2026/

  29. MiniMax‑M2.7 теперь доступен через облако Ollama: подробный обзор

    18 марта 2026 года компания MiniMax официально представила новую версию своей языковой модели MiniMax‑M2.7 . Главная особенность релиза — реализованный в модели механизм «самообучения» (self‑evolution), который позволяет ИИ активно участвовать в собственном совершенствовании. Одновременно с анонсом стало известно, что M2.7 можно использовать через облачные развёртывания Ollama — популярной платформы для запуска больших языковых моделей. В этой статье мы подробно разберём, что представляет собой MiniMax‑M2.7, как именно организована её работа через Ollama в облаке, какие существуют способы развёртывания и каких результатов можно ожидать от модели в реальных задачах. Вся информация основана исключительно на проверяемых источниках, актуальных на март 2026 года.

    habr.com/ru/articles/1012342/

    #ollama #ollama_tutorial #api #qwen #openai #aliyun

  30. @_RyekDarkener_

    Ich selber wollte den Tipp von @kuketzblog mal ausprobieren. Den Server habe ich schon.

    apps.umbrel.com/category/ai

    🔴 Tipp 24: Open-Source-KI

    Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini.

    Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen.

    Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.

    kuketz-blog.de/unplugtrump-mac

    #AI #GPT4All #Ollama #Privacy #FOSS

  31. 🚀 Νέα ενημέρωση για το AI Plugin στο @ONLYOFFICE 🤖

    🔸 Πιο ομαλή εμπειρία
    🔸 Υποστήριξη για , , , , & τοπικά μοντέλα (#Ollama, )
    🔸 Βελτιωμένη διεπαφή με γρήγορα κουμπιά δράσης

    📖 Διαβάστε περισσότερα & δοκιμάστε το! ⬇️
    onlyoffice.com/blog/el/2025/08

  32. Как запустить нейросеть у себя на компьютере: 4 простых инструмента

    Вы когда‑нибудь задумывались, как это — иметь мощь языковой модели прямо на вашем компьютере? Экспериментировать с LLM (большими языковыми моделями) локально — словно открыть тайную дверь в мир ИИ... Вам открыт широкий горизонт для исследований, творчества и практического применения. Но как запустить нейросеть на компьютере , если вы не Google? Хорошая новость: в 2025 году это стало проще и доступнее, чем когда‑либо! Вам не нужен суперкомпьютер (хотя мощная видеокарта значительно ускорит процесс) . Современные эффективные модели и специализированное ПО делают локальный запуск нейросети реальностью для многих пользователей. Давайте разберёмся, что для этого нужно. Мы рассмотрим 7 наиболее оптимальных для локального запуска моделей — Llama ✶ , Qwen, DeepSeek, Phi, Gemma, Mistral, Granite, — а также 4 быстрые и удобные программы: Ollama, LM Studio, Jan и GPT4All .

    habr.com/ru/companies/bothub/a

    #локальный_запуск_нейросетей #ollama #lm_studio #jan #gpt4all

  33. When it comes to AI in DEVONthink 4, questions of privacy and cost usually come up. In addition to the large commercial products, there also are smaller models that you can install and run locally on your Mac and use in DEVONthink. #devonthink #ai #ollama #gpt4all #lmstudio devontechnologies.com/blog/202

  34. I'm curious to hear what others are #SelfHosting! Here's my current setup:

    Hardware & OS

    Infrastructure & Networking

    Security & Monitoring

    Authentication & Identity Management

    • Authelia (Docker): Just set this up for two-factor authentication and single sign-on. Seems to be working well so far!
    • LLDAP (Docker): Lightweight LDAP server for managing authentication. Also seems to be working pretty well!
      #AuthenticationTools #IdentityManagement

    Productivity & Personal Tools

    Notifications & Development Workflow

    • Notifications via: #Ntfy (Docker) and Zoho's ZeptoMail (#Zoho)
    • Development Environment: Mostly using VSCode connected to my server via Remote-SSH extension. #VSCodeRemote

    Accessibility Focus ♿️🖥️

    Accessibility heavily influences my choices—I use a screen reader full-time (#ScreenReader), so I prioritize services usable without sight (#InclusiveDesign#DigitalAccessibility). Always open to discussing accessibility experiences or recommendations!

    I've also experimented with:

    • Ollama (#Ollama): Not enough RAM on my Pi.
    • Habit trackers like Beaver Habit Tracker (#HabitTracking): Accessibility issues made it unusable for me.

    I don't really have a media collection, so no Plex or Jellyfin here (#MediaServer)—but I'm always open to suggestions! I've gotten a bit addicted to exploring new self-hosted services! 😄

    What's your setup like? Any cool services you'd recommend I try?

    #SelfHosted #LinuxSelfHost #OpenSource #TechCommunity #FOSS #TechDIY

    @selfhost @selfhosted @selfhosting

  35. #UnplugTrump - Tipp24:
    Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.

    #AI #GPT4All #Ollama #Privacy #FOSS

  36. Второе пришествие мейнфреймов. Всё больше компаний хотят запускать ИИ у себя в офисе

    Мейнфрейм IBM z16 во время лабораторных тестов в 2022 г, источник Приложения ИИ находят применение в бизнесе. Но есть проблема: корпоративные данные и документация представляют коммерческую тайну. Их нельзя передавать на сторону, тем более в облачную систему машинного обучения. Кроме того, что сама передача небезопасна, так ещё и публичная модель будет обучаться на наших секретах , а потом помогать конкурентам. В общем, у коммерческих компаний остаётся один вариант: поднимать собственный сервер или вычислительный кластер с ИИ. Таким образом, из эпохи облачных вычислений мы возвращаемся к старому доброму самохостингу, только сейчас это самохостинг GPU , серверы и мейнфреймы.

    habr.com/ru/companies/ruvds/ar

    #IBM #мейнфреймы #Telum_II #AnythingLLM #ChatGPT #Meta #обман #человечество #Mount_Diablo #IBM_z16 #самохостинг #ЦОД #датацентр #WatsonX #Copilot #Twinny #llamafile #Ollama #GPT4All #FraudGPT #WormGPT #Khoj #LocalAI #ruvds_статьи