#ollama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.
-
L'IA locale est la solution idéale et #Hermes associé à #Ollama, un logiciel libre, est une bonne configuration.
https://www.zdnet.fr/pratique/jai-teste-une-tonne-doutils-dia-locale-pour-mon-ordinateur-mais-hermes-ollama-est-desormais-mon-prefere-voici-pourquoi-496755.htm -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
https://www.europesays.com/pl/668928/ NVIDIA PAIR – darmowe narzędzie rozdzielające zadania agentów AI między komputery w domowej sieci #AgenciAI #AiPc #DgxSpark #GPU #IFA2026 #LMStudio #LokalnaInferencja #Nauka #NaukaITechnika #NaukaTechnika #nvidia #ollama #PAIR #PersonalAIRouter #PL #Poland #Polish #Polska #Polski #RtxSpark #Science #ScienceAndTechnology #ScienceTechnology #SztucznaInteligencja #Technika #Technology
-
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Vielleicht sollte ich entweder wieder eine Arbeit finden oder mein HomeLab endlich auf richtige Hardware umziehen.
Ich hab gerade zuviel Spaß an N8N, einem lokalem LLM und Docker.
Irgendwenn glüht der Raspi5 (ja mir ist bewusst das er zu schwach dafür ist).
-
Vielleicht sollte ich entweder wieder eine Arbeit finden oder mein HomeLab endlich auf richtige Hardware umziehen.
Ich hab gerade zuviel Spaß an N8N, einem lokalem LLM und Docker.
Irgendwenn glüht der Raspi5 (ja mir ist bewusst das er zu schwach dafür ist).
-
My kid has released another tool that he's written for himself:
Ovi is a lightweight local model server that delivers an ollama‑style developer experience, built natively on Intel’s OpenVINO runtime for efficient CPU and GPU inference:
https://github.com/nathanael-thms/ovi.
Check out the docs at https://ovi.nattho.com
-
PewDiePie: разбираю self-hosted AI-workspace, который собрал 47 тысяч звёзд за пару дней
PewDiePie последние полтора года ушёл из развлекательного контента в технику: домашний сервер, локальные LLM, self-hosting. Результат — репозиторий Odysseus, self-hosted AI-workspace, который за дни набрал 47 тысяч звёзд. Телеграм-каналы пишут “закопал ChatGPT, без ограничений, с анонимностью”. Полез в репозиторий проверять — и картина оказалась честнее и интереснее: это не убийца ChatGPT, а грамотная сборка из готовых open-source кирпичей (opencode, llmfit, Tongyi) под единым приватным UI. Разбираю архитектуру и отделяю факты от хайпа
https://habr.com/ru/articles/1043942/
#selfhosted #AI_workspace #локальные_LLM #Odysseus #PewDiePie #Ollama #Docker #opencode #приватность
-
#UnplugBigTech Tipp 24: Open-Source-KI
Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.
-
The Path to AI Agent IDE Enlightenment
https://dufospy.com/artificial-intelligence/free-ai-coding-agents-and-csc
@ollama @openclawto
@openwebui
@opencode
@hackernoon#ollama #ollama_tutorial #openclaw #openclaw_tutorial #hermes
-
Sollte ein #LLM selbst entscheiden, wann es eine Funktion oder #API aufruft? In „LLM-Context und Tools“ zeigt Jean-Claude Brantschen genau dieses Muster – für präzisere Antworten.
👉 Guide + Code: https://javapro.io/de/llm-context-und-tools
-
Оффлайн агент IDE Continue
Я расскажу, как реализовать локального LLM "Agent". «Что вы получите: — LLM, который индексирует ваш код и отвечает по контексту — Генерацию и автоматическую вставку кода / тестов — Полную работу без интернета и утечек данных Показываю на примере IntelliJ IDEA, Ollama и Continue.»
https://habr.com/ru/articles/1027658/
#agent #llm #llmагент #оффлайн #Offlline #continue #plugin #ollama #ollama_tutorial #idea
-
Souveräne Enterprise KI in Tagen statt Monaten mit Infinito.Nexus
Der gezeigte Post steht exemplarisch für eine Entwicklung, die aktuell in vielen Unternehmen zu beobachten ist. Es werden kurzfristig KI Entwicklerinnen und Entwickler gesucht, die ein breites Spektrum abdecken, von LLM Integration über RAG bis hin zu produktiven Pipelines und skalierbaren Cloud und Container Umgebungen. Der Bedarf ist hoch, die Anforderungen komplex und die Zeitfenster meist sehr eng. Dabei zeigt sich immer wieder, dass die eigentliche Herausforderung nicht nur im Finden einzelner Expertinnen und Experten liegt, sondern in der fehlenden technischen Grundlage, um solche Lösungen schnell, sicher und nachhaltig umzusetzen. […] -
MiniMax‑M2.7 теперь доступен через облако Ollama: подробный обзор
18 марта 2026 года компания MiniMax официально представила новую версию своей языковой модели MiniMax‑M2.7 . Главная особенность релиза — реализованный в модели механизм «самообучения» (self‑evolution), который позволяет ИИ активно участвовать в собственном совершенствовании. Одновременно с анонсом стало известно, что M2.7 можно использовать через облачные развёртывания Ollama — популярной платформы для запуска больших языковых моделей. В этой статье мы подробно разберём, что представляет собой MiniMax‑M2.7, как именно организована её работа через Ollama в облаке, какие существуют способы развёртывания и каких результатов можно ожидать от модели в реальных задачах. Вся информация основана исключительно на проверяемых источниках, актуальных на март 2026 года.
-
Ich selber wollte den Tipp von @kuketzblog mal ausprobieren. Den Server habe ich schon.
https://apps.umbrel.com/category/ai
🔴 Tipp 24: Open-Source-KI
Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini.
Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen.
Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.
https://www.kuketz-blog.de/unplugtrump-mach-dich-digital-unabhaengig-von-trump-und-big-tech/
-
🧠 Open-source & still evolving:
https://github.com/JohannesRabauer/quantaWhat would you add next, smarter summaries, multi-agent explorers, or something wild?
#LangChain4j #Quarkus #Ollama #pgvector #ApacheTika #AI #Java #LLaMA3 -
🚀 Νέα ενημέρωση για το AI Plugin στο @ONLYOFFICE 🤖
🔸 Πιο ομαλή εμπειρία
🔸 Υποστήριξη για #ChatGPT, #Claude, #Gemini, #Mistral, #DeepSeek & τοπικά μοντέλα (#Ollama, #GPT4ALL)
🔸 Βελτιωμένη διεπαφή με γρήγορα κουμπιά δράσης📖 Διαβάστε περισσότερα & δοκιμάστε το! ⬇️
https://www.onlyoffice.com/blog/el/2025/08/ai-plugin-updated -
Как запустить нейросеть у себя на компьютере: 4 простых инструмента
Вы когда‑нибудь задумывались, как это — иметь мощь языковой модели прямо на вашем компьютере? Экспериментировать с LLM (большими языковыми моделями) локально — словно открыть тайную дверь в мир ИИ... Вам открыт широкий горизонт для исследований, творчества и практического применения. Но как запустить нейросеть на компьютере , если вы не Google? Хорошая новость: в 2025 году это стало проще и доступнее, чем когда‑либо! Вам не нужен суперкомпьютер (хотя мощная видеокарта значительно ускорит процесс) . Современные эффективные модели и специализированное ПО делают локальный запуск нейросети реальностью для многих пользователей. Давайте разберёмся, что для этого нужно. Мы рассмотрим 7 наиболее оптимальных для локального запуска моделей — Llama ✶ , Qwen, DeepSeek, Phi, Gemma, Mistral, Granite, — а также 4 быстрые и удобные программы: Ollama, LM Studio, Jan и GPT4All .
https://habr.com/ru/companies/bothub/articles/931730/
#локальный_запуск_нейросетей #ollama #lm_studio #jan #gpt4all
-
When it comes to AI in DEVONthink 4, questions of privacy and cost usually come up. In addition to the large commercial products, there also are smaller models that you can install and run locally on your Mac and use in DEVONthink. #devonthink #ai #ollama #gpt4all #lmstudio https://www.devontechnologies.com/blog/20250513-local-ai-in-devonthink
-
I'm curious to hear what others are #SelfHosting! Here's my current setup:
Hardware & OS
- Hardware: #RaspberryPi500 (8 GB RAM, 512 GB SD card) #RPi #RPi500 #SingleBoardComputers #HomeLab
- OS: #Stormux, an accessible #Linux distro based on #ArchLinuxARM #LinuxAccessibility #AccessibleTech
Infrastructure & Networking
- Dashboard: #Glance (#Docker) #DockerApps
- Reverse Proxy: #Caddy
- DNS: #Cloudflare
- Domain Registrar: #Porkbun
- Networking & Remote Access: #Tailscale (non-Docker), love its SSH agent and magic DNS features. #NetworkSecurity
Security & Monitoring
- Ad Blocking: #AdGuardHome (non-Docker). Previously used PiHole but find AdGuardHome slightly faster. #PrivacyTools
- Server Monitoring: #Beszel (non-Docker). Tried Grafana/Prometheus/Alertmanager (accessible but overkill) and Netdata (poor screen reader accessibility). Beszel isn't perfect but best compromise so far. #ServerMonitoring
- Server Overview: #Cockpit (non-Docker)
- Security Tools: #Fail2ban, #FirewallD, #ClamAV, and #Rkhunter (non-Docker). Tried CrowdSec but couldn't get it working on Stormux. #CyberSecurity
- Service Uptime Monitoring: #UptimeKuma (Docker), accessible and easy to use. #MonitoringTools
Authentication & Identity Management
- Authelia (Docker): Just set this up for two-factor authentication and single sign-on. Seems to be working well so far!
- LLDAP (Docker): Lightweight LDAP server for managing authentication. Also seems to be working pretty well!
#AuthenticationTools #IdentityManagement
Productivity & Personal Tools
- Docker Management: #Dockge (Docker). More accessible than Portainer; main issue is built-in terminal isn't readable with screen readers. #DockerCompose
- Docker Logs Viewer: #Dozzle (Docker), great web interface and easy searching.
- Git Hosting: #Forgejo (non-Docker), my personal Git server. #GitServer
- Backups: #IDrive (non-Docker), backs up all my devices easily. #BackupSolutions
- Notes: #Joplin server (Docker). Accessibility improving; love the VSCode extension. #NoteTakingApps
- Bookmarks: #Linkding (Docker). Accessible bookmark manager with good browser extension support. #BookmarkManager
- Recipes: #Mealie (Docker), starting to learn cooking! 🍳📖 #CookingApps
- RSS Feeds: #Miniflux (non-Docker), excellent accessibility. Originally wanted better podcast support but other options had major accessibility issues. #RSSReader
- Automation & Workflows: #N8N (Docker). Haven't explored deeply yet—open to ideas! #AutomationTools #WorkflowAutomation
- Pastebin Service: #PrivateBin (non-Docker). Considering alternatives or CLI tool for easier console access. #PastebinAlternative
- File Sharing & Editing: #Samba (non-Docker), easy file management from my Windows 11 mini PC. #FileSharing #Windows11
- Search Engine: #SearXNG (non-Docker), accessible and searches multiple engines at once. #PrivacySearchEngine
- IRC Client: #TheLounge (non-Docker). Some accessibility issues but best I've found so far for always-connected IRC. #IRCClient
- Read Later Service: #Wallabag (Docker). Biggest issue is Wallabagger Chrome extension doesn't work for me yet. #ReadItLater
Notifications & Development Workflow
- Notifications via: #Ntfy (Docker) and Zoho's ZeptoMail (#Zoho)
- Development Environment: Mostly using VSCode connected to my server via Remote-SSH extension. #VSCodeRemote
Accessibility Focus ♿️🖥️
Accessibility heavily influences my choices—I use a screen reader full-time (#ScreenReader), so I prioritize services usable without sight (#InclusiveDesign, #DigitalAccessibility). Always open to discussing accessibility experiences or recommendations!
I've also experimented with:
- Ollama (#Ollama): Not enough RAM on my Pi.
- Habit trackers like Beaver Habit Tracker (#HabitTracking): Accessibility issues made it unusable for me.
I don't really have a media collection, so no Plex or Jellyfin here (#MediaServer)—but I'm always open to suggestions! I've gotten a bit addicted to exploring new self-hosted services! 😄
What's your setup like? Any cool services you'd recommend I try?
#SelfHosted #LinuxSelfHost #OpenSource #TechCommunity #FOSS #TechDIY
-
#UnplugTrump - Tipp24:
Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech. -
Your data. Your computer. Your choice 🧐 #devonthink #chatgpt #claude #gemini #mistral #ollama #lmstudio #gpt4all #comingsoon
-
Второе пришествие мейнфреймов. Всё больше компаний хотят запускать ИИ у себя в офисе
Мейнфрейм IBM z16 во время лабораторных тестов в 2022 г, источник Приложения ИИ находят применение в бизнесе. Но есть проблема: корпоративные данные и документация представляют коммерческую тайну. Их нельзя передавать на сторону, тем более в облачную систему машинного обучения. Кроме того, что сама передача небезопасна, так ещё и публичная модель будет обучаться на наших секретах , а потом помогать конкурентам. В общем, у коммерческих компаний остаётся один вариант: поднимать собственный сервер или вычислительный кластер с ИИ. Таким образом, из эпохи облачных вычислений мы возвращаемся к старому доброму самохостингу, только сейчас это самохостинг GPU , серверы и мейнфреймы.
https://habr.com/ru/companies/ruvds/articles/867316/
#IBM #мейнфреймы #Telum_II #AnythingLLM #ChatGPT #Meta #обман #человечество #Mount_Diablo #IBM_z16 #самохостинг #ЦОД #датацентр #WatsonX #Copilot #Twinny #llamafile #Ollama #GPT4All #FraudGPT #WormGPT #Khoj #LocalAI #ruvds_статьи
