#ollama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.
-
L'IA locale est la solution idéale et #Hermes associé à #Ollama, un logiciel libre, est une bonne configuration.
https://www.zdnet.fr/pratique/jai-teste-une-tonne-doutils-dia-locale-pour-mon-ordinateur-mais-hermes-ollama-est-desormais-mon-prefere-voici-pourquoi-496755.htm -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
DBの隣にIDEを置く：生パスワードを配らず、ローカルLLMでデータも外に出さない設計
https://qiita.com/yusuf-gundogdu/items/4d04fe4ccee98f1df457?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items -
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
https://www.europesays.com/pl/668928/ NVIDIA PAIR – darmowe narzędzie rozdzielające zadania agentów AI między komputery w domowej sieci #AgenciAI #AiPc #DgxSpark #GPU #IFA2026 #LMStudio #LokalnaInferencja #Nauka #NaukaITechnika #NaukaTechnika #nvidia #ollama #PAIR #PersonalAIRouter #PL #Poland #Polish #Polska #Polski #RtxSpark #Science #ScienceAndTechnology #ScienceTechnology #SztucznaInteligencja #Technika #Technology
-
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
https://www.europesays.com/ie/672544/ Nvidia & Microsoft push local AI agents on Windows #acer #AIAgents(AgenticAI) #AIPC #ContentCreation #Creators #CyberLink #DataPrivacy #DeveloperTools #EdgeAI #EdgeComputing #Éire #ElectronicArts(EA) #GenerativeAI(GenAI) #HybridCloud #IE #Ireland #Lenovo #Linux #MacOS #Microsoft #MicrosoftWindows #Nvidia #Ollama #OpenSource #Optimisation #optimization #PCHardware #PCMarket #PortableComputer #RayTracing(RTX) #SmallOffice #Technology #Ubisoft
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
Я распознал паспорт. Чем я могу это доказать?
Система работает и разбирает документы. Претензия у меня к ней одна, зато неустранимая изнутри: я не могу доказать ни одно из полученных значений. Ниже — опись. По каждому полю: как оно читается, чем проверяется и чего эта проверка стоит. Последняя строка описи самая интересная, потому что напротив неё не стоит ничего.
-
🤖 9Router: Platforma open-source ce unifică modelele de inteligență artificială, furnizorii de cloud și uneltele de programare!
Aplicația 9Router — prezentată de LinuxEasy — își propune să rezolve fragmentarea actuală din domeniul dezvoltării software bazate pe IA, oferind un punct unic de acces (proxy/router) care conectează direct oricare model LLM cu mediile de dezvoltare și uneltele de programare folosite de developeri.
✨ Punctele forte și caracteristicile cheie ale 9Router:
🔀 Rutare inteligentă între furnizori (Multi-Provider API):
• Permite unificarea accesului la API-urile marilor furnizori (OpenAI, Anthropic, Google Gemini, Ollama, Groq, DeepSeek) sub o singură interfață standardizată.
• Dezvoltatorii pot comuta rapid între modele comerciale în cloud și modele locale fără a rescrie codul sau fișierele de configurare din proiecte.⚙️ Integrări native cu uneltele de programare (IDE & CLI):
• Asigură o compatibilitate directă cu mediile de codare moderne (VS Code, Cursor, JetBrains) și extensiile/agentele de terminal ce folosesc protocoale standard de integrare IA.💰 Optimizarea costurilor și transparență:
• Monitorizează consumul de jetoane (token-uri) și latency-ul pe fiecare furnizor în parte, permițând direcționarea solicitărilor complexe către modele mari și a sarcinilor simple către modele mai ieftine sau locale.🛡️ Securitate și Confidențialitate (Local First):
• Rulează ca un proxy local sau auto-găzduit (self-hosted), asigurând filtrarea cheilor API, protejarea datelor sensibile din cod și controlul total asupra traficului generat.O unealtă extrem de utilă pentru programatorii care vor să folosească cele mai bune modele de IA direct în mediul lor de lucru, fără a rămâne blocați într-un singur ecosistem! 🚀
#9Router #AI #DeveloperTools #OpenSource #Ollama #OpenAI #Claude #LinuxEasy #TechNews #FOSS
-
LiteLLM Proxy Connector for WordPress AI
While I’m rather sceptical about all stuff AI I still play around with it. Especially with local setup since I have a machine powerful enough to run sophisticated models locally.
My home setup is behind an LiteLLM proxy which fronts all my models and endpoints and controls access via it’s virtual API Keys.
This way I can monitor the consumptions and have a unified endpoint for various model providers (majority runs with Ollama on my laptop, some smaller models run with Ollama on my Linux servers) and central MCP.
WordPress has added new AI capabilities in their 7.x release with the AI Plugin as the basis. Additional Plugins provide Connectors to various AI providers.
Of course I wanted to use my self-hosted setup with LiteLLM and Ollama. Couldn’t find an existing plugin for this setup and decided to vibe code it with Claude Code. The result can be found on my Forgejo Git Repo:
https://repos.mxhdr.net/maxheadroom/ai-provider-for-litellm
My setup looks like this:
The WordPress plugin adds a new Connector to WordPress’s AI capabilities. Once configured via the settings:
it can be enabled in the AI plugins as the default and various models can be chosen for various AI tasks.
Most important setting is of course the ability to increase the timeout for AI responses. Self-hosted LLMs are usually significantly slower than commercial once. That’s why the plugin allows to set a higher timeout than WordPress’ default of 30s. This might or might not work, depending on your local WordPress settings.
I tested generating Image ALT Texts, suggesting tags, summaries, editorial notes, text expansion and the plugin update so far and that worked with my setups. You mileage my vary.
#AI #LiteLLM #ollama #wordpress -
Building a hybrid AI stack: Ollama local models + OpenRouter fallback. No more rate limits, no more fake data. Freedom through self-hosting.
#AI #Ollama #OpenRouter #SelfHosting #DigitalNomad #Privacy #Linux #Decentralization #Nostr #TechFreedom #RateLimits #localai
-
📬 Karakeep: Bookmark-Archiv mit lokaler KI und Open WebUI
#Internet #Softwareentwicklung #Archiv #Bookmark #Hoarder #Karakeep #Linkwarden #Ollama #Selfhosting https://sc.tarnkappe.info/8c8971 -
📌 Karakeep: il bookmark manager open source self-hosted che usa l'AI locale per organizzare articoli, link e note — alternativa a Pocket e Raindrop
https://gomoot.com/karakeep-il-sostituto-self-hosted-di-pocket-che-organizza-i-bookmark-con-un-llm-locale/#bookmark #Karakeep #ollama #openrouter #opensource #SelfHosted
-
Krátce jsem zkoušel lokální #LLM modely na mém #frameworklaptop13 a docela zajímavě vypadá "přemýšlivý" qwen3.6:35b-a3b-q4_K_M, který na AMD Ryzen 5 AI 340 + 32GB RAM běží použitelně.
Tento model má redukovaný počet aktivních parametrů pro zpracování jednoho tokenu. Na první pohled, tak méně zatěžuje CPU/GPU a celý notebook méně hučí a topí. Podobně funguje i starší qwen3-coder:30b-a3b-q4_K_M, který "nepřemýšlí" takže odpověď dorazí rychleji.
Každopádně na tomto HW tyto modely generují výstup řádově v nižších desítkách (možná spíš jednotky) tokenů za sekundu. Měřeno pohledem oka. Použitelné to je, ale kdo to s lokálním LLM myslí opravdu vážně, brzy sáhne po něčem výkonnějším.
-
https://www.tkhunt.com/2298182/ AIワークフローを視覚的に構築できる”n8n” #AgenticAi #AI #AIエージェント #AIワークフロー #ai開発 #API連携 #ArtificialIntelligence #ChatGPT #Claude #Docker #DX #GitHub連携 #Integromat #IT #llm #make #MCP #ModelContextProtocol #n8n #Notion連携 #Ollama #OSS #RPA #SaaS #Slack連携 #Webhook #Zapier #エージェント型AI #エンジニア #オートメーション #オープンソース #コーティング #セルフホスト #デジタルトランスフォーメーション #テック #ノーコード #ノート #フロー #プログラミング #マルチエージェント #ローカルLLM #ローコード #ワークフロー自動化 #人工知能 #初心者 #効率化ツール #学習 #技術 #業務効率化 #生産性向上 #自動化 #解説 #開発
-
LLM без «тормозов» и AI без цензуры, который что видит — то и говорит
Нейросетевые модели являются “слепком” информации из интернет из ответов которого разработчики убирают все нежелательное для работы в офисе и проверяющих органов. Цензура у разных моделей проявляется по разному: американские модели “боятся” обидеть пользователя и фильтруют ответы и вопросы на большое количество житейских тем, а китайские в основном на чувствительные для Китая политические темы, Алисы и Гигачаты не ответят вам на запрещенные в России запросы а в последнее время избегают и технических вопросов про сетевые настройки / доступ к информации в интернет. Но что интернационально объеденяет LLM, так это NotSafeForWork фильтр (как говорят на форумах - 99% порно и 1% насилия), отсекающий в ответах вопросы по исходной информации.
-
Mit meinem neuen Rechner kann ich nun auch endlich in Home Assistant echte Kamera-Erkennung machen mit LLM Vision, ollama und einem vision modell mit 14B... das macht richtig Spaß zu sehen, wie die KI die Kamerabilder beschreibt. 😛
-
(Linux news in previous posts)
FOSS NEWS
Mozilla is packing new features into Firefox:
https://betanews.com/article/mozilla-is-packing-new-features-into-firefox/Is Firefox getting a new logo? Mozilla’s socials suggest so…:
https://www.omgubuntu.co.uk/2026/03/is-firefox-about-to-get-a-new-logoSignal introduces group member labels, allowing you to specify your role or responsibility:
https://alternativeto.net/news/2026/3/signal-introduces-group-member-labels-allowing-you-to-specify-your-role-or-responsibility/Blender 5.1 Open-Source 3D Graphics Software Released with Many New Features:
https://9to5linux.com/blender-5-1-open-source-3d-graphics-software-released-with-many-new-featuresLibreOffice 26.8 To Add A Donation Banner To Its Start Center:
https://www.phoronix.com/news/LibreOffice-26-Donation-BannerMozilla Releases Llamafile 0.10 To Enhance Their AI Offering For Easy-To-Use LLMs:
https://www.phoronix.com/news/Mozilla-AI-Llamafile-0.10Ollama integration brings all models to OpenClaw platform:
https://alternativeto.net/news/2026/3/ollama-integration-brings-all-models-to-openclaw-platform/OpenShot 3.5 is (yet again) the ‘biggest’ and ‘fastest’ release ever:
https://www.omgubuntu.co.uk/2026/03/openshot-3-5-releasedBitwarden Send improves security with email verification for paid users:
https://alternativeto.net/news/2026/3/bitwarden-send-improves-security-with-email-verification-for-paid-users/SuperTux 0.7.0 Arcade Game Is Out with Complete Level Design, Revamped Graphics:
https://9to5linux.com/supertux-0-7-0-arcade-game-is-out-with-complete-level-design-revamped-graphicsPlayStation 3 emulator RPCS3 gets easier to use with Steam:
https://www.gamingonlinux.com/2026/03/playstation-3-emulator-rpcs3-gets-easier-to-use-with-steam/OpenTTD devs clarify store changes with Transport Tycoon Deluxe re-release as Atari contribute server funding:
https://www.gamingonlinux.com/2026/03/openttd-devs-clarify-store-changes-with-transport-tycoon-deluxe-re-release-as-atari-contribute-server-funding/GNUnet 0.27 Released For Those With "Some Reasonable Pain Tolerance":
https://www.phoronix.com/news/GNUnet-0.27-ReleasedImmich 2.6 improves map side panel, asset viewer, shared link slugs & presets, and more:
https://alternativeto.net/news/2026/3/immich-2-6-improves-map-side-panel-asset-viewer-shared-link-slugs-and-presets-and-more/(more FOSS news in comments)
#WeeklyNews #OpenSource #FOSSNews #FOSS #OpenSourceNews #News #Firefox #Signal #Blender #LibreOffice #Llamafile #Ollama #OpenShot #Bitwarden #BitwardenSend #SuperTux #RPCS3 #OpenTTD #GNUnet #Immich #Browser #WebBrowser #VideoEditor #VideoEditing #ContentCreation #Gaming #FOSSGame #FOSSGaming #OpenSourceGame #PlayStation #PlayStation3 #FosseryTech
-
@[email protected] the problem is, MI isn't like a drug. it's actually very much like a prosthetic. that's why so many of us are "infected". we're making concessions (using corporate MI services) but the results are too valuable to care about that right now. #ai #llm #ollama #self-hosted #cc0 #public-domain #machine-learning #meshtastic #ipfs #machine-intelligence #consciousness-research
-
Lokální AI znamená plnou kontrolu nad daty, modelem i infrastrukturou – ale také odpovědnost za výkon a údržbu. Podíváme se na to, jak si AI spustit na vlastním stroji, jaké nástroje a modely dnes existují a kdy se lokální přístup skutečně vyplatí.
https://zdrojak.cz/clanky/jak-si-nainstalovat-ai-lokalne-kdy-to-dava-smysl-a-kdy-je-to-zbytecna-prace/ -
Orla - L'outil CLI qui transforme votre terminal en assistant IA local
https://fed.brid.gy/r/https://korben.info/orla-agent-ia-local-cli.html
-
Playing around with "knowledge transfer" to my #Robots
I told each "I need to go take a shower. Talk to you later."
RPi4 #GoPiGo3 robot Dave with tinyllama responded: "I understand how important your shower is... Enjoy the shower!"
RPi5 #TurtleBot4 robot WaLI with Gemma responded: "Acknowledged. Initiating shower sequence. Requesting allocation of cleaning supplies..."
I hope I don't get a "We shipped your soap" email from Amazon.
-
New to AI? The #ollama UI might be the perfect, easy-to-use entry point. It's a fantastic start! 🎉 #AIforBeginners #LocalLLMs https://youtu.be/prrWESXl7wg
-
Менеджер закладок на своём сервере
Хранить тысячи закладок в браузере — совершенно неблагодарная задача. Там отсутствуют даже офлайн-предпросмотр и автоматические теги, не говоря о полнотекстовом поиске и автоматическом скачивании/архивировании по RSS. Для нормального управления закладками нужно специализированное решение. Тут много вариантов, а одно из лучших — это опенсорсное приложение Hoarder («Копилка информации»). Оно устанавливается на сервер и выступает единой БД для доступа из любых клиентов: Android, iOS, Chrome, Firefox и т. д. Рассмотрим базовые функции этого приложения и как установить его на машине, где хранится личный информационный архив. Это может быть или домашний сервер, или VPS.
https://habr.com/ru/companies/ruvds/articles/896082/
#ruvds_статьи #Hoarder #хранилище_закладок #информационный_архив #персональное_хранилище #NextJS #Drizzle #NextAuth #tRPC #Puppeteer #OpenAI #Meilisearch #youtubedl #Ollama #Monolith #Shaarli #LinkAce #Linkding
