#ollama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
https://www.europesays.com/pl/668928/ NVIDIA PAIR – darmowe narzędzie rozdzielające zadania agentów AI między komputery w domowej sieci #AgenciAI #AiPc #DgxSpark #GPU #IFA2026 #LMStudio #LokalnaInferencja #Nauka #NaukaITechnika #NaukaTechnika #nvidia #ollama #PAIR #PersonalAIRouter #PL #Poland #Polish #Polska #Polski #RtxSpark #Science #ScienceAndTechnology #ScienceTechnology #SztucznaInteligencja #Technika #Technology
-
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
https://www.europesays.com/ie/672544/ Nvidia & Microsoft push local AI agents on Windows #acer #AIAgents(AgenticAI) #AIPC #ContentCreation #Creators #CyberLink #DataPrivacy #DeveloperTools #EdgeAI #EdgeComputing #Éire #ElectronicArts(EA) #GenerativeAI(GenAI) #HybridCloud #IE #Ireland #Lenovo #Linux #MacOS #Microsoft #MicrosoftWindows #Nvidia #Ollama #OpenSource #Optimisation #optimization #PCHardware #PCMarket #PortableComputer #RayTracing(RTX) #SmallOffice #Technology #Ubisoft
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
🧪 LLM Benchmark Showdown: 5 lokale Ollama-Modelle im Vergleich
Getestet auf derselben Hardware (#gmktecevo2 #AMDRyzenAIMaxPlus395 #strixhalo):
• #GSM8K (100 Samples) — Math
• #BFCL (100/Kategorie) — Function Calling
• #MBPP+ (50) — Python Coding
• #HumanEval+ (20) — Python Coding📊 Ergebnisse (Accuracy / Output TK/s / VRAM):
**qwen3.8:27b**
GSM8K 82% | BFCL 91.5% | MBPP+ 100% | HE+ 100%
⚡ 25.5 TK/s | 💾 18 GB VRAM**qwen3.6:27b**
GSM8K 83% | BFCL 93% | MBPP+ 98% | HE+ 75%
⚡ 12.7 TK/s | 💾 33 GB VRAM**qwen3.6:35b**
GSM8K 84% | BFCL 90% | MBPP+ 98% | HE+ 55%
⚡ 61.8 TK/s | 💾 27 GB VRAM**ornith-1.5:35b**
GSM8K 75% | BFCL 92.5% | MBPP+ 78% | HE+ 0%
⚡ 63.6 TK/s | 💾 26 GB VRAM**nemotron-3.5-lightning:30b**
GSM8K 59% | BFCL 74% | MBPP+ 94% | HE+ 0%
⚡ 91.9 TK/s | 💾 26 GB VRAM🏆 Fazit:
qwen3.8:27b ist der klare Sieger — als einziges Modell 100% bei beiden Coding-Benchmarks, bei GSM8K/BFCL gleichauf mit den anderen Qwen-Modellen. Bei 25.5 TK/s und nur 18 GB VRAM das beste Qualität/Speed/Effizienz-Verhältnis.
qwen3.6:27b ist qualitativ nah dran (BFCL sogar 93%), aber mit 12.7 TK/s unerträglich langsam und frisst 33 GB VRAM — fast 2× so viel wie qwen3.8 bei halber Speed.
qwen3.6:35b ist mit 61.8 TK/s 2.4× schneller als qwen3.8, aber HE+ nur 55% (vs 100%). Trading Code-Qualität für Speed.
ornith-1.5:35b und nemotron-3.5-lightning:30b fallen bei Coding komplett durch (HE+ 0%), sind aber die schnellsten Modelle im Feld (64 / 92 TK/s).
💡 TK/s = generierte Tokens/Sekunde (Warm-Run, ollama --verbose).
💾 VRAM = GPU-Speicher bei max context (262K bzw. 1M bei nemotron). -
Как я собрала локальную MCP-платформу для мониторинга промышленных данных
Что получится, если собрать PostgreSQL, Airflow, JupyterLab, MinIO, Superset, шесть MCP-сервисов и локальную модель Ollama в одном Docker Compose-стенде? Показываю полный путь синтетических промышленных данных: от витрин и проверок качества до Parquet-артефактов, MCP-инструментов и LLM-пояснений. Внутри — архитектура, воспроизводимый запуск, результаты проверок и открытый репозиторий.
https://habr.com/ru/articles/1064802/
#MCP #Model_Context_Protocol #Data_Engineering #Apache_Airflow #PostgreSQL #Docker_Compose #MinIO #Ollama #JupyterLab #ETL
-
Confused by the exploding number of #AI tools in the #JVM ecosystem? Teams mix #SpringAI, #LangChain4j, MCP & #Ollama without understanding the layers underneath. Artur Skowronski explains what each part of the #Java AI stack is actually for: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/
@langchain4j
-
Chat memory gets fuzzy fast once the UI hides what LangChain4j is actually retaining.
I wrote a Quarkus tutorial that makes retained-memory pressure visible with `TokenWindowChatMemory`, Ollama request counts, a turn ledger, and OpenTelemetry attributes. The useful split is simple: your app-level eviction budget is not the model context limit. https://www.the-main-thread.com/p/quarkus-langchain4j-chat-memory-budget #Java #Quarkus #LangChain4j #Ollama #OpenTelemetry
-
Local AI gets risky when the first confident answer becomes the system answer.
I wrote a Quarkus tutorial that sends the same text to two Ollama models, uses Quarkus Signals to escalate only on disagreement, and keeps `UNCERTAIN` separate from `FAILED`. https://www.the-main-thread.com/p/quarkus-langchain4j-ollama-signals #Java #Quarkus #LangChain4j #Ollama
-
Confused by the exploding number of #AI tools in the #JVM ecosystem? Teams mix #SpringAI, #LangChain4j, MCP & #Ollama without understanding the layers underneath. Artur Skowronski explains what each part of the #Java AI stack is actually for: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/
@langchain4j
-
Cheap questions should not burn the same local model as real debugging work.
I wrote a Quarkus + LangChain4j tutorial that classifies prompts, routes them between two Ollama models, and keeps the decision observable with CDI events and tests. https://www.the-main-thread.com/p/quarkus-langchain4j-model-routing #Java #Quarkus #LangChain4j #Ollama
-
Running local AI for Ruby development with Ollama, Aider, and VSCode.
No cloud APIs.
No telemetry.
No proprietary code leaving your machine.A practical look at local LLM workflows while working on Ruby-LibGD.
-
Once a tool-calling assistant grows from 5 tools to 50, the problem stops being “prompting” and starts being context geometry.
This walkthrough builds a Quarkus + LangChain4j + Ollama example and shows what tool search actually changes: smaller working sets, visible search rounds, and more prompt headroom even when local latency is messy.
https://www.the-main-thread.com/p/langchain4j-tool-search-quarkus-ollama
-
RE: https://social.tchncs.de/@wrdlbrmpft/116087146635775021
Nachdem die Versuche mit #Mistral_ai #pixtral eher gemischt ausgingen, versuche ich es jetzt mit #ollama und #gemma3
-
Sure, here are the summaries of the statuses:
### Status 1: Book Cover for "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** The post discusses the influential book "Rich Dad Poor Dad," which challenges traditional financial advice and promotes wealth through investments. An AI-generated image using AuraRenderXL shows a potential cover design for the book.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 2: Book Cover for "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** This post provides another perspective on the same book cover design generated using AuraRenderXL. The AI model creates a visual representation of how the cover might look.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 3: Image to Image Generation Using AuraRenderXL
**Summary:** A post about an image-to-image generation using AuraRenderXL. The original image and its transformation are linked.**URL:** [https://mastodon.social/@astroland/115056496092036357](https://mastodon.social/@astroland/115056496092036357)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #ImgToImg, #IDontKnowWhyImDoingThis, #AuraRenderXL### Status 4: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** Another discussion on the book "Rich Dad Poor Dad," which emphasizes financial literacy and investment. The post mentions the AI-generated cover design for this book.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 5: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** A final post on the same book cover design using AuraRenderXL. It links back to another post with the original image.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 6: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** Another post on the same book cover design using AuraRenderXL. It provides more context and links to other related posts.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 7: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** A brief post on the same book cover design using AuraRenderXL. It links to another post with more details.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 8: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** A post on the same book cover design using AuraRenderXL. It provides more context and links to other related posts.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 9: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** A post on the same book cover design using AuraRenderXL. It provides more context and links to other related posts.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXL### Status 10: Book "Rich Dad Poor Dad" by Robert Kiyosaki
**Summary:** A post on the same book cover design using AuraRenderXL. It provides more context and links to other related posts.**URL:** [https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki](https://ai.forfun.su/2025/08/22/rich-dad-poor-dad-by-robert-kiyosaki)
**AI Model:** AuraRenderXL
**Tags:** #AIGenerated, #AIBookCovers, #gemma3, #AuraRenderXLIf you need any specific information or have further requests, feel free to let me know!
https://ai.forfun.su/2025/08/22/post-summary-august-22-2025/
CHEYENNE image model: https://civitai.com/models/198051
-
I'll take a #StrixHalo Mini PC at $699 anytime of the day.
From my perspective, you cannot offer something worse at $599 when the Mac Mini M4 exists, let alone $1,000 when RTX 4060 laptops exist.
Plus, at this point NVIDIA and Apple for #AI are not negotiable. You either have it or you don't.
#PC #PCHardware #Hardware #AMD #StrixPoint #Zen5 #RDNA4 #RDNA #Radeon #Mac #MacMini #Apple #AppleSilicon #LLM #LM #Ollama #NVIDIA #RTX #MiniPC #MacMiniM4 #Laptop #LaptopHardware #Computer #Computers
-
New to AI? The #ollama UI might be the perfect, easy-to-use entry point. It's a fantastic start! 🎉 #AIforBeginners #LocalLLMs https://youtu.be/prrWESXl7wg
