#ollama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить
В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше
https://habr.com/ru/articles/1078828/
#локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность
-
https://www.europesays.com/pl/668928/ NVIDIA PAIR – darmowe narzędzie rozdzielające zadania agentów AI między komputery w domowej sieci #AgenciAI #AiPc #DgxSpark #GPU #IFA2026 #LMStudio #LokalnaInferencja #Nauka #NaukaITechnika #NaukaTechnika #nvidia #ollama #PAIR #PersonalAIRouter #PL #Poland #Polish #Polska #Polski #RtxSpark #Science #ScienceAndTechnology #ScienceTechnology #SztucznaInteligencja #Technika #Technology
-
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
@ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/ -
https://www.europesays.com/ie/672544/ Nvidia & Microsoft push local AI agents on Windows #acer #AIAgents(AgenticAI) #AIPC #ContentCreation #Creators #CyberLink #DataPrivacy #DeveloperTools #EdgeAI #EdgeComputing #Éire #ElectronicArts(EA) #GenerativeAI(GenAI) #HybridCloud #IE #Ireland #Lenovo #Linux #MacOS #Microsoft #MicrosoftWindows #Nvidia #Ollama #OpenSource #Optimisation #optimization #PCHardware #PCMarket #PortableComputer #RayTracing(RTX) #SmallOffice #Technology #Ubisoft
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
A short recap of my recent experiments of running an LLM.
Would be great to hear suggestions from others.
- Where else can we get decent hardware?
- What models do you run for your teams?
- How to reduce complexity of the setup?https://www.linkedin.com/pulse/recap-my-journey-self-host-llm-artur-neumann-6ddfe/
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic duplicates и RAG по собственному хранилищу. В статье разбираю, как всё это устроено, что ломалось по дороге и почему почти 700 тестов всё равно не спасли от сюрпризов в реальном Obsidian.
https://habr.com/ru/articles/1078328/
#Obsidian #Vault_Audit_AI #RAG #semantic_search #embeddings #LLM #TypeScript #vector_search #knowledge_management #Ollama
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
CVE Alert: CVE-2026-85180 - ollama - ollama - https://www.redpacketsecurity.com/cve-alert-cve-2026-85180-ollama-ollama/
#OSINT #ThreatIntel #CyberSecurity #cve-2026-85180 #ollama #
-
Агент написал себе навык и соврал, что тот работает
Я делаю агента, который умеет дописывать себе навыки: упёрся в то, чего не умеет — сгенерировал код, собрал, установил, пользуется. Первый раз это сработало ровно так, как я мечтал. Агент сказал «у меня нет такого навыка», спросил разрешения, минуту пыхтел компилятором и отчитался: готово. Метода не было. То есть он был — в манифесте, в списке, который скилл про себя рассказывает. А в коде, который этот вызов должен обрабатывать, его не было. Модель объявила метод, забыла реализовать и об этом не узнала. Валидация прошла. Установка прошла. Проблема оказалась не в том, что модель ошиблась — это скучно и ожидаемо. Проблема в том, что я не смог поймать ошибку, потому что спрашивал у того же, кто её сделал. Скилл заявляет о себе сам, проверить заявление можно только у него же, а он в этом вопросе — заинтересованная сторона. Дальше — про то, как это чинится отрицательным контролем на девять строк, почему у проверки должно быть три исхода вместо двух, и зачем на самом деле нужен контейнер. Как я его поймал
https://habr.com/ru/articles/1074880/
#rust #llm #aiагенты #валидация #плагины #ollama #open_source #selfimprovement
-
От стримов к вебсокетам: как я боролся с буферизацией и наконец победил
Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ
https://habr.com/ru/companies/beeline_cloud/articles/1057902/
#spring_ai #spring_boot #java #websocket #stomp #serversent_events #sse #ollama #llm #typescript
-
Confused by the exploding number of #AI tools in the #JVM ecosystem? Teams mix #SpringAI, #LangChain4j, MCP & #Ollama without understanding the layers underneath. Artur Skowronski explains what each part of the #Java AI stack is actually for: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/
@langchain4j
-
Chat memory gets fuzzy fast once the UI hides what LangChain4j is actually retaining.
I wrote a Quarkus tutorial that makes retained-memory pressure visible with `TokenWindowChatMemory`, Ollama request counts, a turn ledger, and OpenTelemetry attributes. The useful split is simple: your app-level eviction budget is not the model context limit. https://www.the-main-thread.com/p/quarkus-langchain4j-chat-memory-budget #Java #Quarkus #LangChain4j #Ollama #OpenTelemetry
-
Local AI gets risky when the first confident answer becomes the system answer.
I wrote a Quarkus tutorial that sends the same text to two Ollama models, uses Quarkus Signals to escalate only on disagreement, and keeps `UNCERTAIN` separate from `FAILED`. https://www.the-main-thread.com/p/quarkus-langchain4j-ollama-signals #Java #Quarkus #LangChain4j #Ollama
-
Эволюция клиента для Ollama: от PostgreSQL к MongoDB
Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ
https://habr.com/ru/companies/beeline_cloud/articles/1046111/
#java #spring_boot #postgresql #ollama #llm #artificial_intelligence #react #typescript #code_review #code_review_ai
-
Confused by the exploding number of #AI tools in the #JVM ecosystem? Teams mix #SpringAI, #LangChain4j, MCP & #Ollama without understanding the layers underneath. Artur Skowronski explains what each part of the #Java AI stack is actually for: https://javapro.io/2026/06/03/the-gen-ai-iceberg-java-tooling-edition/
@langchain4j
-
Cheap questions should not burn the same local model as real debugging work.
I wrote a Quarkus + LangChain4j tutorial that classifies prompts, routes them between two Ollama models, and keeps the decision observable with CDI events and tests. https://www.the-main-thread.com/p/quarkus-langchain4j-model-routing #Java #Quarkus #LangChain4j #Ollama
-
Running local AI for Ruby development with Ollama, Aider, and VSCode.
No cloud APIs.
No telemetry.
No proprietary code leaving your machine.A practical look at local LLM workflows while working on Ruby-LibGD.
-
Once a tool-calling assistant grows from 5 tools to 50, the problem stops being “prompting” and starts being context geometry.
This walkthrough builds a Quarkus + LangChain4j + Ollama example and shows what tool search actually changes: smaller working sets, visible search rounds, and more prompt headroom even when local latency is messy.
https://www.the-main-thread.com/p/langchain4j-tool-search-quarkus-ollama
-
RAG: Как собрать свой ретривер для особых случаев
С опытом у RAG-инженера накапливается солидный багаж эвристик и инструментов, которые в определенных задачах превосходят по качеству или скорости стандартные. Фраза «а для этого у меня есть собственный ретривер» звучит с некоторым снобизмом, но добавляет к профессионализму несколько пойнтов. Хотите в свою коллекцию ретривер, который умеет работать с терминами, плохо различимыми в векторном пространстве эмбеддинга, в частности с именами и названиями? Тогда давайте перейдём от снобизма к практике. Начнём с обработки текста и сегментируем его на фрагменты - «чанки». Далее сделаем TFIDF модель, добавим поиск и обернём всё это в ретривер LangChain. Наконец сравним наш ретривер с двумя-тремя стандартными решениями. А Ollama поможет с вопросами для бенчмарка.
https://habr.com/ru/articles/1022244/
#rag #rag_pipeline #text_mining #text_generation #retrieval #ollama #gensim #langchain
-
Do we have any owners of one of those Ryzen AI Max+ 395 128GB UMA boxes here that operate them on the daily for at least a few months as a claude LLM coding server and are capable of giving a comparative run down on their performance vs the OG claude and its collection of formal prose generators?
Also: Especially curious to hear any numbers that came out of a watt meter in daily consumption and base/peak numbers. Same with the used models, their size, their respective achieved tok/s and response times.
And should you have had the opportunity of comparing this against non-UMA beefy dGPUs on the above parameters that'd also be quote interesting.
#claude #aicoding #AIAsssisted #ollama #onprem #selfhosing #StrixPoint #ryzenaimaxplus395 #ryzenAiMax #powerconsumption #costefficiency #uma
