home.social

#ollama — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #ollama, aggregated by home.social.

  1. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  2. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  3. Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

    В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежедневной работы оказалось, что записать встречу — меньшая половина дела. Вторая часть — про то, как граф живёт неделями и почему ему можно верить: факты с датами «с» и «по», провенанс цитат из стенограммы, досье как этаж между поиском и графом, ночной прогон, песочница для облака, поиск по блокам и скрипт «забыть встречу целиком». Кода мало, устройства много. Читать дальше

    habr.com/ru/articles/1078828/

    #локальные_llm #ассистент_встреч #ollama #диаризация #граф_знаний #graphrag #obsidian #speechtotext #zoom #приватность

  4. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  5. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  6. @Madic noch darauf Bezug nehmen:

    Bei #ollama Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  7. @Madic noch darauf Bezug nehmen:

    Bei Cloud bekommst du in pro abo für 20$ echtes Geld 60$ token Guthaben... Also Faktor 3 - dann ist es ja dauerhaft 66% reduziert dort

  8. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  9. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  10. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  11. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    #Ollama #vLLM #LLM #AI #Self-Hosting #Docker #API #DevOps

    glukhov.org/llm-hosting/compar

  12. Learn when to migrate from Ollama to vLLM. Migration signals, planning steps, Docker Compose setup, and a practical checklist for moving your local LLM server.

    -Hosting

    glukhov.org/llm-hosting/compar

  13. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  14. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  15. 📝 Daily report 📈

    Here are today's most popular trending hashtags #⃣ on our website 🌐️:

    #openai, #gnu, #sysadmin, #ollama

    🔥 Stay tuned! 🔥

  16. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  17. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  18. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  19. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  20. Most developers still think #Java + #AI means calling APIs from Spring Boot. The ecosystem goes deeper—from RAG frameworks to local inference with #Ollama or GPU workloads on #JVM.
    @ArturSkowronski maps the #GenAI tooling iceberg for modern #Java: javapro.io/2026/06/03/the-gen-

    @ollama

  21. أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.

    #Raycast #AI #Ollama

  22. أطلق Raycast تحديثه v2، الذي يعيد دعم "Bring Your Own Model" (BYOM) لربط مزودين متوافقين مع OpenAI، أو تشغيل نماذج محلية عبر Ollama، أو استخدام OpenRouter API ضمن Raycast AI. هذه الميزات تتطلب الآن اشتراك Raycast Pro. كما يوسع التحديث إدارة النوافذ بأوامر دقيقة لتغيير الحجم والتحريك، وإمكانية إنشاء تخطيطات مخصصة من النوافذ الحالية. ويشمل التحسينات دعم النص من اليمين إلى اليسار في Raycast AI، وتحسينات في Quick AI، وتعديلات على ترتيب البحث عن الملفات.

    #Raycast #AI #Ollama

  23. A short recap of my recent experiments of running an LLM.

    Would be great to hear suggestions from others.
    - Where else can we get decent hardware?
    - What models do you run for your teams?
    - How to reduce complexity of the setup?

    linkedin.com/pulse/recap-my-jo

    #AI #LLM #ollama #openwebui #hetzner #trooperai #selfhosted

  24. A short recap of my recent experiments of running an LLM.

    Would be great to hear suggestions from others.
    - Where else can we get decent hardware?
    - What models do you run for your teams?
    - How to reduce complexity of the setup?

    linkedin.com/pulse/recap-my-jo

    #AI #LLM #ollama #openwebui #hetzner #trooperai #selfhosted

  25. A short recap of my recent experiments of running an LLM.

    Would be great to hear suggestions from others.
    - Where else can we get decent hardware?
    - What models do you run for your teams?
    - How to reduce complexity of the setup?

    linkedin.com/pulse/recap-my-jo

    #AI #LLM #ollama #openwebui #hetzner #trooperai #selfhosted

  26. A short recap of my recent experiments of running an LLM.

    Would be great to hear suggestions from others.
    - Where else can we get decent hardware?
    - What models do you run for your teams?
    - How to reduce complexity of the setup?

    linkedin.com/pulse/recap-my-jo

    #AI #LLM #ollama #openwebui #hetzner #trooperai #selfhosted

  27. A short recap of my recent experiments of running an LLM.

    Would be great to hear suggestions from others.
    - Where else can we get decent hardware?
    - What models do you run for your teams?
    - How to reduce complexity of the setup?

    linkedin.com/pulse/recap-my-jo

    #AI #LLM #ollama #openwebui #hetzner #trooperai #selfhosted

  28. Я распознал паспорт. Чем я могу это доказать?

    Система работает и разбирает документы. Претензия у меня к ней одна, зато неустранимая изнутри: я не могу доказать ни одно из полученных значений. Ниже — опись. По каждому полю: как оно читается, чем проверяется и чего эта проверка стоит. Последняя строка описи самая интересная, потому что напротив неё не стоит ничего.

    habr.com/ru/articles/1076808/

    #OCR #Tesseract #LLM #Ollama #распознавание_документов #MRZ

  29. [Перевод] Qwen3.8-27B: лучший локальный LLM, который вы, вероятно, не сможете запустить

    В этом месяце Alibaba выпустила две модели, и та, о которой все писали, оказалась не той, что мы ждали. Qwen3.8-Max — это API с 2,4 триллионами параметров, и пару недель назад я с большим энтузиазмом написал о ней обзор. Но релиз, которого я действительно ждал, вышел 14 августа: Qwen3.8-27B, Apache 2.0, веса на Hugging Face, модель достаточно компактна, чтобы работать на ноутбуке. Я должен кое в чем признаться. Я не провел полный тест этой модели. Я попробовал, на своем MacBook Air M4 получал около восьми токенов в секунду и потерял терпение где-то на втором запросе. По большей части этот пост посвящен именно моей неудаче, потому что я подозреваю, что у многих из вас вечер сложится так же, как у меня. Что представляет собой Qwen3.8-27B на самом деле 27,78 миллиарда параметров, плотная модель, включающая в себя визуальный энкодер, о котором никто не объявлял заранее. Принимает на вход текст, изображения и видео. Собственный контекст — 262 144 токена, с помощью YaRN можно увеличить его примерно до миллиона, если запускать модель на сервере. Архитектура — это по-настоящему интересная часть, и это не обычный трансформер. На протяжении 64 слоёв Qwen чередует 48 слоёв Gated DeltaNet (линейное внимание) с 16 полными слоями Gated Attention в соотношении 3:1. Только эти 16 слоёв с полным вниманием имеют KV-кэш. Таким образом, на каждый токен приходится около 64 КБ, что составляет примерно четверть от объёма памяти, необходимого для обычной 64-слойной модели с плотным кодированием. Если вы запомните только одно число из этого поста, пусть это будет именно оно. Всё, что касается того, поместится ли эта модель на вашем компьютере, зависит от объёма KV-кэша.

    habr.com/ru/articles/1072048/

    #qwen #llm #quantization #apple_silicon #lmstudio #ollama

  30. 📊 Meet Kula: Monitorul de servere pentru Linux cu zero dependențe, un singur executabil și asistent AI integrat!

    Kula este un instrument modern de monitorizare de sistem conceput pentru Linux, dezvoltat cu obiectivul de a fi cât mai simplu de instalat și utilizat. Livrat ca un single binary (un singur fișier executabil), Kula funcționează direct out of the box, fără baze de date externe, runtime-uri greoaie sau servicii terțe.

    ✨ Ce face Kula diferit și extrem de util?

    ⚙️ Fără dependențe & Colecție directă din kernel:
    • Citește datele de sistem direct din directoarele virtuale /proc și /sys.
    • Nu necesită instalarea de baze de date precum Prometheus sau InfluxDB pentru a stoca datele inițiale.

    🧠 Engine de stocare propriu (Custom Ring-Buffer):
    • Folosește o arhitectură de stocare pe 3 niveluri (tiered storage), compresând și reducând rata de eșantionare pe măsură ce datele se învechesc (1 secundă raw, medii la 1 minut și medii la 5 minute), prevenind umplerea discului.

    💻 Interfață dublă: Web Dashboard & Terminal TUI:
    • Include o interfață web Single Page Application (SPA) integrată direct în binar, conectată prin WebSocket pentru metrici live și grafice interactive.
    • Oferă și un ecran TUI (Text User Interface) direct în terminal pentru inspecții rapide pe servere fărâ interfață grafică.

    🤖 Asistent AI integrat (prin Ollama):
    • Dacă ai un serviciu local Ollama activ, Kula adaugă o funcționalitate unică: poți cere asistentului AI să îți analizeze graficele de performanță, consumul de resurse sau erorile directe din metrici, totul rulând 100% local.

    📈 Metrice colectate:
    • Utilizare CPU per nucleu, memorie RAM/Swap, I/O pe disc, trafic de rețea, temperaturi senzori, alerte de supraincărcare și sincronizare ceas. Expostă și un endpoint pentru Prometheus dacă se dorește integrarea într-un stack existent.

    Un instrument excelent pentru administratorii de sistem și pasionații de self-hosting care doresc un monitorizor rapid, autonom și curat pe serverele lor Linux! 🚀

    #Kula #Linux #ServerMonitoring #SelfHosted #SysAdmin #Ollama #AI #OpenSource #TechNews #TechMadeSimple

  31. 📊 Meet Kula: Monitorul de servere pentru Linux cu zero dependențe, un singur executabil și asistent AI integrat!

    Kula este un instrument modern de monitorizare de sistem conceput pentru Linux, dezvoltat cu obiectivul de a fi cât mai simplu de instalat și utilizat. Livrat ca un single binary (un singur fișier executabil), Kula funcționează direct out of the box, fără baze de date externe, runtime-uri greoaie sau servicii terțe.

    ✨ Ce face Kula diferit și extrem de util?

    ⚙️ Fără dependențe & Colecție directă din kernel:
    • Citește datele de sistem direct din directoarele virtuale /proc și /sys.
    • Nu necesită instalarea de baze de date precum Prometheus sau InfluxDB pentru a stoca datele inițiale.

    🧠 Engine de stocare propriu (Custom Ring-Buffer):
    • Folosește o arhitectură de stocare pe 3 niveluri (tiered storage), compresând și reducând rata de eșantionare pe măsură ce datele se învechesc (1 secundă raw, medii la 1 minut și medii la 5 minute), prevenind umplerea discului.

    💻 Interfață dublă: Web Dashboard & Terminal TUI:
    • Include o interfață web Single Page Application (SPA) integrată direct în binar, conectată prin WebSocket pentru metrici live și grafice interactive.
    • Oferă și un ecran TUI (Text User Interface) direct în terminal pentru inspecții rapide pe servere fărâ interfață grafică.

    🤖 Asistent AI integrat (prin Ollama):
    • Dacă ai un serviciu local Ollama activ, Kula adaugă o funcționalitate unică: poți cere asistentului AI să îți analizeze graficele de performanță, consumul de resurse sau erorile directe din metrici, totul rulând 100% local.

    📈 Metrice colectate:
    • Utilizare CPU per nucleu, memorie RAM/Swap, I/O pe disc, trafic de rețea, temperaturi senzori, alerte de supraincărcare și sincronizare ceas. Expostă și un endpoint pentru Prometheus dacă se dorește integrarea într-un stack existent.

    Un instrument excelent pentru administratorii de sistem și pasionații de self-hosting care doresc un monitorizor rapid, autonom și curat pe serverele lor Linux! 🚀

    #Kula #Linux #ServerMonitoring #SelfHosted #SysAdmin #Ollama #AI #OpenSource #TechNews #TechMadeSimple

  32. 📊 Meet Kula: Monitorul de servere pentru Linux cu zero dependențe, un singur executabil și asistent AI integrat!

    Kula este un instrument modern de monitorizare de sistem conceput pentru Linux, dezvoltat cu obiectivul de a fi cât mai simplu de instalat și utilizat. Livrat ca un single binary (un singur fișier executabil), Kula funcționează direct out of the box, fără baze de date externe, runtime-uri greoaie sau servicii terțe.

    ✨ Ce face Kula diferit și extrem de util?

    ⚙️ Fără dependențe & Colecție directă din kernel:
    • Citește datele de sistem direct din directoarele virtuale /proc și /sys.
    • Nu necesită instalarea de baze de date precum Prometheus sau InfluxDB pentru a stoca datele inițiale.

    🧠 Engine de stocare propriu (Custom Ring-Buffer):
    • Folosește o arhitectură de stocare pe 3 niveluri (tiered storage), compresând și reducând rata de eșantionare pe măsură ce datele se învechesc (1 secundă raw, medii la 1 minut și medii la 5 minute), prevenind umplerea discului.

    💻 Interfață dublă: Web Dashboard & Terminal TUI:
    • Include o interfață web Single Page Application (SPA) integrată direct în binar, conectată prin WebSocket pentru metrici live și grafice interactive.
    • Oferă și un ecran TUI (Text User Interface) direct în terminal pentru inspecții rapide pe servere fărâ interfață grafică.

    🤖 Asistent AI integrat (prin Ollama):
    • Dacă ai un serviciu local Ollama activ, Kula adaugă o funcționalitate unică: poți cere asistentului AI să îți analizeze graficele de performanță, consumul de resurse sau erorile directe din metrici, totul rulând 100% local.

    📈 Metrice colectate:
    • Utilizare CPU per nucleu, memorie RAM/Swap, I/O pe disc, trafic de rețea, temperaturi senzori, alerte de supraincărcare și sincronizare ceas. Expostă și un endpoint pentru Prometheus dacă se dorește integrarea într-un stack existent.

    Un instrument excelent pentru administratorii de sistem și pasionații de self-hosting care doresc un monitorizor rapid, autonom și curat pe serverele lor Linux! 🚀

    #Kula #Linux #ServerMonitoring #SelfHosted #SysAdmin #Ollama #AI #OpenSource #TechNews #TechMadeSimple

  33. 📊 Meet Kula: Monitorul de servere pentru Linux cu zero dependențe, un singur executabil și asistent AI integrat!

    Kula este un instrument modern de monitorizare de sistem conceput pentru Linux, dezvoltat cu obiectivul de a fi cât mai simplu de instalat și utilizat. Livrat ca un single binary (un singur fișier executabil), Kula funcționează direct out of the box, fără baze de date externe, runtime-uri greoaie sau servicii terțe.

    ✨ Ce face Kula diferit și extrem de util?

    ⚙️ Fără dependențe & Colecție directă din kernel:
    • Citește datele de sistem direct din directoarele virtuale /proc și /sys.
    • Nu necesită instalarea de baze de date precum Prometheus sau InfluxDB pentru a stoca datele inițiale.

    🧠 Engine de stocare propriu (Custom Ring-Buffer):
    • Folosește o arhitectură de stocare pe 3 niveluri (tiered storage), compresând și reducând rata de eșantionare pe măsură ce datele se învechesc (1 secundă raw, medii la 1 minut și medii la 5 minute), prevenind umplerea discului.

    💻 Interfață dublă: Web Dashboard & Terminal TUI:
    • Include o interfață web Single Page Application (SPA) integrată direct în binar, conectată prin WebSocket pentru metrici live și grafice interactive.
    • Oferă și un ecran TUI (Text User Interface) direct în terminal pentru inspecții rapide pe servere fărâ interfață grafică.

    🤖 Asistent AI integrat (prin Ollama):
    • Dacă ai un serviciu local Ollama activ, Kula adaugă o funcționalitate unică: poți cere asistentului AI să îți analizeze graficele de performanță, consumul de resurse sau erorile directe din metrici, totul rulând 100% local.

    📈 Metrice colectate:
    • Utilizare CPU per nucleu, memorie RAM/Swap, I/O pe disc, trafic de rețea, temperaturi senzori, alerte de supraincărcare și sincronizare ceas. Expostă și un endpoint pentru Prometheus dacă se dorește integrarea într-un stack existent.

    Un instrument excelent pentru administratorii de sistem și pasionații de self-hosting care doresc un monitorizor rapid, autonom și curat pe serverele lor Linux! 🚀

    #Kula #Linux #ServerMonitoring #SelfHosted #SysAdmin #Ollama #AI #OpenSource #TechNews #TechMadeSimple

  34. 📊 Meet Kula: Monitorul de servere pentru Linux cu zero dependențe, un singur executabil și asistent AI integrat!

    Kula este un instrument modern de monitorizare de sistem conceput pentru Linux, dezvoltat cu obiectivul de a fi cât mai simplu de instalat și utilizat. Livrat ca un single binary (un singur fișier executabil), Kula funcționează direct out of the box, fără baze de date externe, runtime-uri greoaie sau servicii terțe.

    ✨ Ce face Kula diferit și extrem de util?

    ⚙️ Fără dependențe & Colecție directă din kernel:
    • Citește datele de sistem direct din directoarele virtuale /proc și /sys.
    • Nu necesită instalarea de baze de date precum Prometheus sau InfluxDB pentru a stoca datele inițiale.

    🧠 Engine de stocare propriu (Custom Ring-Buffer):
    • Folosește o arhitectură de stocare pe 3 niveluri (tiered storage), compresând și reducând rata de eșantionare pe măsură ce datele se învechesc (1 secundă raw, medii la 1 minut și medii la 5 minute), prevenind umplerea discului.

    💻 Interfață dublă: Web Dashboard & Terminal TUI:
    • Include o interfață web Single Page Application (SPA) integrată direct în binar, conectată prin WebSocket pentru metrici live și grafice interactive.
    • Oferă și un ecran TUI (Text User Interface) direct în terminal pentru inspecții rapide pe servere fărâ interfață grafică.

    🤖 Asistent AI integrat (prin Ollama):
    • Dacă ai un serviciu local Ollama activ, Kula adaugă o funcționalitate unică: poți cere asistentului AI să îți analizeze graficele de performanță, consumul de resurse sau erorile directe din metrici, totul rulând 100% local.

    📈 Metrice colectate:
    • Utilizare CPU per nucleu, memorie RAM/Swap, I/O pe disc, trafic de rețea, temperaturi senzori, alerte de supraincărcare și sincronizare ceas. Expostă și un endpoint pentru Prometheus dacă se dorește integrarea într-un stack existent.

    Un instrument excelent pentru administratorii de sistem și pasionații de self-hosting care doresc un monitorizor rapid, autonom și curat pe serverele lor Linux! 🚀

    #Kula #Linux #ServerMonitoring #SelfHosted #SysAdmin #Ollama #AI #OpenSource #TechNews #TechMadeSimple

  35. Ab dem 2. August gilt die KI-Kennzeichnungspflicht: was dein Verein, dein Betrieb und du privat jetzt wirklich schulden

    Die 35 Millionen Euro Bußgeld, mit denen dir gerade Beratung verkauft wird, stehen in einem ganz anderen Teil der KI-Verordnung. Ab dem 2. August 2026 musst du KI-Inhalte kennzeichnen, aber nur in zwei Fällen. Welche das sind und warum dein Verein sich nie auf die Privatausnahme berufen kann. Reden wir drüber!

    chrislo.de/blog/2026-07-30-09-

    #chrislo #DigitaleUnabhängigkeit #LokaleKI #KIVerordnung #AIAct #Kennzeichnungspflicht #Vereine #EURegulierung #Bundesnetzagentur #Deepfakes #Ollama #DigitalOmnibus

  36. Krátce jsem zkoušel lokální #LLM modely na mém #frameworklaptop13 a docela zajímavě vypadá "přemýšlivý" qwen3.6:35b-a3b-q4_K_M, který na AMD Ryzen 5 AI 340 + 32GB RAM běží použitelně.

    Tento model má redukovaný počet aktivních parametrů pro zpracování jednoho tokenu. Na první pohled, tak méně zatěžuje CPU/GPU a celý notebook méně hučí a topí. Podobně funguje i starší qwen3-coder:30b-a3b-q4_K_M, který "nepřemýšlí" takže odpověď dorazí rychleji.

    Každopádně na tomto HW tyto modely generují výstup řádově v nižších desítkách (možná spíš jednotky) tokenů za sekundu. Měřeno pohledem oka. Použitelné to je, ale kdo to s lokálním LLM myslí opravdu vážně, brzy sáhne po něčem výkonnějším.

    #ollama #qwen3 #ryzen #localllm

  37. Just spent 3 hours trying to debug a local AI setup... running in docker, properly using my GPU. and work just fine.

    I wanted to hook it up to or but both seem to get stuck when trying to execute a command...

  38. LLM без «тормозов» и AI без цензуры, который что видит — то и говорит

    Нейросетевые модели являются “слепком” информации из интернет из ответов которого разработчики убирают все нежелательное для работы в офисе и проверяющих органов. Цензура у разных моделей проявляется по разному: американские модели “боятся” обидеть пользователя и фильтруют ответы и вопросы на большое количество житейских тем, а китайские в основном на чувствительные для Китая политические темы, Алисы и Гигачаты не ответят вам на запрещенные в России запросы а в последнее время избегают и технических вопросов про сетевые настройки / доступ к информации в интернет. Но что интернационально объеденяет LLM, так это NotSafeForWork фильтр (как говорят на форумах - 99% порно и 1% насилия), отсекающий в ответах вопросы по исходной информации.

    habr.com/ru/articles/1026372/

    #ollama #uncensored #llmмодели

  39. AI для умного дома: что уже работает сегодня (часть 1)

    В статье — не просто список инструментов, а как они сочетаются , какие подводные камни ждут при развёртывании, какие цифры можно ожидать по производительности и как обойти ограничения Llama 8B без облачных кредитов.

    habr.com/ru/articles/1014246/

    #умный_дом #Home_Assistant #Ollama #OpenClaw #MCP #LLM #локальный_AI #Whisper #n8n #голосовое_управление

  40. Mit meinem neuen Rechner kann ich nun auch endlich in Home Assistant echte Kamera-Erkennung machen mit LLM Vision, ollama und einem vision modell mit 14B... das macht richtig Spaß zu sehen, wie die KI die Kamerabilder beschreibt. 😛

    #homeassistant #llmvision #ollama #reolink #gfx5080

  41. (Linux news in previous posts)

    FOSS NEWS

    Mozilla is packing new features into Firefox:
    betanews.com/article/mozilla-i

    Is Firefox getting a new logo? Mozilla’s socials suggest so…:
    omgubuntu.co.uk/2026/03/is-fir

    Signal introduces group member labels, allowing you to specify your role or responsibility:
    alternativeto.net/news/2026/3/

    Blender 5.1 Open-Source 3D Graphics Software Released with Many New Features:
    9to5linux.com/blender-5-1-open

    LibreOffice 26.8 To Add A Donation Banner To Its Start Center:
    phoronix.com/news/LibreOffice-

    Mozilla Releases Llamafile 0.10 To Enhance Their AI Offering For Easy-To-Use LLMs:
    phoronix.com/news/Mozilla-AI-L

    Ollama integration brings all models to OpenClaw platform:
    alternativeto.net/news/2026/3/

    OpenShot 3.5 is (yet again) the ‘biggest’ and ‘fastest’ release ever:
    omgubuntu.co.uk/2026/03/opensh

    Bitwarden Send improves security with email verification for paid users:
    alternativeto.net/news/2026/3/

    SuperTux 0.7.0 Arcade Game Is Out with Complete Level Design, Revamped Graphics:
    9to5linux.com/supertux-0-7-0-a

    PlayStation 3 emulator RPCS3 gets easier to use with Steam:
    gamingonlinux.com/2026/03/play

    OpenTTD devs clarify store changes with Transport Tycoon Deluxe re-release as Atari contribute server funding:
    gamingonlinux.com/2026/03/open

    GNUnet 0.27 Released For Those With "Some Reasonable Pain Tolerance":
    phoronix.com/news/GNUnet-0.27-

    Immich 2.6 improves map side panel, asset viewer, shared link slugs & presets, and more:
    alternativeto.net/news/2026/3/

    (more FOSS news in comments)

    #WeeklyNews #OpenSource #FOSSNews #FOSS #OpenSourceNews #News #Firefox #Signal #Blender #LibreOffice #Llamafile #Ollama #OpenShot #Bitwarden #BitwardenSend #SuperTux #RPCS3 #OpenTTD #GNUnet #Immich #Browser #WebBrowser #VideoEditor #VideoEditing #ContentCreation #Gaming #FOSSGame #FOSSGaming #OpenSourceGame #PlayStation #PlayStation3 #FosseryTech

  42. إذا كنت تريد تشغيل Ollama + OpenClaw محليًا بلا حدود، فهناك بعض المتطلبات التقنية الأساسية لضمان أداء مقبول، خصوصًا لأن النماذج الحديثة للذكاء الاصطناعي تتطلب موارد كبيرة. إليك تفصيلها:

    1️⃣ نظام التشغيل

    • Windows 10/11 (64-bit) أو
    • macOS 13+ (M1/M2 أفضل) أو
    • Linux 64-bit (Ubuntu أو توزيعات حديثة)

    2️⃣ المعالج (CPU)

    • 8 نوى على الأقل (Intel i7/i9 أو AMD Ryzen 7/9)
    • المعالجات الحديثة تدعم AVX2/AVX512، ما يحسن أداء النماذج بشكل كبير.

    3️⃣ بطاقة الرسوميات (GPU) — مهمة جدًا للنماذج الكبيرة

    • NVIDIA GPU مع CUDA (RTX 2060 أو أفضل) لتسريع الحسابات
    • VRAM: 6–12GB كحد أدنى، ويفضل 16GB+ للنماذج الأكبر
    • إذا لم يتوفر GPU، يمكن تشغيل النماذج على CPU فقط، لكن سيكون أبطأ بكثير.

    4️⃣ الذاكرة العشوائية (RAM)

    • 16GB كحد أدنى
    • يُفضل 32GB+ إذا كنت تريد تشغيل نماذج كبيرة (>7B parameters) دون تباطؤ

    5️⃣ مساحة التخزين

    • SSD سريع (NVMe أفضل)
    • مساحة: 50–100GB على الأقل للنماذج والبيانات المؤقتة
    • بعض النماذج الكبيرة (13B+) تتطلب 100–200GB

    6️⃣ اتصال بالإنترنت

    • مطلوب فقط للتحميل الأولي للنماذج
    • بعد ذلك يمكن التشغيل بدون إنترنت بالكامل

    7️⃣ ملاحظات إضافية

    • أجهزة Apple Silicon (M1/M2) جيدة جدًا لتشغيل النماذج الصغيرة والمتوسطة بكفاءة عالية
    • لتجربة سلسة، استخدم موديلات محلية خفيفة مثل Llama 2 7B أو Mistral 7B
    • النماذج الكبيرة جدًا (>13B parameters) تحتاج GPU قوي جدًا وذاكرة ≥24GB

    #ذكاء_اصطناعي #AI #تعلم_آلي #MachineLearning #نماذج_محلية #LocalAI #Ollama #OpenClaw #مجاني #FreeAI #بدون_حدود #UnlimitedUsage #تقنية #Tech #حاسوب #Computer #gnutux #linux #foss

  43. يمكنك استخدام Ollama مع OpenClaw بشكل مجاني وبدون حدود API إذا شغّلتهما محليًا على جهازك. هذا هو المعنى الحقيقي لـ “free unlimited” في هذا السياق 👇(OpenClaw Center)

    🆓 هل الخدمة مجانية وبدون حدود فعلاً؟

    • نعم — Ollama نفسه مجاني ويمكنه تشغيل نماذج ذكاء اصطناعي محلية على جهازك بدون API مدفوعة أو حدود استخدام، لأن كل شيء يعمل مباشرة على حاسوبك. (OpenClaw Center)
    • عند ربطه مع OpenClaw، يمكنك استخدام الذكاء الاصطناعي داخل OpenClaw أيضًا بدون دفع أي رسوم طالما أنك تستخدم نماذج محلية ولا تعتمد على خدمات سحابية مدفوعة. (OpenClaw)

    📌 لكن ملاحظة مهمة:

    • إذا حاولت استخدام نماذج سحابية من Ollama أو مزود آخر (أي عبر الإنترنت)، فقد تواجه حدود أو رسوم؛ لذلك تأكد من تثبيت النماذج محليًا وليس عبر الإنترنت. (Reddit)

    💡 كيف تحصل على هذا الإعداد؟

    1. ثبّت Ollama من الموقع الرسمي وضعه قيد التشغيل على جهازك. (OpenClaw Center)

    2. اسحب نموذج محلي (مثل Llama أو Mistral) باستخدام أمر مثل:

      ollama pull llama3.3

      (OpenClaw Center)

    3. ثبّت OpenClaw على جهازك أو خادمك. (openclaw)

    4. فعّل Ollama داخل OpenClaw عبر إعداد الـ API المحلي الخاص به. (OpenClaw)

    📌 النتيجة

    📍 OpenClaw + Ollama على جهازك ✔️ مجاني 100% (بدون رسوم API) ✔️ لا حدود استخدام ✔️ كل البيانات على جهازك — خصوصية كاملة ✔️ تعمل بدون الإنترنت بعد الإعداد (open-clawai.com)

    تثبيت هذا النظام على جهازك (Windows أو Mac أو Linux). هل تريد ذلك؟

    #ذكاء_اصطناعي #AI #تعلم_آلي #MachineLearning #نماذج_محلية #LocalAI #Ollama #OpenClaw #مجاني #FreeAI #بدون_حدود #UnlimitedUsage #تقنية #Tech #حاسوب #Computer #gnutux #linux #foss