#anythingllm — Public Fediverse posts

🌐🤖 AnythingLLM: Soluția All-in-One pentru a rula inteligențe artificiale local și privat pe sistemul tău

Găzduirea și utilizarea modelelor de limbaj mari (LLM) pe propriul hardware a devenit o prioritate pentru utilizatorii care pun preț pe confidențialitatea datelor și independența față de giganții tech. În acest peisaj, AnythingLLM se remarcă ca una dintre cele mai puternice, flexibile și prietenoase aplicații open-source concepute pentru a transforma orice calculator într-un centru privat de inteligență artificială.

Spre deosebire de alte instrumente care necesită cunoștințe avansate de terminal, AnythingLLM oferă o interfață grafică (GUI) modernă și un sistem complet de gestionare a documentelor pentru tehnologia RAG (Retrieval-Augmented Generation — adică abilitatea de a discuta direct cu fișierele tale).

Iată ce face din AnythingLLM o aplicație de top pentru productivitate și confidențialitate:

🔹 Sistem RAG avansat bazat pe „Spații de lucru” (Workspaces):
Aplicația îți permite să creezi spații de lucru separate (izolate unele de altele) în care poți încărca PDF-uri, documente Word, link-uri web sau fișiere text. AnythingLLM procesează automat aceste date local și îți permite să pui întrebări sau să generezi rezumate bazate strict pe documentele introduse, fără ca informațiile tale să părăsească vreodată computerul.

🔹 Flexibilitate totală în alegerea modelelor (Multi-Provider):
Aplicația nu te obligă să folosești un singur furnizor de tehnologie. O poți conecta instantaneu la:

Soluții 100% locale: Prin integrarea directă cu Ollama, LM Studio sau LocalAI, rulând modele populare (precum Llama 3, Mistral sau Phi-3) direct pe placa ta video sau procesor.

Servicii cloud comerciale: Dacă preferi sau nu ai hardware puternic, o poți conecta prin chei API la OpenAI (ChatGPT), Anthropic (Claude), Groq sau Mistral AI.

🔹 Interfață multi-utilizator și securitate enterprise:
AnythingLLM este ideal nu doar pentru utilizatorii individuali, ci și pentru echipe sau companii. Varianta sa de server oferă permisiuni granulare, gestionarea conturilor de utilizatori, loguri de acces și securizarea datelor, asigurându-se că documentele confidențiale de business sunt accesibile doar persoanelor autorizate.

🔹 Suport complet Multi-Platformă:
Aplicația este construită cu grijă pentru ecosistemul open-source și cross-platform, fiind disponibilă ca aplicație nativă pentru Linux (prin pachete AppImage), Windows și macOS, dar oferind și o variantă containerizată prin Docker pentru o desfășurare rapidă pe servere sau în cloud privat.

#OpenSource #AnythingLLM #ArtificialIntelligence #Privacy #Ollama #LLM #LinuxApps #TechNews #DesdeLinux

🌐🤖 AnythingLLM: Soluția All-in-One pentru a rula inteligențe artificiale local și privat pe sistemul tău

Găzduirea și utilizarea modelelor de limbaj mari (LLM) pe propriul hardware a devenit o prioritate pentru utilizatorii care pun preț pe confidențialitatea datelor și independența față de giganții tech. În acest peisaj, AnythingLLM se remarcă ca una dintre cele mai puternice, flexibile și prietenoase aplicații open-source concepute pentru a transforma orice calculator într-un centru privat de inteligență artificială.

Spre deosebire de alte instrumente care necesită cunoștințe avansate de terminal, AnythingLLM oferă o interfață grafică (GUI) modernă și un sistem complet de gestionare a documentelor pentru tehnologia RAG (Retrieval-Augmented Generation — adică abilitatea de a discuta direct cu fișierele tale).

Iată ce face din AnythingLLM o aplicație de top pentru productivitate și confidențialitate:

🔹 Sistem RAG avansat bazat pe „Spații de lucru” (Workspaces):
Aplicația îți permite să creezi spații de lucru separate (izolate unele de altele) în care poți încărca PDF-uri, documente Word, link-uri web sau fișiere text. AnythingLLM procesează automat aceste date local și îți permite să pui întrebări sau să generezi rezumate bazate strict pe documentele introduse, fără ca informațiile tale să părăsească vreodată computerul.

🔹 Flexibilitate totală în alegerea modelelor (Multi-Provider):
Aplicația nu te obligă să folosești un singur furnizor de tehnologie. O poți conecta instantaneu la:

Soluții 100% locale: Prin integrarea directă cu Ollama, LM Studio sau LocalAI, rulând modele populare (precum Llama 3, Mistral sau Phi-3) direct pe placa ta video sau procesor.

Servicii cloud comerciale: Dacă preferi sau nu ai hardware puternic, o poți conecta prin chei API la OpenAI (ChatGPT), Anthropic (Claude), Groq sau Mistral AI.

🔹 Interfață multi-utilizator și securitate enterprise:
AnythingLLM este ideal nu doar pentru utilizatorii individuali, ci și pentru echipe sau companii. Varianta sa de server oferă permisiuni granulare, gestionarea conturilor de utilizatori, loguri de acces și securizarea datelor, asigurându-se că documentele confidențiale de business sunt accesibile doar persoanelor autorizate.

🔹 Suport complet Multi-Platformă:
Aplicația este construită cu grijă pentru ecosistemul open-source și cross-platform, fiind disponibilă ca aplicație nativă pentru Linux (prin pachete AppImage), Windows și macOS, dar oferind și o variantă containerizată prin Docker pentru o desfășurare rapidă pe servere sau în cloud privat.

#OpenSource #AnythingLLM #ArtificialIntelligence #Privacy #Ollama #LLM #LinuxApps #TechNews #DesdeLinux

🌐🤖 AnythingLLM: Soluția All-in-One pentru a rula inteligențe artificiale local și privat pe sistemul tău

Găzduirea și utilizarea modelelor de limbaj mari (LLM) pe propriul hardware a devenit o prioritate pentru utilizatorii care pun preț pe confidențialitatea datelor și independența față de giganții tech. În acest peisaj, AnythingLLM se remarcă ca una dintre cele mai puternice, flexibile și prietenoase aplicații open-source concepute pentru a transforma orice calculator într-un centru privat de inteligență artificială.

Spre deosebire de alte instrumente care necesită cunoștințe avansate de terminal, AnythingLLM oferă o interfață grafică (GUI) modernă și un sistem complet de gestionare a documentelor pentru tehnologia RAG (Retrieval-Augmented Generation — adică abilitatea de a discuta direct cu fișierele tale).

Iată ce face din AnythingLLM o aplicație de top pentru productivitate și confidențialitate:

🔹 Sistem RAG avansat bazat pe „Spații de lucru” (Workspaces):
Aplicația îți permite să creezi spații de lucru separate (izolate unele de altele) în care poți încărca PDF-uri, documente Word, link-uri web sau fișiere text. AnythingLLM procesează automat aceste date local și îți permite să pui întrebări sau să generezi rezumate bazate strict pe documentele introduse, fără ca informațiile tale să părăsească vreodată computerul.

🔹 Flexibilitate totală în alegerea modelelor (Multi-Provider):
Aplicația nu te obligă să folosești un singur furnizor de tehnologie. O poți conecta instantaneu la:

Soluții 100% locale: Prin integrarea directă cu Ollama, LM Studio sau LocalAI, rulând modele populare (precum Llama 3, Mistral sau Phi-3) direct pe placa ta video sau procesor.

Servicii cloud comerciale: Dacă preferi sau nu ai hardware puternic, o poți conecta prin chei API la OpenAI (ChatGPT), Anthropic (Claude), Groq sau Mistral AI.

🔹 Interfață multi-utilizator și securitate enterprise:
AnythingLLM este ideal nu doar pentru utilizatorii individuali, ci și pentru echipe sau companii. Varianta sa de server oferă permisiuni granulare, gestionarea conturilor de utilizatori, loguri de acces și securizarea datelor, asigurându-se că documentele confidențiale de business sunt accesibile doar persoanelor autorizate.

🔹 Suport complet Multi-Platformă:
Aplicația este construită cu grijă pentru ecosistemul open-source și cross-platform, fiind disponibilă ca aplicație nativă pentru Linux (prin pachete AppImage), Windows și macOS, dar oferind și o variantă containerizată prin Docker pentru o desfășurare rapidă pe servere sau în cloud privat.

#OpenSource #AnythingLLM #ArtificialIntelligence #Privacy #Ollama #LLM #LinuxApps #TechNews #DesdeLinux

🌐🤖 AnythingLLM: Soluția All-in-One pentru a rula inteligențe artificiale local și privat pe sistemul tău

Găzduirea și utilizarea modelelor de limbaj mari (LLM) pe propriul hardware a devenit o prioritate pentru utilizatorii care pun preț pe confidențialitatea datelor și independența față de giganții tech. În acest peisaj, AnythingLLM se remarcă ca una dintre cele mai puternice, flexibile și prietenoase aplicații open-source concepute pentru a transforma orice calculator într-un centru privat de inteligență artificială.

Spre deosebire de alte instrumente care necesită cunoștințe avansate de terminal, AnythingLLM oferă o interfață grafică (GUI) modernă și un sistem complet de gestionare a documentelor pentru tehnologia RAG (Retrieval-Augmented Generation — adică abilitatea de a discuta direct cu fișierele tale).

Iată ce face din AnythingLLM o aplicație de top pentru productivitate și confidențialitate:

🔹 Sistem RAG avansat bazat pe „Spații de lucru” (Workspaces):
Aplicația îți permite să creezi spații de lucru separate (izolate unele de altele) în care poți încărca PDF-uri, documente Word, link-uri web sau fișiere text. AnythingLLM procesează automat aceste date local și îți permite să pui întrebări sau să generezi rezumate bazate strict pe documentele introduse, fără ca informațiile tale să părăsească vreodată computerul.

🔹 Flexibilitate totală în alegerea modelelor (Multi-Provider):
Aplicația nu te obligă să folosești un singur furnizor de tehnologie. O poți conecta instantaneu la:

Soluții 100% locale: Prin integrarea directă cu Ollama, LM Studio sau LocalAI, rulând modele populare (precum Llama 3, Mistral sau Phi-3) direct pe placa ta video sau procesor.

Servicii cloud comerciale: Dacă preferi sau nu ai hardware puternic, o poți conecta prin chei API la OpenAI (ChatGPT), Anthropic (Claude), Groq sau Mistral AI.

🔹 Interfață multi-utilizator și securitate enterprise:
AnythingLLM este ideal nu doar pentru utilizatorii individuali, ci și pentru echipe sau companii. Varianta sa de server oferă permisiuni granulare, gestionarea conturilor de utilizatori, loguri de acces și securizarea datelor, asigurându-se că documentele confidențiale de business sunt accesibile doar persoanelor autorizate.

🔹 Suport complet Multi-Platformă:
Aplicația este construită cu grijă pentru ecosistemul open-source și cross-platform, fiind disponibilă ca aplicație nativă pentru Linux (prin pachete AppImage), Windows și macOS, dar oferind și o variantă containerizată prin Docker pentru o desfășurare rapidă pe servere sau în cloud privat.

#OpenSource #AnythingLLM #ArtificialIntelligence #Privacy #Ollama #LLM #LinuxApps #TechNews #DesdeLinux

🌐🤖 AnythingLLM: Soluția All-in-One pentru a rula inteligențe artificiale local și privat pe sistemul tău

Găzduirea și utilizarea modelelor de limbaj mari (LLM) pe propriul hardware a devenit o prioritate pentru utilizatorii care pun preț pe confidențialitatea datelor și independența față de giganții tech. În acest peisaj, AnythingLLM se remarcă ca una dintre cele mai puternice, flexibile și prietenoase aplicații open-source concepute pentru a transforma orice calculator într-un centru privat de inteligență artificială.

Spre deosebire de alte instrumente care necesită cunoștințe avansate de terminal, AnythingLLM oferă o interfață grafică (GUI) modernă și un sistem complet de gestionare a documentelor pentru tehnologia RAG (Retrieval-Augmented Generation — adică abilitatea de a discuta direct cu fișierele tale).

Iată ce face din AnythingLLM o aplicație de top pentru productivitate și confidențialitate:

🔹 Sistem RAG avansat bazat pe „Spații de lucru” (Workspaces):
Aplicația îți permite să creezi spații de lucru separate (izolate unele de altele) în care poți încărca PDF-uri, documente Word, link-uri web sau fișiere text. AnythingLLM procesează automat aceste date local și îți permite să pui întrebări sau să generezi rezumate bazate strict pe documentele introduse, fără ca informațiile tale să părăsească vreodată computerul.

🔹 Flexibilitate totală în alegerea modelelor (Multi-Provider):
Aplicația nu te obligă să folosești un singur furnizor de tehnologie. O poți conecta instantaneu la:

Soluții 100% locale: Prin integrarea directă cu Ollama, LM Studio sau LocalAI, rulând modele populare (precum Llama 3, Mistral sau Phi-3) direct pe placa ta video sau procesor.

Servicii cloud comerciale: Dacă preferi sau nu ai hardware puternic, o poți conecta prin chei API la OpenAI (ChatGPT), Anthropic (Claude), Groq sau Mistral AI.

🔹 Interfață multi-utilizator și securitate enterprise:
AnythingLLM este ideal nu doar pentru utilizatorii individuali, ci și pentru echipe sau companii. Varianta sa de server oferă permisiuni granulare, gestionarea conturilor de utilizatori, loguri de acces și securizarea datelor, asigurându-se că documentele confidențiale de business sunt accesibile doar persoanelor autorizate.

🔹 Suport complet Multi-Platformă:
Aplicația este construită cu grijă pentru ecosistemul open-source și cross-platform, fiind disponibilă ca aplicație nativă pentru Linux (prin pachete AppImage), Windows și macOS, dar oferind și o variantă containerizată prin Docker pentru o desfășurare rapidă pe servere sau în cloud privat.

#OpenSource #AnythingLLM #ArtificialIntelligence #Privacy #Ollama #LLM #LinuxApps #TechNews #DesdeLinux

Беспорядочные акын-заметки про нейронки.

Всё таки #anythingLLM мне мало. Но это отличный старт, чтобы вкатиться в нейронки, рекомендую, кому-то и этого будет достаточно. Плюс там упор на конфиденциальность, кому вдруг надо.

Я его возможно даже оставлю, ибо очень удобно сделано скармливание данных и разделение этого на разные воркспейсы, никакой лишней возни, всё интуитивно через интерфейс. Тут у тебя один специалист, в соседнем чате другой. В ТГ-боте можно командами переключаться.
Вот бы объединить простоту и удобство anythingLLM с возможностями openclaw.

Но я таки упоролся и установил злоебучий #openclaw на NAS (до этого был на ПК). Claude очень в этом выручил, скриншоты кушает на ура, пугающе быстро и хорошо работает. Правда оказалось это мелочи, самое весёлое это установить vpn туда, чтоб ТГ-бот заработал, что-то с готовыми решениями там не очень. v2rayA похоже нельзя завести, несколько часов мудохался с ним, сервак подключает, но по факту трафик идёт мимо.
С другой стороны недавно у них мобильное приложение вышло (которое говорят сразу засрали), и возможно вообще без ТГ теперь получится.

Уже успел словить баг, в веб-интерфейсе переключал голоса TTS, и для того чтоб голос переключался надо было gateway перезапускать (охуенно сделано), ну после очередного перезапуска больше я TTS не видел. Оказалось это известный баг, не первой свежести, до сих пор не закрытый, ну збс чо. Часа полтора пытались исправить, кайф.
Вот в принципе в этом весь openclaw. Час работает, два ебёшься с проблемой возникшей на ровном месте. Или просто латаешь очевидные косяки. Ну посмотрим, пока притираемся. Но очень много сделано не интуитивно, нужно обо всём спрашивать нейронки, настраивать, допиливать. Как конструктор - ну норм, но не для рядового юзверя, которому надо просто чтобы работало. Пованивает linux-way немного.

Потратил пару часов, сделал папочку со всем конфигом по NAS и домашней сети, научил обращаться к ней когда надо. Просто при упоминании слова NAS она автоматически будет использовать нужную папку с инфой. Ну это кайф, да.

Напоминания сделаны хорошо, без лишней возни, просишь - запоминает. Главное что в отличие от anythingLLM clawа может писать сама в чат.

Ну и Qwen3.6 35b a3b настроил нормально, правда оказалось у него есть родные косяки, типа может иногда в зацикливание уходить, но в целом проблемы заборол, теперь работает стабильно и быстро, и вообще радует. Ощущается как какой-то ретро-футуризм, пишешь суперкомпьютеру и смотришь на локальное ЧУДО, как бедняга копошится в конфигах, потом в интернете, потом опять в конфигах, потом что-то там устанавливает, перезапускает, перепроверяет и в итоге минут через десять исправляет проблему.
Просто нужно было настройки в lm studio правильные выставить, и чекать, там после перезапуска модели могут сбрасываться настройки. Теперь знаю что 65к контекст оптимально для моего железа (ну и в целом для openclaw 32к это маловато, там сходу под 15к будет, совсем впритык получается). На 80% контекст сама сжимает, удобно. А я поначалу пытался оказывается на 8к модельки заводить )

Беспорядочные акын-заметки про нейронки.

Всё таки #anythingLLM мне мало. Но это отличный старт, чтобы вкатиться в нейронки, рекомендую, кому-то и этого будет достаточно. Плюс там упор на конфиденциальность, кому вдруг надо.

Я его возможно даже оставлю, ибо очень удобно сделано скармливание данных и разделение этого на разные воркспейсы, никакой лишней возни, всё интуитивно через интерфейс. Тут у тебя один специалист, в соседнем чате другой. В ТГ-боте можно командами переключаться.
Вот бы объединить простоту и удобство anythingLLM с возможностями openclaw.

Но я таки упоролся и установил злоебучий #openclaw на NAS (до этого был на ПК). Claude очень в этом выручил, скриншоты кушает на ура, пугающе быстро и хорошо работает. Правда оказалось это мелочи, самое весёлое это установить vpn туда, чтоб ТГ-бот заработал, что-то с готовыми решениями там не очень. v2rayA похоже нельзя завести, несколько часов мудохался с ним, сервак подключает, но по факту трафик идёт мимо.
С другой стороны недавно у них мобильное приложение вышло (которое говорят сразу засрали), и возможно вообще без ТГ теперь получится.

Уже успел словить баг, в веб-интерфейсе переключал голоса TTS, и для того чтоб голос переключался надо было gateway перезапускать (охуенно сделано), ну после очередного перезапуска больше я TTS не видел. Оказалось это известный баг, не первой свежести, до сих пор не закрытый, ну збс чо. Часа полтора пытались исправить, кайф.
Вот в принципе в этом весь openclaw. Час работает, два ебёшься с проблемой возникшей на ровном месте. Или просто латаешь очевидные косяки. Ну посмотрим, пока притираемся. Но очень много сделано не интуитивно, нужно обо всём спрашивать нейронки, настраивать, допиливать. Как конструктор - ну норм, но не для рядового юзверя, которому надо просто чтобы работало. Пованивает linux-way немного.

Потратил пару часов, сделал папочку со всем конфигом по NAS и домашней сети, научил обращаться к ней когда надо. Просто при упоминании слова NAS она автоматически будет использовать нужную папку с инфой. Ну это кайф, да.

Напоминания сделаны хорошо, без лишней возни, просишь - запоминает. Главное что в отличие от anythingLLM clawа может писать сама в чат.

Ну и Qwen3.6 35b a3b настроил нормально, правда оказалось у него есть родные косяки, типа может иногда в зацикливание уходить, но в целом проблемы заборол, теперь работает стабильно и быстро, и вообще радует. Ощущается как какой-то ретро-футуризм, пишешь суперкомпьютеру и смотришь на локальное ЧУДО, как бедняга копошится в конфигах, потом в интернете, потом опять в конфигах, потом что-то там устанавливает, перезапускает, перепроверяет и в итоге минут через десять исправляет проблему.
Просто нужно было настройки в lm studio правильные выставить, и чекать, там после перезапуска модели могут сбрасываться настройки. Теперь знаю что 65к контекст оптимально для моего железа (ну и в целом для openclaw 32к это маловато, там сходу под 15к будет, совсем впритык получается). На 80% контекст сама сжимает, удобно. А я поначалу пытался оказывается на 8к модельки заводить )

Беспорядочные акын-заметки про нейронки.

Всё таки #anythingLLM мне мало. Но это отличный старт, чтобы вкатиться в нейронки, рекомендую, кому-то и этого будет достаточно. Плюс там упор на конфиденциальность, кому вдруг надо.

Я его возможно даже оставлю, ибо очень удобно сделано скармливание данных и разделение этого на разные воркспейсы, никакой лишней возни, всё интуитивно через интерфейс. Тут у тебя один специалист, в соседнем чате другой. В ТГ-боте можно командами переключаться.
Вот бы объединить простоту и удобство anythingLLM с возможностями openclaw.

Но я таки упоролся и установил злоебучий #openclaw на NAS (до этого был на ПК). Claude очень в этом выручил, скриншоты кушает на ура, пугающе быстро и хорошо работает. Правда оказалось это мелочи, самое весёлое это установить vpn туда, чтоб ТГ-бот заработал, что-то с готовыми решениями там не очень. v2rayA похоже нельзя завести, несколько часов мудохался с ним, сервак подключает, но по факту трафик идёт мимо.
С другой стороны недавно у них мобильное приложение вышло (которое говорят сразу засрали), и возможно вообще без ТГ теперь получится.

Уже успел словить баг, в веб-интерфейсе переключал голоса TTS, и для того чтоб голос переключался надо было gateway перезапускать (охуенно сделано), ну после очередного перезапуска больше я TTS не видел. Оказалось это известный баг, не первой свежести, до сих пор не закрытый, ну збс чо. Часа полтора пытались исправить, кайф.
Вот в принципе в этом весь openclaw. Час работает, два ебёшься с проблемой возникшей на ровном месте. Или просто латаешь очевидные косяки. Ну посмотрим, пока притираемся. Но очень много сделано не интуитивно, нужно обо всём спрашивать нейронки, настраивать, допиливать. Как конструктор - ну норм, но не для рядового юзверя, которому надо просто чтобы работало. Пованивает linux-way немного.

Потратил пару часов, сделал папочку со всем конфигом по NAS и домашней сети, научил обращаться к ней когда надо. Просто при упоминании слова NAS она автоматически будет использовать нужную папку с инфой. Ну это кайф, да.

Напоминания сделаны хорошо, без лишней возни, просишь - запоминает. Главное что в отличие от anythingLLM clawа может писать сама в чат.

Ну и Qwen3.6 35b a3b настроил нормально, правда оказалось у него есть родные косяки, типа может иногда в зацикливание уходить, но в целом проблемы заборол, теперь работает стабильно и быстро, и вообще радует. Ощущается как какой-то ретро-футуризм, пишешь суперкомпьютеру и смотришь на локальное ЧУДО, как бедняга копошится в конфигах, потом в интернете, потом опять в конфигах, потом что-то там устанавливает, перезапускает, перепроверяет и в итоге минут через десять исправляет проблему.
Просто нужно было настройки в lm studio правильные выставить, и чекать, там после перезапуска модели могут сбрасываться настройки. Теперь знаю что 65к контекст оптимально для моего железа (ну и в целом для openclaw 32к это маловато, там сходу под 15к будет, совсем впритык получается). На 80% контекст сама сжимает, удобно. А я поначалу пытался оказывается на 8к модельки заводить )

#AnythingLLM

Жаль что официально можно только одного ТГ-бота подключить. Моделька в нём меняется быстро, как и воркспейс, но таких хотелось бы сразу разных ботов. Есть какие-то сторонние решения, через мост, сомнительно но ок, буду пробовать.

#AnythingLLM

Жаль что официально можно только одного ТГ-бота подключить. Моделька в нём меняется быстро, как и воркспейс, но таких хотелось бы сразу разных ботов. Есть какие-то сторонние решения, через мост, сомнительно но ок, буду пробовать.

#AnythingLLM

Жаль что официально можно только одного ТГ-бота подключить. Моделька в нём меняется быстро, как и воркспейс, но таких хотелось бы сразу разных ботов. Есть какие-то сторонние решения, через мост, сомнительно но ок, буду пробовать.

#openclaw меня победил. Слишком много с ним возни оказалось, это для особых любителей, я же искал просто решение, а не новое хобби.

Пока откатился немножко назад в эволюционном рывке, открыл для себя #AnythingLLM - наконец-то нашёл как создавать агентов без боли.

Начал с самого простого. Чтоб тупо скормить инфу локальной модели и она по ней отвечала. Очень удобно для мануалов и всяких ПСС. Типичный пример в вакууме - ПСС Ленина + "отвечай будто ты Ленин". Работает ) Скормил просто пдфки. Пример конечно довольно тупой, но суть понятна. Правда тестил на 17Гб модели qwen3.5 (27B), ибо qwen3 vision 4B выдавала какую лютую дичь.

#openclaw меня победил. Слишком много с ним возни оказалось, это для особых любителей, я же искал просто решение, а не новое хобби.

Пока откатился немножко назад в эволюционном рывке, открыл для себя #AnythingLLM - наконец-то нашёл как создавать агентов без боли.

Начал с самого простого. Чтоб тупо скормить инфу локальной модели и она по ней отвечала. Очень удобно для мануалов и всяких ПСС. Типичный пример в вакууме - ПСС Ленина + "отвечай будто ты Ленин". Работает ) Скормил просто пдфки. Пример конечно довольно тупой, но суть понятна. Правда тестил на 17Гб модели qwen3.5 (27B), ибо qwen3 vision 4B выдавала какую лютую дичь.

#openclaw меня победил. Слишком много с ним возни оказалось, это для особых любителей, я же искал просто решение, а не новое хобби.

Пока откатился немножко назад в эволюционном рывке, открыл для себя #AnythingLLM - наконец-то нашёл как создавать агентов без боли.

Начал с самого простого. Чтоб тупо скормить инфу локальной модели и она по ней отвечала. Очень удобно для мануалов и всяких ПСС. Типичный пример в вакууме - ПСС Ленина + "отвечай будто ты Ленин". Работает ) Скормил просто пдфки. Пример конечно довольно тупой, но суть понятна. Правда тестил на 17Гб модели qwen3.5 (27B), ибо qwen3 vision 4B выдавала какую лютую дичь.

Anything LLM для каждого [бизнеса]

Делюсь опытом. Как я настроил AnythingLLM для небольшой компании на базе VPS и своего домашнего компа. Заказчик хочет оценить все эти ваши GPT на практике, но не готов вкладываться и запрещает отдавать свои тайны публичным языковым моделям. Есть запрос - есть и предложение. Делаем решение из того, что уже есть: VPS на Ubuntu, домашний игровой комп, Mikrotik в качестве роутера. Один вечер и минимум вложений. Заказчик в восторге, я в плюсе!

https://habr.com/ru/articles/1044140/

#llm #rag #anythingllm #малый_бизнес

Anything LLM для каждого [бизнеса]

Делюсь опытом. Как я настроил AnythingLLM для небольшой компании на базе VPS и своего домашнего компа. Заказчик хочет оценить все эти ваши GPT на практике, но не готов вкладываться и запрещает отдавать свои тайны публичным языковым моделям. Есть запрос - есть и предложение. Делаем решение из того, что уже есть: VPS на Ubuntu, домашний игровой комп, Mikrotik в качестве роутера. Один вечер и минимум вложений. Заказчик в восторге, я в плюсе!

https://habr.com/ru/articles/1044140/

#llm #rag #anythingllm #малый_бизнес

Anything LLM для каждого [бизнеса]

Делюсь опытом. Как я настроил AnythingLLM для небольшой компании на базе VPS и своего домашнего компа. Заказчик хочет оценить все эти ваши GPT на практике, но не готов вкладываться и запрещает отдавать свои тайны публичным языковым моделям. Есть запрос - есть и предложение. Делаем решение из того, что уже есть: VPS на Ubuntu, домашний игровой комп, Mikrotik в качестве роутера. Один вечер и минимум вложений. Заказчик в восторге, я в плюсе!

https://habr.com/ru/articles/1044140/

#llm #rag #anythingllm #малый_бизнес

Gemma 4 via Ollama and AnythingLLM, 0% sycophancy!
#AI #gemma4 #ollama #anythingllm #llm

http://talkwards.com/2026/05/30/gemma4-0-sycophancy/

Gemma 4 via Ollama and AnythingLLM, 0% sycophancy!
#AI #gemma4 #ollama #anythingllm #llm

http://talkwards.com/2026/05/30/gemma4-0-sycophancy/

Gemma 4 via Ollama and AnythingLLM, 0% sycophancy!
#AI #gemma4 #ollama #anythingllm #llm

http://talkwards.com/2026/05/30/gemma4-0-sycophancy/

Gemma 4 via Ollama and AnythingLLM, 0% sycophancy!
#AI #gemma4 #ollama #anythingllm #llm

http://talkwards.com/2026/05/30/gemma4-0-sycophancy/

Gemma 4 via Ollama and AnythingLLM, 0% sycophancy!
#AI #gemma4 #ollama #anythingllm #llm

http://talkwards.com/2026/05/30/gemma4-0-sycophancy/

Scopri come eseguire AnythingLLM in self-hosting, una delle alternative locali a strumenti come Perplexity e inizia a costruire un ambiente AI locale più controllabile e pratico (RAG, ricerche web, recupero pagine web con qualsiasi LLM in locale, agenti AI).

🔗 https://www.risposteinformatiche.it/anythingllm-in-locale-guida-pratica-passo-passo/

@linux @opensource

#AnythingLLM #LLM #SelfHosted #Linux #Docker #OpenSource #Perplexity #UnoLinux #UnoOpenSource #Ollama #LMStudio #Gratis #Free

Scopri come eseguire AnythingLLM in self-hosting, una delle alternative locali a strumenti come Perplexity e inizia a costruire un ambiente AI locale più controllabile e pratico (RAG, ricerche web, recupero pagine web con qualsiasi LLM in locale, agenti AI).

🔗 https://www.risposteinformatiche.it/anythingllm-in-locale-guida-pratica-passo-passo/

@linux @opensource

#AnythingLLM #LLM #SelfHosted #Linux #Docker #OpenSource #Perplexity #UnoLinux #UnoOpenSource #Ollama #LMStudio #Gratis #Free

Scopri come eseguire AnythingLLM in self-hosting, una delle alternative locali a strumenti come Perplexity e inizia a costruire un ambiente AI locale più controllabile e pratico (RAG, ricerche web, recupero pagine web con qualsiasi LLM in locale, agenti AI).

🔗 https://www.risposteinformatiche.it/anythingllm-in-locale-guida-pratica-passo-passo/

@linux @opensource

#AnythingLLM #LLM #SelfHosted #Linux #Docker #OpenSource #Perplexity #UnoLinux #UnoOpenSource #Ollama #LMStudio #Gratis #Free

Scopri come eseguire AnythingLLM in self-hosting, una delle alternative locali a strumenti come Perplexity e inizia a costruire un ambiente AI locale più controllabile e pratico (RAG, ricerche web, recupero pagine web con qualsiasi LLM in locale, agenti AI).

🔗 https://www.risposteinformatiche.it/anythingllm-in-locale-guida-pratica-passo-passo/

@linux @opensource

#AnythingLLM #LLM #SelfHosted #Linux #Docker #OpenSource #Perplexity #UnoLinux #UnoOpenSource #Ollama #LMStudio #Gratis #Free

Scopri come eseguire AnythingLLM in self-hosting, una delle alternative locali a strumenti come Perplexity e inizia a costruire un ambiente AI locale più controllabile e pratico (RAG, ricerche web, recupero pagine web con qualsiasi LLM in locale, agenti AI).

🔗 https://www.risposteinformatiche.it/anythingllm-in-locale-guida-pratica-passo-passo/

@linux @opensource

#AnythingLLM #LLM #SelfHosted #Linux #Docker #OpenSource #Perplexity #UnoLinux #UnoOpenSource #Ollama #LMStudio #Gratis #Free

AnythingLLM in locale: guida pratica passo passo

AnythingLLM in locale: guida pratica passo passo

AnythingLLM in locale: guida pratica passo passo

AnythingLLM in locale: guida pratica passo passo

AnythingLLM in locale: guida pratica passo passo

Tonight's fun was trying to speed up #perplexica on a local homelab install with ollama, I run it on a mac mini m4, 16gb so am limited in models I can use, however 3 minutes to tell me how to make a pizza across multiple models seemed slow..

It was, same question, same #ollama, same models on #AnythingLLM 15 seconds..

I have ended up keeping the #searxng install which was quick and works well.

Tomorrow I want to work out more about anything llm and RAG and the any cli that it has, as if I can do what I need to using that, I might move over from warp.dev to tabby with any cli..

Lets see..

Also seems like #lens has added more agentic on its #kubernetes app, interested to see what that might do

Also might move from #docker to #podman and spin up a local 3 node k8s cluster on the laptop too. That would be good to test my latest vibe app out

Love a weekend...

#daveknowstech #selfhosted #homelab

AnythingLLM Desktop ra tính năng Meeting Assistant chạy hoàn toàn trên thiết bị: chuyển lời nói sang văn bản, nhận dạng người nói, hỗ trợ đa ngôn ngữ, tóm tắt tùy chỉnh, hành động tự động, tìm kiếm ngữ nghĩa. 3h audio xử lý chỉ ~3‑11 phút tùy máy, hoàn toàn miễn phí. #AI #MeetingAssistant #AnythingLLM #LocalFirst #trí_tuệ_nhân_tạo #họp #phần_mềm_mã_nguồn_mở

https://www.reddit.com/r/LocalLLaMA/comments/1qk1u6h/we_added_an_ondevice_ai_meeting_note_taker_into/

AnythingLLM ra mắt tính năng trợ lý họp trực tiếp trên thiết bị — ghi chú, bản sao, nhận diện người nói & tóm tắt bằng AI hoàn toàn miễn phí, không cần Internet. Hỗ trợ đa ngôn ngữ, tích hợp Slack/Zoom/Teams, xử lý 3 tiếng họp trong 3 phút trên M4. Dữ liệu ở lại máy, an toàn & riêng tư. #AI #MeetingAssistant #AnythingLLM #LocalAI #FreeTool #Productivity #TríTuệNhânTạo #CôngCụMiễnPhí #LàmViệcThôngMinh

https://www.reddit.com/r/LocalLLaMA/comments/1qk1u6h/we_added_an_ondevice_ai_meeting_note_taker

"Trải nghiệm với AnythingLLM gặp lỗi: mô hình Qwen3-v1-30b-a3b-instruct (32GB GV100, Windows 11, LM Studio 3.35) liệt kê tên tệp nhưng không truy xuất dữ liệu nội dung, chỉ lấy metadata. Đã thử tải lại tệp, giảm temp=0.3 nhưng vẫn bị hallucination. Xin sự hỗ trợ từ cộng đồng! #AI #MáyHọc #AnythingLLM #LỗiPhầnMềm #MôHìnhLLM" (490/500)

https://www.reddit.com/r/LocalLLaMA/comments/1pn5qhf/struggling_with_anythingllm_need_advicehelp/

Tôi xây dựng cầu HTTP nhẹ cho AnythingLLM để chạy nhiều MCP cục bộ bên trong Docker #AnythingLLM #Docker #HTTPBridge #MCP #Tự_host #Công_nghệ_mới #Tech_news # SELF_hosted

https://www.reddit.com/r/selfhosted/comments/1olylzl/i_built_a_lightweight_http_bridge_for_anythingllm/

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?
#paperlessai

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?
#paperlessai

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?
#paperlessai

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?
#paperlessai

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?

Ich würde mich gern mit Leuten austauschen, die #AnythingLLM mit #Ollama lokal verwenden.
Perfekt fände ich eine #Threema Gruppe, um sich auszutauschen und auch mal Sprachnachrichten senden zu können.
Hat jemand Interesse?
😊

Ich würde mich gern mit Leuten austauschen, die #AnythingLLM mit #Ollama lokal verwenden.
Perfekt fände ich eine #Threema Gruppe, um sich auszutauschen und auch mal Sprachnachrichten senden zu können.
Hat jemand Interesse?
😊

Ich würde mich gern mit Leuten austauschen, die #AnythingLLM mit #Ollama lokal verwenden.
Perfekt fände ich eine #Threema Gruppe, um sich auszutauschen und auch mal Sprachnachrichten senden zu können.
Hat jemand Interesse?
😊

Ich würde mich gern mit Leuten austauschen, die #AnythingLLM mit #Ollama lokal verwenden.
Perfekt fände ich eine #Threema Gruppe, um sich auszutauschen und auch mal Sprachnachrichten senden zu können.
Hat jemand Interesse?
😊

Ich würde mich gern mit Leuten austauschen, die #AnythingLLM mit #Ollama lokal verwenden.
Perfekt fände ich eine #Threema Gruppe, um sich auszutauschen und auch mal Schrachnachrichten senden zu können.
Hat jemand Interesse?
😊

Telegram-бот с интеграцией AnythingLLM + LM Studio

В этом проекте создаем Telegram-бота, который взаимодействует с AnythingLLM — инструментом для работы с языковыми моделями (LLM) и LM Studio (используется как инструмент для загрузки документов и создания RAG архива). Покажу как использовать API AnythingLLM для бота и настроим взаимодействие с LM Studio, через которую предоставляется доступ к общению с ИИ-моделью. Самое главное в этой связке, что все отрабатывается локально без передачи файлов сторонним сервисам, что делает решение удобным для команд, которые хотят использовать ИИ в своих рабочих процессах, но не отправлять файлы во вне. Полистать...

https://habr.com/ru/articles/920802/

#telegrambot #rag #anythingllm #lmstudio

Telegram-бот с интеграцией AnythingLLM + LM Studio

В этом проекте создаем Telegram-бота, который взаимодействует с AnythingLLM — инструментом для работы с языковыми моделями (LLM) и LM Studio (используется как инструмент для загрузки документов и создания RAG архива). Покажу как использовать API AnythingLLM для бота и настроим взаимодействие с LM Studio, через которую предоставляется доступ к общению с ИИ-моделью. Самое главное в этой связке, что все отрабатывается локально без передачи файлов сторонним сервисам, что делает решение удобным для команд, которые хотят использовать ИИ в своих рабочих процессах, но не отправлять файлы во вне. Полистать...

https://habr.com/ru/articles/920802/

#telegrambot #rag #anythingllm #lmstudio

Telegram-бот с интеграцией AnythingLLM + LM Studio

В этом проекте создаем Telegram-бота, который взаимодействует с AnythingLLM — инструментом для работы с языковыми моделями (LLM) и LM Studio (используется как инструмент для загрузки документов и создания RAG архива). Покажу как использовать API AnythingLLM для бота и настроим взаимодействие с LM Studio, через которую предоставляется доступ к общению с ИИ-моделью. Самое главное в этой связке, что все отрабатывается локально без передачи файлов сторонним сервисам, что делает решение удобным для команд, которые хотят использовать ИИ в своих рабочих процессах, но не отправлять файлы во вне. Полистать...

https://habr.com/ru/articles/920802/

#telegrambot #rag #anythingllm #lmstudio