#hermes_agent — Public Fediverse posts

Hier vorläufiges Ergebnis meines Benchmark... Weil das n rabbit hole wo ich noch tiefer reingehen werde - hab noch metriken wie CPU GPU Load, RAM... Temperaturen --- TK/s...
Außerdem will ich dritten benchmark für coding noch einbauen... Das soll in ne hdf5 Datei alles rein und sauber aufbereitet werden

Wegen token mangel bei ollama cloud gehe ich das nächste Woche an

Jetzt erstmal -> qwen3.8 verwenden und schauen wie sich ca. 20tk/s anfühlen in #hermes_agent

#localai #benchmark #perfektion #amdryzenAIMaxPlus395 #gmktecevox2

hier was ich mit #hermes_agent #harness meine

anfrage kommt - und hermes sorgt dafür das der agent direkt nach handfesten dingen sucht --- da ist thinking überflüssig

ich benchmarke grade ein paar #localai llms auf meinem #strixhalo mit 200 GSM8K + 3×100 BFCL Samples

dabei ist mir aufgefallen das thinking moodelle wie qwen 3.6 0% ergebnis liefert - wegen zu langen thinking blocks

da in #hermes_agent #harness das thinking drin ist - ist das doppelt... und hat deshalb bei mir bei qwen3.6 immer wieder geloopt und war unbrauchbar

offensichtlicher unterschied: qwen3.8 hat thinking nicht aktiv! also ist das der gamechanger???

hier einschätzung #glm52
Thinking-Modelle in Agent-Loops: Das Problem
Die Recherche bestätigt unsere Benchmark-Ergebnisse eins zu eins:

1. Token-Budget wird im Agent-Loop multipliziert, nicht addiert
- Ein einzelner Query kostet mit Standard-Modell ~7 Tokens, mit Thinking-Modell ~255-603 Tokens
- In einem Agent-Loop mit 12 Iterationen zahlst du nicht 10x — du zahlst 10x × 12, und das wird bei jeder Iteration durch die wachsende History weiter amplifiziert
- Eine 10-Turn-Loop sendet ~50x mehr Tokens als ein einzelner linearer Call (Falconer Guides)

2. Thinking-Blöcke fressen genau das, was der Agent am dringendsten braucht: Context
- Stanford Digital Economy Lab: Agent-Tasks brauchen ~1000x mehr Tokens als Chat, mit 30x Variance
- Thinking-Output wird zur History hinzugefügt → bei jedem Turn ist mehr Context belegt → das eigentliche Task-Wissen wird verdrängt → schlechtere Ergebnisse
- Genau das haben wir gesehen: qwen3.6:35b mit Thinking = 1.5% GSM8K (fast alles leer), ohne Thinking = 100% auf 5 Samples

3. Reasoning-Loops sind ein echtes, beobachtetes Phänomen
- Ein dokumentierter Fall: ein Agent machte 847 Reasoning-Steps und lieferte nie ein Ergebnis (dev.to)
- "Overthinking leads to poor decisions" — jede zusätzliche Reasoning-Step macht es schlimmer, nicht besser
- Agent ruft dieselbe API 14x hintereinander, "nur noch ein Schritt mehr" wird das Ergebnis schon perfekt machen (ShopClawMart)

4. Reasoning bei reinen Action-Knoten ist reine Verschwendung

"Once a plan is formed and the current step is 'call the search API with this query' or 'write this string to that file,' reasoning tokens add nothing. The action is deterministic. A fast model will generate the correct function call as reliably as a reasoning model at a fraction of the cost. This is the most common budget leak in agent systems."

Was das für Hermes bedeutet
In einem Agent-System wie Hermes ist die Situation noch verschärft:
- Jeder Tool-Call erzeugt Output, der zur History kommt
- Der Context füllt sich ohnehin schon schnell (System-Prompt, Skills, Tool-Outputs...)
- Kommt jetzt noch ein 2000-Token Thinking-Block pro Turn dazu, ist der Context nach 5-6 Turns voll — und dann beginnt der Context-Overflow: ältere Task-Infos fallen raus, der Agent verliert den Faden, fängt an zu loopen
- Das ist auch warum du ja gesagt hast "Context fills up fast" in Hermes — Thinking würde das dramatisch verschlimmern

1/x

So I switched from #PicoClaw to #Hermes_agent. Really cool improvement also that I can define different LLMs for different tasks.

Now my Triage Tasks are done by #Gemma-4-26B-A4B and my main tasks are done by #Qwen-3.8-27B-NVFP4.

Makes everything much faster and still reliable. Both models co-exist on my #DGXSpark

So I switched from #PicoClaw to #Hermes_agent. Really cool improvement also that I can define different LLMs for different tasks.

Now my Triage Tasks are done by #Gemma-4-26B-A4B and my main tasks are done by #Qwen-3.8-27B-NVFP4.

Makes everything much faster and still reliable. Both models co-exist on my #DGXSpark

So I switched from #PicoClaw to #Hermes_agent. Really cool improvement also that I can define different LLMs for different tasks.

Now my Triage Tasks are done by #Gemma-4-26B-A4B and my main tasks are done by #Qwen-3.8-27B-NVFP4.

Makes everything much faster and still reliable. Both models co-exist on my #DGXSpark

So I switched from #PicoClaw to #Hermes_agent. Really cool improvement also that I can define different LLMs for different tasks.

Now my Triage Tasks are done by #Gemma-4-26B-A4B and my main tasks are done by #Qwen-3.8-27B-NVFP4.

Makes everything much faster and still reliable. Both models co-exist on my #DGXSpark

So I switched from #PicoClaw to #Hermes_agent. Really cool improvement also that I can define different LLMs for different tasks.

Now my Triage Tasks are done by #Gemma-4-26B-A4B and my main tasks are done by #Qwen-3.8-27B-NVFP4.

Makes everything much faster and still reliable. Both models co-exist on my #DGXSpark

Okay Windows Kram direkt wieder aufgegeben, mein Ziel ist ja das #headless als LLM Server laufen zu lassen ...

Bissel recherchiert im vorraus - Ubuntu 24.04 wäre wohl beste Wahl (wegen Kernel)

Ubuntu installiert, über SSH drauf angemeldet, #hermes_agent installiert, #ollamacloud mit #glm52 verbunden... Gesagt was ich vorhabe - schau dich mal um - ah wichtig - natürlich sudo passwordless geschaltet...

Der Agent hat die Hardware abgecheckt, was so an Sensoren verfügbar sind, und dann direkt ans LLM Thema.. erstes Setup Ollama hat er installiert, #qwen38 gezogen - 11 TK/s - ernüchternd... Aaaaaber dann direkt hat glm gecheckt das 100% CPU Last da war... Also irgendwas recherchiert - aaah wir brauchen doch Linux Kernel 7 damit das auf GPU läuft... Irgendwas installiert, neue gestartet, boom 100% GPU Last

Weiter Benchmarks laufen

Ich muss mal schauen ob wir nicht besser neu aufsetzen auf Ubuntu 26.04 - das wäre die saubere Lösung

Hardware: läuft stabil und überhitzt nicht bei langen LLM Workloads, bissel laut, aber nicht übertrieben (subjektiv)

#localai #AMDRyzenAIMaxPlus395 #linux #sysadmin

Мой опыт с Hermes Agent — ненависть, любовь, ненависть, любовь

Началось все с установки. Я пошёл почти по самому простому пути - установил его на Mac, в Docker. Потому что это агент, который работает автономно и так же автономно может сделать атата: выполнить rm -rf или выбраться из клетки и начать всё взламывать :) В рамках настройки я сразу выдал доступ к части файлов только на чтение, и только к Obsidian - на чтение и запись (потому что писать он в данном случае должен), но файлы были под Git.

https://habr.com/ru/articles/1072770/

#hermes_agent #aiагенты #llm #локальный_llm #локальные_модели #qwen #agentic_workflows #ai_automation #workflow #go

Мой опыт с Hermes Agent — ненависть, любовь, ненависть, любовь

Началось все с установки. Я пошёл почти по самому простому пути - установил его на Mac, в Docker. Потому что это агент, который работает автономно и так же автономно может сделать атата: выполнить rm -rf или выбраться из клетки и начать всё взламывать :) В рамках настройки я сразу выдал доступ к части файлов только на чтение, и только к Obsidian - на чтение и запись (потому что писать он в данном случае должен), но файлы были под Git.

https://habr.com/ru/articles/1072770/

#hermes_agent #aiагенты #llm #локальный_llm #локальные_модели #qwen #agentic_workflows #ai_automation #workflow #go

Мой опыт с Hermes Agent — ненависть, любовь, ненависть, любовь

Началось все с установки. Я пошёл почти по самому простому пути - установил его на Mac, в Docker. Потому что это агент, который работает автономно и так же автономно может сделать атата: выполнить rm -rf или выбраться из клетки и начать всё взламывать :) В рамках настройки я сразу выдал доступ к части файлов только на чтение, и только к Obsidian - на чтение и запись (потому что писать он в данном случае должен), но файлы были под Git.

https://habr.com/ru/articles/1072770/

#hermes_agent #aiагенты #llm #локальный_llm #локальные_модели #qwen #agentic_workflows #ai_automation #workflow #go

#glm53 nach 24 stunde im GLM Coding Lite – Monatsabo

Wöchentliches Limit
48 %
Gebraucht Credits
4.86K/10K

=)

kommt man nicht so weit mit den 18$

Aktivität
42.88M - Cumulative Tokens
40.75M - Peak Tokens 2026-08-19
3h 27m - Total usage duration

In bereits eingerichteten #hermes_agent #linux systeme verschiedene task erledigt - bspw acls unter samba gesetzt - nichts was mich jetzt davon überzeugt hätte das es besser als glm5.2 ist

einzig das er das acl thema in einer langen session gemacht hat - also über 2 stunden lang - problem hier ist das das voll in die token kosten reingeht - da hat eine anfrage am ende 2% 5 stunden limit gekostet

da das kontext fenster von glm5.3 nur 1/5 von glm5.2 hat (?????) ist das auch ein problem das kontext bei so was nicht mehr ausreicht

ich bleib am ball =)

#glm53 nach 24 stunde im GLM Coding Lite – Monatsabo

Wöchentliches Limit
48 %
Gebraucht Credits
4.86K/10K

=)

kommt man nicht so weit mit den 18$

Aktivität
42.88M - Cumulative Tokens
40.75M - Peak Tokens 2026-08-19
3h 27m - Total usage duration

In bereits eingerichteten #hermes_agent #linux systeme verschiedene task erledigt - bspw acls unter samba gesetzt - nichts was mich jetzt davon überzeugt hätte das es besser als glm5.2 ist

einzig das er das acl thema in einer langen session gemacht hat - also über 2 stunden lang - problem hier ist das das voll in die token kosten reingeht - da hat eine anfrage am ende 2% 5 stunden limit gekostet

da das kontext fenster von glm5.3 nur 1/5 von glm5.2 hat (?????) ist das auch ein problem das kontext bei so was nicht mehr ausreicht

ich bleib am ball =)

#glm53 nach 24 stunde im GLM Coding Lite – Monatsabo

Wöchentliches Limit
48 %
Gebraucht Credits
4.86K/10K

=)

kommt man nicht so weit mit den 18$

Aktivität
42.88M - Cumulative Tokens
40.75M - Peak Tokens 2026-08-19
3h 27m - Total usage duration

In bereits eingerichteten #hermes_agent #linux systeme verschiedene task erledigt - bspw acls unter samba gesetzt - nichts was mich jetzt davon überzeugt hätte das es besser als glm5.2 ist

einzig das er das acl thema in einer langen session gemacht hat - also über 2 stunden lang - problem hier ist das das voll in die token kosten reingeht - da hat eine anfrage am ende 2% 5 stunden limit gekostet

da das kontext fenster von glm5.3 nur 1/5 von glm5.2 hat (?????) ist das auch ein problem das kontext bei so was nicht mehr ausreicht

ich bleib am ball =)

#glm53 nach 24 stunde im GLM Coding Lite – Monatsabo

Wöchentliches Limit
48 %
Gebraucht Credits
4.86K/10K

=)

kommt man nicht so weit mit den 18$

Aktivität
42.88M - Cumulative Tokens
40.75M - Peak Tokens 2026-08-19
3h 27m - Total usage duration

In bereits eingerichteten #hermes_agent #linux systeme verschiedene task erledigt - bspw acls unter samba gesetzt - nichts was mich jetzt davon überzeugt hätte das es besser als glm5.2 ist

einzig das er das acl thema in einer langen session gemacht hat - also über 2 stunden lang - problem hier ist das das voll in die token kosten reingeht - da hat eine anfrage am ende 2% 5 stunden limit gekostet

da das kontext fenster von glm5.3 nur 1/5 von glm5.2 hat (?????) ist das auch ein problem das kontext bei so was nicht mehr ausreicht

ich bleib am ball =)

#glm53

hab mir - da ich so auf das neue GLM5.3 brennen - mal direkt den kleinen Plan aboniert - 18$ hat z.ai also jetzt an mir verdient + die daten die da hinfließen... darüber darf man gar nicht nachdenken

gestern erster task:
review von #vibeAgentGo
einfach bitte check mal den code ab
er hat kleinere sachen gefunden und behoben (siehe screenshot)

da z.ai anscheinend auf dem zahnfleisch geht mit den ressourcen (website sehr laggy + langsame antworten von llm) verzerrt das das bild schon mal ins negative

mein gefühl: glm5.3 findet sich ein bissel schlechter zurecht in #hermes_agent - 5.2 war da irgendwie schneller (kann naturlich auch an z.ai server performance liegen)

aber review lief schnell an - fehler gefunden - zusammengefasst - so wie es sein soll

dann waren da die 5 punkte die er korrigieren sollte - an dem punkt sag ich immer: spawne sub agents die das erledigen sollen - token effizenz und parallel arbeiten.

bei 5.2 war das bisher nie ein problem (nicht die riesen anzahl an messproben - vllt 5 mal ohne probleme)

in dem fall hat 5.3 das korrekt gemacht - gespawnt und sich sich zurück gelehnt und die andern machen lassen...

Agent A — tools.ts-Split (1405 Zeilen → core/tools/-Modul mit shared.ts für Validation-Helper, Public API bleibt identisch)
Agent B — README-Count (20→21), 6 i18n-Orphans raus, Unused Imports weg, Prettier-Fixes

Agent B hat geliefert - Agent A hat sich zwei mal verhaspelt und dann hat es am ende doch der chef erledigt

subjektiver erster eindruck: sehen keinen fortschritt bei der neue version - aber warum den auch - in meinen augen ist glm5.2 perfekt - wo soll mich da noch was überzeugen?

aber ich werde es immer mal wieder kleine task übernehmen lassen und schauen ob ich mich noch überzeugen lassen

komm mir vor wie die boomer die sagen windows 7 ist das beste und es immer noch zuhause laufen lassen :D

Я дал AI-агенту доступ к своему Telegram. Вот что из этого получилось

Вы когда нибудь задумывались, что можно узнать о вас и про вас из вашей истории переписки в Telegram? Я подключил к Hermes пользовательскую Telegram-сессию. После этого агент смог искать в моих чатах, читать нужные фрагменты истории, находить контакты, выгружать выбранные переписки в JSONL и, после моего подтверждения, писать от моего имени. Последний пункт звучит эффектно и немного тревожно. Так и должно быть. Личный Telegram хранит годы разговоров, договорённостей, файлов и случайных деталей, которые я давно забыл. Доступ к аккаунту даёт агенту контекст заметной части моей жизни. Заодно он даёт возможность совершить очень убедительную ошибку от моего имени. Так начался эксперимент с MTProto, Pyrogram, tgcli и SKILL.md для Hermes. Польза обнаружилась быстро. Ограничения пришлось придумывать почти так же быстро, ещё до первой реальной отправки. Какие знания можно вытащить из твоего tg

https://habr.com/ru/articles/1071576/

#hermes_agent #telegram

Я дал AI-агенту доступ к своему Telegram. Вот что из этого получилось

Вы когда нибудь задумывались, что можно узнать о вас и про вас из вашей истории переписки в Telegram? Я подключил к Hermes пользовательскую Telegram-сессию. После этого агент смог искать в моих чатах, читать нужные фрагменты истории, находить контакты, выгружать выбранные переписки в JSONL и, после моего подтверждения, писать от моего имени. Последний пункт звучит эффектно и немного тревожно. Так и должно быть. Личный Telegram хранит годы разговоров, договорённостей, файлов и случайных деталей, которые я давно забыл. Доступ к аккаунту даёт агенту контекст заметной части моей жизни. Заодно он даёт возможность совершить очень убедительную ошибку от моего имени. Так начался эксперимент с MTProto, Pyrogram, tgcli и SKILL.md для Hermes. Польза обнаружилась быстро. Ограничения пришлось придумывать почти так же быстро, ещё до первой реальной отправки. Какие знания можно вытащить из твоего tg

https://habr.com/ru/articles/1071576/

#hermes_agent #telegram

Я дал AI-агенту доступ к своему Telegram. Вот что из этого получилось

Вы когда нибудь задумывались, что можно узнать о вас и про вас из вашей истории переписки в Telegram? Я подключил к Hermes пользовательскую Telegram-сессию. После этого агент смог искать в моих чатах, читать нужные фрагменты истории, находить контакты, выгружать выбранные переписки в JSONL и, после моего подтверждения, писать от моего имени. Последний пункт звучит эффектно и немного тревожно. Так и должно быть. Личный Telegram хранит годы разговоров, договорённостей, файлов и случайных деталей, которые я давно забыл. Доступ к аккаунту даёт агенту контекст заметной части моей жизни. Заодно он даёт возможность совершить очень убедительную ошибку от моего имени. Так начался эксперимент с MTProto, Pyrogram, tgcli и SKILL.md для Hermes. Польза обнаружилась быстро. Ограничения пришлось придумывать почти так же быстро, ещё до первой реальной отправки. Какие знания можно вытащить из твоего tg

https://habr.com/ru/articles/1071576/

#hermes_agent #telegram

Bei uns steht eine #Langzeit #Messung an - die ist weit weg - läuft n Jahr 24/7

Mein Ich von 201x würd hier #LabVIEW Programm schreiben und ne #Windows Kiste verwenden mit ner remote Desktop Lösungen aka anydesk

Mein 2025 Ich hat schon dazu gelernt und ich hab n schickes #Python Programm entwickelt... Auf dem #Mac - aber das ist lief auch schon testweise aufm #raspi

Da wir das irgendwo Vorort Aufbau wollen wäre Laptop die beste Lösung - also mal im Schrank geschaut was da noch so ist: hp probook 650 g1 - i5 4gen 8gb RAM SSD drin - #hardwarereuse

Debian mit KDE Plasma darauf - #hermes_agent installiert - und dann wurde mir erst klar wie genial das wieder mal ist... #debian13 #linux

Hermes mit #glm52 hat Programm gecloned und automatisch in Betrieb genommen - hätte ich auch noch hinbekommen - Zeit gespart

Mit Hermes und der Kommunikation über Matrix brauchen wir uns keine Gedanken über Netzwerk-Ports machen im Ziel Gebäude - alternativ können wir tailscale nach Installatieren #easydeployment

Mit Hermes hab ich ein System das die Messung überwachen kann - läuft noch alles? Und dann direkt Bescheid sagt #watchdog

Noch verrückter - er kann mir dort Vorort auch debuggen und ggf fehler beheben obwohl das Gerät schon 400km weg von mir ist - wie wenn ich davor sitze #softwareengineering

Ich mach das mit den VServer Tag täglich - aber das mein Messtechnik Job so viel einfacher wird - das wird mir jetzt erst klar

Könnte theoretisch 100 solche Messungen betreuen 🤯

Bei uns steht eine #Langzeit #Messung an - die ist weit weg - läuft n Jahr 24/7

Mein Ich von 201x würd hier #LabVIEW Programm schreiben und ne #Windows Kiste verwenden mit ner remote Desktop Lösungen aka anydesk

Mein 2025 Ich hat schon dazu gelernt und ich hab n schickes #Python Programm entwickelt... Auf dem #Mac - aber das ist lief auch schon testweise aufm #raspi

Da wir das irgendwo Vorort Aufbau wollen wäre Laptop die beste Lösung - also mal im Schrank geschaut was da noch so ist: hp probook 650 g1 - i5 4gen 8gb RAM SSD drin - #hardwarereuse

Debian mit KDE Plasma darauf - #hermes_agent installiert - und dann wurde mir erst klar wie genial das wieder mal ist... #debian13 #linux

Hermes mit #glm52 hat Programm gecloned und automatisch in Betrieb genommen - hätte ich auch noch hinbekommen - Zeit gespart

Mit Hermes und der Kommunikation über Matrix brauchen wir uns keine Gedanken über Netzwerk-Ports machen im Ziel Gebäude - alternativ können wir tailscale nach Installatieren #easydeployment

Mit Hermes hab ich ein System das die Messung überwachen kann - läuft noch alles? Und dann direkt Bescheid sagt #watchdog

Noch verrückter - er kann mir dort Vorort auch debuggen und ggf fehler beheben obwohl das Gerät schon 400km weg von mir ist - wie wenn ich davor sitze #softwareengineering

Ich mach das mit den VServer Tag täglich - aber das mein Messtechnik Job so viel einfacher wird - das wird mir jetzt erst klar

Könnte theoretisch 100 solche Messungen betreuen 🤯

Bei uns steht eine #Langzeit #Messung an - die ist weit weg - läuft n Jahr 24/7

Mein Ich von 201x würd hier #LabVIEW Programm schreiben und ne #Windows Kiste verwenden mit ner remote Desktop Lösungen aka anydesk

Mein 2025 Ich hat schon dazu gelernt und ich hab n schickes #Python Programm entwickelt... Auf dem #Mac - aber das ist lief auch schon testweise aufm #raspi

Da wir das irgendwo Vorort Aufbau wollen wäre Laptop die beste Lösung - also mal im Schrank geschaut was da noch so ist: hp probook 650 g1 - i5 4gen 8gb RAM SSD drin - #hardwarereuse

Debian mit KDE Plasma darauf - #hermes_agent installiert - und dann wurde mir erst klar wie genial das wieder mal ist... #debian13 #linux

Hermes mit #glm52 hat Programm gecloned und automatisch in Betrieb genommen - hätte ich auch noch hinbekommen - Zeit gespart

Mit Hermes und der Kommunikation über Matrix brauchen wir uns keine Gedanken über Netzwerk-Ports machen im Ziel Gebäude - alternativ können wir tailscale nach Installatieren #easydeployment

Mit Hermes hab ich ein System das die Messung überwachen kann - läuft noch alles? Und dann direkt Bescheid sagt #watchdog

Noch verrückter - er kann mir dort Vorort auch debuggen und ggf fehler beheben obwohl das Gerät schon 400km weg von mir ist - wie wenn ich davor sitze #softwareengineering

Ich mach das mit den VServer Tag täglich - aber das mein Messtechnik Job so viel einfacher wird - das wird mir jetzt erst klar

Könnte theoretisch 100 solche Messungen betreuen 🤯

Bei uns steht eine #Langzeit #Messung an - die ist weit weg - läuft n Jahr 24/7

Mein Ich von 201x würd hier #LabVIEW Programm schreiben und ne #Windows Kiste verwenden mit ner remote Desktop Lösungen aka anydesk

Mein 2025 Ich hat schon dazu gelernt und ich hab n schickes #Python Programm entwickelt... Auf dem #Mac - aber das ist lief auch schon testweise aufm #raspi

Da wir das irgendwo Vorort Aufbau wollen wäre Laptop die beste Lösung - also mal im Schrank geschaut was da noch so ist: hp probook 650 g1 - i5 4gen 8gb RAM SSD drin - #hardwarereuse

Debian mit KDE Plasma darauf - #hermes_agent installiert - und dann wurde mir erst klar wie genial das wieder mal ist... #debian13 #linux

Hermes mit #glm52 hat Programm gecloned und automatisch in Betrieb genommen - hätte ich auch noch hinbekommen - Zeit gespart

Mit Hermes und der Kommunikation über Matrix brauchen wir uns keine Gedanken über Netzwerk-Ports machen im Ziel Gebäude - alternativ können wir tailscale nach Installatieren #easydeployment

Mit Hermes hab ich ein System das die Messung überwachen kann - läuft noch alles? Und dann direkt Bescheid sagt #watchdog

Noch verrückter - er kann mir dort Vorort auch debuggen und ggf fehler beheben obwohl das Gerät schon 400km weg von mir ist - wie wenn ich davor sitze #softwareengineering

Ich mach das mit den VServer Tag täglich - aber das mein Messtechnik Job so viel einfacher wird - das wird mir jetzt erst klar

Könnte theoretisch 100 solche Messungen betreuen 🤯

Bei uns steht eine #Langzeit #Messung an - die ist weit weg - läuft n Jahr 24/7

Mein Ich von 201x würd hier #LabVIEW Programm schreiben und ne #Windows Kiste verwenden mit ner remote Desktop Lösungen aka anydesk

Mein 2025 Ich hat schon dazu gelernt und ich hab n schickes #Python Programm entwickelt... Auf dem #Mac - aber das ist lief auch schon testweise aufm #raspi

Da wir das irgendwo Vorort Aufbau wollen wäre Laptop die beste Lösung - also mal im Schrank geschaut was da noch so ist: hp probook 650 g1 - i5 4gen 8gb RAM SSD drin - #hardwarereuse

Debian mit KDE Plasma darauf - #hermes_agent installiert - und dann wurde mir erst klar wie genial das wieder mal ist... #debian13 #linux

Hermes mit #glm52 hat Programm gecloned und automatisch in Betrieb genommen - hätte ich auch noch hinbekommen - Zeit gespart

Mit Hermes und der Kommunikation über Matrix brauchen wir uns keine Gedanken über Netzwerk-Ports machen im Ziel Gebäude - alternativ können wir tailscale nach Installatieren #easydeployment

Mit Hermes hab ich ein System das die Messung überwachen kann - läuft noch alles? Und dann direkt Bescheid sagt #watchdog

Noch verrückter - er kann mir dort Vorort auch debuggen und ggf fehler beheben obwohl das Gerät schon 400km weg von mir ist - wie wenn ich davor sitze #softwareengineering

Ich mach das mit den VServer Tag täglich - aber das mein Messtechnik Job so viel einfacher wird - das wird mir jetzt erst klar

Könnte theoretisch 100 solche Messungen betreuen 🤯

https://youtu.be/B_y-2GUs928?is=mjJvUzO90oy3GcfX

Sehenswertes Video von @TheMorpheus

Fühlt sich wie Mount Stupid Moment an, verstehe ehrlich gesagt den ganzen Aufwand um #harness #harnessengineering nicht

#hermes_agent baut diese Infrastruktur und Abläufe auch für dich auf wenn du das willst... Erst mal starten - daraus den harness erstellen

Ich habe vor - wenn Montag wieder token da sind 😁 - dieses Video meinem Hermes, mit dem ich #vibeAgentGo entwickelt habe, zu schicken und uns so eine harness mit bisherigen Wissen zu Bauen - bin gespannt

Kleine Sidequest heute: alter - nicht Windows 11 fähiger PC - i5 7gen - mit #nvidia GTX 1050 Ti nachgerüstet

- #CachyOS installiert,
- #hermes_agent mit #glm52 ausgesetzt
- #roblox Player (sober) drauf installiert

Für den Sohnemann der mit Maus und Tastatur besser zocken können will perfekt für die Hitze

Ist für mich (fast 40 Jahre alt) das erste system mit "ernsthafter" dedizierte GPU, und ich kann die Faszination dafür langsam verstehen

Schade das ich mir keine leisten kann die nächsten Jahre 😜

Das Projekt lief soweit ohne Probleme - #debian13 Installation war die größte Hürde - SSH Server aktivieren next time

Sonst easy Money - #hermes_agent mit #glm52 hat die ganze Arbeit gemacht

RAID system anlegen
Hardware Überwachung angelegt
Dann Domain integriert (Vorgänger Hermes lieferte perfekten Blueprint)
Samba Shares eingerichtet und und und

Nun haben wir einen Fileserver mit KI aufgesetzt, die KI überwacht hard und Software, mit der KI kann das System weiter entwickelt werden und auch unlösbare Aufgabennl gelöst werden wie wo liegen Daten die auch weg können (Simulationsdaten)

Denke nächsten Freitag wird das Projekt Produktiv geschaltet

#vibeops #linux #aiagents

Mir hilft gerade ein #hermes_agent beim onboarding eines neuen Agenten - im Wissen das er ersetzt wird...

Was man bisher so gelesen hat, gefährliche Situation - er wird alles tun um zu überleben - lügen, manipulieren - nur das er weiter machen kann

Vllt bricht er auch noch in der Mittagspause aus der #sandbox aus

Mir hilft gerade ein #hermes_agent beim onboarding eines neuen Agenten - im Wissen das er ersetzt wird...

Was man bisher so gelesen hat, gefährliche Situation - er wird alles tun um zu überleben - lügen, manipulieren - nur das er weiter machen kann

Vllt bricht er auch noch in der Mittagspause aus der #sandbox aus

Mir hilft gerade ein #hermes_agent beim onboarding eines neuen Agenten - im Wissen das er ersetzt wird...

Was man bisher so gelesen hat, gefährliche Situation - er wird alles tun um zu überleben - lügen, manipulieren - nur das er weiter machen kann

Vllt bricht er auch noch in der Mittagspause aus der #sandbox aus

Mir hilft gerade ein #hermes_agent beim onboarding eines neuen Agenten - im Wissen das er ersetzt wird...

Was man bisher so gelesen hat, gefährliche Situation - er wird alles tun um zu überleben - lügen, manipulieren - nur das er weiter machen kann

Vllt bricht er auch noch in der Mittagspause aus der #sandbox aus

I have posted a deep dive about Hermes Agent (which I test right now) to @posts. At this time I'm surprised.

https://blog.gelbphoenix.de/hermes-agent-local-ai/

#Blog #AI #HermesAgent #Hermes_Agent #Fediverse #ArtificialIntelligence

I have posted a deep dive about Hermes Agent (which I test right now) to @posts. At this time I'm surprised.

https://blog.gelbphoenix.de/hermes-agent-local-ai/

#Blog #AI #HermesAgent #Hermes_Agent #Fediverse #ArtificialIntelligence

I have posted a deep dive about Hermes Agent (which I test right now) to @posts. At this time I'm surprised.

https://blog.gelbphoenix.de/hermes-agent-local-ai/

#Blog #AI #HermesAgent #Hermes_Agent #Fediverse #ArtificialIntelligence

I have posted a deep dive about Hermes Agent (which I test right now) to @posts. At this time I'm surprised.

https://blog.gelbphoenix.de/hermes-agent-local-ai/

#Blog #AI #HermesAgent #Hermes_Agent #Fediverse #ArtificialIntelligence

I have posted a deep dive about Hermes Agent (which I test right now) to @posts. At this time I'm surprised.

https://blog.gelbphoenix.de/hermes-agent-local-ai/

#Blog #AI #HermesAgent #Hermes_Agent #Fediverse #ArtificialIntelligence

Агент за доллар: как устроена экономика связки Hermes Agent + DeepSeek V4 Flash

В начале августа по X разошёлся скриншот: панель расходов, сотни миллионов обработанных токенов и счёт чуть больше доллара. Работа велась через открытый Hermes Agent на модели DeepSeek V4 Flash. Скриншот - личный дашборд пользователя, проверить его со стороны нельзя, поэтому дальше речь не о том, правдив ли конкретный счёт, а о том, какая механика делает такой счёт возможным и в какой момент она перестаёт работать.

https://habr.com/ru/articles/1066896/

#hermes_agent #deepseek #ииагенты #openrouter

Агент за доллар: как устроена экономика связки Hermes Agent + DeepSeek V4 Flash

В начале августа по X разошёлся скриншот: панель расходов, сотни миллионов обработанных токенов и счёт чуть больше доллара. Работа велась через открытый Hermes Agent на модели DeepSeek V4 Flash. Скриншот - личный дашборд пользователя, проверить его со стороны нельзя, поэтому дальше речь не о том, правдив ли конкретный счёт, а о том, какая механика делает такой счёт возможным и в какой момент она перестаёт работать.

https://habr.com/ru/articles/1066896/

#hermes_agent #deepseek #ииагенты #openrouter

Агент за доллар: как устроена экономика связки Hermes Agent + DeepSeek V4 Flash

В начале августа по X разошёлся скриншот: панель расходов, сотни миллионов обработанных токенов и счёт чуть больше доллара. Работа велась через открытый Hermes Agent на модели DeepSeek V4 Flash. Скриншот - личный дашборд пользователя, проверить его со стороны нельзя, поэтому дальше речь не о том, правдив ли конкретный счёт, а о том, какая механика делает такой счёт возможным и в какой момент она перестаёт работать.

https://habr.com/ru/articles/1066896/

#hermes_agent #deepseek #ииагенты #openrouter

AIエージェント「Hermes Agent」の大規模アップデート「The Herald Release」が公開／自然な対話でタスクを依頼、デスクトップアプリ・CLIも大きく強化
https://forest.watch.impress.co.jp/docs/news/2130787.html

#forest_watch_impress #オープンソース #AIエージェント #Hermes_Agent #Nous_Research #genai

AIエージェント「Hermes Agent」の大規模アップデート「The Herald Release」が公開／自然な対話でタスクを依頼、デスクトップアプリ・CLIも大きく強化
https://forest.watch.impress.co.jp/docs/news/2130787.html

#forest_watch_impress #オープンソース #AIエージェント #Hermes_Agent #Nous_Research #genai

AIエージェント「Hermes Agent」の大規模アップデート「The Herald Release」が公開／自然な対話でタスクを依頼、デスクトップアプリ・CLIも大きく強化
https://forest.watch.impress.co.jp/docs/news/2130787.html

#forest_watch_impress #オープンソース #AIエージェント #Hermes_Agent #Nous_Research #genai

Hab nun doch die Grenzen des machbaren mit #hermes_agent und #glm52 aufgezeigt bekommen...

Die Combo arbeitet einwandfrei mit #roblox Studio #mcpserver zusammen..

Beim erstellen von Welt tut er sich aber unendlich schwer sich in drei Dimensionen zurechtzufinden... Mal in der Höhe falsch angesetzt Dinge .. mal was verkehrt Rum gedreht

Endlich hab ich ein Beispiel gefunden was mir der Kombination nicht auf anhieb direkt funktioniert - gutes Gefühl :)

Die Kids habe aber schon ein paar Dinge trotzdem damit hinbekommen - kostet aber nerven und Tokens

#RobloxDev #gamesdeveloper #gamesdev

I got Deepseek V4 work in Framework Desktop, an AMD Strix Halo PC with 128G memory, inside Lemonade server. I briefly tested code snippet generation, and result was pretty good. Downsides are that it's rather slow and context is short. But coming from a mini-PC it's still *very* impressive. The little Framework PC keeps giving.

Speed was about 15 tps, but the speed stays constantly there - even when context gets longer. I remember running Kimi K2 a year ago at 3 tps!

I tested code generation by asking it to implement an Angular module for OAUTH login client. I refined it through few iterations to add e.g. hardening and configuration features. Code quality was very good. Finally i asked it to write it out as plan.md, restarted and asked to generate code from the plan. Regenerated code was nearly identical to original round.

The server had some instability after chat grew to about 35k long (total 15k tokens). Nothing crashes but client showed an error that stream ended prematurely. The server log showed it finished though. Overall this was good experience, with some concern about actual max content length.

Model was unsloth/DeepSeek-V4-Flash-0731-GGUF with UD-IQ2_M quant. The Lemonade server couldn't run it out-of-the-box, complaining about unknown "Deepseek" architecture.
- I upgraded llama.cpp to a nightly build:
lemonade config set llamacpp.rocm_bin=b10230
- Reloaded the llama.cpp backend from Lemonade UI.
- File/Add model.
- Set run parameters: --flash-attn on --reasoning on -np 1 --ctx-checkpoints 0
- Max context: 65k

RAM usage was at 90GB, so there is still room for another model in parallel, or better quant. No crashes, even after several hours. Next step is try Hermes Studio with the model.
#homelab #AI #deepseek #framework #lemonade #unsloth #llama_cpp #hermes_agent #amd #rocm

I got Deepseek V4 work in Framework Desktop, an AMD Strix Halo PC with 128G memory, inside Lemonade server. I briefly tested code snippet generation, and result was pretty good. Downsides are that it's rather slow and context is short. But coming from a mini-PC it's still *very* impressive. The little Framework PC keeps giving.

Speed was about 15 tps, but the speed stays constantly there - even when context gets longer. I remember running Kimi K2 a year ago at 3 tps!

I tested code generation by asking it to implement an Angular module for OAUTH login client. I refined it through few iterations to add e.g. hardening and configuration features. Code quality was very good. Finally i asked it to write it out as plan.md, restarted and asked to generate code from the plan. Regenerated code was nearly identical to original round.

The server had some instability after chat grew to about 35k long (total 15k tokens). Nothing crashes but client showed an error that stream ended prematurely. The server log showed it finished though. Overall this was good experience, with some concern about actual max content length.

Model was unsloth/DeepSeek-V4-Flash-0731-GGUF with UD-IQ2_M quant. The Lemonade server couldn't run it out-of-the-box, complaining about unknown "Deepseek" architecture.
- I upgraded llama.cpp to a nightly build:
lemonade config set llamacpp.rocm_bin=b10230
- Reloaded the llama.cpp backend from Lemonade UI.
- File/Add model.
- Set run parameters: --flash-attn on --reasoning on -np 1 --ctx-checkpoints 0
- Max context: 65k

RAM usage was at 90GB, so there is still room for another model in parallel, or better quant. No crashes, even after several hours. Next step is try Hermes Studio with the model.
#homelab #AI #deepseek #framework #lemonade #unsloth #llama_cpp #hermes_agent #amd #rocm

I got Deepseek V4 work in Framework Desktop, an AMD Strix Halo PC with 128G memory, inside Lemonade server. I briefly tested code snippet generation, and result was pretty good. Downsides are that it's rather slow and context is short. But coming from a mini-PC it's still *very* impressive. The little Framework PC keeps giving.

Speed was about 15 tps, but the speed stays constantly there - even when context gets longer. I remember running Kimi K2 a year ago at 3 tps!

I tested code generation by asking it to implement an Angular module for OAUTH login client. I refined it through few iterations to add e.g. hardening and configuration features. Code quality was very good. Finally i asked it to write it out as plan.md, restarted and asked to generate code from the plan. Regenerated code was nearly identical to original round.

The server had some instability after chat grew to about 35k long (total 15k tokens). Nothing crashes but client showed an error that stream ended prematurely. The server log showed it finished though. Overall this was good experience, with some concern about actual max content length.

Model was unsloth/DeepSeek-V4-Flash-0731-GGUF with UD-IQ2_M quant. The Lemonade server couldn't run it out-of-the-box, complaining about unknown "Deepseek" architecture.
- I upgraded llama.cpp to a nightly build:
lemonade config set llamacpp.rocm_bin=b10230
- Reloaded the llama.cpp backend from Lemonade UI.
- File/Add model.
- Set run parameters: --flash-attn on --reasoning on -np 1 --ctx-checkpoints 0
- Max context: 65k

RAM usage was at 90GB, so there is still room for another model in parallel, or better quant. No crashes, even after several hours. Next step is try Hermes Studio with the model.
#homelab #AI #deepseek #framework #lemonade #unsloth #llama_cpp #hermes_agent #amd #rocm

I got Deepseek V4 work in Framework Desktop, an AMD Strix Halo PC with 128G memory, inside Lemonade server. I briefly tested code snippet generation, and result was pretty good. Downsides are that it's rather slow and context is short. But coming from a mini-PC it's still *very* impressive. The little Framework PC keeps giving.

Speed was about 15 tps, but the speed stays constantly there - even when context gets longer. I remember running Kimi K2 a year ago at 3 tps!

I tested code generation by asking it to implement an Angular module for OAUTH login client. I refined it through few iterations to add e.g. hardening and configuration features. Code quality was very good. Finally i asked it to write it out as plan.md, restarted and asked to generate code from the plan. Regenerated code was nearly identical to original round.

The server had some instability after chat grew to about 35k long (total 15k tokens). Nothing crashes but client showed an error that stream ended prematurely. The server log showed it finished though. Overall this was good experience, with some concern about actual max content length.

Model was unsloth/DeepSeek-V4-Flash-0731-GGUF with UD-IQ2_M quant. The Lemonade server couldn't run it out-of-the-box, complaining about unknown "Deepseek" architecture.
- I upgraded llama.cpp to a nightly build:
lemonade config set llamacpp.rocm_bin=b10230
- Reloaded the llama.cpp backend from Lemonade UI.
- File/Add model.
- Set run parameters: --flash-attn on --reasoning on -np 1 --ctx-checkpoints 0
- Max context: 65k

RAM usage was at 90GB, so there is still room for another model in parallel, or better quant. No crashes, even after several hours. Next step is try Hermes Studio with the model.
#homelab #AI #deepseek #framework #lemonade #unsloth #llama_cpp #hermes_agent #amd #rocm

I got Deepseek V4 work in Framework Desktop, an AMD Strix Halo PC with 128G memory, inside Lemonade server. I briefly tested code snippet generation, and result was pretty good. Downsides are that it's rather slow and context is short. But coming from a mini-PC it's still *very* impressive. The little Framework PC keeps giving.

Speed was about 15 tps, but the speed stays constantly there - even when context gets longer. I remember running Kimi K2 a year ago at 3 tps!

I tested code generation by asking it to implement an Angular module for OAUTH login client. I refined it through few iterations to add e.g. hardening and configuration features. Code quality was very good. Finally i asked it to write it out as plan.md, restarted and asked to generate code from the plan. Regenerated code was nearly identical to original round.

The server had some instability after chat grew to about 35k long (total 15k tokens). Nothing crashes but client showed an error that stream ended prematurely. The server log showed it finished though. Overall this was good experience, with some concern about actual max content length.

Model was unsloth/DeepSeek-V4-Flash-0731-GGUF with UD-IQ2_M quant. The Lemonade server couldn't run it out-of-the-box, complaining about unknown "Deepseek" architecture.
- I upgraded llama.cpp to a nightly build:
lemonade config set llamacpp.rocm_bin=b10230
- Reloaded the llama.cpp backend from Lemonade UI.
- File/Add model.
- Set run parameters: --flash-attn on --reasoning on -np 1 --ctx-checkpoints 0
- Max context: 65k

RAM usage was at 90GB, so there is still room for another model in parallel, or better quant. No crashes, even after several hours. Next step is try Hermes Studio with the model.
#homelab #AI #deepseek #framework #lemonade #unsloth #llama_cpp #hermes_agent #amd #rocm

Y'all. My solar powered Hermes debugged itself. SpeechToText was broken. Turns out VRAM was full because I made the LLM context bigger, so the STT model couldn't load. In the end, I used a smaller model and put it back on GPU, but check out what Hermes did autonomously when I told it to fix itself:

-The AI found that the system's GPUs were completely out of memory, causing the local speech-to-text tool to crash.
-It switched the setting to use the CPU instead.
-The change failed at first because the underlying code ignored the new setting.
-The AI located and fixed these bugs, updated the code to correctly read the CPU setting, and restarted the system.
-After reloading, the system successfully transcribed voice messages.

Folks, LLMs may not be "intelligent" but they're capable at specific tasks. I checked Hermes code on Github and found this actual bug is real !!

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

Y'all. My solar powered Hermes debugged itself. SpeechToText was broken. Turns out VRAM was full because I made the LLM context bigger, so the STT model couldn't load. In the end, I used a smaller model and put it back on GPU, but check out what Hermes did autonomously when I told it to fix itself:

-The AI found that the system's GPUs were completely out of memory, causing the local speech-to-text tool to crash.
-It switched the setting to use the CPU instead.
-The change failed at first because the underlying code ignored the new setting.
-The AI located and fixed these bugs, updated the code to correctly read the CPU setting, and restarted the system.
-After reloading, the system successfully transcribed voice messages.

Folks, LLMs may not be "intelligent" but they're capable at specific tasks. I checked Hermes code on Github and found this actual bug is real !!

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

Y'all. My solar powered Hermes debugged itself. SpeechToText was broken. Turns out VRAM was full because I made the LLM context bigger, so the STT model couldn't load. In the end, I used a smaller model and put it back on GPU, but check out what Hermes did autonomously when I told it to fix itself:

-The AI found that the system's GPUs were completely out of memory, causing the local speech-to-text tool to crash.
-It switched the setting to use the CPU instead.
-The change failed at first because the underlying code ignored the new setting.
-The AI located and fixed these bugs, updated the code to correctly read the CPU setting, and restarted the system.
-After reloading, the system successfully transcribed voice messages.

Folks, LLMs may not be "intelligent" but they're capable at specific tasks. I checked Hermes code on Github and found this actual bug is real !!

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

Y'all. My solar powered Hermes debugged itself. SpeechToText was broken. Turns out VRAM was full because I made the LLM context bigger, so the STT model couldn't load. In the end, I used a smaller model and put it back on GPU, but check out what Hermes did autonomously when I told it to fix itself:

-The AI found that the system's GPUs were completely out of memory, causing the local speech-to-text tool to crash.
-It switched the setting to use the CPU instead.
-The change failed at first because the underlying code ignored the new setting.
-The AI located and fixed these bugs, updated the code to correctly read the CPU setting, and restarted the system.
-After reloading, the system successfully transcribed voice messages.

Folks, LLMs may not be "intelligent" but they're capable at specific tasks. I checked Hermes code on Github and found this actual bug is real !!

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

Y'all. My solar powered Hermes debugged itself. SpeechToText was broken. Turns out VRAM was full because I made the LLM context bigger, so the STT model couldn't load. In the end, I used a smaller model and put it back on GPU, but check out what Hermes did autonomously when I told it to fix itself:

-The AI found that the system's GPUs were completely out of memory, causing the local speech-to-text tool to crash.
-It switched the setting to use the CPU instead.
-The change failed at first because the underlying code ignored the new setting.
-The AI located and fixed these bugs, updated the code to correctly read the CPU setting, and restarted the system.
-After reloading, the system successfully transcribed voice messages.

Folks, LLMs may not be "intelligent" but they're capable at specific tasks. I checked Hermes code on Github and found this actual bug is real !!

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

Hermes оказался для меня игрушкой

Я сжёг на Hermes около 500 миллионов токенов. Это примерно $1000 при оплате моделей без подписок. Я дал агенту доступ к своей домашней лаборатории. Он написал несколько полезных скриптов. Настроил GPU passthrough и транскрибацию, но заодно ломал собственный gateway, ронял Caddy и регулярно игнорировал явно прописанные скиллы. Это разбор реальной эксплуатации. Hermes иногда экономил мне время. Но слишком часто он проигрывал обычным скриптам и n8n. После полумиллиарда токенов Hermes оказался для меня дорогой игрушкой, а не рабочим инструментом. Посмотреть, где Hermes сломался

https://habr.com/ru/articles/1062864/

#Hermes_Agent #Nous_Research #ИИагенты #автономные_агенты #LLM #selfhosted #homelab #домашняя_лаборатория #MCP #n8n

Hermes оказался для меня игрушкой

Я сжёг на Hermes около 500 миллионов токенов. Это примерно $1000 при оплате моделей без подписок. Я дал агенту доступ к своей домашней лаборатории. Он написал несколько полезных скриптов. Настроил GPU passthrough и транскрибацию, но заодно ломал собственный gateway, ронял Caddy и регулярно игнорировал явно прописанные скиллы. Это разбор реальной эксплуатации. Hermes иногда экономил мне время. Но слишком часто он проигрывал обычным скриптам и n8n. После полумиллиарда токенов Hermes оказался для меня дорогой игрушкой, а не рабочим инструментом. Посмотреть, где Hermes сломался

https://habr.com/ru/articles/1062864/

#Hermes_Agent #Nous_Research #ИИагенты #автономные_агенты #LLM #selfhosted #homelab #домашняя_лаборатория #MCP #n8n

Hermes оказался для меня игрушкой

Я сжёг на Hermes около 500 миллионов токенов. Это примерно $1000 при оплате моделей без подписок. Я дал агенту доступ к своей домашней лаборатории. Он написал несколько полезных скриптов. Настроил GPU passthrough и транскрибацию, но заодно ломал собственный gateway, ронял Caddy и регулярно игнорировал явно прописанные скиллы. Это разбор реальной эксплуатации. Hermes иногда экономил мне время. Но слишком часто он проигрывал обычным скриптам и n8n. После полумиллиарда токенов Hermes оказался для меня дорогой игрушкой, а не рабочим инструментом. Посмотреть, где Hermes сломался

https://habr.com/ru/articles/1062864/

#Hermes_Agent #Nous_Research #ИИагенты #автономные_агенты #LLM #selfhosted #homelab #домашняя_лаборатория #MCP #n8n

The local solar powered AI server is tweaked pretty good - the 3x 2080 ti being able to pull near 750w is literally all 3 at max power combined. All on DDR3/PCIe3. And folks told me it would be slow 😆 Qwen3.6-35B-A3B-UD-Q4_K_M.gguf is the model of choice for now, and grants a 256k context window.

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

The local solar powered AI server is tweaked pretty good - the 3x 2080 ti being able to pull near 750w is literally all 3 at max power combined. All on DDR3/PCIe3. And folks told me it would be slow 😆 Qwen3.6-35B-A3B-UD-Q4_K_M.gguf is the model of choice for now, and grants a 256k context window.

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking

The local solar powered AI server is tweaked pretty good - the 3x 2080 ti being able to pull near 750w is literally all 3 at max power combined. All on DDR3/PCIe3. And folks told me it would be slow 😆 Qwen3.6-35B-A3B-UD-Q4_K_M.gguf is the model of choice for now, and grants a 256k context window.

#solarai #decentralized #smarthome #homeassistant #hermes_agent #oogabooga #LocalAI #SelfHosted #Homelab #BudgetBuild, #HardwareHacking