home.social

#lm-studio — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #lm-studio, aggregated by home.social.

fetched live
  1. Everyone's paying per token to run AI. This desktop agent doesn't.

    LM Studio's new Bionic runs open models — GLM 5.2 and Kimi K2.7 Code — right on your own machine. No API keys. No usage limits. Zero data retention.

    Cloud when you need it. But local is the default.

    The API bill was never the cost of doing AI. It was a choice.

    #ai #aiagents #lmstudio #openmodels #localai #vibecoding

  2. Everyone's paying per token to run AI. This desktop agent doesn't.

    LM Studio's new Bionic runs open models — GLM 5.2 and Kimi K2.7 Code — right on your own machine. No API keys. No usage limits. Zero data retention.

    Cloud when you need it. But local is the default.

    The API bill was never the cost of doing AI. It was a choice.

    #ai #aiagents #lmstudio #openmodels #localai #vibecoding

  3. Everyone's paying per token to run AI. This desktop agent doesn't.

    LM Studio's new Bionic runs open models — GLM 5.2 and Kimi K2.7 Code — right on your own machine. No API keys. No usage limits. Zero data retention.

    Cloud when you need it. But local is the default.

    The API bill was never the cost of doing AI. It was a choice.

    #ai #aiagents #lmstudio #openmodels #localai #vibecoding

  4. Everyone's paying per token to run AI. This desktop agent doesn't.

    LM Studio's new Bionic runs open models — GLM 5.2 and Kimi K2.7 Code — right on your own machine. No API keys. No usage limits. Zero data retention.

    Cloud when you need it. But local is the default.

    The API bill was never the cost of doing AI. It was a choice.

    #ai #aiagents #lmstudio #openmodels #localai #vibecoding

  5. Everyone's paying per token to run AI. This desktop agent doesn't.

    LM Studio's new Bionic runs open models — GLM 5.2 and Kimi K2.7 Code — right on your own machine. No API keys. No usage limits. Zero data retention.

    Cloud when you need it. But local is the default.

    The API bill was never the cost of doing AI. It was a choice.

    #ai #aiagents #lmstudio #openmodels #localai #vibecoding

  6. أطلقت LM Studio تطبيق Bionic الجديد، وهو وكيل ذكاء اصطناعي مخصص للمهام المعقدة مع نماذج مفتوحة. يتيح التطبيق للمستخدمين الاختيار بين مشاريع العمل أو مشاريع البرمجة، مع إمكانية استخدام نماذج محلية أو سحابية أو عن بعد، مما يوفر مرونة وتحكمًا في الخصوصية.

    #LMStudio #AI #Bionic

  7. #lmstudio

    Оказывается надо было качать intsruct версии моделек, ладно, лучше поздно чем никогда.

    По итогу самая умная моделька у меня - qwen3.6-27b-instruct-revised (с исправленными багами)
    Квантизация - Q4_K_M
    Квантизация кэша - Q4_0
    Контекст - 65536

    43 токена в секунду выдаёт. Зато полностью помещается в видеокарту при забитом контексте, в отличие от 35b-a3b версии.

    Пока всё это дело настроишь, аж сам понимать начнёшь блет.

  8. #lmstudio

    Оказывается надо было качать intsruct версии моделек, ладно, лучше поздно чем никогда.

    По итогу самая умная моделька у меня - qwen3.6-27b-instruct-revised (с исправленными багами)
    Квантизация - Q4_K_M
    Квантизация кэша - Q4_0
    Контекст - 65536

    43 токена в секунду выдаёт. Зато полностью помещается в видеокарту при забитом контексте, в отличие от 35b-a3b версии.

    Пока всё это дело настроишь, аж сам понимать начнёшь блет.

  9. #lmstudio

    Оказывается надо было качать intsruct версии моделек, ладно, лучше поздно чем никогда.

    По итогу самая умная моделька у меня - qwen3.6-27b-instruct-revised (с исправленными багами)
    Квантизация - Q4_K_M
    Квантизация кэша - Q4_0
    Контекст - 65536

    43 токена в секунду выдаёт. Зато полностью помещается в видеокарту при забитом контексте, в отличие от 35b-a3b версии.

    Пока всё это дело настроишь, аж сам понимать начнёшь блет.

  10. schaut genau nach der richtigen mischung zwischen - wo man zu wenig einstellen kann - und - wo man zu viel einstellen kann :-P

    sehr aufgeräumtes design und guter erst eindruck - pinguin als logo vllt ein bissel zu selbstbewusst :D

    ich hab das bisher so gelöst: lmstudio hört auf 0.0.0.0 - ist mit verbunden mit vserver - caddy auf vserver stellt mein lmstudio über https in netz

    so kann ich von überall meinen lokaken llm aufrufen

    ist dann noch ??? wohl eher :)

  11. Bin gerade dabei ein wenig mit lokaler KI zu experimentieren und ich bin überrascht, wie leistungsfähig sie schon auf meinem normalen Notebook und Smartphone läuft:
    lowmark.de/blog/lokale-ki-llm-
    #LLM #KI #ChatGPT #AI #ollama #lmstudio #openwebui #pocketpal #Chatbot #claude

  12. Bin gerade dabei ein wenig mit lokaler KI zu experimentieren und ich bin überrascht, wie leistungsfähig sie schon auf meinem normalen Notebook und Smartphone läuft:
    lowmark.de/blog/lokale-ki-llm-
    #LLM #KI #ChatGPT #AI #ollama #lmstudio #openwebui #pocketpal #Chatbot #claude

  13. Bin gerade dabei ein wenig mit lokaler KI zu experimentieren und ich bin überrascht, wie leistungsfähig sie schon auf meinem normalen Notebook und Smartphone läuft:
    lowmark.de/blog/lokale-ki-llm-
    #LLM #KI #ChatGPT #AI #ollama #lmstudio #openwebui #pocketpal #Chatbot #claude

  14. TagSpaces 6.13 is out 🎉

    The highlight for the #FOSS crowd: bring your own AI. Point TagSpaces at a local runtime — #LMStudio, #llamacpp — or any OpenAI-compatible endpoint. Run it entirely offline; your files and prompts never leave your machine.

    Also in this release:
    📱 New iOS app with iCloud (beta)
    🤖 Rebuilt Android app on Capacitor
    💾 Location backup now free
    🔍 Filters for tags, locations & quick access

    tagspaces.org/blog/tagspaces-6

    #TagSpaces #PKM #LocalFirst #Privacy #SelfHosted #LocalLLM

  15. TagSpaces 6.13 is out 🎉

    The highlight for the crowd: bring your own AI. Point TagSpaces at a local runtime — , — or any OpenAI-compatible endpoint. Run it entirely offline; your files and prompts never leave your machine.

    Also in this release:
    📱 New iOS app with iCloud (beta)
    🤖 Rebuilt Android app on Capacitor
    💾 Location backup now free
    🔍 Filters for tags, locations & quick access

    tagspaces.org/blog/tagspaces-6

  16. TagSpaces 6.13 is out 🎉

    The highlight for the #FOSS crowd: bring your own AI. Point TagSpaces at a local runtime — #LMStudio, #llamacpp — or any OpenAI-compatible endpoint. Run it entirely offline; your files and prompts never leave your machine.

    Also in this release:
    📱 New iOS app with iCloud (beta)
    🤖 Rebuilt Android app on Capacitor
    💾 Location backup now free
    🔍 Filters for tags, locations & quick access

    tagspaces.org/blog/tagspaces-6

    #TagSpaces #PKM #LocalFirst #Privacy #SelfHosted #LocalLLM

  17. TagSpaces 6.13 is out 🎉

    The highlight for the #FOSS crowd: bring your own AI. Point TagSpaces at a local runtime — #LMStudio, #llamacpp — or any OpenAI-compatible endpoint. Run it entirely offline; your files and prompts never leave your machine.

    Also in this release:
    📱 New iOS app with iCloud (beta)
    🤖 Rebuilt Android app on Capacitor
    💾 Location backup now free
    🔍 Filters for tags, locations & quick access

    tagspaces.org/blog/tagspaces-6

    #TagSpaces #PKM #LocalFirst #Privacy #SelfHosted #LocalLLM

  18. TagSpaces 6.13 is out 🎉

    The highlight for the #FOSS crowd: bring your own AI. Point TagSpaces at a local runtime — #LMStudio, #llamacpp — or any OpenAI-compatible endpoint. Run it entirely offline; your files and prompts never leave your machine.

    Also in this release:
    📱 New iOS app with iCloud (beta)
    🤖 Rebuilt Android app on Capacitor
    💾 Location backup now free
    🔍 Filters for tags, locations & quick access

    tagspaces.org/blog/tagspaces-6

    #TagSpaces #PKM #LocalFirst #Privacy #SelfHosted #LocalLLM

  19. 📝 AI Coding auf privater Hardware

    An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle …

    Ganzer Beitrag: martin-ueding.de/posts/ai-codi

    #KünstlicheIntelligenz #OpenCode #Ollama #Qwen #LMStudio #Claude #AICoding

  20. 📝 AI Coding auf privater Hardware

    An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle …

    Ganzer Beitrag: martin-ueding.de/posts/ai-codi

    #KünstlicheIntelligenz #OpenCode #Ollama #Qwen #LMStudio #Claude #AICoding

  21. 📝 AI Coding auf privater Hardware

    An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle …

    Ganzer Beitrag: martin-ueding.de/posts/ai-codi

    #KünstlicheIntelligenz #OpenCode #Ollama #Qwen #LMStudio #Claude #AICoding

  22. 📝 AI Coding auf privater Hardware

    An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle …

    Ganzer Beitrag: martin-ueding.de/posts/ai-codi

    #KünstlicheIntelligenz #OpenCode #Ollama #Qwen #LMStudio #Claude #AICoding

  23. 📝 AI Coding auf privater Hardware

    An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle …

    Ganzer Beitrag: martin-ueding.de/posts/ai-codi

    #KünstlicheIntelligenz #OpenCode #Ollama #Qwen #LMStudio #Claude #AICoding

  24. 1/x
    Heute nach der Schule wird mit allen #Ministral 3 Varianten gespielt.
    Base, Instruct und Reasoning jeweils mit 3B, 8B und 14B.
    Alle haben Vision. Ich teste explizit mal keinen #code, sondern anderes. Ganz unwissenschaftlich und dreckig.

    Dabei schaue ich auf, die Anzahl der Prompts, bis der Akku von 100 auf 5 Prozent entleert ist, wie lange die Antwort braucht, ob und bei was da Model die Antwort verweigert, wie gut die Antwort meine Anfrage trifft (gefühlt) und Tokens/Sec.
    #ai #lmstudio

  25. durch zufall da drüber gestolpert

    zur abwechselung mal was amerikanisches was frei verfügbar ist 🤔

    vllt ein neue lokale modell was mal in #hermes arbeiten lassen kann?

    wir werden sehen!

    #localai #lmstudio #macstudio #llm #northminicode

  26. durch zufall da drüber gestolpert

    zur abwechselung mal was amerikanisches was frei verfügbar ist 🤔

    vllt ein neue lokale modell was mal in arbeiten lassen kann?

    wir werden sehen!

  27. DEVONthink 4.3.2 is here. Now supports Claude Fable 5 (when it becomes available once more) and Ollama image diffusion models, plus a new LM Studio connector. Also: faster MCP search and improved redaction before sending data to AI. We fixed a crash on the macOS 27 Developer Beta, too. #devonthink #ai #claude #fable #ollama #lmstudio #macos27 devontechnologies.com/apps/dev

  28. DEVONthink 4.3.2 is here. Now supports Claude Fable 5 (when it becomes available once more) and Ollama image diffusion models, plus a new LM Studio connector. Also: faster MCP search and improved redaction before sending data to AI. We fixed a crash on the macOS 27 Developer Beta, too. #devonthink #ai #claude #fable #ollama #lmstudio #macos27 devontechnologies.com/apps/dev

  29. DEVONthink 4.3.2 is here. Now supports Claude Fable 5 (when it becomes available once more) and Ollama image diffusion models, plus a new LM Studio connector. Also: faster MCP search and improved redaction before sending data to AI. We fixed a crash on the macOS 27 Developer Beta, too. #devonthink #ai #claude #fable #ollama #lmstudio #macos27 devontechnologies.com/apps/dev

  30. DEVONthink 4.3.2 is here. Now supports Claude Fable 5 (when it becomes available once more) and Ollama image diffusion models, plus a new LM Studio connector. Also: faster MCP search and improved redaction before sending data to AI. We fixed a crash on the macOS 27 Developer Beta, too. #devonthink #ai #claude #fable #ollama #lmstudio #macos27 devontechnologies.com/apps/dev

  31. DEVONthink 4.3.2 is here. Now supports Claude Fable 5 (when it becomes available once more) and Ollama image diffusion models, plus a new LM Studio connector. Also: faster MCP search and improved redaction before sending data to AI. We fixed a crash on the macOS 27 Developer Beta, too. #devonthink #ai #claude #fable #ollama #lmstudio #macos27 devontechnologies.com/apps/dev

  32. The model generally produces factually correct answers across multiple domains.

    Read more 👉 lttr.ai/AsE33

    #llm #lmstudio #genai

  33. The model generally produces factually correct answers across multiple domains.

    Read more 👉 lttr.ai/AsE33

    #llm #lmstudio #genai

  34. The model generally produces factually correct answers across multiple domains.

    Read more 👉 lttr.ai/AsE33

    #llm #lmstudio #genai

  35. The model generally produces factually correct answers across multiple domains.

    Read more 👉 lttr.ai/AsE33

    #llm #lmstudio #genai

  36. The model generally produces factually correct answers across multiple domains.

    Read more 👉 lttr.ai/AsE33

    #llm #lmstudio #genai