#gptoss120b — Public Fediverse posts

OpenAI just opened the doors to its massive Mixture‑of‑Experts models: gpt‑oss‑120B and gpt‑oss‑20B, both released under an Apache‑2.0‑style license. This means the weights are publicly available for anyone to fine‑tune, audit, or build on. A big step for open‑weight AI research—read more to see what this could mean for the community. #OpenAI #gptoss120B #gptoss20B #Apache2.0

🔗 https://aidailypost.com/news/openai-releases-gpt-oss-120b-gpt-oss-20b-under-apache-20-style-license

https://blog.gslin.org/archives/2025/11/05/12725/%e6%9c%ac%e5%9c%b0%e7%ab%af%e8%b7%91-coding-assistant-%e7%9a%84%e6%96%b9%e6%a1%88/

本地端跑 coding assistant 的方案

#120b #aider #assistant #code #coding #gpt #GptOss120b #llm #local #oss

Вам нужна RAM, а не VRAM. Параметр -cmoe для запуска больших и огромных моделей LLM локально. Ускоряем GPT-OSS-120B

Всё больше выходит больших MoE моделей с малым числом активных параметров. У MoE совсем другой сценарий нагрузки и использования ресурсов нежели у Dense моделей, достаточно немного VRAM. Большие MoE модели устроит 1 GPU и много обычной RAM. О том, как устроены MoE и как ускорить работу одним параметром не меняя железо.

https://habr.com/ru/articles/961478/

#llamacpp #cmoe #локальные_нейросети #gptoss120b #gptoss #cpumoe #qwen3 #deepseek #llm

Compiler optimizations for 5.8ms GPT-OSS-120B inference (not on GPUs)

https://furiosa.ai/blog/serving-gpt-oss-120b-at-5-8-ms-tpot-with-two-rngd-cards-compiler-optimizations-in-practice

#HackerNews #CompilerOptimizations #GPTOSS120B #Inference #AIResearch #MachineLearning #FuriosaAI

GPT-OSS-20B / 120B: Сухие цифры после реальных тестов

GPT-OSS - тесты на реальном железе: производительность моделей 20B и 120B на RTX 4090, RTX 5090 и H100. Реальные метрики TPS, сравнение скорости генерации и практические выводы о том, какую модель выбрать для локального использования.

https://habr.com/ru/articles/938960/

#GPTOSS20B #GPTOSS120B #TPS_токены_в_секунду #RTX_4090_vs_RTX_5090 #Ollama #H100_PCIe #llm #локальная_LLM #VRAM_использование #vllm

Ok, dann erstmal nicht.
Statt dessen https://openai.inference.de-txl.ionos.com/v1/chat/completions

#gptoss20b #gptoss120b

ChatGPT-ähnliche KI lokal am Mac nutzen: OpenAI bringt neue Offline-Modelle
OpenAI veröffentlicht erstmals seit Jahren neue Modelle mit offenen Gewichten. Ihr könnt jetzt ChatGPT-ähnliche KI direkt auf eurem Mac nutzen – ganz oh
https://www.apfeltalk.de/magazin/news/chatgpt-aehnliche-ki-lokal-am-mac-nutzen-openai-bringt-neue-offline-modelle/
#KI #News #ApacheLizenz #Apple #AppleSilicon #Entwicklerinnen #gptoss120b #gptoss20b #KI #KIModelle #Mac #Offline #OnDeviceKI #OpenAI #Sprachmodell

ChatGPT-ähnliche KI lokal am Mac nutzen: OpenAI bringt neue Offline-Modelle
OpenAI veröffentlicht erstmals seit Jahren neue Modelle mit offenen Gewichten. Ihr könnt jetzt ChatGPT-ähnliche KI direkt auf eurem Mac nutzen – ganz oh
https://www.apfeltalk.de/magazin/news/chatgpt-aehnliche-ki-lokal-am-mac-nutzen-openai-bringt-neue-offline-modelle/
#KI #News #ApacheLizenz #Apple #AppleSilicon #Entwicklerinnen #gptoss120b #gptoss20b #KI #KIModelle #Mac #Offline #OnDeviceKI #OpenAI #Sprachmodell

ChatGPT-ähnliche KI lokal am Mac nutzen: OpenAI bringt neue Offline-Modelle
OpenAI veröffentlicht erstmals seit Jahren neue Modelle mit offenen Gewichten. Ihr könnt jetzt ChatGPT-ähnliche KI direkt auf eurem Mac nutzen – ganz oh
https://www.apfeltalk.de/magazin/news/chatgpt-aehnliche-ki-lokal-am-mac-nutzen-openai-bringt-neue-offline-modelle/
#KI #News #ApacheLizenz #Apple #AppleSilicon #Entwicklerinnen #gptoss120b #gptoss20b #KI #KIModelle #Mac #Offline #OnDeviceKI #OpenAI #Sprachmodell

ChatGPT-ähnliche KI lokal am Mac nutzen: OpenAI bringt neue Offline-Modelle
OpenAI veröffentlicht erstmals seit Jahren neue Modelle mit offenen Gewichten. Ihr könnt jetzt ChatGPT-ähnliche KI direkt auf eurem Mac nutzen – ganz oh
https://www.apfeltalk.de/magazin/news/chatgpt-aehnliche-ki-lokal-am-mac-nutzen-openai-bringt-neue-offline-modelle/
#KI #News #ApacheLizenz #Apple #AppleSilicon #Entwicklerinnen #gptoss120b #gptoss20b #KI #KIModelle #Mac #Offline #OnDeviceKI #OpenAI #Sprachmodell

ChatGPT-ähnliche KI lokal am Mac nutzen: OpenAI bringt neue Offline-Modelle
OpenAI veröffentlicht erstmals seit Jahren neue Modelle mit offenen Gewichten. Ihr könnt jetzt ChatGPT-ähnliche KI direkt auf eurem Mac nutzen – ganz oh
https://www.apfeltalk.de/magazin/news/chatgpt-aehnliche-ki-lokal-am-mac-nutzen-openai-bringt-neue-offline-modelle/
#KI #News #ApacheLizenz #Apple #AppleSilicon #Entwicklerinnen #gptoss120b #gptoss20b #KI #KIModelle #Mac #Offline #OnDeviceKI #OpenAI #Sprachmodell