#computedemocratization — Public Fediverse posts on home.social

RT @Sentdex: Etwas, was ich persönlich gehört habe und immer wieder sehe, ist viel Wut über große Modelle wie Kimi K3 oder sogar GLM 5.2 sowie über Rechenkapazität wie die, die Tobi geteilt hat. Ein 100.000-Dollar-Computer liegt tatsächlich außerhalb dessen, was sich die meisten Menschen leisten können. Ohne Zweifel. Kimi K3 kann nicht einmal auf diesem 100.000-Dollar-Computer laufen. Was mich an Kimi K3 am meisten begeistert, ist nicht, dass ich es lokal betreiben werde. Sondern dass viele Anbieter es bereitstellen werden. Sie werden herausfinden, wie man es günstig und schnell bereitstellen kann. Dann werden Menschen mit diesen 100.000-Dollar-Maschinen und teuren Cloud-Computern es in viel, viel, viel kleinere Modelle verdichten. Kimi K3 wird der Lehrer einer riesigen Anzahl zukünftiger Modelle sein. Dann werden Menschen mit 3/4/5090er-Grafikkarten viele dieser Modelle betreiben. Alles ist gut. Die Vorstellung, GLM-5.2-Niveau-Intelligenz auf einem Computer zu betreiben, den man sich vor nur einem Jahr für 50.000 Dollar hätte kaufen können, war AUSGESENDET unmöglich. Man brauchte Millionen von Dollar und würde trotzdem GLM-5.2 nicht erreichen. Jetzt braucht man 50.000 Dollar. Dies ist ein wunderbarer Trend und es ist alles gut für dich, egal wo du dich auf der Rechenleiter befindest. Trickle-down-Tokenökonomie Michael Dell 🇺🇸 (@MichaelDell) Was @tobi hier macht, ist bemerkenswert: GLM-5.2, ein KI-Modell mit 753 Milliarden Parametern, lokal auf einem Dell Pro Max mit GB300 bei 40 Token pro Sekunde zu betreiben. Kein Rechenzentrum. Keine API. Keine Cloud. Unbegrenzte Intelligenz. KI an d…