#xlstm — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #xlstm, aggregated by home.social.
-
Thing I've been experimenting with the past few days -- "diegetic role based prompting" for a local State Space Model ( #RWKV7 currently).
Tiny llama.cpp Python runner for the model and "composer" GUI for stepping and half-stepping through input only or input and generated role specified output, with saving and restoring of KV checkpoints.
Planning to write runners for #XLSTM 7B & #Falcon #MAMBA 7B to compare.
Started 'cause no actual #SSM saving, resuming examples.
-
Ich glaube nicht, dass Europa "vollkommen ohnmächtig" daneben steht. Da gibt es z.B. mit NX-AI ein Unternehmen, das erst vor Kurzem mit xLSTM ein Modell vorgestellt hat, das mit seiner Effizienz über die derzeit nahezu allgegenwärtigen Transformer hinaus geht.
Um es ähnlich reisserisch auszudrücken: während die Chinesen gerade mal anfangen, alte US-Ideen nach zu bastelt, entwickelt Europa bereits die nächste Generation.