#mistralllm — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #mistralllm, aggregated by home.social.
-
Bielik się obraził i zamiast odpowiadać rzeczowo kopiuje prompta. Podejrzewam, że wina jest w ollamie i dodawaniu poprzednich rozmów do kontekstu, przez co model głupieje. Nie wiem czy jest szybkie obejście na to :/ Chyba uruchomić na czymś co daje większą kontrolę nad tym co trafia bezpośrednio do LLMa (llama.cpp?).
Przełączyłam na Mistrala i jest całkiem nieźle, na razie. Tak czy inaczej entuzjazm opadł i zostało zasiane ziarno zwątpienia. Może to po prostu poniedziałek, a może retrogradacja Merkurego... meh
-
Bielik się obraził i zamiast odpowiadać rzeczowo kopiuje prompta. Podejrzewam, że wina jest w ollamie i dodawaniu poprzednich rozmów do kontekstu, przez co model głupieje. Nie wiem czy jest szybkie obejście na to :/ Chyba uruchomić na czymś co daje większą kontrolę nad tym co trafia bezpośrednio do LLMa (llama.cpp?).
Przełączyłam na Mistrala i jest całkiem nieźle, na razie. Tak czy inaczej entuzjazm opadł i zostało zasiane ziarno zwątpienia. Może to po prostu poniedziałek, a może retrogradacja Merkurego... meh