home.social

#gguf_conversion — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #gguf_conversion, aggregated by home.social.

fetched live
  1. А все-таки Qwen3.8-27B — думает меньше и быстрее чем 3.6

    В пятницу вышла Qwen3.8-27B. Скажу честно, с середины мая я отказался от подписок и сидел исключительно на локальной Qwen3.6 (для всех своих домашних проектов), у меня даже статья была на эту тему . Поэтому мне было очень интересно увидеть на что способна новая Qwen3.8-27B. Тут на Хабре было несколько статей о том, что 3.8 слишком долго думает и что у 3.8 слишком много галлюцинаций (что как мне кажется не совсем корректно), поэтому я решил поделиться настройками, которые работают (у меня), надеюсь они будут кому-нибудь полезны. Qwen3.8-27B превзошла мои самые смелые ожидания, и уж что-что, а задумчивой ее никак не назовешь.

    habr.com/ru/articles/1071872/

    #qwen3827B #llamacpp #gguf_conversion #llamacpp_settings