home.social

#ptuning — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #ptuning, aggregated by home.social.

  1. От понимания файнтюнинга LLM до файнтюнинга мультимодальных моделей

    Что такое дообучение LLM и зачем оно нужно? Дообучение больших языковых моделей (LLM) — это способ адаптировать их под свои задачи, сделать их умнее на своих данных и сэкономить ресурсы. Когда стоит дообучать, а когда хватит prompt engineering или RAG? Если задача уникальная или данных много — дообучай. Если задача простая — попробуй сначала промпты.

    habr.com/ru/articles/925886/

    #дообучение #LLM #PEFT #методы #LoRA #QLoRA #AdaLoRA #PTuning #BitFit