#rugpt — Public Fediverse posts

Дообучим старый ruGPT3 XL 1.3B (~2020 год) до уровня LLM. ChatGPT выйдет только через 2 года. Сравним с Gemma3 2025 года

Древняя модель ruGPT-3 XL 1.3B конца 2020 - начала 2021. Модели тех времён не умели выполнять инструкции или вести диалог в чате, они умели только продолжать текст. С помощью современных методов дообучения SFT и DPO можно ли сделать из старого pretrain современную LLM? Получившийся результат сравним с Gemma3 1B, моделью 2025 года. И немного продолжения HabrGPT 0.5B с дообучением на большом датасете.

https://habr.com/ru/articles/1045724/

#llamacpp #transformers #обучение #finetune #rugpt #rugpt3 #sft #dpo

Какой агрегатор нейросетей выбрать?

Сейчас, можно сказать, почти каждый день нам выкатывают какую-нибудь новую модель. Как ими пользоваться? На самом деле можно выбрать самый простой вариант – воспользоваться официальным сайтом производителя модели. Однако в нынешних реалиях самый простой вариант может только таким казаться. Доступ через VPN? Или душные и долгие танцы с бубном, чтобы просто получить доступ к желаемой модели? Впрочем, не только в доступности заключается проблема. Вы попробовали модель в бесплатном варианте, вам все понравилось, следом может появиться желание подключить уже платную подписку, а тут уже столкнуться с ситуацией, когда попросту нет возможности оплаты через российские карты. Как избежать трудностей? У вас на выбор два варианта: открытые модели, которые можно накатить себе и пользоваться ими бесплатно, или же использовать своеобразные адаптеры. Первый вариант, конечно, заманчивый, все же бесплатно – магнит. Однако в нем можно столкнуться с несколькими проблемами: мощность железа (не всегда, но частенько требуются большие мощности для адекватной работы локальной модели) и сам процесс установки (который тоже может превратиться в танцы с бубном). Второй вариант – своеобразные адаптеры, или же агрегаторы нейросетей. Они содержат в себе множество моделей и предоставляют доступ к ним. Конечно, найти полностью бесплатный агрегатор почти нереально, в основном все они требуют подписки, но предоставляют возможность прощупать свой функционал перед покупкой, начисляя внутреннюю валюту или же просто давая ограниченное количество использований моделей после регистрации. Собственно, сегодня я сравню несколько агрегаторов, их плюсы и минусы, чтобы вы могли понять, стоит ли обращать на них внимание или нет.

https://habr.com/ru/companies/bothub/articles/996326/

#ИИ #AI #нейросеть #агрегатор_нейросетей #bothub #GPTunnel #ruGPT #chadai #AI_Wiz #MashaGPT