#rtx_3090 — Public Fediverse posts

Локальный ИИ: майнинг плата + 3 RTX 3090

С прошлого года я изучаю бюджетные варианты сборок для локального ИИ в домашних условиях. Точкой “не возврата” стал запуск модели gpt-oss-120b на 3 видеокартах на открытом стенде, после чего я провел длительные тесты в работе и мне понравилось. Однако, десктопные платы и корпусы не могут вместить в себя 3 RTX 3090 (слишком широкие). Тогда я присмотрелся к майнерским решениям, которые имеют свои нюансы и сложности. В этой статье я расскажу про свой путь: как тестировал 2 майнерские платы, а одну из них прокачал по максимуму, сколько в итоге удалось выжать и финансовые затраты. Разберем по порядку: с чего начинал и к чему пришел. Внутри много скриншотов и даже есть видео.

https://habr.com/ru/articles/1019940/

#ai #ии #gpt #selfhosted #gpu #rtx_3090

Fine-tuning Qwen-8B под проприетарный синтаксис (CADINP) на одной RTX 3090: опыт инженера-конструктора

Возможно ли на одной домашней видеокарте (RTX 3090) создать AI-ассистента, который знает узкоспециализированный инженерный язык лучше, чем GPT-4? Я инженер-конструктор, и мне надоело писать рутинный код для SOFiSTiK руками. Поэтому я решил дообучить (fine-tune) модель Qwen 3 (8B) с дистилляцией логики DeepSeek под свои задачи. В статье подробный технический разбор: — Как собрать датасет с логикой Chain of Thought (CoT). — Как бороться с Out of Memory в 24 ГБ VRAM на Windows + WSL. — Рабочие конфиги Unsloth, параметры обучения и итоговая GGUF модель. Раскрыть

https://habr.com/ru/articles/987240/

#LLM #finetuning #локальные_нейросети #RTX_3090 #Unsloth #Qwen #DeepSeek #GGUF #SOFiSTiK #CADINP

Почему Galax HOF лучшее исполнение видеокарт или как ставят рекорды разгона

Я занимаюсь разгоном компьютеров много лет, даже устанавливал мировые рекорды (Золото на HWBOT) и попадал в новости. Приоткрою завесу тайны над софтом и железом, которые скорее всего никогда не попадет к обывателям и обьяснит, почему вас обманывают маркетологи с кучей версий видеокарт и что реально нужно покупать. Сегодня я расскажу вам о том, что не покажут по телевизору, об этом вы не прочитаете в газетах и даже ваши блогеры на ютубе не расскажут.Речь о секретных скрижалях и о том, какое же исполнение видеокарты лучшее без возможности дискуссии.Об этом вам не расскажут полуремонтники полублогеры, с полузнаниями путающие кнопку включения 100% оборотов вентиляторов с кнопкой переключения между биосами. Единственной видеокартой кардинально отличающейся от всех других является Galax/KFA2 HOF, а именно версии 3080ти 3090 3090ти 4090 и будущая 5090.Все остальные карты не имеет смысла обсуждать с точки зрения компонентной базы и прочего, ведь их возможности ограничены.Чем же хорош хоф? Тем что карта изначально проектируется под потребление до 1000ватт и выше. Качественная элементная база и возможность обойти все ограничения Nvidia. Все что дальше распространялось под NDA в западных странах( сам софт) но и о его возможностях нигде не писали, полу ремонтники этого не знают.Специальный софт в комплекте с биосом который в народе называют 1000w позволяет выйти далеко за пределы ограничений nvidia.На 3000 линейке, биос слили в сеть и пользователи с другими картами могли прошить его и выйти за предели 450ватт лимита, но весь остальной функционал у них не работал, т.к аппаратно карты были другие.

https://habr.com/ru/articles/882266/

#видеокарты #разгон #компьютеры #nvidia #rtx_4090 #rtx_3090 #rtx_3080ti #rtx_3090ti #rtx_5090 #софт