#multigpu_workstation — Public Fediverse posts

Как я собрал LLM-печку на 4 GPU, и на что она способна

Всем привет, недавно я собрал и сейчас активно использую ПК для локального запуска хоть сколько-то серьезных LLM, и захотелось поделиться этим опытом с сообществом. На статью меня сподвигло то, что в рунете до обидного мало информации на тему, как собрать ПК на несколько GPU не на майнерском, не на серверном или не на HEDT, а именно на пользовательском железе. Поговорим, про сложности, про возможности домашнего инференса и про опыт использования локальной LLM

https://habr.com/ru/articles/1041422/

#железо #llm #opencode #агент #сборка #nvidia #multigpu_workstation #homelab #homeserver #ai

PCIe, водянка и райзеры: реальный опыт сборки сервера под 5 GPU дома

Всё началось с желания автономно заниматься исследованиями в области искусственного интеллекта и запускать свои эксперименты без ограничений облачных сервисов или недостаточных ресурсов рабочих кластеров. Наука и исследования давно стали для меня не только профессией, но и хобби: запускать эксперименты, сравнивать модели, тестировать свежие идеи - всё это требует собственной инфраструктуры. Именно поэтому я решил собрать домашний GPU‑сервер «под себя» для полноценного AI‑ресёрча

https://habr.com/ru/articles/962992/

#сборка_GPU #опыт_эксплуатации #домашний_сервер #multigpu_workstation #ai_research #best_practices