Когда быстрый чип ждет данные: где России искать место в гонке ИИ-ускорителей
Когда говорят об аппаратном обеспечении для искусственного интеллекта, разговор обычно быстро сводится к GPU. У кого больше ускорителей, современнее техпроцесс и выше показатели в FLOPS, тот и должен выигрывать технологическую гонку. На практике мощный вычислительный кристалл может значительную часть времени ждать, пока память и интерфейсы доставят ему данные. За десять лет производительность вычислительных блоков GPU выросла намного быстрее пропускной способности памяти, а стоимость HBM остается высокой и в последние годы росла даже в пересчете на емкость и пропускную способность. Поэтому эффективность современной ИИ-платформы определяется уже не отдельным чипом, а всей системой: памятью, межсоединениями, хост-процессором, компилятором и программной средой. Может ли Россия участвовать в этой гонке, не пытаясь полностью повторить NVIDIA? Какие направления выглядят реалистичнее универсального GPU и где в подобных системах может использоваться RISC-V? Под катом разберемся, чем инференс отличается от обучения, зачем ускорителю собственные управляющие процессоры и почему перспективной точкой входа могут стать Edge AI, промышленная автоматизация и робототехника.
https://habr.com/ru/companies/riscvalliance/articles/1087982/
#ИИускорители #Российские_процессоры_для_ИИ #RISCV_в_искусственном_интеллекте #Инференс_нейросетей #Edge_AI #Physical_AI #Память_HBM #Программный_стек_ИИускорителей #Альянс_RISCV
