home.social

#гетерогенные_вычисления — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #гетерогенные_вычисления, aggregated by home.social.

fetched live
  1. [Перевод] Ваша платформа Kubernetes готова к контейнерам. Готова ли она к ИИ?

    Kubernetes дал платформенным командам единообразный способ развёртывать, масштабировать и эксплуатировать контейнеризированные приложения. Теперь многим из них приходится поддерживать и ИИ-нагрузки. Переход уже начался. По данным CNCF 2025 Annual Cloud Native Survey, 66% организаций, которые размещают генеративные ИИ-модели, используют Kubernetes для части или всех инференс-нагрузок. Однако ежедневно развёртывают ИИ-модели лишь 7% организаций. Этот разрыв показывает разницу между запуском ИИ-нагрузок в Kubernetes и платформой, которая готова непрерывно эксплуатировать ИИ в production. Проблема заметна и внутри платформенных команд. Исследование 2025 State of AI in Platform Engineering 2 показало, что 35% таких команд всё ещё не оркестрируют ИИ-нагрузки. Это говорит о разрыве между внедрением ИИ и зрелостью операционных платформ, необходимых для его масштабной поддержки. ИИ не требует от платформенных команд отказываться от Cloud Native-практик. Kubernetes, GitOps, observability, автоматизация и самообслуживание по-прежнему составляют ценный фундамент. Однако ИИ предъявляет дополнительные требования к вычислительным ресурсам, планированию, доставке моделей и эксплуатации. Команда VK Cloud перевела статью о том, что должно измениться, чтобы Kubernetes-платформа была готова к эксплуатации ИИ-нагрузок.

    habr.com/ru/companies/vktech/a

    #vk_cloud #Kubernetes #ИИнагрузки #платформенная_инженерия #GPU #гетерогенные_вычисления #GitOps #CI_CD #observability #инференс

  2. Зачем вашему процессору нейронный блок, если есть RTX 4090?

    2024 и 2025 годы в индустрии железа прошли под знаком двух букв: AI. Если раньше нам продавали гигагерцы и количество ядер, то теперь маркетологи Intel, AMD и Qualcomm меряются TOPS (триллионами операций в секунду). Нам обещают эру «AI PC», встраивают нейронные блоки (NPU) даже в бюджетные «камни» и лепят отдельные кнопки для вызова ассистентов на клавиатуры. Но у энтузиаста, собравшего систему с условной RTX 4090, возникает резонный вопрос: зачем мне этот "хилый отросток" в процессоре, если моя видеокарта мощнее его в 50 раз? Спойлер: не ради мощности, а ради того, чтобы ваш компьютер перестал быть просто "числодробилкой" и стал действительно отзывчивым. Давайте отбросим маркетинг и разберемся в архитектуре, сценариях использования и том, почему индустрия упорно толкает нас к гетерогенным вычислениям.

    habr.com/ru/articles/971820/

    #AI #NPU #аппаратное_обеспечение #нейросети #производительность #RTX_4090 #гетерогенные_вычисления

Share on Mastodon

Enter the server where you have an account.