#rdma — Public Fediverse posts

1,5 To de VRAM sur un Mac Studio - Le RDMA Thunderbolt 5 qui change la donne

https://fed.brid.gy/r/https://korben.info/mac-studio-rdma-thunderbolt-5-cluster-ia.html

macOS 26.2 enables fast AI clusters with RDMA over Thunderbolt

https://developer.apple.com/documentation/macos-release-notes/macos-26_2-release-notes#RDMA-over-Thunderbolt

#HackerNews #macOS #AI #Thunderbolt #RDMA #clusters #technology

New benchmarks show RDMA slashing CPU load for S3‑compatible object storage, letting NVIDIA GPUs focus on AI inference. The result? Faster, more efficient pipelines with less network I/O overhead. Dive into the data and see how this tech boost can reshape your AI workloads. #RDMA #S3Storage #AIInference #NVIDIA

🔗 https://aidailypost.com/news/rdma-cuts-cpu-use-s3-compatible-storage-boosting-ai-performance

New benchmarks show RDMA slashing CPU load for S3‑compatible object storage, letting NVIDIA GPUs focus on AI inference. The result? Faster, more efficient pipelines with less network I/O overhead. Dive into the data and see how this tech boost can reshape your AI workloads. #RDMA #S3Storage #AIInference #NVIDIA

🔗 https://aidailypost.com/news/rdma-cuts-cpu-use-s3-compatible-storage-boosting-ai-performance

[Перевод] Подробное руководство по облачной инфраструктуре для ИИ-проектов

Как вычислительные ресурсы, системы хранения, сетевые технологии и AI-фреймворки влияют на производительность AI-проектов. Почему понимание этой инфраструктуры даёт конкурентное преимущество

https://habr.com/ru/articles/896194/

#облачная_инфраструктура #искусственный_интеллект #gpu #tpu #dpu #хранение_данных #сетевые_технологии #nvlink #rdma #ai_фреймворки

Что нового слышно о шине CXL: заметки с саммита по вычислениям, памяти и хранению данных

Приветствую, на связи снова Сергей Баширов, ведущий разработчик из R&D-команды Cloud.ru. Недавно я посетил очередной Compute, Memory, and Storage Summit , на котором было довольно много докладов на тему Compute Express Link (CXL). В статье сделал краткую выжимку из выступлений, а также поделился своими наблюдениями и выводами. Рассказал, чем полезна CXL и как устроена эта технология, разобрал сценарии применения в облачной инфраструктуре, а также поделился ссылками на интересные доклады по теме. Читать дальше

https://habr.com/ru/companies/cloud_ru/articles/845946/

#cxl #pci_express #когерентность #суперкомпьютеры #CXL_в_облаке #rdma #compute_express_link #память #gocloud_tech

#NVIDIA Announces #Ethernet Platform for #AI from #Dell, #HPE, #Lenovo
#SpectrumX combines the extreme performance of the #Spectrum4 Ethernet switch; the NVIDIA #BlueField3 #SuperNIC. Spectrum-4 is 51Tb/sec Ethernet.BlueField-3 SuperNICs are designed for network-intensive, massively parallel computing, offering up to 400Gb/s #RDMA over Converged Ethernet (#RoCE) network connectivity between #GPU #servers
https://insidehpc.com/2023/11/nvidia-announces-ethernet-platform-for-ai-from-dell-hpe-lenovo/