home.social

#cublas — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #cublas, aggregated by home.social.

  1. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  2. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  3. Nvidia CMP – микроскопы для забивания гвоздей?! Копаем глубже…

    Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты Nvidia, чтобы понять, можно ли заставить их эффективно работать. В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.

    habr.com/ru/articles/948396/

    #llm #nvidia #cmp #50hx #90hx #lm_studio #майнинг #cuda #cublas #40hx

  4. TIL: Even though #Cublas always assumes column-major order, the docs of #cudaMemcpy2D assume row-major order!