home.social

#cublas — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #cublas, aggregated by home.social.

  1. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  2. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  3. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  4. Oh great, another #AI claiming it can multiply matrices faster than #cuBLAS 😴. Reinforcement learning to the rescue! Because when in doubt, throw AI at it and pray for miracles 🙏.
    github.com/deepreinforce-ai/CU #Matrix #Multiplication #ReinforcementLearning #TechHumor #HackerNews #ngated

  5. Nvidia CMP – микроскопы для забивания гвоздей?! Копаем глубже…

    Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты Nvidia, чтобы понять, можно ли заставить их эффективно работать. В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.

    habr.com/ru/articles/948396/

    #llm #nvidia #cmp #50hx #90hx #lm_studio #майнинг #cuda #cublas #40hx

  6. Nvidia CMP – микроскопы для забивания гвоздей?! Копаем глубже…

    Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты Nvidia, чтобы понять, можно ли заставить их эффективно работать. В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.

    habr.com/ru/articles/948396/

    #llm #nvidia #cmp #50hx #90hx #lm_studio #майнинг #cuda #cublas #40hx

  7. Nvidia CMP – микроскопы для забивания гвоздей?! Копаем глубже…

    Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты Nvidia, чтобы понять, можно ли заставить их эффективно работать. В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.

    habr.com/ru/articles/948396/

    #llm #nvidia #cmp #50hx #90hx #lm_studio #майнинг #cuda #cublas #40hx

  8. Nvidia CMP – микроскопы для забивания гвоздей?! Копаем глубже…

    Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты Nvidia, чтобы понять, можно ли заставить их эффективно работать. В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.

    habr.com/ru/articles/948396/

    #llm #nvidia #cmp #50hx #90hx #lm_studio #майнинг #cuda #cublas #40hx

  9. TIL: Even though #Cublas always assumes column-major order, the docs of #cudaMemcpy2D assume row-major order!

  10. TIL: Even though #Cublas always assumes column-major order, the docs of #cudaMemcpy2D assume row-major order!

  11. TIL: Even though #Cublas always assumes column-major order, the docs of #cudaMemcpy2D assume row-major order!

  12. TIL: Even though #Cublas always assumes column-major order, the docs of #cudaMemcpy2D assume row-major order!

  13. Not sure who needs to know that, but if you get a #CUBLAS error 15 with #llama.cpp and the .cu-file has something about f16 at about the line which fails, starting main with --memory-f32 may be a workaround. Had this with the #NVIDIA #Tesla #M40 24GB.
    #AI #MachineLearning #CUDA #llama2 #Meta

  14. Not sure who needs to know that, but if you get a #CUBLAS error 15 with #llama.cpp and the .cu-file has something about f16 at about the line which fails, starting main with --memory-f32 may be a workaround. Had this with the #NVIDIA #Tesla #M40 24GB.
    #AI #MachineLearning #CUDA #llama2 #Meta