home.social

#rounding — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #rounding, aggregated by home.social.

  1. Decimal Precision Rounds Numbers?!

    DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!

    #sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql

    youtube.com/watch?v=wNyhCqAhlb8

  2. Decimal Precision Rounds Numbers?!

    DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!

    #sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql

    youtube.com/watch?v=wNyhCqAhlb8

  3. Decimal Precision Rounds Numbers?!

    DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!

    #sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql

    youtube.com/watch?v=wNyhCqAhlb8

  4. Decimal Precision Rounds Numbers?!

    DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!

    #sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql

    youtube.com/watch?v=wNyhCqAhlb8

  5. Decimal Precision Rounds Numbers?!

    DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!

    #sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql

    youtube.com/watch?v=wNyhCqAhlb8

  6. Округление и форматирование чисел в React: адаптивный подход

    Всем привет, на связи снова я — Дмитрий, React-разработчик. И сегодня хочу поднять тему, которая на первый взгляд кажется простой, но на практике может доставить немало сюрпризов - округление и форматирование чисел в интерфейсе. Изначально может показаться, что здесь сложного практически ничего нет: есть toFixed() и toLocaleString(), но практика показывает, что реальные интерфейсы почти никогда в это не укладываются. Почему? Потому что в разных диапазонах чисел пользователи ждут разного поведения. Именно с этим сталкиваются разработчики при работе с таблицами, отчётами, финансовыми данными и аналитикой. В этой статье я предложу функцию, которая решает определенные задачи округления и форматирования, и разберу, как она подбирает количество знаков после запятой в зависимости от величины числа Ниже опишу требования к форматированию, которые легли в основу функции, и покажу, как они отражаются в коде и в интерфейсе.

    habr.com/ru/companies/gnivc/ar

    #javascript #react #mathematics #frontend #rounding #formatting #numbers #math #working_with_numbers #case

  7. Округление и форматирование чисел в React: адаптивный подход

    Всем привет, на связи снова я — Дмитрий, React-разработчик. И сегодня хочу поднять тему, которая на первый взгляд кажется простой, но на практике может доставить немало сюрпризов - округление и форматирование чисел в интерфейсе. Изначально может показаться, что здесь сложного практически ничего нет: есть toFixed() и toLocaleString(), но практика показывает, что реальные интерфейсы почти никогда в это не укладываются. Почему? Потому что в разных диапазонах чисел пользователи ждут разного поведения. Именно с этим сталкиваются разработчики при работе с таблицами, отчётами, финансовыми данными и аналитикой. В этой статье я предложу функцию, которая решает определенные задачи округления и форматирования, и разберу, как она подбирает количество знаков после запятой в зависимости от величины числа Ниже опишу требования к форматированию, которые легли в основу функции, и покажу, как они отражаются в коде и в интерфейсе.

    habr.com/ru/companies/gnivc/ar

    #javascript #react #mathematics #frontend #rounding #formatting #numbers #math #working_with_numbers #case

  8. Округление и форматирование чисел в React: адаптивный подход

    Всем привет, на связи снова я — Дмитрий, React-разработчик. И сегодня хочу поднять тему, которая на первый взгляд кажется простой, но на практике может доставить немало сюрпризов - округление и форматирование чисел в интерфейсе. Изначально может показаться, что здесь сложного практически ничего нет: есть toFixed() и toLocaleString(), но практика показывает, что реальные интерфейсы почти никогда в это не укладываются. Почему? Потому что в разных диапазонах чисел пользователи ждут разного поведения. Именно с этим сталкиваются разработчики при работе с таблицами, отчётами, финансовыми данными и аналитикой. В этой статье я предложу функцию, которая решает определенные задачи округления и форматирования, и разберу, как она подбирает количество знаков после запятой в зависимости от величины числа Ниже опишу требования к форматированию, которые легли в основу функции, и покажу, как они отражаются в коде и в интерфейсе.

    habr.com/ru/companies/gnivc/ar

    #javascript #react #mathematics #frontend #rounding #formatting #numbers #math #working_with_numbers #case

  9. Округление и форматирование чисел в React: адаптивный подход

    Всем привет, на связи снова я — Дмитрий, React-разработчик. И сегодня хочу поднять тему, которая на первый взгляд кажется простой, но на практике может доставить немало сюрпризов - округление и форматирование чисел в интерфейсе. Изначально может показаться, что здесь сложного практически ничего нет: есть toFixed() и toLocaleString(), но практика показывает, что реальные интерфейсы почти никогда в это не укладываются. Почему? Потому что в разных диапазонах чисел пользователи ждут разного поведения. Именно с этим сталкиваются разработчики при работе с таблицами, отчётами, финансовыми данными и аналитикой. В этой статье я предложу функцию, которая решает определенные задачи округления и форматирования, и разберу, как она подбирает количество знаков после запятой в зависимости от величины числа Ниже опишу требования к форматированию, которые легли в основу функции, и покажу, как они отражаются в коде и в интерфейсе.

    habr.com/ru/companies/gnivc/ar

    #javascript #react #mathematics #frontend #rounding #formatting #numbers #math #working_with_numbers #case

  10. Let's play a game of "Mountweazel or IEEE?"
    youtube.com/watch?v=7LKy3lrkTRA
    Fun fact: back in the day a popular name for a slide rule was a 'guessing stick'. We need to remember that calculators are also not perfect.
    #maths #calculator #IEEE #Mountweazel #pi #Casio #rounding #rational

  11. Yes, we can make the shape with pure #CSS, no SVG, but, as codepen.io/thebabydino/pen/vYq shows, aligning parts making up concave rounded corner shapes is a problem.

    Still, there is one thing that bothers me: putting the image in the SVG `filter` means we need a different SVG `filter` for every different image. Boo!

    So... for the same #SVG `filter` part regardless of the image solution!

    We start with #CSS `subgrid`!

    #subpixel #rounding #ugh #code #coding #frontend #dev #webDev #dev #webDevelopment

  12. @BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!

    #pi #constants #fuller #bucky #rounding

  13. @BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!

    #pi #constants #fuller #bucky #rounding

  14. @BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!

    #pi #constants #fuller #bucky #rounding

  15. @BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!

    #pi #constants #fuller #bucky #rounding

  16. #tinyCSStip Use case for CSS mathematical functions.

    `round()` edition: size box so that it contains the background pattern size an integer number of times plus half codepen.io/thebabydino/pen/yLW

    #css #maths #cssMaths #rounding #code #coding #web #webDev #webDevelopment #dev #frontend #cssPattern #cssMask

  17. @skimlines

    I haven't looked too closely, but the "only sometimes it's short a nickel" screams #rounding error to me. You're using #floats, so floating-point #precision issues can also creep in, though with small values that's less likely.

    You might use #Decimal values instead of floats (in the decimal module). They're pretty standard for #currency calculations.

    [...]

    #RoundingError

  18. My blogs will feature some elements from my existing research, This includes #umlaut, including the spread of #rounding, and #breaking.
    #EastNorse and #Gutnish, perhaps #Övdalian, have a different story to tell here and may contribute a lot to the reconstruction of how the process originally proceeded.

  19. today's distributed system fun is different log systems that record their timestamps with different rounding (ms vs μs) so some events move back in time by an average of half a millisecond

    #timestamps
    #rounding
    #logging