#rounding — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #rounding, aggregated by home.social.
-
The GNU libc atanh is correctly rounded
https://inria.hal.science/hal-05591661
#HackerNews #GNU #libc #atanh #correctly #rounded #rounding #errors #software #development #libc
-
Decimal Precision Rounds Numbers?!
DECIMAL precision ROUNDS values! Cast 1.999 to DECIMAL(5,2) and it becomes 2.00. This silent rounding will cause calculation errors!
#sql #sqltricks #decimal #precision #rounding #sqlweird #sqlquiz #codingchallenge #sqlshorts #sqlwtf #datatypes #advancedsql
-
Округление и форматирование чисел в React: адаптивный подход
Всем привет, на связи снова я — Дмитрий, React-разработчик. И сегодня хочу поднять тему, которая на первый взгляд кажется простой, но на практике может доставить немало сюрпризов - округление и форматирование чисел в интерфейсе. Изначально может показаться, что здесь сложного практически ничего нет: есть toFixed() и toLocaleString(), но практика показывает, что реальные интерфейсы почти никогда в это не укладываются. Почему? Потому что в разных диапазонах чисел пользователи ждут разного поведения. Именно с этим сталкиваются разработчики при работе с таблицами, отчётами, финансовыми данными и аналитикой. В этой статье я предложу функцию, которая решает определенные задачи округления и форматирования, и разберу, как она подбирает количество знаков после запятой в зависимости от величины числа Ниже опишу требования к форматированию, которые легли в основу функции, и покажу, как они отражаются в коде и в интерфейсе.
https://habr.com/ru/companies/gnivc/articles/985170/
#javascript #react #mathematics #frontend #rounding #formatting #numbers #math #working_with_numbers #case
-
@BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!
-
@BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!
-
@BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!
-
@BathysphereHat - Bucky Fuller posed a fascinating question once: where does God round off pi when he's making a bubble? Miss you Bucky!