#catastrophic_cancellation — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #catastrophic_cancellation, aggregated by home.social.
-
Ликбез о плавающей точке: сложение, катастрофическое сокращение и бабушка Кэхена
Давайте продолжим обсуждение самой неоптимизированной в мире 32-битной библиотеки для работы с плавающей запятой TinyFloat . Библиотека написана на C++ и намеренно избегает встроенных типов плавающей запятой, полагаясь исключительно на 32-битные целые числа. Цель состоит в том, чтобы сделать код максимально читабельным — без бит-хаков и хитроумных уловок. Кроме того, я хочу иметь подробную документацию о том, что происходит «под капотом». Оказалось, что лучший способ документировать код C++ — это полностью переписать его на Python :) Это третья статья из цикла, первые две читать тут и тут .
https://habr.com/ru/articles/967686/
#float #плавающая_точка #программирование #floating_point #Kahan_summation #catastrophic_cancellation