#ieee754 — Public Fediverse posts

@robpike @rsc Closest to the dirt here I got was proposing to implement #IEEE754 #DFP on a #Cavium #Octeon substrate for front-running #financial exchange orders. I didn't do it. But I thought it.

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]

https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf

#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation

Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.

What a great company to be working for. Learning so much!

#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

Il faudrait un diplôme avant d'autoriser l'utilisation des nombres à virgule flottante.

#floatingpoint #ieee754

Как устроен генератор случайных чисел в VBA Excel Ч.3

В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...

https://habr.com/ru/articles/940480/

#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office

(Не)случайные числа в VBA Excel Ч. 2

Вторая часть из моего цикла исследований, посвященного генерации псевдослучайных чисел в скриптовом языке VBA, используемого в офисных приложениях от Microsoft. Читать далее!

https://habr.com/ru/articles/933472/

#случайные_числа #vba #vbaмакросы #excel #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #модульная_арифметика #ieee754

Повышение эффективности образования методом «Безумного Макса», в применении для хардвера высокоскоростных вычислений

Когда студент устраивается на работу в электронную компанию, очень здорово, если он уже умеет строить одну и ту же электронную схему разными способами, в зависимости от требований пропускной способности, максимальной тактовой частоты, размера и энергопотребления. Как натренировать такое умение? Для новых домашних работ в программе Школы Синтеза Цифровых Схем мы решили разодрать на блоки реальный процессор и дать студентам задачу собирать разные специализированные вычислительные устройства из этих блоков, примерно как герои фильма "Безумный Макс: Дорога ярости" собирали свои боевые драндулеты из частей реальных автомобилей. В качестве первой жертвы мы выбрали ...

https://habr.com/ru/articles/862734/

#Verilog #VHDL #микроархитектура #riscv #FPU #ieee754 #SystemVerilog #школа_синтеза_цифровых_схем #openhwgroup #образование

Presented without comment.

#computer #nerdjoke #computerjoke #IEEE754

Что такое Decimal64 из Decimal floating point из IEEE 754 или точные десятичные числа с плавающей запятой в компьютере

Более 90% всех программистов знают, что такое обычные числа с плавающей запятой: binary32/binary64/binary128, их часто называют float, double и т.д. соответсвенно, есть много информации о том почему 0,1 не может существовать в бинарном виде, что при большом количестве значащих цифр будут недостаток точности, даже, если ты не выходишь за рамки 16 цифр, зато они быстрые… Но почти нет информации о том, что прекрасное решение, которое сохраняет все достоинства и исправляет недостатки есть, даже в самом обновленном стандарте плавающих чисел IEEE 754-2008 уже больше 15 лет, это decimal floating point(DFP) . Для начала вспомним устройство обычного binary64: 1 бит знака, 11 битов экспоненты, 52 бита мантиссы. Давайте лучше картинку покажу:

https://habr.com/ru/articles/839524/

#плавающая_запятая #плавающая_точка #dpd #decimal #float #floating_point #ieee754 #математика #технологии #компьютер

And, of course, the classic "What every computer scientist should know about floating-point arithmetic" by David Goldberg. That paper is so fundamental, the #ACM is granting free access to it. Go ahead and click on the pdf link to view it.

https://dl.acm.org/doi/10.1145/103162.103163

#FloatingPointFriday #floatingPoint #IEEE754

Here's a story about an angry carrot and a #floatingPoint fairy

http://blog.ruslans.com/2014/12/a-story-about-angry-carrot-and-floating.html

#FloatingPointFriday #IEEE754 #STEM

@matthew_d_green I like to scare my students with the this little gem (and then I explain to them that every computer with an #IEEE 754 compliant #FPU will give you the same answer, and for a very good reason)

#FloatingPoint #IEEE754 #STEM

The Fastest Fourier Transform in the West - An interesting aspect of time-varying waveforms is that by using a trick called a ... - https://hackaday.com/2022/11/23/the-fastest-fourier-transform-in-the-west/ #fastfouriertransform #signalprocessing #softwarehacks #arduinohacks #optimisation #trigonometry #ieee754 #julia #fft