#ieee754 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ieee754, aggregated by home.social.
-
The existence of Godzilla Minus Zero implies the existance of:
* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaNhttps://www.youtube.com/watch?v=n-NDYWPXpKg
#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754
-
The existence of Godzilla Minus Zero implies the existance of:
* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaNhttps://www.youtube.com/watch?v=n-NDYWPXpKg
#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754
-
The existence of Godzilla Minus Zero implies the existance of:
* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaNhttps://www.youtube.com/watch?v=n-NDYWPXpKg
#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754
-
The existence of Godzilla Minus Zero implies the existance of:
* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaNhttps://www.youtube.com/watch?v=n-NDYWPXpKg
#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754
-
The existence of Godzilla Minus Zero implies the existance of:
* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaNhttps://www.youtube.com/watch?v=n-NDYWPXpKg
#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754
-
RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。
また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。
（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）
（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8 -
RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。
また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。
（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）
（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8 -
RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。
また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。
（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）
（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8 -
RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。
また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。
（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）
（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8 -
What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]
https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf
#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation
-
What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]
https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf
#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation
-
What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]
https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf
#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation
-
What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]
https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf
#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation
-
What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]
https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf
#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation
-
Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.
What a great company to be working for. Learning so much!
#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech
-
Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.
What a great company to be working for. Learning so much!
#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech
-
Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.
What a great company to be working for. Learning so much!
#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech
-
Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.
What a great company to be working for. Learning so much!
#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech
-
Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.
What a great company to be working for. Learning so much!
#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech
-
I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.
Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.
-
I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.
Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.
-
I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.
Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.
-
I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.
Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.
-
I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.
Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.
-
Il faudrait un diplôme avant d'autoriser l'utilisation des nombres à virgule flottante.
-
Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.
NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.
-
Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.
NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.
-
Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.
NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.
-
Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.
NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.
-
Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.
NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.
-
-
-
-
-
-
Как устроен генератор случайных чисел в VBA Excel Ч.3
В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...
https://habr.com/ru/articles/940480/
#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office
-
Как устроен генератор случайных чисел в VBA Excel Ч.3
В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...
https://habr.com/ru/articles/940480/
#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office
-
Как устроен генератор случайных чисел в VBA Excel Ч.3
В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...
https://habr.com/ru/articles/940480/
#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office
-
Как устроен генератор случайных чисел в VBA Excel Ч.3
В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...
https://habr.com/ru/articles/940480/
#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office
