#ieee754 — Public Fediverse posts

Нейронные аудиокодеки: мощное сжатие звука с помощью LLM

В июле 2024 года французская компания Kyutai опубликовала речевую модель Moshi с нейронным аудиокодеком Mimi. Это был первый в мире голосовой end-to-end AI с открытыми исходниками, способный вести диалог в реальном времени и свободный для использования всеми желающими, демо . Вместо прямого предсказания сэмплов аудиокодек работает в три этапа: 1. Токенизация звука. 2. Предсказание следующих токенов в LLM. 3. Восстановление оригинала.

https://habr.com/ru/companies/ruvds/articles/1040026/

#float #double #fc #архиваторы #IEEE754 #метаархиватор #Mimi #tiktoken #семантические_токены #ruvds_статьи

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

The existence of Godzilla Minus Zero implies the existance of:

* Godzilla Plus Infinity
* Godzilla Minus Infinity
* Denormalized Godzilla
* Godzilla NaN

https://www.youtube.com/watch?v=n-NDYWPXpKg

#godzilla #godzillaMinusZero #toho #shinGodzilla #nan #ieee #ieee754

RISC-VではF拡張にFMIN.S / FMAX.Sがあり、IEEE 754-2019のminimumNumber / maximumNumberに相当する。また、Zfa拡張にFMINM.S / FMAXM.Sがあり、minimum / maximumに相当する。

また、D拡張を実装していればFMIN.D / FMAX.Dが、D拡張とZfa拡張を実装していればFMINM.D / FMAXM.Dが、Q拡張を実装していればFMIN.QとFMAX.Qが、Q拡張とZfa拡張を実装していればFMINM.QとFMAXM.Qが、Zfh拡張を実装していればFMIN.H / FMAX.Hが、Zfh拡張とZfa拡張を実装していればFMINM.H / FMAXM.Hがある。

（古い実装ではFMIN.*とFMAX.*がIEEE 754-2008のminNum / maxNumに相当する。実機を色々集めてどちらの実装になっているか確認するのも少し面白そう。）

（2020-05）浮動小数点数の min / max #IEEE754 - Qiita
https://qiita.com/mod_poppo/items/41a09bd40acfceec6ec8

What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]

https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf

#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation

What Every Computer Scientist Should Know about Floating-Point Arithmetic [pdf]

https://www.itu.dk/~sestoft/bachelor/IEEE754_article.pdf

#HackerNews #FloatingPointArithmetic #ComputerScience #IEEE754 #ProgrammingKnowledge #TechEducation

Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.

What a great company to be working for. Learning so much!

#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech

Might publish a blog or two in a few weeks about my work with OpenFOAM, different profilers, and an implementation of an LBM CFD kernel on RISC-V with POSITS.

What a great company to be working for. Learning so much!

#posit #RISCV #cfd #openfoam #lbm #cfd #scientificcomputing #profiler #Linux #blog #technicalblog #ieee754 #calligotech

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

I just released decimal-java 2.0.1, https://github.com/FirebirdSQL/decimal-java/releases/tag/v2.0.1. Decimal-java is a library to convert java.math.BigDecimal to and from IEEE-754r (IEEE-754-2008) decimal byte representations.

Compared to decimal-java 2.0.0, this version adds JSpecify nullability annotations.

#decimal #ieee754 #java

Il faudrait un diplôme avant d'autoriser l'utilisation des nombres à virgule flottante.

#floatingpoint #ieee754

@linuxgal

Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.

NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.

#Python #IEEE754 #FloatingPoint #math #standard

@linuxgal

Note that this isn't Python-specific behaviour. This is required by the IEEE-754 floating-point standard, which Python (and most other runtimes) conform to.

NaN, Inf, -Inf, comparison rules, exceptions ... it's all in there.

#Python #IEEE754 #FloatingPoint #math #standard

IEEE754 moment.

#IEEE754 #FloatingPoint

IEEE754 moment.

#IEEE754 #FloatingPoint

Как устроен генератор случайных чисел в VBA Excel Ч.3

В предыдущих частях работы ( Часть 1 , Часть 2 ) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями. В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали! Все случайное неслучайно...

https://habr.com/ru/articles/940480/

#случайные_числа #генераторы_случайных_чисел #excel #vbaмакросы #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #ieee754 #microsoft_office

#Python #FloatingPointNumber #IEEE754

#Python #FloatingPointNumber #IEEE754

(Не)случайные числа в VBA Excel Ч. 2

Вторая часть из моего цикла исследований, посвященного генерации псевдослучайных чисел в скриптовом языке VBA, используемого в офисных приложениях от Microsoft. Читать далее!

https://habr.com/ru/articles/933472/

#случайные_числа #vba #vbaмакросы #excel #линейный_конгруэнтный_метод #псевдослучайные_числа #псевдослучайные_генераторы #генератор_случайных_чисел #модульная_арифметика #ieee754

Why did IEEE specify sqrt(-0) to be -0?! That's … surprising when applied to the interpretation of -0 in the context of complex numbers:
sqrt(complex{-0,+0}) is complex{+0,+0}.
And also pow(-0, 0.5) is +0.
If anything sqrt(-0) should be NaN, but why -0?

#floatingpoint #iec60559 #ieee754 #CPlusPlus #C #cpp

Why did IEEE specify sqrt(-0) to be -0?! That's … surprising when applied to the interpretation of -0 in the context of complex numbers:
sqrt(complex{-0,+0}) is complex{+0,+0}.
And also pow(-0, 0.5) is +0.
If anything sqrt(-0) should be NaN, but why -0?

#floatingpoint #iec60559 #ieee754 #CPlusPlus #C #cpp

OK -- I finished a prototype for my custom mono-field floating-point format, in Golang. I haven't done extensive testing, but it works fine so far -- addition, subtraction, multiplication, and division.

One of the distinguishing characteristics of it is that the amount of bits *available* for the significand varies based on the exponent. You get between 0 (yes) and 32 (yes) bits for the significand.

I think I'll put this up on #GitLab at some point.
#computerScience #computing #IEEE #IEEE754

and for the #IEEE754 / #floatingpoint nerds (you know who you are!) here's a much more definitive answer/breakdown of our IEEE Binary FP32 conformance for the Vector Unit! https://github.com/tenstorrent/tt-isa-documentation/blob/main/WormholeB0/TensixTile/TensixCoprocessor/SFPMAD.md#ieee754-conformance--divergence

#RVV #SIMD #HPC

and for the #IEEE754 / #floatingpoint nerds (you know who you are!) here's a much more definitive answer/breakdown of our IEEE Binary FP32 conformance for the Vector Unit! https://github.com/tenstorrent/tt-isa-documentation/blob/main/WormholeB0/TensixTile/TensixCoprocessor/SFPMAD.md#ieee754-conformance--divergence

#RVV #SIMD #HPC

For #programmers:
You are familiar with 64-bit floating point and 32-bit floating point, and may have heard about 16-bit floating point (present in some GPUs), but there is actually work on 8-BIT floating-point!

https://arxiv.org/abs/2209.05433
https://developer.nvidia.com/blog/nvidia-arm-and-intel-publish-fp8-specification-for-standardization-as-an-interchange-format-for-ai/

There is the "E5M2" variant, a "truncated IEEE FP16 format" (nice if lacking FP8). Although, at the miniscule 8-bit level, you don't necessarily need multiple NaNs or need infinities, so there is the "E4M3" variant as well.

#IEEE754 #AI

Sertifioitu IEEE 754 -hetki Ilmatieteen laitoksella.

#IEEE754 #FloatingPoint #ohjelmointi

Sertifioitu IEEE 754 -hetki Ilmatieteen laitoksella.

#IEEE754 #FloatingPoint #ohjelmointi

Channeling my inner @shafik, assuming a standard, compliant #riscv processor, what kind of float instructions can be executed on the vector unit of a processor that advertises

"RV32IMFDZve64f"

#HPC #IEEE754 #SIMD #RISCV #RVV

https://github.com/riscvarchive/riscv-v-spec/releases/download/v1.0/riscv-v-spec-1.0.pdf

Channeling my inner @shafik, assuming a standard, compliant #riscv processor, what kind of float instructions can be executed on the vector unit of a processor that advertises

"RV32IMFDZve64f"

#HPC #IEEE754 #SIMD #RISCV #RVV

https://github.com/riscvarchive/riscv-v-spec/releases/download/v1.0/riscv-v-spec-1.0.pdf

Повышение эффективности образования методом «Безумного Макса», в применении для хардвера высокоскоростных вычислений

Когда студент устраивается на работу в электронную компанию, очень здорово, если он уже умеет строить одну и ту же электронную схему разными способами, в зависимости от требований пропускной способности, максимальной тактовой частоты, размера и энергопотребления. Как натренировать такое умение? Для новых домашних работ в программе Школы Синтеза Цифровых Схем мы решили разодрать на блоки реальный процессор и дать студентам задачу собирать разные специализированные вычислительные устройства из этих блоков, примерно как герои фильма "Безумный Макс: Дорога ярости" собирали свои боевые драндулеты из частей реальных автомобилей. В качестве первой жертвы мы выбрали ...

https://habr.com/ru/articles/862734/

#Verilog #VHDL #микроархитектура #riscv #FPU #ieee754 #SystemVerilog #школа_синтеза_цифровых_схем #openhwgroup #образование

Whom should I call to add NaN support in #JSON?

#JavaScript #floatingpoint #ieee754

🎉 🎉 C23 and C++23 are finally joining the quadruple precision club, by bringing a standard way to handle 128-bit floating point numbers!
(FP16 is also here if you need it)

Here is hoping that a future Fortran standard will adopt the C_Float128 kind specifier that gcc/gfortran already has as an extension.
https://en.cppreference.com/w/cpp/types/floating-point

#c23 #cpp23 #cpp #ieee754 #Fortran #floatingpoint

🎉 🎉 C23 and C++23 are finally joining the quadruple precision club, by bringing a standard way to handle 128-bit floating point numbers!
(FP16 is also here if you need it)

Here is hoping that a future Fortran standard will adopt the C_Float128 kind specifier that gcc/gfortran already has as an extension.
https://en.cppreference.com/w/cpp/types/floating-point

#c23 #cpp23 #cpp #ieee754 #Fortran #floatingpoint

Presented without comment.

#computer #nerdjoke #computerjoke #IEEE754

Presented without comment.

#computer #nerdjoke #computerjoke #IEEE754

Что такое Decimal64 из Decimal floating point из IEEE 754 или точные десятичные числа с плавающей запятой в компьютере

Более 90% всех программистов знают, что такое обычные числа с плавающей запятой: binary32/binary64/binary128, их часто называют float, double и т.д. соответсвенно, есть много информации о том почему 0,1 не может существовать в бинарном виде, что при большом количестве значащих цифр будут недостаток точности, даже, если ты не выходишь за рамки 16 цифр, зато они быстрые… Но почти нет информации о том, что прекрасное решение, которое сохраняет все достоинства и исправляет недостатки есть, даже в самом обновленном стандарте плавающих чисел IEEE 754-2008 уже больше 15 лет, это decimal floating point(DFP) . Для начала вспомним устройство обычного binary64: 1 бит знака, 11 битов экспоненты, 52 бита мантиссы. Давайте лучше картинку покажу:

https://habr.com/ru/articles/839524/

#плавающая_запятая #плавающая_точка #dpd #decimal #float #floating_point #ieee754 #математика #технологии #компьютер

The whiteboard next to the department coffee machine is covered in ancient comics and tedious administrative notices, so to liven it up a bit, I put up the three-page list of definitions from #IEEE754-2019.

The whiteboard next to the department coffee machine is covered in ancient comics and tedious administrative notices, so to liven it up a bit, I put up the three-page list of definitions from #IEEE754-2019.

1. IEEE standard 754 (floating point number arithmetic) which Desmos uses cannot accurately mod \(10\) at this high of a number (\(10^{18}\varphi \)), as when it tries to divide the large number by \(10\) and find the remainder, the last bits is \(512\) and \(2048\), and when getting divided by \(10\), these become \(256\) and \(512\) (with the precision). The mod algorithm accidentally grabs the \(256\) bit and reverses the sign.

2. Desmos displays undefined, but internally it stores \(\infty\), as per the IEEE 754 standard. Then, \(\frac1\infty\) is considered to be \(0\), which is why that fraction is equal to \(0\). It doesn't store the value of \(\frac10\). Instead, it's stored as the Desmos-specific mathematical constant \(\infty\), roughly equal to \(10^{308}\). So, \(\frac{3}{2(2-2)}-1\) is about \(10^{308}\), and \(\frac{5}{10^{308}}\) is roughly \(0\), since all numbers in Desmos are rounded to \(15\) decimal points.

Here's an online calculator you can use to see how some values are represented in IEEE754 floating point!
https://www.h-schmidt.net/FloatConverter/IEEE754.html
#Desmos #IEEE754 #FloatingPoint #Error #FloatingPointError #FloatingPointNumber #Precision #Accuracy #Numbers #Maths #NumericalValues

A good dive into how Python represents floating point numbers, and how comparisons against integers can give unexpected results.

https://blog.codingconfessions.com/p/how-python-compares-floats-and-ints

#python #programming #floatingpoint #math #ieee754

if female is 0.3, my gender is 0.1 + 0.2
#IEEE754

based on https://mast.hpc.social/@fclc/111760528495177007

I'm going to stick to #IEEE754, thanks for voting 😊

I'm a numerical methods hobbyist at best, but I do enjoy reading about #IEEE754. I can also recommend the Handbook of Floating-Point Arithmetic, which... is about as dry as it sounds, but a pleasant read nonetheless!

This paper explains that #IEEE754 (the floating point standard) removed fmax/fmin because it was so inconsistently implemented you could not assume portable behaviour anyway: https://grouper.ieee.org/groups/msc/ANSI_IEEE-Std-754-2019/background/minNum_maxNum_Removal_Demotion_v3.pdf

#Programming pop quiz. In C++, if you encounter one of the following sections of code. What is the author trying to do?

// Example 1
f += 0.0f;

// Example 2
if( f == 0.0f )
f = 0.0f;

#cpp
#IEEE754

What follows from that "free" conversion is if it's compliant conversion (#IEEE754) or more typical GPU funsafe math conversions

@gurtt check out this almost legendary talk about #JavaScript and #Ruby quirks: https://www.destroyallsoftware.com/talks/wat. Just keep in mind that some of them are related to Standard for Floating-Point Arithmetic (#IEEE754) not JS per se