#float32 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #float32, aggregated by home.social.
-
Откуда в обучении берётся nan: численная нестабильность в ML и почему всё считают в логарифмах
Многие ML‑инженеры знают, что нужно использовать CrossEntropyLoss , log_softmax и logsumexp . Гораздо меньше людей могут объяснить, что именно они спасают и почему без них обучение модели периодически превращается в генератор nan . Именно об этом и поговорим.
https://habr.com/ru/companies/otus/articles/1044824/
#численная_стабильность #машинное_обучение #нейронные_сети #softmax #logsumexp #float32 #градиенты #переполнение #underflow #PyTorch
-
Шестнадцатеричная запись чисел с плавающей точкой в C++, Java, Go
Эта возможность есть в нескольких популярных языках программирования - но она настолько невостребованна, что и не все-то коллеги о ней знают - а в других не менее популярных языках её отказываются добавлять, несмотря на запросы энтузиастов. Этакий живой курьёз. В этой коротенькой заметке-памятке - взглянем на формат записи (он может показаться не вполне логичным и не вполне шестнадцатеричным, вопреки названию) и поддержку стандарта разными языками. Основным же применением для этой "фичи" может быть, наверное - троллить друг друга на собеседованиях :) Если вам случалось использовать такую запись на практике - поделитесь в комментариях. Или хотя бы если вы можете придумать случай когда она потенциально пригодится. 0xBEDA.BEDAp0
-
Числовой тип данных с плавающей точкой float IEEE 754
Как устроен формат кодирования с плавающей точкой, что он из себя представляют и где может использоваться.
https://habr.com/ru/articles/957822/
#Тип_данных #кодирование #кодирование_аудио #вещественные_числа #float32 #floating_point #floating_point_numbers #float