#encoder — Public Fediverse posts

Современные LLM – это больше, чем просто предсказание слов

« Эта модель лучше шутит, а та лучше пишет код » — отличный критерий выбора, если вы просто переписываетесь с чатиком. Но как только LLM оказывается внутри продукта, нас перестаёт интересовать юмор и начинает волновать архитектура: encoder‑decoder против decoder‑only, мультимодальные энкодеры, test‑time reasoning, скрытые цепочки рассуждений. В этом посте попробуем перестать выбирать между логотипами и посмотреть на языковые модели как на инженерные конструкции с понятными trade‑off’ами.

https://habr.com/ru/articles/1008006/

#llm #encoder #decoder #ml

Трансформер своими руками: с нуля до Numpy реализации и обучения

В этой статье пойдет речь об одной из самых сложных и интересных архитектур — трансформере, лежащей в основе современных моделей от OpenAI и Google DeepMind. И это не научпоп для обывателя с наивным уровнем объяснения, а полноценный учебный материал, который поможет вам понять работу трансформера на фундаментальном уровне без черных ящиков типа TensorFlow и Pytorch. А для того чтобы лучше вникнуть, давайте напишем настоящий мини-трансформер на процедурном Python и обучим его! Данный материал можно изучать в разных режимах: * Как объяснение архитектуры для общего представления; * Как полноценный гайд с чтением кода и самостоятельной практикой; * Как основу для собственных экспериментов. Вы сами можете выбрать тот режим, который нужен для ваших целей на данный момент. Наш трансформер будет довольно простым: со статическим графом и одноблочными энкодером и декодером. Сам код написан в парадигме процедурного программирования (за исключением некоторых модулей) и может быть прочитан на любом уровне и без знания ООП. И все же это будет полноценный обучаемый трансформер с мультиголовым вниманием, батчами данных, параллельным вычислением и множеством параметров. Для закрепления материала, выполните Домашнее задание, которое ждет вас в конце статьи. Напишем трансформер!

https://habr.com/ru/articles/982268/

#transformer #encoder #decoder #numpy #с_нуля #deeplearning #attention #backpropagation #нейросети #pytorch

Трансформер своими руками: с нуля до Numpy реализации и обучения

В этой статье пойдет речь об одной из самых сложных и интересных архитектур — трансформере, лежащей в основе современных моделей от OpenAI и Google DeepMind. И это не научпоп для обывателя с наивным уровнем объяснения, а полноценный учебный материал, который поможет вам понять работу трансформера на фундаментальном уровне без черных ящиков типа TensorFlow и Pytorch. А для того чтобы лучше вникнуть, давайте напишем настоящий мини-трансформер на процедурном Python и обучим его! Данный материал можно изучать в разных режимах: * Как объяснение архитектуры для общего представления; * Как полноценный гайд с чтением кода и самостоятельной практикой; * Как основу для собственных экспериментов. Вы сами можете выбрать тот режим, который нужен для ваших целей на данный момент. Наш трансформер будет довольно простым: со статическим графом и одноблочными энкодером и декодером. Сам код написан в парадигме процедурного программирования (за исключением некоторых модулей) и может быть прочитан на любом уровне и без знания ООП. И все же это будет полноценный обучаемый трансформер с мультиголовым вниманием, батчами данных, параллельным вычислением и множеством параметров. Для закрепления материала, выполните Домашнее задание, которое ждет вас в конце статьи. Напишем трансформер!

https://habr.com/ru/articles/982268/

#transformer #encoder #decoder #numpy #с_нуля #deeplearning #attention #backpropagation #нейросети #pytorch

Neues Video:

#Mailbag #153: #Elektronik von #Elecrow #China: #ESP32 Rotary #Encoder mit 1.28in 240x240px IPS #Display

--> https://youtu.be/sDsGfX4up_4

#Maker #DIY #ESP32S3 #Mikrocontroller #Warentest #Review #Produkttest #Gadgets

Neues Video:

#Mailbag #153: #Elektronik von #Elecrow #China: #ESP32 Rotary #Encoder mit 1.28in 240x240px IPS #Display

--> https://youtu.be/sDsGfX4up_4

#Maker #DIY #ESP32S3 #Mikrocontroller #Warentest #Review #Produkttest #Gadgets

🚀🤖 Behold, the T5Gemma 2: a groundbreaking #innovation in... something, presumably. But don't worry, it's just another #buzzword salad from the world's favorite ad company, masquerading as groundbreaking #tech, because nothing spells excitement like "encoder-decoder" to the masses. 🥱✨
https://blog.google/technology/developers/t5gemma-2/ #T5Gemma2 #encoder-decoder #marketing #HackerNews #ngated

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 3

https://gautiersblog.blogspot.com/2025/09/writing-competitive-bzip2-encoder-in.html

#HackerNews #Writing #BZip2 #Ada #Encoder #Competitive #Coding #Part3

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 3

https://gautiersblog.blogspot.com/2025/09/writing-competitive-bzip2-encoder-in.html

#HackerNews #Writing #BZip2 #Ada #Encoder #Competitive #Coding #Part3

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 3

https://gautiersblog.blogspot.com/2025/09/writing-competitive-bzip2-encoder-in.html

#HackerNews #Writing #BZip2 #Ada #Encoder #Competitive #Coding #Part3

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 3

https://gautiersblog.blogspot.com/2025/09/writing-competitive-bzip2-encoder-in.html

#HackerNews #Writing #BZip2 #Ada #Encoder #Competitive #Coding #Part3

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 3

https://gautiersblog.blogspot.com/2025/09/writing-competitive-bzip2-encoder-in.html

#HackerNews #Writing #BZip2 #Ada #Encoder #Competitive #Coding #Part3

🚀 Oh, the riveting #saga continues! Witness as #Ada, the language nobody asked for, takes on yet another #unnecessary feat: building a #BZip2 #encoder that absolutely nobody needed – in #record time! 🤯 Part 2, because once wasn't enough! 🤡
https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html #Feat #Time #Part2 #HackerNews #ngated

🚀 Oh, the riveting #saga continues! Witness as #Ada, the language nobody asked for, takes on yet another #unnecessary feat: building a #BZip2 #encoder that absolutely nobody needed – in #record time! 🤯 Part 2, because once wasn't enough! 🤡
https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html #Feat #Time #Part2 #HackerNews #ngated

🚀 Oh, the riveting #saga continues! Witness as #Ada, the language nobody asked for, takes on yet another #unnecessary feat: building a #BZip2 #encoder that absolutely nobody needed – in #record time! 🤯 Part 2, because once wasn't enough! 🤡
https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html #Feat #Time #Part2 #HackerNews #ngated

🚀 Oh, the riveting #saga continues! Witness as #Ada, the language nobody asked for, takes on yet another #unnecessary feat: building a #BZip2 #encoder that absolutely nobody needed – in #record time! 🤯 Part 2, because once wasn't enough! 🤡
https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html #Feat #Time #Part2 #HackerNews #ngated

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Programming #Competitive #Coding #Part2

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Programming #Competitive #Coding #Part2

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Programming #Competitive #Coding #Part2

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Programming #Competitive #Coding #Part2

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Programming #Competitive #Coding #Part2

Writing a competitive BZip2 encoder in Ada from scratch in a few days – part 2

https://gautiersblog.blogspot.com/2025/07/writing-bzip2-encoder-in-ada-from.html

#HackerNews #Writing #BZip2 #Encoder #Ada #Competitive #Coding #Part2

#ESA:
"
So nehmen Sie Mondlandungsvideos auf – von körnig bis HD
"
"Wenn das nächste Mal Astronautinnen und Astronauten auf dem Mond landen, werden wir ihn in High Definition sehen. Die Übertragung erfolgt in Farbe, digital und mit bis zu 60 Bildern pro Sekunde."

https://www.esa.int/Space_in_Member_States/Germany/So_nehmen_Sie_Mondlandungsvideos_auf_von_koernig_bis_HD

28.5.2025

#CCSDS #DLR #Encoder #HDR #HDTV #Köln #LUNA #Mond #Mondlandung #Moonlight #Raumfahrt #SpaceFlight #UHD #Video

Hacking Digital Calipers for Automated Measurements and Sorta-Micron Accuracy https://hackaday.com/2025/03/06/hacking-digital-calipers-for-automated-measurements-and-sorta-micron-accuracy/ #levelshifter #raspberrypi #ToolHacks #metrology #calipers #encoder #serial

Hacking Digital Calipers for Automated Measurements and Sorta-Micron Accuracy - We’ll take a guess that most readers have a set of digital calipers somewhere clos... - https://hackaday.com/2025/03/06/hacking-digital-calipers-for-automated-measurements-and-sorta-micron-accuracy/ #levelshifter #raspberrypi #toolhacks #metrology #calipers #encoder #serial

Lathe Outfitted with Electronic Gearbox https://hackaday.com/2024/09/19/lathe-outfitted-with-electronic-gearbox/ #steppermotor #changegears #electronics #ToolHacks #gearratio #Teensy4.1 #arduino #encoder #gearbox #lathe

Lathe Outfitted with Electronic Gearbox - Running a metal lathe is not for the faint of heart. Without proper knowledge and ... - https://hackaday.com/2024/09/19/lathe-outfitted-with-electronic-gearbox/ #steppermotor #changegears #electronics #toolhacks #gearratio #teensy4.1 #arduino #encoder #gearbox #lathe

mpv a free, open-source, and cross-platform media player
https://mpv.io/
#ycombinator #mpv #mplayer #download #media_player #player_download #encoder #video #video_player #multimedia #multicast #Windows #Linux #Unix #BSD #Mac #macOS #OS_X #OSX #Streaming #DVD #Matroska #MPEG #MPEG2 #MPEG4 #H264 #DivX #MKV #m2ts #open_source #free_software #floss #free

Electronic Etch-A-Sketch, No Microcontroller Required https://hackaday.com/2024/06/20/electronic-etch-a-sketch-no-microcontroller-required/ #7400-series #demultiplex #etchasketch #multiplex #ToyHacks #discrete #encoder #matrix #logic #sram #led

Electronic Etch-A-Sketch, No Microcontroller Required - In a lot of ways, Etch-A-Sketch is the perfect toy; simple, easy to use, creative,... - https://hackaday.com/2024/06/20/electronic-etch-a-sketch-no-microcontroller-required/ #7400-series #demultiplex #etchasketch #multiplex #toyhacks #discrete #encoder #matrix #logic #sram #led

Что скрывает под собой скрытое (латентное) пространство?

Работа с латентными пространствами Латентное пространство полезно для изучения функций данных и поиска более простых представлений данных для анализа. Как используются латентные пространства в библиотеке eXplain-NNs? Визуализация латентных пространств: Этот метод позволяет отобразить скрытые признаки или паттерны, выученные нейронной сетью, в этих латентных пространствах. Это может быть полезно для понимания, как модель организует данные и какие внутренние представления она использует для принятия решений. Анализ гомологии латентных пространств: Еще один метод, предоставляемый библиотекой eXplain-NNs, это анализ гомологии латентных пространств. Анализ гомологии используется для изучения структуры и связей между этих латентных представлений. Это помогает понять, каким образом информация организована внутри модели и влияет на ее способность принимать решения.

https://habr.com/ru/articles/807405/

#encoder #decoder #latent_diffusion #mathematics #neuralnetworks #neural_network #neuroscience #neural #ai #artificial_intelligence

#Google reckons that it can improve #JPEG with #Jpegli, a new #encoder and #decoder #library that promises to be highly compatible with JPEG.

Jpegli uses heuristics developed for #JPEGXL, making it more of a JPEG XL successor (or improvement). Compared to JPEG it offers a higher #compression ratio, 10+-bit support which should reduce issues like banding. Jpegli #images are said to be compatible with existing JPEG decoders, much like #JPEGXT and XL

https://hackaday.com/2024/04/07/jpegli-googles-better-jpeg-and-possible-death-knell-for-webp/

#webDev #webp #avif

Google 推出 Jpegli：JPEG 的 encoder 以及 decoder

在 Hacker News 上看到「Jpegli: A new JPEG coding library (googleblog.com)」，原文是「Introducing Jpegli: A New JPEG Coding Library」。

裡面是有提到檔案大小可以更小：

Our results show that

https://blog.gslin.org/archives/2024/04/05/11737/google-%e6%8e%a8%e5%87%ba-jpegli%ef%bc%9ajpeg-%e7%9a%84-encoder-%e4%bb%a5%e5%8f%8a-decoder/

#Computer #Library #Murmuring #Photo #Recreation #Software #decoder #encoder #google #image #jpeg #jpegli #li #photo #suffix

@peertube quali sono i #formati (#muxer, #encoder #audio e #video) usabili per fare #livestream su Peertube.uno? Ho pasticciato un paio d'ore con #ffmpeg senza cavarci nulla (idealmente qualsiasi cosa che vada d'accordo con #libx264)

Pimp My Pot Redux, Now Cheaper and Even Better - If there’s one thing we like around here more than seeing an improved version of a... - https://hackaday.com/2024/02/10/pimp-my-pot-redux-now-cheaper-and-even-better/ #potentiometer #ringlight #ledhacks #encoder #max7219 #rotary #pcba #eda #pot #smd

Делаем intent classifier для службы поддержки без доменного датасета на русском

В этой статье я продемонстрирую, как без собственного датасета сделать классификатор намерений пользователя для службы поддержки в сфере e-commerce. И более того, я расскажу, как у меня получилось сделать классификатор для русского языка без датасета на русском языке. Меня зовут Елизавета Колмакова, я Data Scientist в компании, которая разрабатывает айти-решения для крупного ритейла.

https://habr.com/ru/articles/792542/

#intent_recognition #intent #encoder #служба_поддержки #no_dataset #classifier #telegrambot #nlp #bot

📬 FFmpeg: Komplexeste Refaktorisierung seit Jahrzehnten
#Linux #Softwareentwicklung #Streaming #Decoder #Demuxer #Encoder #FFmpeg #LegacyCode #Videoencoding #Videotranskodierungen https://tarnkappe.info/artikel/streaming/ffmpeg-komplexeste-refaktorisierung-seit-jahrzehnten-284974.html

7 minutes to compress and pack 4096 frames into an AVI file - while the ESP is animating the pendulum - that's about 10 images per second 🥳

@fast_code_r_us your JPEGENC library is awesome!

https://github.com/bitbank2/JPEGENC

#esp32 #avi #mjpeg #encoder

Roll Your Own Servo - Usually, when you want a servo motor, you simply buy one already made. But if you ... - https://hackaday.com/2023/10/04/roll-your-own-servo/ #microcontrollers #servomotor #encoder #parts

Get that AV1 encoding on the cheap!

Intel's Arc A750 beats the RTX 3060 - and is $200 at Newegg https://www.rockpapershotgun.com/intels-arc-a750-beats-the-rtx-3060-and-is-200-at-newegg

#Intel #Arc #A750 #RTX3060 #Deal #Newegg #AV1 #Encoder #GPU #TechNews

I thought I was ready to fight the final boss of the stream, but x264 had other plans for me.

The MajorLinux Show: Horizon Zero Dawn (Part 3) (01/11/2023)

https://majorlinux.com/the-majorlinux-show-horizon-zero-dawn-part-3-01-11-2023/

#x264 #Video #Encoder #h264 #OBSStudio #NVENC #Nvidia #HorizonZeroDawn #GuerillaGames #Sony #Nixxes #Streaming #Twitch #YouTube #BlackFediverse #BlackFedi #BlackMastodon #Blerd #PC #Gaming

Stacking Diverse Architectures to Improve Machine Translation

Andrea Schioppa, Nal Kalchbrenner

https://openreview.net/forum?id=mNEqiC924B

#attention #encoder #encode

I thought I was ready to fight the final boss of the stream, but x264 had other plans for me.

The MajorLinux Show: Horizon Zero Dawn (Part 3) (01/11/2023)

https://majorlinux.com/the-majorlinux-show-horizon-zero-dawn-part-3-01-11-2023/

#x264 #Video #Encoder #h264 #OBSStudio #NVENC #Nvidia #HorizonZeroDawn #GuerillaGames #Sony #Nixxes #Streaming #Twitch #YouTube #BlackFediverse #BlackFedi #BlackMastodon #Blerd #PC #Gaming

I thought I was ready to fight the final boss of the stream, but x264 had other plans for me.

The MajorLinux Show: Horizon Zero Dawn (Part 3) (01/11/2023)

https://majorlinux.com/the-majorlinux-show-horizon-zero-dawn-part-3-01-11-2023/

#x264 #Video #Encoder #h264 #OBSStudio #NVENC #Nvidia #HorizonZeroDawn #GuerillaGames #Sony #Nixxes #Streaming #Twitch #YouTube #BlackFediverse #BlackFedi #BlackMastodon #Blerd #PC #Gaming

Not a Pot, Not an Encoder: Exploring Synchros for Rotational Sensing - We’re all familiar with getting feedback from a rotating shaft, for which we usual... - https://hackaday.com/2023/02/01/not-a-pot-not-an-encoder-exploring-synchros-for-rotational-sensing/ #transformer #transmitter #mischacks #avionics #encoder #synchro #cosine #sensor #angle

Make Your Own Pot and Encoder Knobs, Without Reinventing Them - Rotary potentiometers, switches, and encoders all share a basic design: adjustment... - https://hackaday.com/2023/01/14/make-your-own-pot-and-encoder-knobs-without-reinventing-them/ #3dprinterhacks #3dprinted #hardware #heat-set #encoder #how-to #custom #spline #knob #shim #diy #pot

Anyone aware of any studies of #odometry accuracy of #encoder only versus encoder with #IMU using #EKF?

The #iRobot #Create3 even fuses encoders with IMU and an #optical flow sensor".

Does that suggest I should not expect great improvement with only encoders and IMU?

#Intel Lands an #AV1 #QSV #Encoder in #FFmpeg

Commit
https://github.com/FFmpeg/FFmpeg/commit/dc9e4789a3b504c08c8cd24e990aa692dde50bc6

Odd Inputs and Peculiar Peripherals: RoenDi Smart Knob Thinks Outside the Box - When it comes to design decisions, we’re often advised to “think outside the box.”... - https://hackaday.com/2022/06/27/odd-inputs-and-peculiar-peripherals-roendi-smart-knob-thinks-outside-the-box/ #peripheralshacks #smartknob #contests #encoder #detent #input #stm32 #gpio #knob #iot #lcd

A Rotary Encoder: How Hard Can It Be? - As you may have noticed, I’ve been working with an STM32 ARM CPU using Mbed. There... - https://hackaday.com/2022/04/20/a-rotary-encoder-how-hard-can-it-be/ #quadratureencoder #microcontrollers #hackadaycolumns #rotaryencoder #encoder #mbed #arm

Electronic Lead Screws – Not Just for Threading Anymore - An electronic leadscrew is an increasingly popular project for small and mid-sized... - https://hackaday.com/2022/01/18/electronic-lead-screws-not-just-for-threading-anymore/ #electronicleadscrew #toolhacks #leadscrew #threading #encoder #spindle #stepper #turning #lathe #cnc #els