home.social

#fpu — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #fpu, aggregated by home.social.

  1. MC68881 VHDL: FPGA implementation of the Motorola FPU

    Matthew Pearce is working on an open-source reimplementation of the Motorola 68881 floating-point unit. Until now, FPGA-68k systems have relied on software emulation, stubs or behavioral shortcuts that cannot reproduce the actual FPU behavior. The reconstruction of the MC68881 in VHDL is intended to close this gap:

    amiga-news.de/en/news/AN-2026-

  2. [Перевод] Два бита на транзистор: ПЗУ микрокода повышенной плотности в FPU-сопроцессоре Intel 8087

    Чип 8087 обеспечивал быстрые вычисления с плавающей запятой для первого IBM PC и со временем стал частью x86-архитектуры, используемой и сегодня. Одна необычная особенность 8087 — многоуровневое ПЗУ, где каждая ячейка кодировала два бита, что давало плотность примерно вдвое выше обычного ПЗУ. Вместо хранения двоичных данных каждая ячейка ПЗУ 8087 хранила одно из четырёх уровневых значений, которое затем декодировалось в два двоичных бита. Поскольку 8087 требовалось большое ПЗУ микрокода, а сам чип уже упирался в пределы по числу транзисторов для размещения на кристалле, Intel применил этот специальный приём, чтобы ПЗУ «влезло». В этой статье я объясню, как Intel реализовал это многоуровневое ПЗУ. Разобрать 8087

    habr.com/ru/companies/otus/art

    #микрофотографии_кристалла #компаратор #ПЗУ #микрокод #многоуровневая_память #FPU #сопроцессор #NMOS #Intel_8087

  3. [Перевод] Два бита на транзистор: ПЗУ микрокода повышенной плотности в FPU-сопроцессоре Intel 8087

    Чип 8087 обеспечивал быстрые вычисления с плавающей запятой для первого IBM PC и со временем стал частью x86-архитектуры, используемой и сегодня. Одна необычная особенность 8087 — многоуровневое ПЗУ, где каждая ячейка кодировала два бита, что давало плотность примерно вдвое выше обычного ПЗУ. Вместо хранения двоичных данных каждая ячейка ПЗУ 8087 хранила одно из четырёх уровневых значений, которое затем декодировалось в два двоичных бита. Поскольку 8087 требовалось большое ПЗУ микрокода, а сам чип уже упирался в пределы по числу транзисторов для размещения на кристалле, Intel применил этот специальный приём, чтобы ПЗУ «влезло». В этой статье я объясню, как Intel реализовал это многоуровневое ПЗУ. Разобрать 8087

    habr.com/ru/companies/otus/art

    #микрофотографии_кристалла #компаратор #ПЗУ #микрокод #многоуровневая_память #FPU #сопроцессор #NMOS #Intel_8087

  4. [Перевод] Два бита на транзистор: ПЗУ микрокода повышенной плотности в FPU-сопроцессоре Intel 8087

    Чип 8087 обеспечивал быстрые вычисления с плавающей запятой для первого IBM PC и со временем стал частью x86-архитектуры, используемой и сегодня. Одна необычная особенность 8087 — многоуровневое ПЗУ, где каждая ячейка кодировала два бита, что давало плотность примерно вдвое выше обычного ПЗУ. Вместо хранения двоичных данных каждая ячейка ПЗУ 8087 хранила одно из четырёх уровневых значений, которое затем декодировалось в два двоичных бита. Поскольку 8087 требовалось большое ПЗУ микрокода, а сам чип уже упирался в пределы по числу транзисторов для размещения на кристалле, Intel применил этот специальный приём, чтобы ПЗУ «влезло». В этой статье я объясню, как Intel реализовал это многоуровневое ПЗУ. Разобрать 8087

    habr.com/ru/companies/otus/art

    #микрофотографии_кристалла #компаратор #ПЗУ #микрокод #многоуровневая_память #FPU #сопроцессор #NMOS #Intel_8087

  5. [Перевод] Два бита на транзистор: ПЗУ микрокода повышенной плотности в FPU-сопроцессоре Intel 8087

    Чип 8087 обеспечивал быстрые вычисления с плавающей запятой для первого IBM PC и со временем стал частью x86-архитектуры, используемой и сегодня. Одна необычная особенность 8087 — многоуровневое ПЗУ, где каждая ячейка кодировала два бита, что давало плотность примерно вдвое выше обычного ПЗУ. Вместо хранения двоичных данных каждая ячейка ПЗУ 8087 хранила одно из четырёх уровневых значений, которое затем декодировалось в два двоичных бита. Поскольку 8087 требовалось большое ПЗУ микрокода, а сам чип уже упирался в пределы по числу транзисторов для размещения на кристалле, Intel применил этот специальный приём, чтобы ПЗУ «влезло». В этой статье я объясню, как Intel реализовал это многоуровневое ПЗУ. Разобрать 8087

    habr.com/ru/companies/otus/art

    #микрофотографии_кристалла #компаратор #ПЗУ #микрокод #многоуровневая_память #FPU #сопроцессор #NMOS #Intel_8087

  6. [Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

    Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

    habr.com/ru/companies/otus/art

    #Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

  7. [Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

    Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

    habr.com/ru/companies/otus/art

    #Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

  8. [Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

    Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

    habr.com/ru/companies/otus/art

    #Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

  9. [Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

    Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

    habr.com/ru/companies/otus/art

    #Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

  10. In today's riveting snooze-fest, we're treated to an epic saga on the XiangShan Vector Floating-Point Unit, a tale so dense it could sink ships ⚓. This document is the perfect cure for insomnia, unless you're a CPU looking to spice up its love life with... abstract module fetches 🤖💤.
    docs.xiangshan.cc/projects/des #XiangShanVector #FPU #TechTales #CPUInsomnia #AbstractModules #HackerNews #ngated

  11. In today's riveting snooze-fest, we're treated to an epic saga on the XiangShan Vector Floating-Point Unit, a tale so dense it could sink ships ⚓. This document is the perfect cure for insomnia, unless you're a CPU looking to spice up its love life with... abstract module fetches 🤖💤.
    docs.xiangshan.cc/projects/des #XiangShanVector #FPU #TechTales #CPUInsomnia #AbstractModules #HackerNews #ngated

  12. In today's riveting snooze-fest, we're treated to an epic saga on the XiangShan Vector Floating-Point Unit, a tale so dense it could sink ships ⚓. This document is the perfect cure for insomnia, unless you're a CPU looking to spice up its love life with... abstract module fetches 🤖💤.
    docs.xiangshan.cc/projects/des #XiangShanVector #FPU #TechTales #CPUInsomnia #AbstractModules #HackerNews #ngated

  13. In today's riveting snooze-fest, we're treated to an epic saga on the XiangShan Vector Floating-Point Unit, a tale so dense it could sink ships ⚓. This document is the perfect cure for insomnia, unless you're a CPU looking to spice up its love life with... abstract module fetches 🤖💤.
    docs.xiangshan.cc/projects/des #XiangShanVector #FPU #TechTales #CPUInsomnia #AbstractModules #HackerNews #ngated

  14. My #Sega #Dreamcast #programming #book is divided into 4 volumes, each covering a major area of discussion. The first volume is "Foundational knowledge," stuff not strictly about the Dreamcast, but things relevant. I.e. Matrix math, or bits and bytes. So when we're talking later about bitpacking an #FPU register to transform #polygon #vertices, people aren't lost. This was one of the hardest parts of the entire book to write, but it's finally "done" and ready:

    It wound up being 122 pages long.

  15. Как бороться с использованием ChatGPT студентами

    Студенты обожают ChatGPT. В идеале, они хотят закоротить профессора и чатгопоту напрямую, то есть посылать задачу от профессора гопоте, пересылать ответ профессору, возражения слать гопоте назад итд - пока не получится решения. Лучше всего это делать скриптом, чтобы студент вообще не был вовлечен в решение задачи и занимался своими студенческими делами, пока чатгопота и профессор разговаривают. Как же обломать крылья этой мечте?

    habr.com/ru/articles/902400/

    #ChatGPT #Verilog #SystemVerilog #интервью #школа_синтеза_цифровых_схем #LLM #open_source #cheating #собеседования_задачи #fpu

  16. The Pentium Processor’s Innovative (and Complicated) Method of Multiplying by Three, Fast - [Ken Shirriff] has been sharing a really low-level look at Intel’s Pentium (1993) ... - hackaday.com/2025/03/08/the-pe #reverseengineering #retrocomputing #pentium #radix-8 #fpu

  17. Самые Эпичные Баги при Программировании Микроконтроллеров

    У каждого программиста микроконтроллеров с годами кристаллизируется коллекция золотых багов . Некоторые из них весьма эпичные. Самый типичный баг - это зависание прошивки. Выявление причин багов и их устранение порой сродни работы детективом. Это проявляется в том, что порой очень трудно выявить причину бага. Сначала разработчик идет по ложному следу, ходит кругами, а в конце-концов выясняется, что причина на самом деле была проста, как солдатский валенок.

    habr.com/ru/articles/884100/

    #ISR #fpu #sprintf #LoRa #hardfault

  18. [Перевод] Ни одна реализация элементарных функций не соответствует стандарту IEEE 754

    Введённый в 1985 году стандарт IEEE-754 для чисел с плавающей запятой был предназначен для решения проблемы разнородности реализаций чисел с плавающей запятой, мешавших портируемости кода, а также для повышения стабильности между платформами. Он получил широкое применение и многократно пересматривался в течение прошедших лет. Если вы когда-нибудь работали с любыми вещественными числами в своих приложениях, то они, вероятно, отвечали этому стандарту. Моя работа в течение последнего года заключалась в анализе погрешности различных математических функций, накопления этой погрешности и способов её уменьшения при помощи различных программных паттернов. Одной из исследованных мной тем были базовые математические функции, используемые в функциях активации нейронных сетей, а также способы их аппроксимации для повышения производительности . В процессе работы нам пришлось столкнуться с противодействием со стороны людей, активно стремящихся к корректной реализации математических функций и к соответствию их стандартам, в частности, к соблюдению обеспечения корректности одной наименее значимой единицы измерения (unit in last place, ULP) для элементарных функций. Я был заинтересован в дальнейшей работе по аппроксимации этих функций, поэтому приступил к исследованию того, каким образом они гарантируют корректность, и если они корректны только на 1 ULP, то где располагаются ошибки в области определения функции. В процессе изучения я обнаружил, что ни одна из популярных математических библиотек, используемых во множестве сфер вычислений, на самом деле не выполняет корректное округление в соответствии с требованиями любой версии IEEE 754 после первой редакции 1985 года.

    habr.com/ru/companies/ruvds/ar

    #числа_с_плавающей_запятой #floating_point #ieee_754 #плавающая_запятая #плавающая_точка #погрешности_округления #fpu #ruvds_статьи

  19. [Перевод] Ни одна реализация элементарных функций не соответствует стандарту IEEE 754

    Введённый в 1985 году стандарт IEEE-754 для чисел с плавающей запятой был предназначен для решения проблемы разнородности реализаций чисел с плавающей запятой, мешавших портируемости кода, а также для повышения стабильности между платформами. Он получил широкое применение и многократно пересматривался в течение прошедших лет. Если вы когда-нибудь работали с любыми вещественными числами в своих приложениях, то они, вероятно, отвечали этому стандарту. Моя работа в течение последнего года заключалась в анализе погрешности различных математических функций, накопления этой погрешности и способов её уменьшения при помощи различных программных паттернов. Одной из исследованных мной тем были базовые математические функции, используемые в функциях активации нейронных сетей, а также способы их аппроксимации для повышения производительности . В процессе работы нам пришлось столкнуться с противодействием со стороны людей, активно стремящихся к корректной реализации математических функций и к соответствию их стандартам, в частности, к соблюдению обеспечения корректности одной наименее значимой единицы измерения (unit in last place, ULP) для элементарных функций. Я был заинтересован в дальнейшей работе по аппроксимации этих функций, поэтому приступил к исследованию того, каким образом они гарантируют корректность, и если они корректны только на 1 ULP, то где располагаются ошибки в области определения функции. В процессе изучения я обнаружил, что ни одна из популярных математических библиотек, используемых во множестве сфер вычислений, на самом деле не выполняет корректное округление в соответствии с требованиями любой версии IEEE 754 после первой редакции 1985 года.

    habr.com/ru/companies/ruvds/ar

    #числа_с_плавающей_запятой #floating_point #ieee_754 #плавающая_запятая #плавающая_точка #погрешности_округления #fpu #ruvds_статьи

  20. [Перевод] Ни одна реализация элементарных функций не соответствует стандарту IEEE 754

    Введённый в 1985 году стандарт IEEE-754 для чисел с плавающей запятой был предназначен для решения проблемы разнородности реализаций чисел с плавающей запятой, мешавших портируемости кода, а также для повышения стабильности между платформами. Он получил широкое применение и многократно пересматривался в течение прошедших лет. Если вы когда-нибудь работали с любыми вещественными числами в своих приложениях, то они, вероятно, отвечали этому стандарту. Моя работа в течение последнего года заключалась в анализе погрешности различных математических функций, накопления этой погрешности и способов её уменьшения при помощи различных программных паттернов. Одной из исследованных мной тем были базовые математические функции, используемые в функциях активации нейронных сетей, а также способы их аппроксимации для повышения производительности . В процессе работы нам пришлось столкнуться с противодействием со стороны людей, активно стремящихся к корректной реализации математических функций и к соответствию их стандартам, в частности, к соблюдению обеспечения корректности одной наименее значимой единицы измерения (unit in last place, ULP) для элементарных функций. Я был заинтересован в дальнейшей работе по аппроксимации этих функций, поэтому приступил к исследованию того, каким образом они гарантируют корректность, и если они корректны только на 1 ULP, то где располагаются ошибки в области определения функции. В процессе изучения я обнаружил, что ни одна из популярных математических библиотек, используемых во множестве сфер вычислений, на самом деле не выполняет корректное округление в соответствии с требованиями любой версии IEEE 754 после первой редакции 1985 года.

    habr.com/ru/companies/ruvds/ar

    #числа_с_плавающей_запятой #floating_point #ieee_754 #плавающая_запятая #плавающая_точка #погрешности_округления #fpu #ruvds_статьи

  21. [Перевод] Ни одна реализация элементарных функций не соответствует стандарту IEEE 754

    Введённый в 1985 году стандарт IEEE-754 для чисел с плавающей запятой был предназначен для решения проблемы разнородности реализаций чисел с плавающей запятой, мешавших портируемости кода, а также для повышения стабильности между платформами. Он получил широкое применение и многократно пересматривался в течение прошедших лет. Если вы когда-нибудь работали с любыми вещественными числами в своих приложениях, то они, вероятно, отвечали этому стандарту. Моя работа в течение последнего года заключалась в анализе погрешности различных математических функций, накопления этой погрешности и способов её уменьшения при помощи различных программных паттернов. Одной из исследованных мной тем были базовые математические функции, используемые в функциях активации нейронных сетей, а также способы их аппроксимации для повышения производительности . В процессе работы нам пришлось столкнуться с противодействием со стороны людей, активно стремящихся к корректной реализации математических функций и к соответствию их стандартам, в частности, к соблюдению обеспечения корректности одной наименее значимой единицы измерения (unit in last place, ULP) для элементарных функций. Я был заинтересован в дальнейшей работе по аппроксимации этих функций, поэтому приступил к исследованию того, каким образом они гарантируют корректность, и если они корректны только на 1 ULP, то где располагаются ошибки в области определения функции. В процессе изучения я обнаружил, что ни одна из популярных математических библиотек, используемых во множестве сфер вычислений, на самом деле не выполняет корректное округление в соответствии с требованиями любой версии IEEE 754 после первой редакции 1985 года.

    habr.com/ru/companies/ruvds/ar

    #числа_с_плавающей_запятой #floating_point #ieee_754 #плавающая_запятая #плавающая_точка #погрешности_округления #fpu #ruvds_статьи

  22. Повышение эффективности образования методом «Безумного Макса», в применении для хардвера высокоскоростных вычислений

    Когда студент устраивается на работу в электронную компанию, очень здорово, если он уже умеет строить одну и ту же электронную схему разными способами, в зависимости от требований пропускной способности, максимальной тактовой частоты, размера и энергопотребления. Как натренировать такое умение? Для новых домашних работ в программе Школы Синтеза Цифровых Схем мы решили разодрать на блоки реальный процессор и дать студентам задачу собирать разные специализированные вычислительные устройства из этих блоков, примерно как герои фильма "Безумный Макс: Дорога ярости" собирали свои боевые драндулеты из частей реальных автомобилей. В качестве первой жертвы мы выбрали ...

    habr.com/ru/articles/862734/

    #Verilog #VHDL #микроархитектура #riscv #FPU #ieee754 #SystemVerilog #школа_синтеза_цифровых_схем #openhwgroup #образование

  23. Малые числа, большие возможности: как плавающая запятая ускоряет ИИ и технологии

    Привет, Хабр! С вами снова ServerFlow, и сегодня мы решили погрузиться в увлекательный мир чисел с плавающей запятой . Вы когда-нибудь задумывались, почему существуют разные виды этих чисел и как они влияют на производительность наших процессоров и видеокарт? Как малые числа с плавающей запятой помогают развивать нейросети и искусственный интеллект? Давайте вместе разберемся в этих вопросах, раскроем тайны стандарта IEEE 754 и узнаем, какое значение имеют большие и маленькие числа с плавающей запятой в современных вычислениях.

    habr.com/ru/companies/serverfl

    #плавающая_запятая #fp32 #fp16 #INT8 #квантизация #Тензорные_ядра #fpu #floatingpoint #floating_point #ieee_754

  24. Малые числа, большие возможности: как плавающая запятая ускоряет ИИ и технологии

    Привет, Хабр! С вами снова ServerFlow, и сегодня мы решили погрузиться в увлекательный мир чисел с плавающей запятой . Вы когда-нибудь задумывались, почему существуют разные виды этих чисел и как они влияют на производительность наших процессоров и видеокарт? Как малые числа с плавающей запятой помогают развивать нейросети и искусственный интеллект? Давайте вместе разберемся в этих вопросах, раскроем тайны стандарта IEEE 754 и узнаем, какое значение имеют большие и маленькие числа с плавающей запятой в современных вычислениях.

    habr.com/ru/companies/serverfl

    #плавающая_запятая #fp32 #fp16 #INT8 #квантизация #Тензорные_ядра #fpu #floatingpoint #floating_point #ieee_754

  25. Малые числа, большие возможности: как плавающая запятая ускоряет ИИ и технологии

    Привет, Хабр! С вами снова ServerFlow, и сегодня мы решили погрузиться в увлекательный мир чисел с плавающей запятой . Вы когда-нибудь задумывались, почему существуют разные виды этих чисел и как они влияют на производительность наших процессоров и видеокарт? Как малые числа с плавающей запятой помогают развивать нейросети и искусственный интеллект? Давайте вместе разберемся в этих вопросах, раскроем тайны стандарта IEEE 754 и узнаем, какое значение имеют большие и маленькие числа с плавающей запятой в современных вычислениях.

    habr.com/ru/companies/serverfl

    #плавающая_запятая #fp32 #fp16 #INT8 #квантизация #Тензорные_ядра #fpu #floatingpoint #floating_point #ieee_754

  26. AMD Zen 5 Execution Engine Leaked, Features True 512-bit FPU

    Giving "Zen 5" a 512-bit FPU meant that AMD also had to scale up the ancillaries [..]. The L1 Data cache has been doubled in bandwidth, and increased in size by 50%. The L1D is now 48 KB in size [..]. FPU MADD latency has been reduced by 1 cycle. Besides the FPU, AMD also increased the number of Integer execution pipes to 10, from 8 on "Zen 4."

    techpowerup.com/321201/amd-zen

    #AMD #Zen5 #CPU #FPU #AVX512 #Microarchitecture

  27. AMD Zen 5 Execution Engine Leaked, Features True 512-bit FPU

    Giving "Zen 5" a 512-bit FPU meant that AMD also had to scale up the ancillaries [..]. The L1 Data cache has been doubled in bandwidth, and increased in size by 50%. The L1D is now 48 KB in size [..]. FPU MADD latency has been reduced by 1 cycle. Besides the FPU, AMD also increased the number of Integer execution pipes to 10, from 8 on "Zen 4."

    techpowerup.com/321201/amd-zen

    #AMD #Zen5 #CPU #FPU #AVX512 #Microarchitecture

  28. The cool part about my #research is that, the model is a 512 instruction program for #FPU. Not a full blown neural network which requires tons of computations.

    #neural_network #NN #ANN #RNN #CNN

  29. The cool part about my #research is that, the model is a 512 instruction program for #FPU. Not a full blown neural network which requires tons of computations.

    #neural_network #NN #ANN #RNN #CNN

  30. The cool part about my #research is that, the model is a 512 instruction program for #FPU. Not a full blown neural network which requires tons of computations.

    #neural_network #NN #ANN #RNN #CNN

  31. The cool part about my #research is that, the model is a 512 instruction program for #FPU. Not a full blown neural network which requires tons of computations.

    #neural_network #NN #ANN #RNN #CNN

  32. The cool part about my #research is that, the model is a 512 instruction program for #FPU. Not a full blown neural network which requires tons of computations.

    #neural_network #NN #ANN #RNN #CNN