#архитектура_компьютеров — Public Fediverse posts

[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

https://habr.com/ru/companies/otus/articles/965346/

#Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

https://habr.com/ru/companies/otus/articles/965346/

#Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

https://habr.com/ru/companies/otus/articles/965346/

#Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC

[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех

Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ячеек ROM, BiCMOS-драйверы строк, микрокод и datapath, где биты реально встречаются с математикой. По сути — практическая археология кремния: от побитовых «полосок» на кристалле до инженерных компромиссов точности и латентности, которые сделали синус и логарифм быстрыми «на железе». Полный разбор

https://habr.com/ru/companies/otus/articles/965346/

#Pentium #FPU #алгоритм_Ремеза #редукция_диапазона #микрокод #BiCMOS #Микроэлектроника #архитектура_компьютеров #Реверсинжиниринг #CORDIC