[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех Pentium часто вспоминают из-за FDIV, но…
[Перевод] Реверс-инжиниринг π: как Pentium считал синусы быстрее всех Pentium часто вспоминают из-за FDIV, но куда интереснее его «внутренний тригонометр». В этой статье — разбор FPU под микроскопом: как в constant ROM закодированы сотни коэффициентов и табличных констант, почему Intel отказалась от CORDIC в пользу полиномиальных аппроксимаций с редукцией диапазона, и как (вероятно) подбирались коэффициенты через минимакс (алгоритм Ремеза). Поговорим про компоновку ... https://clck.ru/3QGWPn
Автор: Habr все новости об IT